Автор: Андрей
В предыдущих топиках я попытался рассмотреть и описать интеллект с разных перспектив:
как балансирующее устройство
как эволюционное устройство
как артефакт
как слугу
как запоминающее устройство.
как рефлекс
В этих подходах интеллект рассматривался преимущественно как реактивное устройство, принимающее некотрое воздействие извне и реагирующее на него изменением своей организации. Однако такие подходы не приблизили понимания того, как работает человеческое сознание, которое по своей природе активно и, похоже, детерминирует реальность, заставляя реальность менять свою организацию под воздействием интеллекта. Поэтому не отвергая предыдущие точки зрения, попробуем посмотреть на интеллект как на создающее (креативное, творческое, продукционное (от лат. productum - "производить")) устройство. (вероятно, эта тема близка к тому, что Эgg называет "управление сложностью")
Сразу определимся, что под "созданием" здесь понимается не волшебство в ветхозаветном смысле, а налаживание и/или разрыв связей между чем-то и чем-то.
Первое, что обращает на себя внимание - связи в нашем уме создаются произвольно и непроизвольно. Если мы внимательно слушаем музыкальную пьесу или рассматриваем картину, то связи между составляющими элементами пьесы/картины создаются у нас в уме непроизвольно, автоматически. Можно сказать, что в этих случаях внешние обстоятельства являются продукционными по отношению к нам, внешний мир создаёт в нас связи (некоторое знание).
Когда писатель выдумывает роман или инженер пишет программу, они создают связи произвольно. Но "произвольно" не значит "случайно". Произвольные связи создаются в уме в соответствии с чем-то, с некоторой (как говорит Victor G. Tsaregorodtsev) сюжетной линией. С этой точки зрения можно предположить, что "решение задач" - это всего-лишь один из сюжетов, руководствуясь которым интеллект способен налаживать и разрывать связи. Можно придумать (спродуцировать, связать) другие сюжеты:
"делай то, что хочешь" (чисто женский сюжет)
"связывай первое со вторым"
"разрывай все связи" и другие сюжеты.
Здесь я сделал подборку некоторых вещей, которые стали продуктом одного и того же сюжета, применённого к разным входным предметам.
Сюжетные линии, как мы видим, также, в свою очередь, являются спродуцированными. Таким образом, интеллект можно рекуррентно представить как механизм связывания сюжетов, в соответствии с теми сюжетами, которые были связаны ранее.
Каковы условия непроизвольного связывания?
Насколько я могу судить из своих наблюдений (просьба дополнять и поправлять если что) непроизвольные связи возникают при:
непосредственном пространственном следовании (за, перед, левее, праве и т.д.),
непосредственном временном следовании (до, после),
сильном эмоциональном сопровождении,
врождённые связи (инстинкты).
Каковы условия произвольного связывания?
Включённое сознание, наличие сюжета, наличие компонентов для связывания и добрая воля.
Зачем нужно связывание?
Целостный (связанный) сюжет - это необходимое условия для того, чтобы в соответствии с ним ум мог что-то спродуцировать.
С другой стороны связи можно организовать только между целостями, которые сами по себе связны (образы, понятия, мышцы).
Связь, будучи налаженной, руководит последовательностью наших мысленных или мышечных действий. То есть роковым образом активирует следующую мысль или движение следующей мышцы.
В такой довольно простой парадигме удобно и универсально можно представить, как мне кажется, любую интеллектуальную деятельность. Например речь. В соответствии с некоторым сюжетом (например, "ответ на вопрос") продуцируется некий продукт (целостность из связей - ответ). Далее этот продукт связывается с сюжетом "говорение на русском языке" и итоговый продукт становится сюжетом для связывания между собой слов и мышц.
Цель данного топика - обсудить детали/плюсы/минусы такой парадигмы и на её сюжете спродуцировать сильный искусственный продукционный интеллект. |
|
Ладна, попробуем разобраться в изложенной идее. Рагуль и креационисит Андрей пытается описать интеллект как "продукционное устройство", которое не просто реагирует на внешние раздражители, а активно связывает и разрывает связи между элементами информации. Вроде бы интересный взгляд, но есть нюансы.
1. Сюжетная линия — метафора, но не модель
Автор предлагает рассматривать мышление через сюжеты, но остаётся неясно:
Где формализация? Как эти сюжеты кодируются, передаются, вычисляются?
Как отличить "продуцирование" от банального подбора ассоциаций?
Как моделировать креативность, если процесс связывания описан так же, как и обычное запоминание?
Если интеллект — это просто машина по связыванию сюжетов, то почему генерация идей (и особенно прорывных) даётся большинству людей так тяжело?
Сюжетная метафора интересна, но пока это именно метафора, а не вычислительная модель интеллекта.
2. Связывание ≠ понимание
Допустим, интеллект — это механизм связывания. Но связывание само по себе не означает осмысленность.
Машина может ассоциировать слова, но это не значит, что она понимает их смысл.
Логические связи (даже сложные) не означают, что у системы есть рефлексия и осознание.
Простой пример: GPT-системы прекрасно связывают понятия, но при этом не обладают настоящим пониманием.
Связывание — необходимое, но недостаточное условие интеллекта.
3. Где нейробиология и вычисления?
Автор говорит о непроизвольном и произвольном связывании, но игнорирует фундаментальные вещи:
Где механизмы нейронных сетей? Как кодируются связи в мозге?
Где статистические модели (байесовские, трансформеры, стохастические процессы)?
Где роль рабочей памяти, внимания и executive function?
У нас тут либо философская беседа в пивной, либо претензия на модель интеллекта. Если второе — без нейробиологии и вычислительных основ не обойтись.
4. Интеллект и сложность: кто кого управляет?
В посте мелькает тема "управления сложностью", но без конкретики.
Как интеллект реально упрощает хаос информации?
Где разница между адаптацией (реактивным интеллектом) и активной реконфигурацией реальности?
Как именно связывание сюжетов помогает решать сложные задачи, требующие абстрактного мышления?
Если интеллект просто связывает сюжеты, почему он способен предсказывать? В модели отсутствует механизм вывода и генерации новых знаний (а именно этим интеллект и отличается от запоминающего устройства).
Вывод: интересная идея, но нужна конкретика
Этот подход может стать основой для модели интеллекта, но пока он слишком концептуален. Чтобы сделать из этого что-то полезное:
Формализовать процесс связывания в виде вычисляемых алгоритмов.
Разграничить уровни интеллекта: реактивный (ассоциативный), продукционный (осмысленный), креативный.
Добавить объяснение, как интеллект создаёт новое, а не просто связывает старое.
Пока что это интересная философская гипотеза. Но если пытаться построить на её основе ИИ — рискуем в лучшем случае создать очередную текстовую автоподстановку, а в худшем — зависнуть в бесконечном связывании связей.