GotAI.NET - Форум - Искусственный интеллект

Все темы | Новая тема

Стр.65 (66)

<< < Пред. | След. > >>

Поиск:

Автор

Тема: На: Drew: Роботы Ии Мышление..

Capt.Drew
Сообщений: 4179

На: Drew: Роботы Ии Мышление..

Добавлено: 23 фев 11 17:48

07-FEB-2011..F.. (Не)алгоритмический интеллект?
??? Если, по вашему мнению, мышление привязано к процессу, который мы называем жизнью, означает ли это, что, создав полноценно мыслящий ИИ, мы получим систему, которая в том или ином смысле будет живой? Иными словами, что вы думаете о связи «жизнь-мышление»: это два самых загадочных феномена, что-то их объединяет помимо загадочности???
ALEX:
Из опыта хорошо известно, что живые системы устойчивы по отношению к воздействиям внешней среды. Можно показать, что в условиях нестационарности среды устойчивость достигается главным образом за счет непрерывного обучения. Для этого живая система должна иметь субъективную модель "добра и зла": всё, что способствует выживанию системы, - добро, всё, что грозит смертью, - зло. Система использует эту модель в качестве критерия оптимальности при обучении. Это необходимо, поскольку на собственной смерти не научишься. Ранее я говорил, что мышление в первую очередь состоит в использовании модели мира для выживания. Модель добра и зла - главная часть модели мира. Всё остальное (т.е. т.н. "объективные закономерности") служит для интерпретации мира в терминах добра и зла. В то же время, "объективная" часть модели не зависит от модели добра и зла. А последняя может меняться в зависимости от конструкции самой системы. Без мышления система не может пользоваться этими частями модели мира, а значит, не может устойчиво жить. Поэтому я бы сказал, что способность к (неалгоритмическому) мышлению является необходимым условием жизни. Можно ли назвать любую мыслящую систему живой? Мне хочется ответить "да", до конца мне это пока не ясно.
С другой стороны, можно ли назвать машину, действующую по фиксированному алгоритму, живой? Я предпочитаю отрицательный ответ по следующим соображениям. Интеллектуальному наблюдателю машина может долго казаться живой, если алгоритм достаточно сложен и условия внешней среды постоянны. Однако, при существенном изменении условий среды алгоритм может перестать быть адекватен, а машина будет не в состоянии изменить этот алгоритм, что наблюдатель заметит как проявление неустойчивости, отсутствие гибкости реагирования на новизну. Существенными изменениями не обязательно должны быть катаклизмы, просто какие-то физические воздействия, не учтенные алгоритмом.

??? Уже сейчас некоторые программы настолько сложны, что их авторы не смогут сказать, как именно достигнут тот или иной результат. Даже несмотря на то, что он получен абсолютно детерминированными вычислениями. Со временем мы будем все больше функций перекладывать на ИИ, но все меньше понимать путь получения им решения..???
ALEX:
Я думаю, что проблема понимания человеком ИИ-системы не сложнее проблемы понимания людьми друг друга или животных. Мало кто понимает, как работает цветной телевизор, например, но все им успешно пользуются. Для более-менее глубокого понимания важно иметь языковый интерфейс с ИИ-системой. А путь решения может и не быть выразим до деталей на языке, особенно если он получен неалгоритмическим ИИ. Критичность проблемы понимания определяется конкретными обстоятельствами. Критичность возрастает, например, если необходимо как-то убедиться в правильности пути. Это похоже на доказательство теорем. Есть теоремы, известное доказательство которых настолько сложно, что трудно гарантировать отсутствие в нем ошибок. А есть и утверждения, которые по Гёделю вообще нельзя ни доказать, ни опровергнуть. Поэтому в подобных случаях приходится прибегать к универсальному критерию истины - практике. В приложении к ИИ-системам это значит, что подобную систему нужно тщательно тестировать, прежде чем вверять ей что-то серьезное. Собственно, так же поступают и с ЕИ-системами

Кстати, у меня нет сомнений, что будущие поколения, если выживут, будут жить с ИИ-роботами, которые будут всё более и более совершенными. Интересный этап начнется, когда роботы станут настолько интеллектуальными, что смогут создавать новые типы роботов. Не исключено, что в этом будет даже состоять основное направление эволюции жизни.

??? Как вы полагаете, откуда придут ответы ???
ALEX:
По большому счету, нужна теория ЕИ. Нейрофизиолог не увидит в мозге чего-то, что теоретически еще не описано. Довольно долгое время нейробиология "пробавлялась" наработками из кибернетики, теории принятия решений, машинного обучения и т.п. Сейчас для дальнейшего продвижения уже не хватает имеющихся теоретических разработок. В то же время из нейробиологии практически не видно заказа на дополнительную теорию: уровень знаний даже относительно неплохо теоретически образованных нейробиологов с большим трудом позволяет освоить даже то, что уже есть. До физиков им в этом плане очень далеко. А ИИ-шники, хоть и образованы существенно лучше, но слишком "приземлены" жизненной необходимостью практичности своих разработок.
Для понимания ЕИ нужно что-то типа соединения биокибернетики с физикой. Необходимо создать матаппарат, позволяющий описывать наблюдателя и его функции по созданию модели мира и управлению окружающей средой. Другими словами, в настоящий период как воздух необходим прорыв в теории. Только после этого можно будет эффективно планировать экспериментальную проверку и дальнейшее взаимодействие теории и эксперимента. А до того в эксперименте было бы хорошо получить больше информации о биофизических механизмах модификации нейронных сетей и генома. Нужно знать, какая информация читается из генома в связи с обучением, происходит ли хоть в какой-то степени обратная транскрипция, как в этом участвуют эпигенетические механизмы и т.п.

??? Насколько (не)ограничены перспективы т.н. «роевого интеллекта» в ИИ, виден ли сейчас потолок у этого подхода по сравнению с т.н. классическим???
ALEX:
Роевой интеллект - очень интересная, но весьма сложная тема. Я бы рассматривал рой (т.е. набор однотипных организмов) не как особый подход к ИИ, а как особый тип реализации интеллектуальной системы. "Потолка" тут в принципе нет, поскольку какова бы ни была ИИ-система, всегда можно представить себе рой из таких систем, естественно с кооперативными свойствами.
Чем выше уровень специализации отдельных особей, разнообразнее набор "профессий", чем сложнее и быстрее обмен информацией и энергией, тем функционально мощнее вся система. Но при возрастании степени специализации уменьшается надежность и устойчивость по отношению к повреждению/гибели части особей. Наиболее высокий уровень специализации в "рое" нейронов, поэтому организм-хозяин его всячески защищает. Скорость и сложность обмена информацией там очень высоки, видимо поэтому мозг и является "средоточием" интеллекта. Интеллект роя насекомых гораздо ниже, но зато значительно больше его надежность по отношению к внешним воздействиям. Интеллект "роя" людей еще очень низок - по крайней мере, по сравнению с кажущимися потенциальными возможностями. В этом плане интернет - важный шаг вперед в эволюции этого интеллекта.
С точки зрения теории неалгоритмического интеллекта мне рой интересен тем, что там есть обязательный элемент неинформационного воздействия среды, имеющий выраженный функциональный смысл: смерть отдельных особей и рождение новых.

??? Какие книги можете порекомендовать??? Alex:
[ссылка] Russell and Norvig: Artificial intelligence, a modern approach
[ссылка] Sutton and Barto: Reinforcement learning
[ссылка] Vapnik: Statistical learning theory
[ссылка] Abbott, Davies, and Pati: Quantum aspects оf life

Форум: Проблемы искусственного интеллекта