GotAI.NET
Форум: Проблемы искусственного интеллекта
Регистрация
|
Вход
Все темы
|
Новая тема
Стр.5 (8)
<<
< Пред.
|
След. >
>>
Поиск:
Автор
Тема: На: Возвращаясь к моделированию внешней среды
Вася
Сообщений: 180
На: Возвращаясь к моделированию внешней среды
Добавлено: 14 окт 07 14:56
Цитата:
Львович
Да, для создания самообучающегося устройства пунктов 1-4 достаточно. Но боюсь, для эффективной самоорганизации этого недостаточно
Согласен. Базовые принципы, необходимые для запуска самоорганизации нуждаются в дополнительной логике, оптимизирующей процесс. И действительно, вы верно заметили, хорошо бы, чтоб отдельные куски знаний могли быть из сети выделены. Как гены из генома.
Цитата:
http://ai.obrazec.ru/forum/viewtopic.php?p=16079#16079
Это больше относится сюда.
Почему?
daner
Основная мысль - смоделировать то, чем природа создаёт низкоэнтропийный продукт. Полученная модель сможет вычислительным путём создавать новые знания путём доусложнения имеющихся.
[
Ответ
][
Цитата
]
Львович
Сообщений: 303
На: Возвращаясь к моделированию внешней среды
Добавлено: 14 окт 07 17:38
Цитата:
Автор: Вася
Почему?
Потому что изначально тема посвящаласть моделированию внешней среды.
Цитата:
создавать новые знания путём доусложнения имеющихся
Мысль-то правильная, знать бы как это делать. Развивая ее предположу, что для
эффективного обучения
внешняя среда должна создавать объекту
постепенно усложняющиеся
условия. Но как бы это сформулировать формально...
[
Ответ
][
Цитата
]
Вася
Сообщений: 180
На: Возвращаясь к моделированию внешней среды
Добавлено: 14 окт 07 18:06
Цитата:
Автор: Львович
предположу, что для
эффективного обучения
внешняя среда должна создавать объекту
постепенно усложняющиеся
условия.
Либо, условия (решаемой задачи) не меняются, но возможно по каким-то критериям оценить степень близости решения к идеалу. То есть, любые два решения, можно расположить на шкале [0..1] и сравнить их по близости к 1. А 1 значит, что решение полностью удовлетворяет критериям. Эдакая функция пригодности по косвенным признакам.
[
Ответ
][
Цитата
]
Львович
Сообщений: 303
На: Возвращаясь к моделированию внешней среды
Добавлено: 17 окт 07 18:37
Цитата:
Автор: Вася
Либо, условия (решаемой задачи) не меняются, ...
В обучении реальных интеллектов (людей) как раз все не так. Сравните условия новорожденного, ребенка и взрослого человека. Меняются не только условия, меняются сами задачи. Сначала их можно решить используя только врожденные рефлексы, потом задачи все усложняются и усложняются...
Меня удивляет, когда ИИ хотят сразу подключить к интернету чтобы "он сам извлекал нужную инфу"...
Простейшая задача 2+2 для новорожденного непосильна. Нет он, конечно смежет подобрать и запомнить правильный ответ, но не освоить метод сложения. Самые простейшие задачи я предложил на образце, вопрос в том, как их правильно усложнять.
А кроме того, для начала любой ИИ должен научиться "понимать" органы чувств и "управлять" эффекторами, ведь не факт, что там везде линейные преобразования, и что такое "линейное преобразование" для дискретных сигналов? Как видите вопросов гораздо больше, чем ответов, но тема почему-то не пользуется популярностью.
[
Ответ
][
Цитата
]
гость
89.208.11.*
На: Возвращаясь к моделированию внешней среды
Добавлено: 17 окт 07 19:34
тема пользуется, это топик не пользуетя популярностью. На эти вопросы частично я и отвечаю в своих темах, так что вам стоило бы их перечитать.
[
Ответ
][
Цитата
]
Вася
Сообщений: 180
На: Возвращаясь к моделированию внешней среды
Добавлено: 17 окт 07 21:57
Цитата:
Автор: Львович
В обучении реальных интеллектов (людей) как раз все не так. Сравните условия новорожденного, ребенка и взрослого человека.
Я бы сказал, что условия (внешняя среда) у взрослых и детей одинаковые. Или условия и внешняя среда - отличные понятия? Уточните?
Цитата:
Автор: Львович
Меняются не только условия, меняются сами задачи. Сначала их можно решить используя только врожденные рефлексы, потом задачи все усложняются и усложняются...
Да, меняются задачи - потому, что меняются цели. Но поток восприятия практически не меняется. Разве что, с возрастом большая часть инфы фильтруется, а малая значимая часть воспринимается с учётом накопленного опыта.
Цитата:
Автор: Львович
Меня удивляет, когда ИИ хотят сразу подключить к интернету чтобы "он сам извлекал нужную инфу"...
Information retrieval? Я лично в этом не знаток. А в чём там сложность?
Цитата:
Автор: Львович
Простейшая задача 2+2 для новорожденного непосильна. Нет он, конечно смежет подобрать и запомнить правильный ответ, но не освоить метод сложения. Самые простейшие задачи я предложил на образце, вопрос в том, как их правильно усложнять.
Эволюция усложняет комбинированием имеющихся элементов и адаптацией элементов к новому окружению.
Дайте-ка ссылочку на тему с вашими задачками.
Цитата:
Автор: Львович
А кроме того, для начала любой ИИ должен научиться "понимать" органы чувств и "управлять" эффекторами, ведь не факт, что там везде линейные преобразования, и что такое "линейное преобразование" для дискретных сигналов?
Понимать значит отражать. То есть, кодировать на внутрннем языке. Так?
Управлять - значит формировать сигналы, получать ОС. Так?
[
Ответ
][
Цитата
]
NewPoisk
Сообщений: 3745
На: Модель внешней среды для интеллекта
Добавлено: 18 окт 07 9:39
Цитата:
Автор: Львович
На мой взгляд, прежде чем изучать или создавать интеллект, необходимо определить в какой среде он будет функционировать.
...
Предлагаю в качестве унверсальной модели среды использовать конечный или бесконечный автомат, изменяющий свое состояние под воздействем объекта, тогда целью объекта будет привести автомат в некоторые состояния.
Какие есть мнения?
Мое мнение совпадает с вашим. Более того, вопрос свойств среды уже исследован и найдены принципиально новые явления. Милости прошу на мой сайт!
[
Ответ
][
Цитата
]
Львович
Сообщений: 303
На: Модель внешней среды для интеллекта
Добавлено: 22 окт 07 17:48
Цитата:
NewPoisk:
Мое мнение совпадает с вашим
Не удивительно. Я Ваш ученик, но... не последователь. Здесь не буду вдаваться почему.
На образце daner дал ссылку на POMDP. А ведь фактически в этой модели Марков описал реальный мир! Ну, по крайней мере, любые конечные его подмножества. Вопрос: насколько всеобъемлюща эта модель? Существуют ли конечные модели познаваемых миров, которые невозможно описать через POMDP?
[
Ответ
][
Цитата
]
daner
Сообщений: 4602
На: Модель внешней среды для интеллекта
Добавлено: 22 окт 07 19:13
Цитата:
Автор: Львович
На образце daner дал ссылку на POMDP. А ведь фактически в этой модели Марков описал реальный мир! Ну, по крайней мере, любые конечные его подмножества. Вопрос: насколько всеобъемлюща эта модель? Существуют ли конечные модели познаваемых миров, которые невозможно описать через POMDP?
Серьезный вопрос... Но даже если и все, что толку? Все равно PoMDP не решается в реальные сроки. Впрочем, как я уже сказал, вопрос очень даже интересный.
Кстати, если не ошибаюсь, то PoMDP уже после Маркова появился.
[
Ответ
][
Цитата
]
Львович
Сообщений: 303
На: Модель внешней среды для интеллекта
Добавлено: 23 окт 07 18:58
Цитата:
daner:
Все равно PoMDP не решается в реальные сроки.
Действительно, алгоритм решения описанный в
http://www.cassandra.org/pomdp/index.shtml
предлагает перебрать все варианты и найти лучший. А количество вариантов - степенная функция от количества состояний, а если еще
а)количество состояний неизвестно,
б)нет возможности презапускать процесс сначала с другими вариантами,
то задача представляется вообще нерешаемой.
Мне кажется, что мне удалось найти алгоритм, находящий функцию активности для достижения максимального поощрения при условиях а) и б). И он не требует полного перебора всех комбинаций, хотя конечно же без перебора не обходится. По известным причинам раскрываеть его тут я пока не буду, расскажу лишь о сопутствующих наблюдениях.
Действительно, при ряде условий, например если функция O (observation) всегда константа и нет никакой возможности различить состояния, решение задачи принципиально невозможно. Я не очень глубоко исследовал условия разрешимости, но зависимость скорости решения от "разнообразия" O прослеживается однозначно, что впрочем очевидно, таким образом мы приближаемся к Co-MDP.
Так как количество состояний считается неизвестным, всегда существует вероятность нахождения "еще более лучшего варианта", поэтому, если алгоритму не устанавливать
достаточный
уровень вознаграждения, то он никогда не достигает максимума, теоретически возможного в системе. Это подтверждение известного принципа "лучшее - враг хорошего".
Некоторые "легкие" задачи, с которыми алгоритм справляется "плохо", оказались непосильными и для меня самого, если бы их задали мне через "кнопку-лампочку" не объясняя, что за ними стоит. Нам такие задачи кажутся легкими только потому, что мы знаем много того, чего алгоритм "не знает".
Эффективность поиска для практических задач существенно зависит от способа проецирования внешнего мира на входы и выходов на внешний мир. Реальные интеллекты "получили" рецепторы и эффекторы отточенные длительной эволюцией, нам же приходится создавать их искусственно. По идее, рецепторы и эффекторы тоже
должны быть самообучаемыми
, но с периодом значительно большим, чем период самообучения самого объекта. Однако для простоты и чистоты эксперимента лучше их делать простыми преобразователями.
Для определения эффективности алгоритма используется интегральная функция вознаграждения за период, больший чем количество состояний внешней среды. Это - аналог того самого коэффициента интеллекта, против которого выступают "философы от ИИ".
Может быть позже вспомню что-то еще...
[
Ответ
][
Цитата
]
daner
Сообщений: 4602
На: Модель внешней среды для интеллекта
Добавлено: 23 окт 07 23:08
Цитата:
Автор: Львович
Для определения эффективности алгоритма используется интегральная функция вознаграждения за период, больший чем количество состояний внешней среды. Это - аналог того самого коэффициента интеллекта, против которого выступают "философы от ИИ".
Со всем остальным согласен, но вот это я понял не до конце. Можете пояснить?
Желательно эту функцию просто написать (если возможно).
[
Ответ
][
Цитата
]
NewPoisk
Сообщений: 3745
На: Модель внешней среды для интеллекта
Добавлено: 24 окт 07 10:19
Цитата:
Автор: Львович
Здесь не буду вдаваться почему.
Ну хоть по почте напишите. Ужасно интересно. Серьезно.
[
Ответ
][
Цитата
]
Львович
Сообщений: 303
На: Модель внешней среды для интеллекта
Добавлено: 24 окт 07 10:38
sum_N(R(t))
Суммируется вознаграждение R(t) за каждые N тактов. В процессе обучения должна прослеживаться тенденция возрастания этой суммы за каждые последующие N тактов. Это конечно не уровень интеллекта "вообще", а эффективность решени конкретной задачи, но он позволяет объективно определить, происходит обучение или нет и как быстро.
[
Ответ
][
Цитата
]
daner
Сообщений: 4602
На: Модель внешней среды для интеллекта
Добавлено: 24 окт 07 15:26
Цитата:
Автор: Львович
[tex]\sum_N(R(t))[\tex]
Суммируется вознаграждение R(t) за каждые N тактов. В процессе обучения должна прослеживаться тенденция возрастания этой суммы за каждые последующие N тактов. Это конечно не уровень интеллекта "вообще", а эффективность решени конкретной задачи, но он позволяет объективно определить, происходит обучение или нет и как быстро.
Мысль понятно, я лично с нею согласен, но... правда, она спорна. объясню почему.
1) что вы называете тактом?
- внешние не зависимые часы?
- шаг алгоритма
- одна итерация алгоритма (т.е. обработка одной observation)
- один эпок (полный цикл прогона от начала до конца)
сами понимаете, разница еще какая!
2) А что если меняются сами награды? ну так как награды все таки определяются средой.. что если изменяется среда? тогда сумма, тоже будет возрастать соответственно, а не от качества алгоритма.
[
Ответ
][
Цитата
]
Yerken
Сообщений: 110
На: Модель внешней среды для интеллекта
Добавлено: 24 окт 07 16:37
Когда можно будет ознакомиться с результатами этого интереснейшего вычислительного (или компьютерного ) эксперимента?
[
Ответ
][
Цитата
]
Стр.5 (8)
:
1
2
3
4
[5]
6
7
8
<<
< Пред.
|
След. >
>>
Главная
|
Материалы
|
Справочник
|
Гостевая книга
|
Форум
|
Ссылки
|
О сайте
Вопросы и замечания направляйте нам по
Copyright © 2001-2022, www.gotai.net