GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (3)След. > >>   Поиск:  
 Автор Тема: Априорные знания агента
Львович
Сообщений: 303
Априорные знания агента
Добавлено: 06 сен 08 5:44
Полемика с tac''м привела к мысли открыть отдельную ветку. Речь идет о неизменяемых правилах среды, которые "известны" агенту еще до того как он начнет взаимодействовать со средой.
Возникает несколько вопросов:
1) Нужно ли вообще закладывать в агента такие знания? Вернее не так. Вообще без начальных знаний агента не построить. Нужно ли стремить к минимизации или к максимизации априорных знаний агента?
При минимизации мы получаем универсальность, то теряем эффективность (требуется длительное обучение), при максимизации - получаем эффективность, но теряем универсальность. Крайний случай максимизации - это линейный алгоритм с инициализацией всех внутренних переменных перед каждым актом взаимодействия со средой.
2) Любое начальное знание о среде (заложенное в агента) позволяет повысить его эффективноасть. Какие наиболее общие априорные знания целесообразно закладывать в агента? Особенно, если мы стремимся к strong AI.
3) Конструктивные априорные знания. Например, где расположен тот или иной датчик (для робота), физические (и другие) законы пространства, факт существования гравитации, типы объектов, с которыми предполагается работать. Честно говоря, у ЕИ таких "знаний" много (в т.ч. безусловные рефлексы). Но очень интересно, что ЕИ "знает" изначально, а чему учится с момента рождения (или зачатия ?).
[Ответ][Цитата]
tac
Сообщений: 2601
На: Априорные знания агента
Добавлено: 06 сен 08 9:07
Цитата:
Автор: Львович

Полемика с tac''''м привела к мысли открыть отдельную ветку. Речь идет о неизменяемых правилах среды, которые "известны" агенту еще до того как он начнет взаимодействовать со средой.
Возникает несколько вопросов:
1) Нужно ли вообще закладывать в агента такие знания? Вернее не так. Вообще без начальных знаний агента не построить. Нужно ли стремить к минимизации или к максимизации априорных знаний агента?
При минимизации мы получаем универсальность, то теряем эффективность (требуется длительное обучение), при максимизации - получаем эффективность, но теряем универсальность. Крайний случай максимизации - это линейный алгоритм с инициализацией всех внутренних переменных перед каждым актом взаимодействия со средой.
2) Любое начальное знание о среде (заложенное в агента) позволяет повысить его эффективноасть. Какие наиболее общие априорные знания целесообразно закладывать в агента? Особенно, если мы стремимся к strong AI.
3) Конструктивные априорные знания. Например, где расположен тот или иной датчик (для робота), физические (и другие) законы пространства, факт существования гравитации, типы объектов, с которыми предполагается работать. Честно говоря, у ЕИ таких "знаний" много (в т.ч. безусловные рефлексы). Но очень интересно, что ЕИ "знает" изначально, а чему учится с момента рождения (или зачатия ?).


Очень хорошо, что вы завели отдельную тему - вопросы четкие, поэтому давайте разбиратся и не спеша ...
1. Считаю, что для ИИ важна универсальность, а не эффективность - по крайней мере вачале. Замедте, что ребенок совершенно не эффективен, но затем по мере обучения зато может обучится всему, и становится эффективным. Поэтому вначале универсальность, а эффективность затем будет автоматически ... Соответствено, нужно минимизировать знания о среде
2. Вкладывать в агента нужно те знания, которые для нас считаются безусловными, т.е. получаемые по наследственности ... Но таких знаний практически у новорожденного нет ... кроме как воплощенных в физиологическое устройство, например мозжечек будет работать только в пространстве 2D (допускафя кривизну этого пространства) - в 3D человек не сможет жить, тоже касается о гравитации - в неесомости даже взрослые люди с опытом чувствуют себя отвратительно ... а так же зрительное восприятие - видим лишь нечто непрерываемое с определенным разрешением и до определенной дальности ... и так про каждую систему восприятия чувств ... т.е. у агента могут быть ряд специфических датчиков, которыми он воспринимает среду, и которые заточенны эволюционно под среду обитания ...
3. Уже ответил в пункте два на то, что ЕИ знает изначально, и соответственно, что можно дать ИИ. Единственно можно добавить, что если мы хотим пропустить первый год жизни ребенка, когда 80% его усилий направленны на то, чтобы научится целенаправленно двигатся и в конечном счете научится ходить (т.е. этап освоения мускулатуры) - то можем дать роботу (агенту) уже врожденную систему управления, т.к. роботы у нас далеки от совершенства и не обладают мусколатурой, то можно этот этап пропустить, особенно если идет речь о только алгоритмическом ИИ, а не о робототехнике. И что же ему остается выучить с момента рождения ? Главное подойти к вопросу о том, как у ребенка 3-4 лет возникает "понимание". Скажем, с года до трех - ребенок не производит ничего нового, он просто накапливает знания и учится (зазубривает) фразы, и учится их употреблять в соответствующей ситуации. А вот начиная с трех, четырех - у ребенка уже возникает некое начальное понимание смысла слов. Это, конечно, же есть следствие, того, что уже между самими словами возникают различные ассоциации, это позволяет уже достаточно осмысленно строить фразы и комбинировать свои знания. Вот именно этому и нужно научить ИИ - не обязательно это делать на примере словообразования, даже это скорее вредно, так как вначале нужно разобраться с пониманием до словесного уровня (просто, на примере образования фраз - наиболее проще объяснить) ...

Что же касается деталей, то это сложный вопрос, и постоянно развивается - это по сути вопрос о том, что в человеке врожденное, а что преобретается при воспитании и опыте. Поэтому нужно следить за этим вопросом, и согласовывать с биологическими иследованиями по этому вопросу. Но в общих чертах, уже многое известно - и я вам выше изложил ...
[Ответ][Цитата]
гость
89.208.11.*
На: Априорные знания агента
Добавлено: 06 сен 08 9:28
1) Нужно ли вообще закладывать в агента такие знания? Вернее не так. Вообще без начальных знаний агента не построить. Нужно ли стремить к минимизации или к максимизации априорных знаний агента?

нужно стремиться к к минимизации. Например, закладывать фундаментальные константы типа скорости С.
И вообще, принцип обучения предполагает механизм расчета производных от констант, коих агент воспринимает за абсолют с весовым коэффициентом 1.
к примеру:
в понятие "сильный" следует закладывать объект, обладающий максимальной силой.
Обучение следует делать от сложного к простому, а не наоборот, как многие себе представляют. Это дилетантская и очень распространенная ошибка многих.
Минимизация должна проявляться именно в этом. т.е. установкой сложных понятий в виде констант. Все остальное расчетно. Впрочем, это банальность, жаль, что вы создаете такие банальные темы...
[Ответ][Цитата]
гость
89.208.11.*
На: Априорные знания агента
Добавлено: 06 сен 08 9:42
"1. Считаю, что для ИИ важна универсальность, а не эффективность - по крайней мере вачале. Замедте, что ребенок совершенно не эффективен, но затем по мере обучения зато может обучится всему, и становится эффективным. Поэтому вначале универсальность, а эффективность затем будет автоматически ... Соответствено, нужно минимизировать знания о среде"

да, очень сложное обобщение...достойно второкласника. садись taki пять.

"2. Вкладывать в агента нужно те знания, которые для нас считаются безусловными,"
попросту-константы.

" т.е. получаемые по наследственности ... Но таких знаний практически у новорожденного нет"
кто вам сказал такую глупость?

с момента рождения он уже знает что такое свет и тьма, 2 константы ...
знает что такое, звук, голод и пр.
Более того, некоторые знания используются еще внутриутробно (это фундаментальная физика и сомнений быть не может-факты).



"Что же касается деталей, то это сложный вопрос, и постоянно развивается - это по сути вопрос о том, что в человеке врожденное, а что преобретается при воспитании и опыте."

тут все просто достаточно. Минимальный набор довольно просто расчитывается под заданную среду и оптимизируется. Просто некоторым мозги не позволяют делать простейшие обобщения.
[Ответ][Цитата]
tac
Сообщений: 2601
На: Априорные знания агента
Добавлено: 06 сен 08 9:53
Цитата:
Автор: гость
с момента рождения он уже знает что такое свет и тьма, 2 константы ...
знает что такое, звук, голод и пр.
Более того, некоторые знания используются еще внутриутробно (это фундаментальная физика и сомнений быть не может-факты).


Здесь важно, то что он "не знает", а его устройство позволяет воспринимать свет, звук, голод и т.д. - об этом я дальше и писал ... я воспринимать, не означает понимать, когда нибудь поймет, т.к. сигнал запоминаются и обрабатываются, но это будет много позже ...
поэтому садись Лошарик, на троечку ...
[Ответ][Цитата]
Львович
Сообщений: 303
На: Априорные знания агента
Добавлено: 06 сен 08 11:17
Цитата:
tac:
Считаю, что для ИИ важна универсальность, а не эффективность - по крайней мере вачале.

Я тоже так считаю. Но где тот минимум априорных знаний, без которого ну никак интеллект не построить?
Цитата:
агента могут быть ряд специфических датчиков, которыми он воспринимает среду, и которые заточенны эволюционно под среду обитания ...

Значит ли это, что для построения ИИ, сравнимого с человеком, мы обязаны дать ему и датчики, как у человека?
Где-то у Азимова было: "Почему роботов делают в виде человека", "Потому что работы (азимовские) существуют в окружении, созданном под человека." В этом есть своя логика.
Цитата:
можем дать роботу (агенту) уже врожденную систему управления, т.к. роботы у нас далеки от совершенства и не обладают мусколатурой

Можем. Человек и себя обвешал подобными системами. А для робота это вообще не зазорно.
[Ответ][Цитата]
гость
89.208.11.*
На: Априорные знания агента
Добавлено: 06 сен 08 11:18
не верно, уродетс.
он уже ЗНАЕТ. впрочем, тебе, отсталому, еще надо объяснять этот термин, а мне лениво...
[Ответ][Цитата]
tac
Сообщений: 2601
На: Априорные знания агента
Добавлено: 06 сен 08 19:32
Цитата:
Автор: гость

не верно, уродетс.
он уже ЗНАЕТ. впрочем, тебе, отсталому, еще надо объяснять этот термин, а мне лениво...

Лошарик - вы еще этот термин не изучали - это программа не детсадовского уровня, пойдете в школу поймете ... а пока не мешаете заниматься прилежным ученикам ...
[Ответ][Цитата]
tac
Сообщений: 2601
На: Априорные знания агента
Добавлено: 06 сен 08 19:40
Цитата:
Автор: Львович
Значит ли это, что для построения ИИ, сравнимого с человеком, мы обязаны дать ему и датчики, как у человека?
Где-то у Азимова было: "Почему роботов делают в виде человека", "Потому что работы (азимовские) существуют в окружении, созданном под человека." В этом есть своя логика.


Ну, вовсе не обязательно, но если мы точно хотим воспроизводить поведение человека - то да именно такие, т.к. с тремя глазами мы бы мыслили бы уже в других категориях, поэтому и ИИ с другими системами будет мыслить по другому (несмотря на то, что мозг будет иметь то же самое устройство).
И, конечно, помню - Азимов абсолютно прав, но помните чем там закончилось ? Начали строить усилители интеллекта, т.е. умные трактора и умные машины специфической пригодности, при этом "начинка интеллекта" была та же (т.е. универсальная), что и у антропоморфных роботов, но их как раз ограничили или снабдили другими датчиками (т.е. специфичным он стал не из-за интеллекта, а из-за набора датчиков). Так и у нас - то, что может сделать человек - там ИИ не нужен, а вот для работы например в опасных местах, в среде где не может обитать человек (например, непригодных для жизни планетах) - вполне подойдет скажем агент, видящий в инфракрасном свете и воспринимающий звуки в неслышамом для человека диапозоне, ну и скажем датчиками давления ..., но который не обладает вкусом и обоянием ...
[Ответ][Цитата]
daner
Сообщений: 4593
На: Априорные знания агента
Добавлено: 06 сен 08 23:44
а я не совсем понимаю, как одно другому мешает.
По моему, лучше делать универсальные алгоритмы и снабжать их знаниями по максимому.
Я вообще за принцип, что лучше быть здоровым и богатым, чем бедным и больным.

Другими словами, алгоритм должен быть адаптивным с одной стороны, и иметь представление знаний в таком виде, что они легко анализируются, инициализируются, дополняются и т.д.
[Ответ][Цитата]
гость
89.208.11.*
На: Априорные знания агента
Добавлено: 07 сен 08 7:37
"Лошарик - вы еще этот термин не изучали - это программа не детсадовского уровня,"

лениво комментировать, играйте в свою песочницу дальше, детишки...
[Ответ][Цитата]
Львович
Сообщений: 303
На: Априорные знания агента
Добавлено: 09 сен 08 10:27
Цитата:
Автор: daner
а я не совсем понимаю, как одно другому мешает.
По моему, лучше делать универсальные алгоритмы и снабжать их знаниями по максимому. ...

Да кто бы был против? Но к сожалению, одно другому мешает . Алгоритм, оптимизированный под одни знания, оказывается непригоден для других. Особенно если это конструктивные знания.
Другой вопрос касается механизма внесения этих знаний в агента. Как, например, "сообщить" нейронной сети, о корреляции входных сигналов? Напрашивается логичный вывод - научить. Таким образом мы приходим к необходимости процедур обучения агента в каких-то тренировочных средах. Тем более, что для ЕИ, эти процедуры вообще обязательны.
Можно ли определить формальные требования к тренировочной среде? Например, если все состояния среды S можно разбить на неперескающиеся группы
так, что возможны переходы только

такое условие выглядит вполне естественным, особенно в предположении об иерархичности организации задач и могло бы повысить эффективность обучения. В какой среде надо тренировать (обучать) агента этому свойству?
А еще лучше помещать агента в постепенно усложняющиеся среды. Интересно, можно это требование описать формально?

[Ответ][Цитата]
daner
Сообщений: 4593
На: Априорные знания агента
Добавлено: 09 сен 08 12:59
Цитата:
Как, например, "сообщить" нейронной сети, о корреляции входных сигналов? Напрашивается логичный вывод - научить.

ну так это известный минус нейронных сетей. как я понимаю сейчас уже есть работы где все-таки такое делать можно, но это не стандартно и по отношению к большинству методов -- экзотика.

Цитата:
А еще лучше помещать агента в постепенно усложняющиеся среды. Интересно, можно это требование описать формально?

можно, если определить термин "сложность среды". Кстати, я этого вопроса касался в своей курсовой (которую здесь публиковал) "Из воды на Сушу".
Так что, я с вами совершенно согласен.

То что вы написали, верно относительно тех методов, где представление знаний сокрыто, и единственным интерфейсом внесения таких знаний в агента, это его обучение. Я же говорил, о возможности внесения знаний напрямую. Для этого, само представление знаний должно быть доступно разработчику (ну как программа например), во-вторых, это должны быть "пьюр" знания агента, над которыми, в случае необходимости, он так же может проводить коррекции.
Ну это ... в идеале.
[Ответ][Цитата]
tac
Сообщений: 2601
На: Априорные знания агента
Добавлено: 09 сен 08 14:15
Цитата:
Автор: Львович
Другой вопрос касается механизма внесения этих знаний в агента. Как, например, "сообщить" нейронной сети, о корреляции входных сигналов? Напрашивается логичный вывод - научить.


Не могли бы вы пояснить, что именно вы имеете введу - что значит "корреляции входных сигналов", лучше на примере ... ?
[Ответ][Цитата]
Львович
Сообщений: 303
На: Априорные знания агента
Добавлено: 09 сен 08 19:32
Цитата:
daner:
если определить термин "сложность среды". Кстати, я этого вопроса касался в своей курсовой (которую здесь публиковал) "Из воды на Сушу".

Просмотрел работу, но понятие сложности не встретил. Можно поподробнее?
Цитата:
tac:
что именно вы имеете введу - что значит "корреляции входных сигналов",

Про "имеете введу" есть пошлый анекдот, как раз построенный на созвучии правильного "ввиду" и глагола "введу"
Корреляция - иными словами соответствие. Например, если на два входа поступают идентичные сигналы (коэффициент корреляции =1), то один из этих входов по сути вообще не нужен и процесс обучения становится более простым. Если же сигналы различаются только знаком (коэффициент корреляции = -1), то и такой сигнал не несет информативной нагрузки и может быть исключен из обработки и т.п.
Может кто напомнит формулу коэффициента корреляции?
Могу только для двоичных сигналов:

где операция "исключающее или".

[Ответ][Цитата]
 Стр.1 (3): [1]  2  3След. > >>