GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.29 (51)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 20 май 17 5:34
Цитата:
Автор: 44
Это верно.


Уважаемый форумчанин с никнеймом "44"!

Я же просил Вас не размещать свои посты на этой ветке - они здесь совсем не к месту.

На первый раз я их скопирую и перенесу в "Флудилку". В дальнейшем они будут попросту стираться.
[Ответ][Цитата]
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 17 8:12
Изменено: 22 май 17 8:17
Попробую подытожить, обобщить и систематизировать свои посты за март-апрель-май. Интересно посмотреть как пробивала путь - слепо шарахаясь из стороны в сторону - та мысль об механизме самосознания, к которой я сейчас пришел

В конце марта (22-25 числа) в качестве одного из ориентиров в дальнейшей работе над СПИ я рассматривал придание ему способности к содержательному общению.

Для ускорения раскрытия этой способности предлагалось наделить агента априорными субъектно-ориентированными знаниями.

Эти знания предполагалось разместить в механизм прогнозирования:
"25 марта : Даже на такой, чисто технический вопрос - а куда, собственно говоря, в какое место общей процедуры построения моделей должны быть воткнуты эти априорные бустерные знания, ответить совсем непросто.

7 апреля : Судя по всему, эти знания должны быть встроены, имплементированы в механизм прогнозирования.Конечно же, этот механизм не будет работать тупо на построении дерева вариантов.
В основе работы этого механизма должны лежать совсем другие процедуры, а именно, манипуляции с тем, что можно назвать "историями" или "сюжетами".
Характерной особенностью историй, позволяющей подступиться к задаче их формализации и имплементации, является то, что всякая история имеет начало и конец (даже те из них, которые громогласно объявляются якобы бесконечными). ".

9 апреля:
Похоже я поторопился. Дерево вариантов , конечно же, будет. Иначе никак не получить полноты и универсальности.
Другое дело, что благодаря применению вероятностей мы можем сходу обрезать малоперспективные ветви.Кровь, пот и слезы пролитые при создании БМП начинают себя оправдывать.
Понятно теперь, что высокоуровневые субъектно-ориентированные знания зашиваются в знания прогностические (имеющие высокие, близкие к 1 вероятности).

17апреля: "Причина того, почему я решил начинать с предельного упрощения объясняется двумя простыми обстоятельствами:
Во-первых, даже такую, предельно простую модель реализовать в виде реально существующей и работающей конструкции очень, очень, ОЧЕНЬ трудно.
Практически, сложность этой задачи близка к тому пределу, при достижении которого для меня эта задача стала бы вообще непосильной."

28 апреля появилось утверждение о том, что при решении вопроса об имплементации субъектно-ориентированных знаний следует сосредоточиться не на прогностическом процессе как таковом, а на иерархии управленческих процессов:

28 апреля:То, что без прогнозирования высокоуровневые субъектно-ориентированные знания бесполезны - это верно. (Именно в прогнозировании/планировании раскрывается их суть и содержание.)

Но проявляться они должны не на этапе многошагового прогнозирования (с использованием сложных и изощренных моделей) - тут я здорово ошибался. А на более низком уровне, в процессе выбора действий (которые ведь могут выбираться не только как одиночная ответная реакция на текущее состояние внешней среды, но и для
исполнения - либо непрерывно осуществляемого контроля исполнения - ранее выбранного плана, некой линии поведения).

Именно на этом уровне агент может уже задаваться вопросами вида:
"Кто я такой?" "Что я делаю?" "Зачем я это делаю?"

Похоже, для того, чтобы у искусственных агентов (живых существ) могли наблюдаться самые первые проблески самосознания (рефлексии) необходимо чтобы они обладали способностью хотя бы к двухшаговому прогнозированию/планированию.

7 мая:
Поэтому в следующем поколении программы СПИ главным новшеством будет реализация именно способности к простейшему многошаговому (т.е. двухшаговому) прогнозированию.

Сама эта способность будет осуществляться не путем построения разветвленных деревьев действие-ситуация(состояние среды), ибо в этом случае неизбежен комбинаторный взрыв. А так, как это делается в RL, где тому или иному состоянию среды приписывается значение величины ценности.

Величину ценности можно рассматривать как аналог первичной эмоции, генерируемой по результату выполнения некой когнитивной операции (выработки стратегии/выбора действия). Чем более удачную стратегию удается выработать ("придумать") агенту, тем большее подкрепление он получает. Таким образом, при двухшаговом прогнозировании учитываются два источника первичных эмоций - одни из них получаются по старой схеме, в результате непосредственной оценки внешней среды, а другая - по результатам выполнения внутренней когнитивной операции.


16 мая:
Но вот с идеей о том, что справиться с комбинаторным взрывом при построении похоже, придется распрощаться.сейчас решение проблемы с многошаговым прогнозированием видится совсем другим.

обойтись без функции ценности и квази-эмоций удастся если оценивать создаваемые стратегии не по абсолютной шкале (а на бесконечно кол-ве шагов это жуткий гемор, тут хлопот не оберешься), а относительно - просто сравнивая разные стратегии попарно между собой.

При таком подходе удастся обеспечить постепенное развитие/совершенствование всей системы, но производиться это развитие будет не так, как виделось ранее: "обойтись без прогностических деревьев удастся с помощью некоего аналога эмоций"

Путь развития агента - это путь постепенного построения, выращивания им своей личности.

Минусы при таком подходе, такие же как и при всяком градиентном спуске.
В нашем случае это может привести к тому, что созданная в итоге личность может быть далека от идеала, от наиболее оптимального варианта, кроме того, уже выращенную личность агент не сможет радикально переделывать впоследствии.
[Ответ][Цитата]
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 17 8:32
Цитата:
Автор: ignat99
Когда свою версию кода на гитхаб выложите?
Когда намечен первый концерт по вашей "партитуре"?


"Если хочешь насмешить Бога - расскажи всем о своих планах" (с)

Думаю, еще не менее двух-трех лет уйдет на доводку.
[Ответ][Цитата]
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 17 8:57
Изменено: 22 май 17 13:20
>та мысль об механизме самосознания, к которой я сейчас пришел

Как сейчас видится, в основе концепции СИИ лежат две идеи: идея о том, что непрерывно разворачивающийся во времени процесс взаимодействия агента с окружающей средой цикличен в том смысле, что он состоит из бесконечно повторяющихся кусков, "историй", "сюжетов". (именно за счет этой цикличности агент и получает возможность подсчитывать сумму подкреплений на бесконечном горизонте).

Вторая идея - это идея об иерархии управленческих процессов .
на самом нижнем уровне находится управленческий процесс ("личность", "стратегия") непосредственно занимающийся планированием своих действий.

Этажом выше находится управленческий процесс занимающийся постепенным улучшением первого процесса. Еще выше находятся два очень хитро организованных, функционально симметричных процесса.

Из выше приведенного набора постов видно как появились и выкристаллизовались эти идеи: необходимость цикличности (из необходимости подсчета суммы), и как появилось понимание того, в чем кроется необходимость иерархии управленческо-информационных процессов (постепенное улучшение уже имеющегося).
[Ответ][Цитата]
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 17 9:07
Цитата:
Автор: ignat99
Если работать с талантливыми помошниками можно сократить срок до приемлимых 6 месяцев.


Это во многом верно. Помощники - это всегда хорошо!
Но верно и другое утверждение "Даже девять женщин вместе не родят ребенка за один месяц".

Цитата:
Автор: ignat99
Впрочем, хорошие вещи быстро не делаются. Математики теории годами вынашивают ... IMHO


Все верно. Свой метод подсчета вероятностей я разрабатывал больше десяти лет. При том, что имел возможность прямого общения с такими знатоками алгоритмической вероятности, как А. Потапов.

По идее, код программки СПИ в которой метод БМП был задействован впервые в мире, вполне можно разместить публично. Сейчас никакого секрета в нем нет. Но уж очень похабно он был написан (неряшливо, некультурно, безграмотно - кошмар!).

Мне тогда было важно как можно быстрее проверить работоспособность идеи, на эффективность и красоту кода я тогда полностью забил. Тем паче, что и кодер из меня - как из повидла пуля. )
[Ответ][Цитата]
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 17 9:44
Изменено: 22 май 17 9:45
Цитата:
Автор: Траян
Как сейчас видится, в основе концепции СИИ лежат две идеи:


Естественно, все приведенные выше суждения имеют оценочный характер.

[Ответ][Цитата]
ёж
Сообщений: 35
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 17 16:37
Цитата:
Автор: Траян

любовь абстрактна, пивасик по акции
не плохая реклама
[Ответ][Цитата]
Траян
Сообщений: 436
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 май 17 2:52
Изменено: 23 май 17 2:57
Цитата:
Автор: Траян
Как можно видеть, в основе предлагаемой концепции СИИ лежат две идеи:
- идея о применении циклов при подсчете сумм подкреплений на бесконечном горизонте.
- идея об иерархии управленческих процессов .


Попробуем теперь изобразить общую схему конструкции СИИ согласно этой концепции.
Возьмем за основу общеизвестную стандартную схему интеллектуальных агентов Рисунок1:


после предлагаемых уточнений она будет выглядеть как на Рисунке 2:




Если же мы хотим добиться полной самодостаточности, то получим схему изображенную на Рисунке 3:


[Ответ][Цитата]
гость
188.170.82.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 май 17 3:17
Т.> подсчете сумм подкреплений на бесконечном горизонте

опять же, это будет работать либо для малых миров, либо в абстрактной теории 'cферического абссолютного интеллекта' (напр. по шмидтхуберу, хаттеру etc). А реальный интеллект (которому излишне рациональные абстракции (модели) будут неадекватны) насквозь эвристичен (что выражается в грубых оценках хвостовых сумм, 'нелинейном дисконтировании', игре требований к скорости, точности, полезности и риску, сопряженных с соотв. утилизацией подкреплений. интеллект должен как-то ориентироваться в условиях существенной неопределенности (еще до появления достаточных знаний о структуре мира 'до горизонта').
[Ответ][Цитата]
r
Сообщений: 724
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 0:32
Изменено: 24 май 17 0:34
Вы все правильно говорите, и про излишнюю рациональность, и про то, что неправильно описывать субъекта управления изначально. Но не забегаете ли вы наперед? Ведь не ясно как осуществляется управление. Не управление в принципе, а именно как ЕИ управляет, как делает из всего инструмент для себя. Ведь если мы не знаем как что-то устроено, то мы не знаем что это. А перед тем, как выяснять как формируется субъект управления нужно же понимать что именно должно формироваться.
[Ответ][Цитата]
rrr3
Сообщений: 10176
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 1:27
Цитата:
Автор: r
...Ведь не ясно как осуществляется управление...

Управление может осуществятся как угодно. Такая постановка вопроса неизбежно приводит к тупику, т.к. под управлением, хотите Вы этого или нет, даже чисто подсознательно подразумевается готовый алгоритм. Таких алгоритмов может быть масса и разной степени сложности и "навороченности".
Другое дело вопрос о том, как могут формироваться совершенно различные "управления" (алгоритмы)...
[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 3:09
у траяна обращает на себя внимание решение проблемы самоулучшения Улучшателя - через взаимоулучшение двух улучшателей (известная идея конструктивного рещения проблемы самоприменения).

r> нужно же понимать что именно должно формироваться.

в этом и вопрос - точно ли должно формироваться управление максимизацией суммы подкрепленией (максимизатор предсказуем, а это уже разве не дефект интеллектуальности?)
[Ответ][Цитата]
Luarvik.
Сообщений: 12622
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 3:19
Изменено: 24 май 17 3:22
Цитата:
Автор: Хмур
у траяна обращает на себя внимание решение проблемы самоулучшения Улучшателя - через взаимоулучшение двух улучшателей (известная идея конструктивного рещения проблемы самоприменения).

О такой схеме говорилось несколько лет назад, когда я предлагал "бинарную систему" из двух идентичных элементов, в которой "проблема гомункулюса" решается легко и изящно.
Схема эта нехитрая сама собой напрашивается, когда мы обращаемся к межполушарной асимметрии мозга.
[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 3:29
ну, а до этого я советовал именно так подойти к вопросу самоприменения нашим друзьям из новосибирска с их 'новой парадигмой', - идея старая и общая.
[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 3:39
кстати, 'управление максимизацией' выглядит как раз более гибко, чем управление с целью максимизации.. как бы у Общего управления есть вектор управления, сумма подкреплений в котором только один из компонентов. - а идея в том, что сначала может быть структура не управления по этому выделенному компоненту, а структура регуляции по другим компонентам вектора, характеризующим носителя регуляций-управлений (и потом подкрепление может не стать доминирующим компонентом - особенно когда формируются ненасыщаемые мотивационные системы).
[Ответ][Цитата]
 Стр.29 (51)1  ...  25  26  27  28  [29]  30  31  32  33  ...  51<< < Пред. | След. > >>