GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.65 (70)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
гость
188.170.80.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 08 июн 18 2:36

Т.> RL

речь идет не о том, что эта техника в ее скалярном варианте работоспособна, а о том, что ее обобщение
на проблематику agi/cии (напр. по хаттеру) это сверхобобщение. Недаром появилось различение сильный общий интеллект в узком смысле. В самом cкалярном rl рассматривают многозадачное обучение и проблему переноса обобщенного навыка, что приводит, в частности, к рассщеплению сетей (напр. в вврианте актор-мимик), - не за горами осознание, что недостаточность подобных решений (для сии в широком смысле) следует преодалевать на путях комбинирования расщепленных сетей с расщепленным (векторным) подкреплением-вознаграждением.

> моллюски реальны?

итак, cитуция такова: приведен некоторый набор аргументов и соображений почему максуд это неадекватный принцип - вы часть не восприняли, c частью согласились, ничего не отвели и не привели соображений в поддержку максуда - однако продолжаете его утверждать. Такова сила навязчивости априорной идеи. Природа минимизирует действие - идея о максимизации сумм приведенной разницы удовольствий и неудовольствий это сверхобобщение сверхупрощения. Удовольствия нормализуются, неудовольствия минимизируются и терпятся.

два коана для просветления. Удовольствие-подкрепление не скаляр, а специфицированная величина - если вы сложите 2 яблока, три груши и отнимите один банан, то вы получите не 4 фрукта, а 5 фруктов и долг отдать банан, когда он у вас появится. Если вы систему управления больницей оптимизируете минимизацией средней температурой по больнице (не посчитав что температура больных и температура тел в морге это разные по специфике величины), то вы рискуете получить перевод всех больных в морг (вместо нормализации их температуры).

> природа почему-то выбрала для конструкций живых существ именно такое базовое решение

природа выбрала не максуд, а обеспечение компромисса между эволюционной устойчивостью вида и его общей адаптабельностью (эволюционной пластичностью) через нормировку систем потребностей и инстинктов индивидов данного вида, охранные рефлексы и рефлекс превентивного освоения среды со специфическими и неспецифическими подкреплениями.

напрямую принцип максуд не верифицировался, но есть веские соображения что он не может быть верным - примерно как доказывается принципиальная ограниченность стандартно заданных формальных систем. Cитуация с навязчивостью идеи скалярной паноптимизации в ии при его обобщении на сии сродни с идеей рационального агента в экономической теории. Классическую теорию строили исходя из очевидного постулата максимизации полезности. Прямое же исследование поведения показало, что агенты не подчиняются и ослабленному принципу максимизации ожидаемой субъективной полезности. Альтернативы сравниваются не как скаляры, а как структуры (моделируемые векторами).

> Эксперимент с крысой железно доказывает, что стремление к получению пол. подкреплений является главенствующим.

еще и еще раз. В реальном поведении мы не видим максимума удовольствий - ВОЗМОЖНОГО при введении цепи самостимуляции - природа не создала канал прямой самостимуляции оттого, что эволюционное конструировние организма никогда не подчинялось принципу максуд, в природе вообще НЕТ такого принципа (он есть в упрощенных теориях или спекуляциях), как объяснялось (есть локально регулирующая поведение эвристика предпочитания более приятного менее приятному если они однокачественны и есть охранная эвристика не доводить боль до сверхмерной). Нет регистров, в которых накапливаются пожизненные суммы удовольствий и неудовольствий - эти величины фиктивны. Реальное поведение отличается от аддиктивного, что доказывает, что максуд никак не главенствующ. ГЕНЕРАЛЬНЫЙ фитнесс никак не замкнут на пожизненные суммы разниц уд. и неуд. > Если бы эти удовольствия не были скалярны, т.е. не обладали свойствами аддитивности и транзитивности, то невозможно было бы многошаговое планирование включающее в себя разнородные этапы деятельности.

вы рассуждаете крайне поверхностно. Удовольствия РЕАЛЬНО разнокачественны - на уровне и нейрохимии, и нейрофизиологии. Даже на уровне сознания удовольстивия не унифицируются - приятное чувстсво расслабленности это совсем не то, что оргазм, а удовольствие от сладкого это совсем не то, что приятное чувство 'контролируемого' страха (при разрядке опасной ситуации). Именно разнокачественность подкреплений и позволяет осуществлять комплексное планирование - удовлетворять неким сбалансировнным (компромиссным) образом все потребности, а не стремиться к гиперкомпенсации одной за счет других - такая скаляризация (и патологическая 'транзитивность') отражает как раз дефектное поведение. Просто 'удовольствие' это только слово - и ошибочное обобщение скалярного представления.

> работающее решение.

псевдорешение - как калькулятор это псевдорешение если речь идет о 'думающей машинке'. Важно то, что подчинение максуду дает слишком регидное поведение. БОлее того - чтобы выполнялся коллективный максуд, на уровне индивида не должно быть жадности, не должно быть максуда - как при глобальном индивидуальном максуде (гипотетическом, но эта гипотеза неудовлетворительна) должны быть допустимы нежадные эпизоды. Решение работает - но работает недостаточным образом. РАботать должны более развитые принципы (они обозначались).

> На выходе дающие одну-единственную результирующую скалярную величину.

еще раз. В каждый момент выбора полимотивированного действия образуется некий подкрепляющий интеграл - разные мотивы удовлетворяются в разной мере. Это не скалярное, а векторное состояние. Даже в отношении одной потребности можно выбрать что поприятнее, а можно что БЫСТРЕЕ снимет потребностное напряжение (эти параметры не сливаются в один). В цепочке выборов нормализуется потребностное состояние, а не максимизируется сумма некоих сверток вектора подкреплений от удовлетворения потребностей. В общем случае нет необходимости максимизировать (нет и возможности раз имеется вектор а не скаляр), достаточно чтобы решение было приемлемым, удовлетворительным, cостоятельным - природе нужны динамические адаптации и парето-оптимумы, а не экстремумы, когда речь идет о сложных системах, а не о ситуациях когда в чистом виде проявляются сильные вариационные принципы, природа отбирает в области сложных систем более-менее приемлемое, а не скалярный оптимум - а когда конструкция скалярного фитнесса переменна, то вообще нет ориентации на скалярный фитнесс.

> Обнаружив такое любой человек тут же подрывается с места как оглашенный.

это же не значит что чел максимизирует - он просто переходит на другой уровень ожидания (ожидает большего), начинает регулироваться по ошибке уточненного прогноза. Вообще, во всей этой кухне нужно еще правильно оценить роль привычки. Ходите вы в любимый ресторан, дежурно едите, в меру экспериментируете (хотя знаете что можно обнаружить и какие-то несусветные явства) - вы не максимизируете удовольствия от еды, вы следуете некоей норме приемлемости - а переключение на максуд в отношении гастрономии это аномалия. ПО всем базовым потребноcтям вы нормализуете, а не максимизируете. Для ненасыщаемых потребностей также их удовлетворение не становится главенствующим принципом - он сочетается с нормализацией по базовым потребностям - а реальное главенствование скалярного максуда сопряжено с дефектным поведением.

> сходу снимает часть проблем.

проблема порождается скалярным максудом. Это мешающая (заужающая) презумпция. Даешь немаксудову логику!
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 08 июн 18 5:44
На этом я приостанавливаю свое участие в дискуссии на тему мотивации СИИ. Поскольку при продолжении оной все сведется к повторению - по второму и третьему кругу - одних и тех же аргументов и деклараций, а такое повторение чревато скатыванием в пустое препирательство.
(Занятие малопочтенное и не способное принести ни удовольствия, ни пользы.)

Пора, пора идти дальше и заняться моделированием сознания, т.е. проектом ПИС (простейшее искусственное сознание).
[Ответ][Цитата]
kondrat
Сообщений: 3082
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 08 июн 18 6:27
Хочу подкинуть ещё одно слово, которое нужно максимизировать: успех.
[Ответ][Цитата]
mimino_r
Сообщений: 86
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 08 июн 18 6:36
Изменено: 08 июн 18 6:39
Цитата:
Автор: Траян
Пора, пора идти дальше и заняться моделированием сознания, т.е. проектом ПИС (простейшее искусственное сознание).

Имея скудные ресурсы для полноценной реализации своего проекта, я сформулировал решение в области ПИС - виртуальной интеллектуальной кофеварки, полностью подчиненное моим догматам. Суть идеи. Есть кофеварка с датчиком наличия стакана и датчиком перелива воды. Управляющим клапаном для подачи воды и датчиком заряда батарейки. Функционал еды - батарейка заряжается только в случае наличия стакана и подачи туда воды без перелива оной через край. Жизнь - уровень заряда батарейки. Скорость разряда фиксирована и постоянна. Смерть - полный разряд. Задача. Создать такую программу, которая бы сама нашла эту зависимость чашка-вода-батарейка при условии, что она может управлять только клапаном. Прямое программирование логики работы запрещено. Имхо - очень интересная задачка...
[Ответ][Цитата]
гость
188.170.82.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 09 июн 18 4:36
Т.> и заняться моделированием сознания

во второй части поста 20 май 18 4:13 (с.60) вы сделали ряд замечаний о своем подходе к вопросу.

мне кажется, что вопрос о 'необходимости' сознания можно связать с вопросом о трудностях оптимизации при многокритериальности и переменности множества 'сейчас-действующих' критериев. КАк бы при контакте со стационарной средой достаточно сложный организм (уже простейший) факторизирует среду посредством ассортимента рецепторов разных типов. А при переходе от химического контакта (контактной связи?) со средой к информационному (дистантному?) при формировании образов комплексных стимулов среда теряет факторизируемость - если релизер запускал комплекс фиксированных действий (факторизация на инстинкты и безусловные рефлексы), то синтезированный образ оказывался как бы 'подвешенным' - при его профилировании могли запускаться разные реакции (группы реакций). Вот эти подвешенные в активной рабочей памяти комплекные образы (декларативные части процедур если угодно), описание текущей ситуации и явились основой для формирования сознания (потом появились обобщенные и абстракные образы и знаковая функция). Cознание как обобщенный перманентный ориентировочный рефлекс. Cознание как следствие того, что градиентное (скалярное) движение (рабочей точки системы управления поведением) сменилось многомерным (перестало скаляризироваться) - бактерия редко ищет компромисс между градиентом освещенности и градиентом сахара - а уже какой-нибудь сурикат в своем коллективе уже ПОСТОЯННО согласовывает свои соматические потребности с реакциями других на его реакции - в среде появились сравнимые с ним по сложности поведения постоянные неигнорируемые (дистантный контакт) объекты и среда перестала факторизовываться - как она факторизовывалась еще для какого-нибудь ежа (с его трудностью выработки ассоциативных комплексов).
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 09 июн 18 5:37
Изменено: 09 июн 18 5:47
Цитата:
Автор: гость
...мне кажется, что вопрос о 'необходимости' сознания можно связать с вопросом о трудностях оптимизации при многокритериальности и переменности множества 'сейчас-действующих' критериев.

Согласен с таким видением.

>Cознание как обобщенный перманентный ориентировочный рефлекс.
==================
В этом утверждении есть значительная доля истины, но я исхожу из того, что сознание изначально возникло (поначалу в очень примитивных формах) для выполнения функций кризисного менеджмента.
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 09 июн 18 5:43
Изменено: 09 июн 18 5:44
Цитата:
Автор: mimino_r
Имея скудные ресурсы для полноценной реализации своего проекта, я сформулировал решение в области ПИС - виртуальной интеллектуальной кофеварки, полностью подчиненное моим догматам.

Данную задачу (на раз решаемую простейшими нейронными сетями, даже тем же перцептроном) очень трудно использовать для иллюстрации роли и сущности такого высокоуровневого явления/феномена как сознание, имхо.
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 июн 18 1:33
Изменено: 10 июн 18 3:02
(проект ПИС)

Изложение своего видения устройства механизма машинного сознания (точнее говоря - как мы выяснили в дискуссии с Хмуром - машинного квази-сознания, поскольку энергетически-чувственную его составляющую, определяющую саму возможность возникновения феномена субъективно переживаемых ощущений мы пока оставим в сторонке) начну с напоминания некоторых ранее приведенных положений (в посте от 12 апреля):

"Похоже, возможны такие сравнительно простые формы управления, при которых феномен сознания (пусть поначалу и слабенького) появляется как бы сам собой, как побочный эффект. Есссно, сами эти формы управления управлением не появляются из ничего просто так, ради удовольствия поосознавать мир, посозерцать его, так сказать и во всей полноте прочувствовать момент своего существования "здесь и сейчас" (и попутно попытаться осмыслить свое место и предназначение): причины его возникновения сугубо рациональны и прагматичны и направлены на решение задачи адаптации к реально существующему миру - важнейшими свойствами которого являются 1)его неимоверная сложность; 2) внезапность и необратимость некоторых происходящих там событий, зачастую жизненно важных для агента; 3) безжалостность и бескомпромиссность реального мира (если так можно выразиться)."

"...строим общую схему СИИ, которая неизбежно будет включать в себя две системы: сравнительно низкоуровневую когнитивную систему управления поведением и надстройку над ней, т.е. метакогнитивную систему управления этим самым управлением.

Потом определяемся с тем аспектом функционирования этой надстройки, который необходимо оптимизировать для повышения эффективности всей деятельности агента, для обеспечения возможности его существования в том мире, свойства которого описаны выше."

"Пытаясь подобрать слова для описания выбранной мной функции я ранее использовал такие понятия как "самоконтроль" и "самопроверка", но сейчас понимаю, что куда правильнее/точнее называть это функцией "автокоррекции" (т.е. оперативной самоподстройки под текущую действительность)."
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 июн 18 2:05
Цитата:
Автор: Траян
"Пытаясь подобрать слова для описания выбранной мной функции я ранее использовал такие понятия как "самоконтроль" и "самопроверка", но сейчас понимаю, что куда правильнее/точнее называть это функцией "автокоррекции" (т.е. оперативной самоподстройки под текущую действительность)."


А можно сказать и так, что сознание возникло в ответ на потребность как-то справиться с проблемой сложности, что сознание - это способ сосуществовать рядышком с непрерывно грохочущими комбинаторными взрывами.

Именно сосуществовать, не обуздать или укротить их, как-то справиться с ними - это в принципе невозможно, а именно сосуществовать.

Экзистенциальная причина перманентной детонации комбинаторики очевидна - это неимоверная сложность реального мира. Впрочем, можно сказать и иначе, комбинаторная стена всегда возникает как ответ на недостаток имеющихся в распоряжении агента вычислительных ресурсов, (в первую очередь временных). Был бы он властелином времени, была бы в его распоряжении бесконечность - он бы горя не знал.

Наиболее выпукло дефицит выч. ресурсов при решении сложных задач становится виден в критических для агента ситуациях, когда ему требуется в течении нескольких секунд, считанных мгновений, найти правильное решение в критической, чреватой фатальными последствиями ситуации. Агент может целый год трудиться соблюдать режим правильного питания и набирать необходимый запас энергетических ресурсов, затем приложить неимоверные усилия при поиске пары и завоевании ее симпатий. А затем вдруг - скажем, при неожиданном нападении хищника, принять ошибочное решение и бездарно закончив свой жизненный путь буквально за пару секунд пустить по ветру результаты всех своих предыдущих усилий и стараний (в том числе - стараний многих поколений его предков).

Это значит, что с точки зрения эволюции для живых агентов было весьма и весьма желательно получить в свое распоряжение механизм анти-кризисного менеджмента, позволяющий - пусть и с колоссальными энергетическими издержками - очень быстро справляться со сложностью выбора.
[Ответ][Цитата]
гость
188.170.73.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 июн 18 2:19
нужно продумать чем отличается многоуровневая (иерархическая) система управления объектом управления и управление управлением (когда высоколежащие уровни иерархического управления замыкаются друг на друга?). В чем различие критериев качества управления и метауправления. Что хорошо для тела, то может быть плохо для сознания и наоборот. КАк связано появление метауправляющих связей в структуре управления с рефлексией и саморефлексией?

думается, что даже имея в виду 'квазисознание' не обязательно абстрагироваться от 'энерго-чувственно-субъективно_переживательности', пусть эти аспекты хотя бы грубо все-таки 'проектируются'. Типо, cкажем, когда сигнал датчика будет не просто сигналом, а неким прообразом 'ощущения' (как психической ткани-основы собственно сознания?)? - когда сигнал будет 'диффундировать' за границы контура управления для которого данный сигнал специфичен. Когда контура управления (процессы в них) станут 'cущественно' взаимозависимыми (связными). тО самое динамически связанная целостность.. Синтез сознания как двунаправленный процесс - дифференциация с реинтеграцией-конденсацией на уровне контуров регуляции-управления. Сразу аллюзия на теорию таламо-кортикального динамического ядра сознания (вообще комплекса подкорково-кортикальных петель).
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 июн 18 2:38
Изменено: 10 июн 18 2:59
Эти две проблемы - проблема скорости и проблема сложности - решаются по-разному. Но хотя решение этих двух проблем и лежит в разных плоскостях, они должны быть как-то совмещены в одной и той же конструкции.

Проблема скорости/быстродействия.
Если исключить из рассмотрения тривиальности (вроде увеличения быстродействия элементной базы) при решении проблемы скорости могут бы использованы лишь следующие два общих метода:
1. Распараллеливание. (Организовать везде где это возможно параллельную обработку) информации.
2. Аналогизация. (Перевод на аналоговую базу все расчеты/обработку инфы, заведомо потребные в кризисных ситуациях. Здесь, имхо, и кроется решение проблемы субъективных перживаний/квалиа, но мы пока эту тему развивать не будем, полностью сосредоточившись на квази-сознании).

Конечно же, в плане экономии энергии это очень невыгодные решения. Чреватые кучей излишних затрат и потерь. Но - жизнь агента дороже.

Проблема сложности.
Проблема сложности может быть решена путем наделения механизма анти-кризисного менеджмента способностью к вычленению в каждой проблемной ситуации того главного, что составляет саму суть этой проблемы. Т.е. к умению отсекать второстепенные, несущественные в текущей ситуации детали.
Данная способность может позволить этому механизму предельно рачительно и эффективно использовать имеющиеся в его распоряжении выч. ресурсы - сосредотачивая их на самом главном.
(Забегая вперед скажу, что данная способность может оказаться весьма полезной и в обыденной жизни, поскольку она может позволить находить - среди множества стоящих перед агентом задач - те задачи, которые при их решении могут дать наибольшую отдачу при одинаковой трате ресурсов, а затем сосредотачиваться именно на них).

Способность к нахождению главного невозможна без умения работать с предельно высокоуровневыми знаниями, что означает, что механизм сознания есть некая мета-когнитивная
система.

Вспомнив же про быстродействие, можно сказать, что работа со знаниями в этой системе должна производиться - насколько это возможно - параллельно, отдельными автономными модулями.

Что означает, что данная мета-когнитивная система конструктивно должна быть выполнена в виде некой распараллеленной продукционной машинки.

Вывод этот - в силу своей простоты и очевидности - конечно же не нов, представление архитектуры механизма сознания в виде когнитивной аналоговой продукционной машинки той или иной степени извращенности сложности, можно найти у многих нейрофизиологов и психологов.

[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 июн 18 3:20
продукционная машинка (или машинка фреймов) + сеть распространения влияния + доска объявлений (глобальная структура данных - пассивных и ситуационных-активных).
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 июн 18 5:00
Цитата:
Автор: гость

продукционная машинка (или машинка фреймов) + сеть распространения влияния + доска объявлений (глобальная структура данных - пассивных и ситуационных-активных).


Да, что-то в этом роде. Я уже приводил здесь пробный набросок первоначального эскиза



подозрительно напоминающую схемку Баарса (по Ревонсуо):
[Ответ][Цитата]
гость
188.170.81.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 13 июн 18 4:33

это все чудненько, только этим картинкам уже давно пора перестать удовлетворять.. самое очевидное и первостепенное что колет глаза - отсутствие выденности фокуса внимания (где обработка т.ск. 'рвется вперед') и парафокала, куда помимо неактуального (смещение фокуса) попадает и то, что вызвало затруднение в обработке - откуда связи регуляции (обратные связи) на сенсорные гейты (регулируемые фильтры etc) (экстро- и интроцептивные).
[Ответ][Цитата]
Траян
Сообщений: 626
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 13 июн 18 5:16
Цитата:
Автор: гость
...это все чудненько, только этим картинкам уже давно пора перестать удовлетворять..

Все верно, чего уж там.
Подобных картинок в литературе - вагон и маленькая тележка, что не удивительно.
Еще в концепции Павлова (с его "светлым пятном сознания") было нечто подобное. У Крика была "теория прожектора", Пенфилд с его ретикулярными формациями, у Баарса (сознание как театр). У Домасио тоже можно найти параллели в работе с когнициями - это все по большому счету об одном и том же.

Т.е. на самом общем уровне все всЁ понимают приблизительно одинаково (что не удивительно), как там может быть устроено.

Но при попытке перехода уже к следующему этапу детализации, открывающему дорогу к непосредственно практической реализации пусть и простеньких, но вполне работоспособных машинных моделей - дело пока упирается в необходимость решения целого ряда проблем.

Я в своем подходе пока уперся в проблему формализации высокоуровневых знаний пригодных для описания и последующей само-оптимизациии процесса оперативного управления поведением агента. Уж очень все пока выглядит как-то надуманно, произвольно, хаотично, сложно и запутанно - и мне это совсем не нравится. На таком фундаменте ничего толкового не построить. Нужна какая-то прорывная идея, на основе которой можно было бы все упорядочить, упростить и систематизировать.
А для этого нужно не спеша все обдумать.
[Ответ][Цитата]
 Стр.65 (70)1  ...  61  62  63  64  [65]  66  67  68  69  70<< < Пред. | След. > >>