GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.59 (112)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 21 апр 18 1:32
Изменено: 21 апр 18 2:21
Цитата:
Автор: гость
ну, если 'неживое сознание' будет означать что автопоэтический оргпаттерн будет 'не сильно выраженным', то возникнет сомнение можно ли подобный информационный процесс вообще называть сознанием.. (если будет только имитация каких-то черт сознания...

Согласен. Если исходить из того, что бОльшая часть профессиональных философов/нейрофизиологов/психологов (хоть и не все), по всей видимости, действительно полагает энергетически-чувственную компоненту неотъемлемой частью сознания то, конечно, говорить о "неживом" сознании или "сознательном зомби" по меньшей мере некорректно.

Пожалуй, действительно, в таких случаях все же правильнее говорить о квази-сознании (псевдосознании, эрзац-сознании).

Цитата:
Автор: гость
заметим только что куда уж 'больше конкретики' в многочисленных bica-архитектурах, причем баарсова GWT это даже уже целая платформа (одна из ряда), на которой реализуются различающиеся (конкретные) архитектуры.

Тут вся соль как раз в том, что предлагаемая мной архитектура не является bica изначально.

Эта архитектура строилась в рамках инженерно-аналитического (рационального?) подхода. Отправной точкой в этом подходе является поиск решения следующей конструкторской задачи: "Пусть нам известны общие свойства некоторого мира. Какова должна быть общая схема устройства блока управления агента способного действовать в этом мире достаточно эффективно? Из каких частей, модулей должен состоять этот блок? Как должно быть организовано их взаимодействие между собой?"

Начав с предельно общей, очень расплывчатой и туманной трех-компонентной схемы классического интеллектуального агента (среда, эффекторы+рецепторы+блок управления), мы постепенно, шаг за шагом, начинаем ее детализировать и конкретизировать. Руководствуясь при этом достаточно общими и очевидными(?) рациональными/рационализаторскими соображениями.

Двигаясь так, мы на определенном этапе детализации получаем схему удивительным образом напоминающую одну из наиболее известных схем bica (Баарса-Тонони и прочих, т.е. схем полученных в результате изучения устройства уже существующих блоков управления биологических существ в реальности способных эффективно функционировать в данном мире и к тому же, способных продемонстрировать наличие у них сознания).

Т.е мы наблюдаем конвергенцию в чистом виде. (И получаем заряд уверенности в том, что мы движемся по правильному пути.)

Но! В отличие от описательных по большей части bica, воспроизводящих/обобщающих результаты эмпирических наблюдений, мы можем не задерживаться на данном этапе детализации, мы в своем аналитическом подходе можем идти дальше и сделать уже следующие шаги приводящие нас к столь детальному описанию конструкции, руководствуясь которым можем начать воспроизводить ее в железе.
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 21 апр 18 2:38
Изменено: 21 апр 18 2:39
>Руководствуясь при этом достаточно общими и очевидными(?) рациональными/рационализаторскими соображениями.

По аналогии с аббревиатурой bica, когнитивные архитектуры систем управления действиями агента, полученные в рамках описанного выше аналитико-инженерного подхода, можно условно назвать "baeica" - By Analytical Engineering Inspired Cognitive Architecture (шутка).
[Ответ][Цитата]
гость
188.170.72.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 апр 18 2:47

Т.> не является bica изначально.

ну, и весь талмуд норвига-рассела есть ничто иное как реализация этой программы 'от рационального анализа к агенту'.. есть масса и не биологически инспирированного доведенного 'до железа' (есть и масса bica доведенных до программных комплексов и ротототехнических поделок), все эти act, nars (вообще многие класса agi), cистемы класса bdi и проч. Да, конвергенция есть. (Разве что (N)GWT и ТII это разные вещи.)
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 апр 18 5:37
Изменено: 26 апр 18 6:51
БАЙКА

Давным-давно в одной далекой галактике на старом форуме Мембраны, еще задолго до Айкома (т.е. где-то в начале нулевых) была ветка А.Плахова о ИИ, где происходило обсуждение разных идей и соображений касающихся ИИ тематики.

Так вот, рассуждая о сути СИИ там многие ссылались на Серля и его знаменитый пример с "китайской комнатой", на что я всегда отвечал, что нафиг ссылаться на Серля предложившего свой пример в 1981 году, если содержательно та же самая идея была предложена давным-давно до него советским фантастом Днепровым в 1961 году. Причем, со мной еще пытались спорить и мне приходилось распинаться доказывая свою правоту...

И вот, прошли годы, и что слышим от Д. Чалмерса:
https://www.youtube.com/watch?v=RlAIuv31YKs
перевод здесь:
https://lenta.co/iskusstvennoe-soznanie-345054

"У философа Джона Сёрля есть знаменитый аргумент, что он мог бы внутри компьютера имитировать поведение человека, знающего китайский язык, хотя сам он китайский не понимает. На самом деле недавно было обнаружено, что этот пример восходит к русскому писателю Днепрову, который в 1961 году написал рассказ, где люди на футбольном поле имитировали процесс перевода фразы с русского языка на португальский. Никто из них не знал, что они делают, так что каждый просто следовал правилам, передавал дальше нули и единицы, и пять часов спустя они составили предложение на португальском. И он сказал: «Вы следовали правилам вычислительной машины, вы составили предложение на португальском, но вы не понимали его, у вас не было сознательного мышления». И Днепров использовал этот аргумент, чтобы доказать, что простое выполнение компьютерной программы не дает вам понимание, не дает сознание. И Джон Сёрль предложил свою версию этого эксперимента намного позже, в 1981 году, с тем же выводом." (и далее два абзаца)

Архивы Мембраны сохранились и каждый может убедиться в том, что здесь и далее Чалмерс практически слово в слово повторяет мои тогдашние рассуждения о примере Днепрова.
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 апр 18 5:49
Не удивлюсь, если и к идее биполярной вероятности, о возможности ее применения при решении различных прогностических задач, в частности, при создании эффективных алгоритмов торговли на бирже, народ придет где-то лет через 10.

А к пониманию того, как она может быть задействована при создании СИИ - лет через 15-20.


[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 670
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 апр 18 13:02
Изменено: 27 апр 18 13:03
Тут уже было кем-то говорилось, что Серл выбрал неправильный критерий оценки интеллекта из-за непонимания сути интеллекта. Так что всякие Серли это все глупости, тем более этот Днепров.
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 28 апр 18 3:48
Изменено: 28 апр 18 3:49
Цитата:
Автор: гость во лбу гвоздь
Тут уже было кем-то говорилось, что Серл выбрал неправильный критерий оценки интеллекта из-за непонимания сути интеллекта. Так что всякие Серли это все глупости, тем более этот Днепров.

Вообще-то, и пример Серля с китайской комнатой - он не про интеллект, и мой пост - совсем не про Серля.

[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 08 май 18 22:44
Всех адекватных участников форума поздравляю с праздником Великой Победы!
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 09 май 18 0:42
С праздником всех, всех (не адекватных тоже)!
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 май 18 23:19
Изменено: 10 май 18 23:20
Цитата:
Автор: rrr3
С праздником всех, всех (не адекватных тоже)!

Для неадекватных я просто вставлю здесь красивую картинку. Без комментариев.



[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 май 18 1:19
2 Хмур

30 марта:
Цитата:
Автор: Траян
Я сейчас работаю над текстом с ее изложением, думаю это займет где-то полтора-два месяца. Но и до истечения этого срока я как-нибудь вышлю Вам на е-мейл черновик статьи.


Не успеваю, сорри (этого, наверное, и следовало ожидать).

С высокоуровневыми псевдофилософскими и общетеоретическими рассуждансами все ОК, все неплохо согласуется с большинством известных концепций (что не удивительно, поскольку они не противоречат, а скорее, дополняют друг друга). Да и с предельно низкоуровневыми представлениями тоже все обстоит неплохо (во многом благодаря БМП). А вот посередине - разрыв.

Сейчас уперся в проблему определения предметной области, вида деятельности агента (и его способности переключаться с одного на другое). Не выбора из какого-то уже известного набора - это-то делается просто, а самостоятельного разделения агентом всей области его функционирования на отдельные участки/виды, каждый из которых требует своей специфической организации ментальной/вычислительной деятельности. Пока непонятен тот универсальный принцип, которым можно было бы руководствоваться при осуществлении такого разделения.

Понятно, что такое деление делается для оптимизации, экономии вычислительных ресурсов, но вот конкретики, детализации, некой общей идеи , необходимой для полного понимания того, как именно это делается - без коего написание экспериментальной проверочной проги невозможно - пока нет.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 май 18 2:43
Цитата:
Автор: Траян
... А вот посередине - разрыв.

Сейчас уперся в проблему определения предметной области, вида деятельности агента (и его способности переключаться с одного на другое). Не выбора из какого-то уже известного набора - это-то делается просто, а самостоятельного разделения агентом всей области его функционирования на отдельные участки/виды, каждый из которых требует своей специфической организации ментальной/вычислительной деятельности. Пока непонятен тот универсальный принцип, которым можно было бы руководствоваться при осуществлении такого разделения.

Понятно, что такое деление делается для оптимизации, экономии вычислительных ресурсов, но вот конкретики, детализации, некой общей идеи , необходимой для полного понимания того, как именно это делается - без коего написание экспериментальной проверочной проги невозможно - пока нет.

Мда... как уже говорилось потенциал слабоват...

Нет и не может быть универсального принципа ("разделения") в описанном виде! Вся универсальность может заключаться (ограничиваться) тем, что все должно быть не универсально... Для (почти) каждого случая (контекста) свое разделение и все по мере возможности на одном материале-носителе.
Для наглядности - в биологии нет универсального условия выживания (нет единой универсальной "функции", "роли", "значения" у всех живых, даже само выживание им не является), есть выживания конкретного в конкретных условиях...
Но никто не говорил, что Вы лично не должны биться головой о не разбиваемую стенку универсальности.

"Такое разделение" - неизбежная необходимость далеко не для оптимизация (по крайней мере не только)


Не переживайте, топор у вас уже есть, осталось найти то, без чего каши не сварить...


[Ответ][Цитата]
гость
188.170.81.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 19 май 18 2:46

Т.> Пока непонятен тот универсальный принцип, которым можно было бы руководствоваться при осуществлении такого разделения.

> некой общей идеи

ну, если не загоняться насчет универсального принципа, а иметь в виду 'общую руководящую идею', то она на поверхности - самоорганизация в разных видах (через эволюцию, адаптивную модификацию, обучение (без учителя, c подкреплением, c учителем, cамообучение (активное, cо вниманием etc)). Типо как формируются потребностные домены и функциональные системы в их рамках. Тут много разной конретики можно пошукать, помнится даже полевой моделировал эту фазу дифференциации функциональных паттернов.

насчет универсального принципа в смысле универсального критерия 'разделения' то тут облом - из самой общей философии 'cуществования агента' возникает представление о том. что агент это сущее на перекрестке противоречивых требований, а значит 'универсальным' будет только метапринцип поиска ситуационного баланса противоречивых требований, балансирования в паретовых условиях многокритериальной оптимизации (условные субоптимизации и локальные улучшения рулез). Типо что если сильна угроза существованию, то незачем экономить ресурсы - при том, что не экономя ресурсы больше шансов поставить себя под угрозу существованию.
--------

не берите в голову обещанные сроки - ясно, что под общую идею можно напихать много разной конретики, которая никак не исчерпает тему, которая СЛИШКОМ общая - никто и не ждал что вы 'закроете вопрос' - просто вы ранее выступили с объявлением что обнаружили нечто 'cущественно разрешающее вопрос о сознании', более определенного раскрытия чего от вас и ждали (и ждут) - с полным пониманием что вы могли просто ошибиться в оценке масштаба своих озаризмов (о чем говорили и в отношении бмп).
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 20 май 18 4:13
Изменено: 20 май 18 4:26
Цитата:
Автор: гость
... агент это сущее на перекрестке противоречивых требований, а значит 'универсальным' будет только метапринцип поиска ситуационного баланса противоречивых требований, балансирования в паретовых условиях многокритериальной оптимизации (условные субоптимизации и локальные улучшения рулез).


Я все же предпочитаю исходить из принципа одно-критериальной оптимизации. Можно долго спорить о том, что это за критерий - увеличение ли шансов выживания вида, как говорят биологи; увеличение ли вероятности на передачу ядра генома, как нас учат генетики; или повышение степени одухотворенности мира, как учат некоторые просветленные гуру - это все пока вторично.

Я помню Ваше тотальное неприятие идеи одно-критериальной оптимизации, хотя и в толк не возьму, почему Вы отстаиваете именно эту точку зрения. Ведь доказать сводимость многокритериальной к одно- можно даже с помощью сравнительно простых мат. построений.

(Вот даже в приводимом Вами примере: "... если сильна угроза существованию, то незачем экономить ресурсы - при том, что не экономя ресурсы больше шансов поставить себя под угрозу существованию" подспудно подразумевается, что критерий один - выживание.)

Да и из общих соображения ясно, что для того, чтобы агент не мог попасть в неопределенные ситуации, не "зависал" намертво (из-за конфликта интересов разных модулей и процессов), критерий должен быть один. Причем, на всем протяжении всей его жизни.

PS Кстати, спс, за этот пример, я его неоднократно использую в своих построениях, поскольку он помогает наглядно объяснить суть сознания - как его когнитивный функционал, так и его внутренне устройство/архитектуру.

PPS Говоря о выживании вида как о критерии, по которому агент выбирает свои действия следует иметь в виду, что этот критерий не обязательно должен задаваться в явном декларативном виде. Можно просто встроить систему поощрений-наказаний а-ля RL, отслеживающую состояния агента.

Цитата:
Автор: гость
... просто вы ранее выступили с объявлением что обнаружили нечто 'cущественно разрешающее вопрос о сознании', более определенного раскрытия чего от вас и ждали (и ждут) - с полным пониманием что вы могли просто ошибиться в оценке масштаба своих озаризмов (о чем говорили и в отношении бмп).


Согласно предлагаемой теории, сознание возникло как инструмент оптимизации одновременно нескольких, в чем-то противоречивых процессов, таких, например, как внутренняя ментальная деятельность (обучение/построение моделей мира); обеспечение оперативности и адекватности реакций при возникновении новых, неожиданных изменений обстановки и т.д.

Сознание возникает в попытке нахождения такого хитрого решения которое могло бы разрешить одновременно (!!!) целый ряд (не менее трех, имхо) совершенно различных по своему содержанию задач оптимизации.

Найти баланс между специализацией и универсальностью, между оперативностью реагирования и "обдуманностью" принимаемых решений.

Можно и так сказать, что сознание - это инструмент выбора того объема знаний, который используется при решении тех или иных проблем.

А можно и так: сознание - это организатор, "вдохновитель" и контроллер, способный сформировать и запустить различные узко-специализированные процессы, способные самостоятельно (и очень экономично - за счет своей специализации) справиться с рутинными задачами (лежащими в одной проблемно-предметной области), когда при решении очередной проблемы нет необходимости каждый раз начинать рассуждения с самых общих соображений, ab ovo. И способный созерцать, отслеживать, причем в высокоуровневой модальности как состояние этих процессов по отдельности (а таких, параллельно протекающих процессов может быть много), так и всю свою деятельность в целом.

PPPS Побочным результатом этой теории является полное обнуление столь любимого Чалмерсом аргумента зомби. Ясно, что в рамках своего мысленного эксперимента он подспудно снимает ограничения-требования на когнитивную архитектуру этого создания, принимая что выч. ресурсы которыми тот располагает - бесконечны, а такого в реальном мире не бывает.
Потому-то и зомби-подобные разумные, но бессознательные существа возможны лишь в воображаемых мирах, либо в специально организованных, виртуально-модельных средах.
[Ответ][Цитата]
гость
188.170.81.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 18 3:35
Т.> что критерий один - выживание

ну, эдак вы несколько смещаете вопрос - конечно, выживание, выживаемость, это как бы необходимое условие, имманентность, собственный императив этого предприятия, котрое называется существованием живой материи, раз устойчивость существования материи в такой форме столь проблематично и обусловлено многим. Вспомним, как, cкажем, шамис рассуждал про этот критерий maхТ. Но при малейшей конкретизации вопроса сразу появляются трудности - выживание индивида, группы, вида, таксона etc - как-то нужно согласовывать эти 'выживаемости', или, cкажем, выживать можно по-разному (разные стратегии выживания) - кто автотроф, кто гетеротроф, кто фотосинтезирует, кто хищничает - 'cамо по себе и из себя' живое вещество не может же предусмотреть все варианты будущего чтобы реально стаивть задачу на махТ - ставится более реалистическая задача - повышение (насколько возможно) выживаемости за счет адаптивности, увеличение ОБЩЕЙ адаптабельности - как бы поддерживается динамическое равновесие - кто впадает в специализацию и глубокую адлаптацию к нише - выигрывает в чем-то, но что-то и теряет (в глобальном смысле устойчивость ниши не гарантируется тем, что вид может отчасти стабилизировать свою нишу), cтановясь зависимой от нее, кто-то пребывает в пограничном состоянии и не падает в воронку глубокой специализации - тоже что-то теряя, но что-то и приобретая - перманентные экологические пертурбации поддерживают баланс между стратегиями.

как бы общий метапринцип что нужно выживать реализуется через динамическое, подвижное положение балансирующей точки (системного состояния) на противоречивых требованиях.

многокритериальное рассмотрение (векторный критерий) можно упростить при скаляризации критерия - но (а) в вообще говоря такое переопределение не тождественно, (б) скаляризовать можно по-разному и эти способы не эквивалентны (или сужать область парето можно по-разному) и (в) скаляризационная редукция это лишь искусственный прием.

наверное вы все это понимаете, но еще плохо осознаете - ведь вы ставите вопрос так -

> самостоятельного разделения агентом всей области его функционирования на отдельные
> участки/виды, каждый из которых требует своей специфической организации ментальной/
> вычислительной деятельности

> такое деление делается для оптимизации, экономии вычислительных ресурсов,

т.е. подразумеваете именно эту ситуацию сочетания общего императива и РЕАЛЬНОЙ постоянной ситуации балансирования противоречивых требований - 'один критерий' (идеал) типо чтобы не зависало в деструктивном конфликте субкритериев - и реальность поиска удовлетворения противоречивым требованиям.
как бы идеал обеспечивается (причем не гарантировано) реальными комромиссами. Не так, что можно выявить 'формулу гарантированного успеха', а что нужно поддерживать популяцию КАНДИДАТОВ в формулу успеха, механизм их генерации (эвристика, генетическая ассимиляция, индукция etc). Как бы императивная тенденция к выживаемости обеспечивается реальным коллективом динамических адаптивных компромиссов. Они изначально запустили процесс самоподдерживающейся эволюционной устойчивости и пока преуспели.

и получается, что 'агентивность' идет сразу по многим путям - агенты ПО-РАЗНОМУ производят разделение на функциональные домены - кто отращивает крылья, а кто второсигнальную систему. И внутри макростратегии также происходит диверсификация на субстратегии - кто отращивает контекстуализацию объектов, кто изолирующие исчисления объектов.. и никуда не уйти от того, что спектр возможностей для маневра максимизируется если сочетать экономию при специализации с избыточностью на поддержание неспециализированных (полипотентных) 'заповедников'.
[Ответ][Цитата]
 Стр.59 (112)1  ...  55  56  57  58  [59]  60  61  62  63  ...  112<< < Пред. | След. > >>