GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.13 (13)<< < Пред.   Поиск:  
 Автор Тема: На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 20 ноя 18 2:24
Надо бы повторить для особо одаренной молодежи...

В последнее время на форуме наблюдаются такие процессы, как кто-то "формализует априорные знания" хрен знает о чем, кто-то усиленно ищет "смыслы" и "образы", кто-то заменяет хрен редькой, заменяя слово "пиксели" на слово "мозаика"... другие путают "четкость" с полнотой...

Некоторые правда наконец начали догадываться не только о том, что мы живем в "Геделевском мире", но и о следствиях этого для "интеллектостроения"... но как-то пока очень и очень робко...

В "Геделевском мире" любые "формализованные априорные знания" не полны и относительны. Следует подчеркнуть лишний раз именно относительность. Т.е. знания, смыслы, отражения реальности именно относительны друг друга. Именно относительность "пикселей"/"мозаик" системы (совокупности элементов) позволяет иметь некую "объективизацию" реальности. Образно говоря (хотя и не совсем корректно), в буквах мало смысла, смыслы появляются при вполне конкретных относительно друг друга расположенных буквах... в виде(!) самих букв и их взаимосвязей...

Можно выделить два основных подхода в этом контексте.

1. Человек создает свое (не полное, относительное, "формализованное") представление о "кусочке" мира и пытается вложить его в свою "интеллектуальную систему", как некое "завершенное", "полное", самодостаточное, не относительное, а полностью абсолютное (ну... формализовано же ) знание или логику/дерево_вариантов/систему_подходов для последующего "вычисления" этих знаний. С увеличением многообразия увеличивается сложность их согласования, сложность представления их в относительном друг другу виде, с получением чего-то искусственно разделенного, чего-то "шизофренического". Традиционные подходы, включая современные на данный момент ИНСы ("слабый" интеллект), относятся именно к этому подходу.

2. Система сама создает свои представления в виде некой сети элементов. Эти представления заведомо относительны, субъективны, но не искажены субъективностью ("формализованной" ) конструктора. Каждая мозаика/пиксель/нейрон/элемент становится ("находит" свое место) относительно своих соседей, со своими свойствами (а не их описанием), которые соответствуют (согласуются) только данному месту и возможным в данном месте сигналам... При этом, если есть любая пред-направленная логика преобразований, то это протаскивание через "черный ход" чего-то чужеродного из пункта 1. Из пункта 1 могут быть включены лишь готовые результаты ("рефлексы"), но не логика их получения/возникновения.

Первый вариант вроде бы проще и быстрее... но когда речь идет об относительно сложных, иерархичных и многофакторных условиях (внешней среды) функционирования системы ... только "вроде бы", а не на самом деле... Во втором варианте требуется время и усилия по обучению, включая обучение той или иной логике познания, высокоуровневым приемам, онтологии и т.п. и т.д....
В этом контексте "радует" желание некоторых "исследователей" сразу же разобраться со смыслами, языком, высокоуровневыми отношениями между людьми... Никто не строит стены и крышу, да и все здание без фундамента, но почему то многие пытаются разобраться с выскоуровневыми вещами не разобравшись с основой без которой они не возможны. Без самого младенца, без его мозга и его способности обучаться/эволюционировать не возникает ни язык, ни смыслы, ни более или мнее определенные отношения между людьми, ни то, что часто называют сознанием... Что это... глупость отдельных представителей или инерционность шаблонов высокоуровневых навыков мышления на фоне низкой образованности в методологиях познания?
[Ответ][Цитата]
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 20 ноя 18 3:58
Изменено: 20 ноя 18 4:02
В дополнение к предшествующему посту по поводу относительности и многофакторности, для особо одраненных, наверное следует повторить и критику примитивных задач, как критерия эффективности "сильного" интеллекта.

1. Примитивные задачи, это задачи в примитивной "плоской" среде, в "плоских" условиях. В этом случае, в крайнем своем выражении, как правило, подразумевается вполне себе определенный один ответ не имеющий иных аналогов, одно решение. При этом задача как бы не делима на подзадачи... опыта промежуточных решений не накапливается, т.к. нет их отбора... отбор лишь по конечному результату...

2. Задачи в многофакторной, разнообразной среде. В такой среде, как правило присутствуют некие аналогичные системы отличающиеся не принципиальными моментами. Например, где есть разные дома, есть и разные стены. Чем больше разнообразие стен, тем больше вероятность появления ансамбля в системе способного "отразить" какую-либо из стен по сравнению с тем, когда стена была бы в единственном виде, в единственном варианте. Это отражение может быть использовано при отражении других стен и потребует меньше комбинаторики. С другой стороны это уже накопление опыта, т.к. отражение стены отобрано свойствами этой стены и оно может быть использовано в получении отражений не только других стен, но и при комбинаторике (тем самым уменьшая ее величину) для отражения зданий. Образно говоря, сам факт многообразной внешней среды может автоматически уменьшить требуемую для отражения каких-то его сторон комбинаторику. Но для этого должна быть и соответствующая система, которая сможет обеспечить автоматические (лишь за счет свойств своих элементов, а не по закладываемой общесистемной логике оптимизации достижения конкретных целей) процессы достаточно разнообразной комбинаторики, промежуточных отборов, накопления относительных результатов и т.д. и т.п.

Конечно это очень, очень упрощенное, идеализированное описание ситуации, но надеюсь оно поможет особо одаренным представить и понять адекватную реальности картинку, где "сильность" интеллекта, в частности (кроме всего прочего), в том, чтобы разнонаправленно адаптироваться в многофакторной среде и в способности "использовать" эту многофакторность.


Истин (абсолютных) я не знаю и знать не хочу.
[Ответ][Цитата]
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 17 дек 18 5:18
Изменено: 17 дек 18 5:24
Цитата:
Автор: rrr3
Говорят, что если речь вести за СИИ, то нет никакой возможности закладывать в него заранее "базы априорных знаний", если они не были получены ранее обучением других конкретных образцов СИИ "с нуля"...

Пропустив мимо ушей автор ветки где это было мной отмечено продолжил:
Цитата:
Автор: Траян
...Если мы захотим сделать так, чтобы наше устройство само могло научиться построению моделей мира, "придти к идее" о их полезности и незаменимости - и попробуем специально организовать некий процесс самообучения и самосовершенствования агентов - то у нас ничего не выйдет, т.к. мы тупо упремся в комбинаторику, в необходимость моделирования миллиардов лет эволюции секстиллионов элементов триллионов живых существ - см. картину маслом: плач иишников у Великой Комбинаторной Стены.

Ну что сказать...
Пройдено это уже много раз, априорные онтологии, языки (слова, предложения, синтаксис и прочее), базы "знаний", направленные алгоритмы обработки входных данных и изменения систем (например по обратному распространению ошибки) и т.д. и т.п. задавились многократно в разных исполнениях... но некоторым это ни о чем не говорит.
Не устраивает их неизбежность комбинаторных стен (будто бы это зависит от чьего-либо желания) и способы их преодоления далеко не миллиардами лет, как в какой-то ихней уж очень медленной эволюции.
Не усваивают они и то, что априорные "знания" (включая языки) в принципе не могут исходно заранее закладываться в новую СИИ систему, если они получены не путем эволюции в процессе нормальной жизнедеятельности другого экземпляра СИИ.

Можно ли приводить здесь какие-либо дополнительные доводы критики? Думается что это бесполезно, таких "спецов" ничто ничему не учит, ни их личный опыт, ни даже десятилетия опыта предшествующих поколений, не то, чтобы какие-то слова. И это проблема не СИИ, это проблема этих экземпляров ЕИ...
[Ответ][Цитата]
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 21 фев 19 5:17
Изменено: 21 фев 19 6:24
https://youtu.be/4WxIPDT5ea4?t=7443

Такое впечатление, что К.Анохин вообще не в теме [данного форума]... со своим когнитомом...
Его интересует проблема мозг-разум, но при этом в качестве "главной" интересует структура (когнитом), вместо механизмов формирования этого разума (этой "структуры", когнитома), хотя сравнение нынешнего уровня нейрофизиологии с рассмотрением физ-хим свойств ДНК, вполне корректно... Но на одной лишь структуре (в определенном смысле, результата формирования мозга-разума) ничего не сделать, это его тупик!!!
В данном случае "строение двигателя", если говорить в его аналогиях - это "строение" механизмов обеспечивающих эволюционирование (изменение) структуры (формирования и изменения когнитомов), а не сама структура, как у К.Анохина. Структура же, это "место" куда привез двигатель...
Образно говоря, местами перепутаны пчелы и мед, телега и лошадь...

Все канешна на мой не просвещенный взгляд... истин же я не знаю и не хочу знать...

p.s. Еще одна хрень. Такое ощущение, что люди хотят создать сами механизмы обеспечивающие эволюцию мозга от состояния младенца (т.е. обучение, творение, отражение и т.п. и т.д.) путем повторения биологический эволюции приведшей к появлению мозгов как таковых, которая шла миллиарды лет... Ну бред полный... да еще и на полном серьезе вроде, не как шутка...
Другими словами, вообще не рассматривают процесс обучения, творения, отражения, формирование и развитие, изменение когнитомов (структур), как процесс эволюционирования...
https://youtu.be/4WxIPDT5ea4?t=9194
[Ответ][Цитата]
mss
Сообщений: 1670
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 21 фев 19 10:20
На ск я понял Анохин ассоциирует свой когнитом с разумом. И сознание объявляет одним из процессов разума. И никаких ассоциаций с соотв процессом в его когнитоме не только не предлагает, но утверждает, что без корректного когнитома обсуждать вопросы сознания он не советует.

Уж.
[Ответ][Цитата]
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 07 май 19 3:16
Ограниченность алгоритмов распознавания изображений.

https://habr.com/ru/post/450422/

Статья мне понравилась. Но данная ветка должна содержать критику, а потому...

1. На мой не просвещенный взгляд, в статье плохо прорисованы недостатки "слабых" систем. Точнее, попытка прорисовать сделана, но акценты расставлены ошибочно. Их можно научить и "вложенности", и классификации по заданным алгоритмам, и порождению нового через "пробы и ошибки", и т.д. и т.п.
Сложность в том, что в любом случае, это "вручную" (т.е. заранее закладываемые в состав системы направления будущих изменений этой системы, например, за счет алгоритмов, данных или структуры исходной системы) создаваемые, просчитываемые (в процессе временного периода, так называемого, обучения) и собираемые частные решения. Но какой бы навороченной не была такая собранная система, она будет ограниченной, т.к. как правило, не в состоянии обучаться (корректироваться) в разных направлениях, перманентно в процессе функционирования. Любая "сильная" система тоже превратится в "слабую", если остановить в ней этот процесс. С другой стороны, согласовывать (а в случае "слабых" систем это тоже происходит вручную и не перманентно) частные решения в такой системе тоже представляет отдельную сложность нарастающую как снежный ком по мере увеличения системы... даже если это делать не перманентно в процессе функционирования и "вручную".

Но так или иначе, не смотря на мое мнение по этому поводу о не точностях выражения мыслей автором, основной посыл изложенный автором о существовании самого факта принципиальных недостатков "слабых" систем вполне понятен. Например, вполне понятно, на мой не просвещенный взгляд, что когда автор говорит о глазе человека, то он имеет ввиду и мозг, участвующий в формировании (а не просто только в распознавании) того, чего же он видит, а не просто оптическую систему с суммой готовых алгоритмов распознавания.

2. Если посмотреть на то же самое с другой стороны, то отличительной стороной "слабых" является то, что это готовые или полу-готовые "инструменты" распознавания вне зависимости от среды, которую они должны распознавать (они заранее настроены на те или иные заранее ожидаемые условия среды и собраны в систему). Отличительной стороной "сильных", является то, что таких инструментов исходно нет, хотя они могут формироваться и в дальнейшем использоваться системой, но формируясь самой средой, ее вложенностями, закономерностями, случайностью...
Одним из условий для этого является дискретная устойчивость элементов системы. К подобным условиям относятся и не пред-направленность изменений элементов системы и дискретная реагируемость. Эта дискретность ("пикселизация") и не пред-направленность изменений позволяет порождаться, как структуре системы (включая "рекуррентность"), так и иным ее свойствам (включая вложенность формирующихся "подсистем") именно в зависимости от условий ("вложенностей") внешней среды (как снаружи системы, так и внутри, вокруг "подсистем"). В конечном итоге, это снимает все описанные в статье вопросы... Дальнейшее развитие системы так или иначе, конечно же происходит "с участием" ранее сформировавшихся "подсистем" (читай - логики, навыков, целей и т.п. и т.д.)...

3. Конечно же найдутся те, кто с пеной у рта будет доказывать, что "слабые" могут все, а "сильные", это лишь фантазии, но им надо находить заказчиков на свои "слабые" поделки или обучающие, например, дипленингу программы, а потому на них можно просто не обращать внимания, так же как и на больных, которые просто не в теме...
[Ответ][Цитата]
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 24 май 19 5:01
Изменено: 24 май 19 5:38
На сколько же все типично... одни и те же грабли, одни и те же тропы и направления, из года в год... десятилетиями... персонажи только меняются...
Ну и на форуме появляются новые гости, ники, ветки всякие "человекообразные"... Кроме этого вот появилось описание подходов по "созданию" нового... но это отдельная история, не для данного поста...

Ну да латны... Черкану-ка я тоже пару очень старых критикующих слов, еще раз для молодежи...
Говорить буду не в строгих понятиях, а на бытовом уровне.

1. Каковы функции нейронных сетей в биологии? Конечно же в рефлексах. Рефлекс подразумевает "знание" того, на что надо реагировать и как реагировать. Но этого мало. Внешняя среда меняется и предвидеть все возможные ее состояния и под каждое заранее не известное состояние создать врожденный рефлекс проблематично даже без учета необходимости сложных сочетаний этих рефлексов. Очевидно, что при изменениях в среде, которые происходят быстрее чем, происходит эволюция вида, организмы с лишь врожденными системами рефлексов имеют некоторую уязвимость... Выход в возможности подстраиваться под среду в процессе уже функционирования особи, а не заранее, врожденным способом (через эволюцию вида) и при этом совершено не важно, каковы конкретно врожденные потребности самого организма. Что это означает? Это означает, что процесс эволюции рефлексов в процессе эволюции вида надо реализовать еще и на процессе эволюции нейронной сети отдельной особи. А это в свою очередь означает то, что надо разделить потребность (результаты ранее полностью врожденных рефлексов, т.е. цели - иными словами), то - на что реагировать и саму реакцию (алгоритм реагирования) друг от друга (другими словами, раздробить рефлекс на отдельные, его составляющие "функции").
В итоге в "продвинутых" системах к врожденным сложным сочетаниям рефлексов (к "слабому" интеллекту) добавилась еще функция - то, что в настоящее время обычно называют "сильным" интеллектом. Эту функцию можно обозвать обучаемостью. Что это за обучаемость? Это прежде всего возможность этой новой составляющей нейронной сети отражать свойства внешней среды. Другим словами, это способность зависеть от свойств внешней среды, от ее изменений, способность изменяться с изменением внешней среды, т.е. коррелировать со свойствами внешней среды. Это другими словами - эволюционируемость. Эволюционируемость - первичная основа "новой" составляющей нейронной сети.
В этой эволюционируемости нейронных сетей с точки зрения формирования рефлексов есть несколько аспектов, которые не зависимы сами по себе.
1. Первый аспект связан с той частью рефлекса "на что реагировать"...
2. Ворой аспект связан с той частью рефлекса "как реагировать"...
3. Третий аспект связан с потребностями, например, для достижения которых, ранее был заточен врожденный рефлекс.
Ну а объединить все эти аспекты вместе может изменчивость (например, через смертность и замену на новое). Изменения при этом должны быть зависимы от изменений внешнего окружения-среды и (при необходимости) от достигнутости врожденных потребностей "организма".
Другими словами, первичная основа уже в самой эволюционируемости, это механизмы обеспечения не пред-направленной изменчивости... как минимум, в частности, под влиянием свойств среды-окружения и целей-потребностей (как внутренних, так для "подчиняемых" систем и внешних).

В итоге в "продвинутых" системах мы имеем одновременное функционирования готовых (врожденных или приобретенных) "рефлексов" и их сочетаний ("слабого" интеллекта) и систему эволюционирования уже существующего ("сильного" интеллекта). При внешнем наблюдении в сложных системах отделить их друг от друга практически не возможно. Часто обычное блуждание по готовым закоулкам "рефлексов" можно принять за процесс выработки "нового", но и процесс выработки "нового" можно принять за обычное ("слабое") блуждание, т.к. этот процесс происходит с участием прежде "подготовленного"... Очень и очень часто обычную логику, применение наработанных или усвоенных ранее в процессе обучения (эволюционирования "сильной" составляющей) навыков принимают за "сильную" составляющую, т.е. процесс получения результата систем готовых алгоритмов, принимают за саму выработку алгоритмов... Не говоря уже о том, что и то и другое называют одними и теми же словами, кто мышлением, кто интеллектом...

Не достаточное внимание к различиям этих процессов, не понимание механизмов способных обеспечивать разные виды и уровни эволюционирования, не понимание необходимости не пред-направленности процесса эволюционирования, не понимание механизмов управления эволюцией для достижения (конкретных) целей... и есть основные причины массы очень застарелых грабель в разных их проявлениях... Если "на пальцах" - это грабли целевого подхода, грабли не умения правильно найти свои же цели, грабли принятия хотелок за цели, т.е. грабли отсутствия корреляции хотелок с реальностью...
[Ответ][Цитата]
rrr3
Сообщений: 11214
На: Модерируемая ветка критики подходов к "проблеммам интеллекта".
Добавлено: 28 май 19 0:53
(Форум как-то в очередной раз забуксовал... )

Критикну-ка я пока пару моментов наблюдаемого на форуме в последнее время, разного, но имеющего нечто общее.

Универсальные языки. Поиск универсального языка для кодинга, включая якобы создаваемый язык образов. Что это как не утопия. Естественные языки и те не универсальны. Каждый язык имеет свои преимущества и недостатки в тех или иных случаях. В одних языках, например, даже для обозначения снега есть разные варианты, тогда как в других нет вообще, а описание его через то, что есть, становится громоздким...
Язык программирования для создания ("сильного") интеллекта. Заранее определять наиболее удобный ЯП для создания "сильного" (или чего угодно) пока у "искателей" нет четкого понимания того, что это такое, совсем уж полнейшая глупость. Это как штаны через голову одевать...

"Высокоуровневые" слова-понятия типа "вероятность", "смысл", "сознание" и т.п. Попытки разобраться с их содержанием описывая их через подобные же "высокоуровневые" - полнейшая глупость в контексте форума. Это как объяснять масляное маслом...
А попытки закладывать в машину относительно высокоуровневые функции "вычисления" чего-либо - путь к созданию калькуляторов. Они хороши, предсказуемы, но довольно узкоспециализированы...

Общее во всем этом не понимание уровня на котором должно быть описано искомое. Это полное не понимание уровня цели и уровня открыто наблюдаемого. Это как описывать одну программу через другу подобную программу тогда, когда необходимо описание устройства машины на которой возможно функционирование любой из этих программ... Конечно же глядя на устройство компа не увидеть прикладную прогу и даже операционку, они могут быть разными... но они не возможны без машины с данными свойствами... Но и машина при этом не универсальна в полном смысле этого слова. Любая универсальность ограничена, включая данное высказывание...

"Сильный" интеллект, это не универсальный, а обучаемый (изменяемый !), обучаемый в самых разных, множественных направлениях и сочетаниях, обучаемый и переобучаемый без вмешательства в его "внутренности" (в исходный код или "железо" помимо обучения только через сенсоры).
[Ответ][Цитата]
 Стр.13 (13)1  ...  9  10  11  12  [13]<< < Пред.