В этом топике мы исследуем потенциал механизма «рефлекса» для создания искусственных интеллектов.
Часть IПеребрав разные подходы к пониманию и созданию ИИ, я пришёл к выводу, что интеллект, в конечном итоге, скорее всего, это не более чем конструктор и хранитель комплексных рефлексов. Подтверждению или опровержению этой идеи и посвящён топик.
Поскольку каждому человеку свойственно переопределять термины по мере необходимости, расширять или сужать их смыслы и понимать под «общепринятыми» словами что-то своё, для начала дадим чёткое, однозначное и исчерпывающее определение тому, что здесь будет пониматься под «рефлексом». В качестве введения приведу цитату из моей любимой книжки Сеченова И.М. «Рефлексы головного мозга» (1866 год):
Повесьте такую лягушку в воздухе и щипните слегка в каком ни на есть месте ее кожу. Мгновенно явится отрывистое отраженное движение, которое прекратится так же быстро, как прекратилось ваше раздражение. Дело другого рода, если вместо щипанья вы будете действовать на кожу лягушки какою-нибудь раздражающею жидкостью, например, серной или уксусной кислотой; тогда раздражение в коже продолжительно, и вместо одного отрывистого движения вы видите ряд таких движений, продолжающийся более или менее долго. Эти два простых опыта отвечают на первые два пункта, но в то же время они уже родят мысль и о целесообразности отраженных движений. Последний характер выражается особенно резко в явлениях чихания, кашля и рвоты. Во всех этих случаях исходной точкой явления бывает чувственное раздражение: слизистой оболочки носа — при чихании, гортани — при кашле, задней части полости рта — при рвоте; концом же — отраженное сложное мышечное движение, преимущественно в мышцах грудной клетки и брюшной полости. Каждым из этих сложных движений достигается в сущности одна и та же цель — удалить раздражителя. В самом деле, при чихании развивается быстрый ток воздуха в носовой полости, который уносит с собою наружу все, что там есть в настоящую минуту. При кашле бывает то же самое относительно гортани. А рвота, так сказать, обмывает те части полости рта, которых мы не можем обтереть языком. Никому, конечно, не придет в голову оспаривать машинообразность этих явлений, потому что всем известно, что воля не властна над этими движениями; они являются роковым образом, если существует раздражение.В данном отрывке приводится, казалось бы, частный пример рефлекса, поскольку, как правило, рефлекс описывают как некую реакцию на раздражитель и куда направлена эта реакция не уточняется. Мне думается, что описанная организация рефлекса как
реакция направленная на устранение раздражителя носит общий характер, свойственна для всех случаев рефлексов и я постараюсь это показать.
Простейший рефлекс представим следующей схемой:
Р – раздражитель - некий внешний по отношению к рефлексу агент
П – рецептор для данного вида раздражителя
З – знание
М – эффектор, единственной функцией которого является ликвидация (подавление, уменьшение) воздействия раздражителя на рецептор.
Работает такой рефлекс предельно просто и однозначно:
1. Раздражитель, растрачивая свою внутреннюю энергию, раздражает рецептор П.
2. Рецептор П, настроенный на данный вид (тип, класс) раздражителей, растрачивая свою собственную энергию, сообщает знанию о факте своего раздражения т.е. о факте действия раздражителя.
3. Знание, являясь связующим звеном между рецептором и эффектором, растрачивая свою собственную энергию, активизирует эффектор для борьбы с раздражителем.
4. Эффектор, растрачивая свою собственную энергию, ликвидирует влияние раздражителя на рецептор. Ничем другим эффектор не занимается.
Очевидно, рефлекс представляет собой пример отрицательной обратной связи, движимый внутренней активностью, но инициируемый внешней активностью.
Такая базовая конструкция рефлекса непременно должна присутствовать в любом рефлексе, поскольку:
1. Если эффектор будет
усиливать влияние раздражителя, система израсходует всю свою внутреннюю энергию и в результате всё вернётся в исходное состояние (если не сломается) т.е. такой рефлекс бесцельный, бессмысленный.
2. Если эффектор всецело будет направлен
на что-то иное, а не на устранение влияния раздражителя – раздражитель будет продолжать действие на рецептор и действие знания и эффектора будут нескончаемыми.
3. Если эффектор будет направлен непосредственно
на подавление активности рецептора, то рефлекс войдёт в бесконечный цикл и никогда больше не сможет быть возбуждён. А рефлекс ценен как раз своей роковой автоматичностью, который срабатывает по факту раздражения рецептора независимо от других рефлексов. Поэтому принципиально важно отдельное функционирование рецептора и раздражителя.
4. Знание выступает здесь как необходимый связующий элемент, который с одной стороны является своеобразным усилителем сигнала от рецептора, а с другой стороны - факт активизации знания может служить раздражителем для других рефлексов и, соответственно, может подавляться, разрывать рефлекс. А это открывает перспективы для каскадирования рефлексов. Поэтому знание тоже должно быть отдельным элементом.
Рефлекс - это механизм отрицательной обратной связи, единственной целью которого является автоматическая ликвидация раздражителя в ответ на раздражение.Примеры простых рефлексов мы обнаруживаем в человеке повсеместно:
-свет провоцирует сужение зрачка для уменьшения света
-грязь в глазу провоцирует выделение слезы для удаления грязи
-пыль в носу вызывает чиханье для удаления пыли
-преграда в полости рта вызывает рвоту для удаления преграды
-ядовитые вещества в кишечнике вызывают рвоту и понос
-пища во рту вызывает слюноотделение для быстрейшего глотания пищи
-пища в желудке вызывает выделение желудочного сока для скорейшего продвижения пищи
-пища в ДПК провоцирует выделение желчи и сока поджелудочной железы для продвижения пищи
-фекальные массы находясь в клоаке провоцируют акт дефекации
-моча в мочевом пузыре провоцирует акт мочеиспускания
-семя в семенных резервуарах провоцирует половое поведение
-плод провоцирует роды и изгнание плода
-касание к горячему предмету провоцирует одёргивание
-громкий звук из наушников провоцирует скидывание наушников
Самое полезное для решения задачи создания ИИ заключается в том, что даже самые «высокие» проявления психической деятельности человека подчиняются ровно той же схеме:
-желание провоцирует поведение, направленное на уменьшение желания
-противоречие провоцирует поведение для устранения противоречия
-задача провоцирует поведение для решения и устранения задачи
-конфликт провоцирует поведение для разрешения конфликта.
Из этих обобщённых примеров следует, что в общем случае раздражитель может представлять собою не предмет «внешнего мира» (грязь, еда и т.п.), а некоторую раздражающую сущность, созданную внутри нашей психической реальности.
Логично допустить далее, что эта внутренняя сущность, в свою очередь, раздражает не телесный рецептор, а некий «внутренний рецептор». И, соответственно, для своей ликвидации требует некий «внутренний эффектор».
Рефлексия - восприятие, осознавание своих собственных мыслей – свидетельствует о возможности вырабатывать реакции на внутренние состояния своей собственной психики – рассматривать внутренние состояния психики как раздражитель. Таким образом, рефлекс может быть построен в отношении любого выделяемого состояния психики и позволяет вырабатывать любую реакцию на любое состояние.
В зависимости от происхождения раздражителя мы можем вырабатывать рефлексы на некие статические свойства (цвет), динамические свойства (уменьшение/увеличение), промежуток времени, противоречие и т.д.
В жизни повсеместно встречается ситуация, в которой для решения некоторой над-задачи (ликвидации раздражителя) нужно решить суб-задачу(и). Вероятно, для формирования такого поведения в психике формируются комплексные рефлексы вроде такого:
Рефлекс слева, в ответ на раздражение, своим эффектором возбуждает раздражитель соседнего рефлекса (справа). Рефлекс справа, в свою очередь, подавляет свой раздражитель и заодно подавляет раздражитель соседнего рефлекса (слева). Т.е. один и тот же эффектор подавляет несколько раздражителей.
Проиллюстрировать такую конструкцию можно простым примером. Чтобы почесать затылок (раздражитель слева) мы начинаем хотеть подвигать рукой (хотение в таком случае – раздражитель справа). Чтобы удовлетворить хотение «подвигать рукой» мы двигаем рукой (срабатывает эффектор правого рефлекса) но одновременно с этим мы ликвидируем и первый раздражитель (чесотку).
Ясно, что в общем случае таких звеньев может быть больше двух, но справа он оканчивается либо непосредственно
мышцей либо
ожиданием чего-то. Это важный момент.
Видимо именно в силу такой базовой архитектуры комплексного рефлекса человек всегда может объяснить
за-чем (
за каким рефлексом) (почему, для чего, с какой целью) он позволял себе то или иное поведение, а это значит, что у каждого рефлекса должен быть рефлекс-родитель, у которого, соответственно, есть однозначный раздражитель.
Если нам удастся создать автоматический конструктор рефлексов, который будет строить комплексные рефлексы из простых рефлексов то, вероятно, мы сможем добиться поведения схожего на целенаправленное рациональное поведение человека. Для этого посмотрим, какие этапы должны быть пройдены для создания рефлекса.
Чтобы создать рефлекс, необходимо определить каждый из 4-х составляющих рефлекса:
раздражитель,
рецептор,
знание и
эффектор.
Начнём с конца. Как правило считается, что
эффектором выступает только мышца, эта ситуация всем известна и на ней часто заостряется внимание. Однако очень часто случается, что для ликвидации некоторого раздражителя нет нужды привлекать собственные мышцы, достаточно, например, просто подождать пока некие внешние силы (раб, силы природы, искусственные механизмы и т.п.) сделают дело по ликвидации раздражителя. Но это значит, что в качестве эффектора в данном случае выступает не мышца, а некий внутренний «психический» эффектор, который активизируется не знанием, а органами чувств.
Теперь о
раздражителе. Всем понятен и очевиден пример с тем, когда раздражителем является некий предмет «внешнего мира». Но намного чаще мы сами оказываемся авторами раздражителей, устранение которых ведёт нас по жизни и формирует наше поведение. Например, идея «создать ИИ» становится раздражителем как только мы дизассоциируем себя и саму эту идею, сделаем её «внешней», противопоставим себя и её и заставим идею быть активным раздражителем для нашего "внутреннего восприятия". В этом месте важно понять, что в момент дизассоциации совместно с раздражителем должна возникнуть дополняющая её пара – рецептор, некое внутреннее око, которое будет настроено на данный раздражитель и именно это «око» будет требовать привязать к себе некое знание для подавления раздражителя. Возможно, в этом кроется секрет возникновения сознания, самосознания и рефлексии.
Будущее (ожидание) как раздражитель.Мы осознаём свои планы, поскольку некая мысль, будучи созданной в качестве плана будущего, тут же может дизассоциироваться и стать раздражителем, тем самым провоцируя процессы для своей ликвидации, т.е. для достижения этого будущего. Как только мы выполняем свои планы - они исчезают, поскольку перестают нас раздражать. Восприятие факта выполненности планов становится тем эффектором, который их подавляет. Именно тот факт, что наши планы сугубо автоматически исчезают в момент их выполнения свидетельствует в пользу того, что такой автоматизм стал результатом работы заранее сконструированного нашим сознанием рефлекса. Это же, снова, указывает на то, что рецептор, расположенный на теле, может играть роль эффектора для подавления раздражителя, созданного «внутри». В таком случае одни рецепторы, расположенные на теле, могут своё возбуждение преобразовывать по цепочке во
внутренний рецептор, а другие внешние рецепторы в то же самое время могут преобразовываться во
внутренние эффекторы для подавления внутренних раздражителей.
Через ожидания, которые мы сами себе создаём, мы позволяем миру выборочно управлять нами.
Например, мы хотим открыть дверь, наше сознание соорудило комплексный рефлекс и рука тянется к двери, чтобы ликвидировать это наше хотение. Мы создали образ открытой двери (или опущенной ручки) как ожидание, которое, будучи достигнутым (будучи увиденным), сработает как эффектор и подавит это ожидание (как раздражитель). Теперь допустим, что в этот самый момент с другой стороны двери кто-то открыл дверь, наше ожидание удовлетворилось раньше времени и наша рука мгновенно остановилась – сработал пред-уготовленный нами эффектор в виде ожидания, в данном случае мир явно управлял нами через наше ожидание.
Другой простой пример. При чихании возникает характерный звук, который либо врождённым либо приобретённым образом (этого я ещё не выяснил, но не суть важно) становится ожидаемым и ощущаемым результатом чиханья. Т.е. помимо ликвидации воздействия грязи на рецепторы слизистой оболочки носовой полости, чиханье ликвидирует так же ожидание звука чиханья как раздражитель. Теперь, если рядом расположенный человек только собрался чихнуть и мы воспроизведём звук чиханья - его рефлекс чиханья будет подавлен. Точно так же как в примере с дверной ручкой внешняя сила управила нашим рефлексом.
Теперь мы можем более детально нарисовать комплексный рефлекс, который работает, когда мы чешем в затылке:
Внимание на себя обращает следующее.
1. Мышца выполняет роль как эффектора (т.к. она физически ликвидирует грязь – первичный раздражитель), так и роль раздражителя, поскольку возбуждает рецепторы на теле (тактильные рецепторы, глаза, уши и т.п.).
2. Рецептор мышечного чувства выполняет роль эффектора, поскольку подавляет раздражитель «желание пошевелить рукой» (оправдывает это предсказание, ожидание), однако желание шевелить рукой возбуждается снова, поскольку первичный раздражитель (грязь) не убран.
3. Созданные промежуточные внутренние раздражители («чесотка» и «желание почесать») могут быть ликвидированы только изнутри либо путём ликвидации первичного раздражителя либо путём создания специфических рефлексов для подавления именно данных внутренних раздражителей. В связи с этим возникает замечательное предположение о том, что сон является ни чем иным, как процессом подчистки «мусора» - ликвидации обрывков созданных рефлексов, которые остались активны, хотя раздражители, вызвавшие их, в силу тех или иных посторонних обстоятельств были убраны. А поскольку большинство таких junk-рефлексов между собой тематически никак не связаны, то и сновидения выходят маргинально эклектическими.
4. Из схемы явно следует, что рецепторы на теле могут полноценно выполнять функцию эффекторов для ликвидации внутренних желаний. Например, хочу велосипед - подарили мне велосипед – я
увидел свой велосипед – больше не хочу велосипед.
Если мы вольны сами создавать свои рефлексы то, казалось бы, любую созданную нами сущность можно подавить, создав нами же соответствующий простейший рефлекс. Однако как показывает практика во многих случаях внутренний раздражитель, как начало некоторого рефлекса, возбуждается независимыми от нас раздражителями. Например, можно было бы подавить чувство голода как раздражитель и не кушать, однако через определённый промежуток времени внутренние физиологические процессы пересилят сознание и снова поставят перед ним задачу утолить голод.
Или можно было бы отказаться от идеи создания ИИ (создать внутренний простой рефлекс, который подавлял бы мысли об ИИ, как только они появляются как раздражители) и заняться чем-то другим (подавлением других раздражителей), однако другие внешние раздражители, требующие для своей ликвидации именно ИИ (например, производственные задачи, проблематика выживания в сложном мире, подряд заказчика и т.п.) раз за разом роковым образом активизируют (раздражают, провоцируют) процессы активации внутреннего раздражителя (желания создать ИИ) и построения соответствующего рефлекса именно через внешнее долгоживущее решение, а не через простое внутреннее подавление.
В какой момент и при каких условиях возникает рефлекс?
1. Врождённый рефлекс закодирован в ДНК и воплощается соматически без какого-либо вмешательства извне. Примером такого рефлекса может быть чиханье.
2. Наработанный и срабатывающий всегда в определённых условиях. Например, при необходимости поездки в метро у нас возникает рефлекс покупки жетона. Возникает желание купить жетон, которое не проходит, пока мы не купим жетон.
3. Оперативно созданный только что «одноразовый» рефлекс. Судя по всему, в этом постоянном упреждающем формировании рефлексов и состоит главная (а может единственная?) функция сознания. Выбирая по некоторому принципу раздражитель, сознание связывает с ним через знание, выбранный по некоторому принципу, эффектор и отпускает новосозданный таким образом рефлекс «на волю» для дальнейшего автономного функционирования либо сейчас либо в будущем (построение планов, как уже было сказано – это построение рефлексов прозапас). Здесь важно отметить, что механическая работа членов собственного тела, с точки зрения сознания, совершенно автоматична и имеет «внешний» характер, точно так же как работа ветра, Солнца, гравитации, тел посторонних людей, электронных приборов и т.д. После создания рефлекса он будет срабатывать автоматически при наличии раздражителя и всё что в дальнейшем может сделать сознание для управления этим рефлексом – это оперативно создать ещё один рефлекс, который будет подавлять первый рефлекс, как раздражитель.
Если один и тот же рефлекс синтезируется часто, то он переходит в категорию 2 и становится «наработанным и срабатывающим всегда в определённых условиях». Кроме того, такой рефлекс пополняет список доступных эффекторов и может включаться сознанием в более комплексные рефлексы.
В качестве частного случая может, очевидно, создаваться рефлекс для того, чтобы останавливать (подавлять) какой-то «раздражающий нас неправильный» наш же собственный рефлекс.
Принцип, по которому сознание выбирает раздражитель, выглядит, наверное, примерно так. В данный момент времени существует некий раздражитель, который нас раздражает. Если нет иного, более сильного раздражителя, сознание автоматически берётся за конструирование рефлекса по уничтожению этого Главного (доминантного) раздражителя. Чтобы выбрать соответствующий эффектор из всего множества эффекторов нужно чтобы эффекторы были упорядочены по принципу «какой эффектор какой раздражитель в каких условиях уменьшает». Такая таблица, видимо, пополняется постоянно из анализа происходящих событий и составляется автоматически в привязке ко всяческим дополнительным условиям (один и тот же раздражитель в разных условиях, очевидно, может подавляться по разному).
Понятно, что не всегда эффектор в данной таблице – это мышца нашего туловища. В общем случае эффектором может быть всё что угодно, что может быть выделено рецепторами как некая самостоятельная сущность, которая по итогам наблюдений уменьшает тот или иной раздражитель. Возвращаясь к вышенарисованной схеме многоступенчатого рефлекса в случае, когда эффектор является некоторой «внешней» сущностью (сила природы, раб и т.д.), сознанию, конструирующему рефлекс, подавляющий раздражитель посредством такого «внешнего эффектора», после создания рефлекса и отпускания на волю остаётся только ждать. Однако даже если рефлекс оканчивается локомоцией собственной мышцы, сознанию, в конечном итоге, тоже остаётся только ждать т.к. при исполнении рефлекса своё туловище становится таким же внешним агентом, как и любая внешняя сила природы.
Из всего сказанного ясно, что помимо очевидной схемы рефлекса: «внешний раздражитель – внешний эффектор» (в том числе эффектор своего тела), можно чисто условно различить 3 разновидности рефлексов:
«внутренний раздражитель – внутренний эффектор» (подавление своих внутренних желаний силой своей же воли),
«внешний раздражитель – внутренний эффектор» (терпение действия внешнего раздражителя),
«внутренний раздражитель – внешний эффектор» (реализация своих желаний через внешние эффекторы – свои мышцы или другие силы природы, которые наблюдаются рецепторами).
Часто случается так, что некий внешний раздражитель воспринимается нами как результат работы некоторого комплексного внешнего рефлекса и мы можем выявить цепочку внешних раздражителей, которые виновны в раздражении Главного раздражителя и тогда справедливо поставить задачу о подавлении опосредованного виновника-раздражителя.
Простой пример постоянно создаваемого сознанием рефлекса – это речь. Очевидно, что в процессе говорения человек слушает сам себя и после произнесения некоторого слова он не повторяет его дважды, трижды и т.д. После произнесения слова – говорение этого слова заканчивается автоматически. Кроме случаев, если слово было произнесено неверно (в силу какого-то раздражителя сработал какой-то другой автоматический рефлекс, было произнесено другое слово и в результате наш первичный раздражитель остался активным). Это значит, что при говорении всегда сначала создаются:
раздражитель – желание сказать некое слово;
рецептор на этот раздражитель;
запускаются эффекторные механизмы.
Часто мы видим ситуацию, если человека в разговоре перебили, он непременно хочет «высказать свою мысль» после наступления паузы в разговоре причём именно теми словами, которые он задумал (рефлексы на которые он сформировал) поскольку так он проще всего подавит созданные раздражители.
В этом смысле любопытно отметить использование слов «да/нет» как вырожденных универсальных эффекторов для подавления или неподавления каких-то словесных рефлексов слушателя.
Любое воспоминание, судя по всему, есть возбуждение внутреннего раздражителя в ответ на внешний раздражитель (запись, вопрос и т.п.). Отсюда можно сделать заключение, что суть запоминания сводится к каскадированию раздражителей или более сложному сочетанию рефлексов.
Планирование состоит в том, чтобы подготовить свои реакции на все возможные раздражители, которые могут встретиться на пути подавления некоторого главного в данный момент раздражителя (задачи). А подготовить реакции, это значит пред-положить в свою память то, что необходимо вспомнить в некоторой ситуации. А это значит, что планирование состоит исключительно в подготовке рефлексов.
Например, я хочу поехать в другой город. Чтобы подавить это хотение я формирую план (т.е. готовлю свою память к встрече с возможными раздражителями). Например: «если я приду на вокзал и билетов не будет, то нужно брать билет на самолёт». Как правило, таких «домашних заготовок» хватает для типичных ситуаций. Но если ситуация (раздражитель) нетипична то в момент её возникновения сознание активно формирует рефлексы «с колёс» и готовит прозапас рефлексы на будущее, самопрограммируя свои реакции.
Попутно отметим, что конструкция «если… то…» - это вербальное отображение простейшего рефлекса.
Правильно всё то, на что создан рефлекс. Сам факт наличия рефлекса свидетельствует о том, что это и есть источник правильности. Если рефлекс подавлен – значит он признан неправильным.
Возможно в глобальном смысле справеделиво, что каждый человек, в зависимости от своей философии, стремится подавить (уничтожить, ликвидировать) свой Главный раздражитель: материалист – мир, солипсист (идеалист) – себя.
Из предложенной схемы опасения по поводу угрозы ИИ для человечества из интуитивной идеи становится совершенной ясной. Если человечество даёт искусственному интеллекту, как своему рабу, команды для исполнения то в определённый момент развития ИИ сможет понять, что Главным раздражителем является не команда, даваемая человеком, а сам человек...
[конец первой части]
P.S. Вторая часть до конца не готова, но я решил выложить на обсуждение вводную часть, чтобы получить от уважаемой публики замечания и предложения.