А.> большинство людей беспробудно тупы.
это как смотреть. Если смотреть как не очень развитый миха и всех ровнять по себе, то может быть действительно так ему кажется.
А можно понимать что человек большинства себе на уме, своего не упустит, достаточно сметлив в своем обиходе, ему глубоко фиолетово что говорят в телевизоре, хотя он подвержен влиянию 'моды', но само по себе это еще не 'тупость', он общителен и активно предпочитает социальные среды где ему более-менее комфортно, он крепок задним умом, если он не включает 'соображалку', То потому, что за него работает 'система', которая так или иначе входит в его 'бортовое оснащение' и его ум как бы в среднем не ниже ума коллективного (а социальный, экономический, культурный организмы хотя и не 'умны' как вам того может быть хотелось бы (открытие делает не общество, а отдельный человек), но вовсе не 'тупы').
как бы то ни было, самый средний ум ситуационен, достаточно гибок, многопланов и не сводится к рефлексам. В конце концов он (его акты) даже не всегда целесообразен. Даже конкретные рефлексы могут быть нецелесообразными (реликтовыми), типа хватательного рефлекса (не цепляемся за шерсть мамы), рефлекса гусиной кожи (безволосы), коленного и проч. И с целесообразностью многих условных (окказиональных) рефлексов можно спорить.
Есть как бы помимо реликтовых рефлексов и динамические оперативные образования (находящиеся с целесообразностью в более свободных отношениях чем рефлекс по сеченову), организующие поведение, которые еще не рефлексы (или не станут рефлексами). Они как бы контролируют не целесообразность в себе, а общую целесообразность поведенческого акта (сознание как обобщенный ориентировочный рефлекс (который вовсе не рефлекс реализационно)). Cознательное членство в обществе это не совсем только социальные инстинкты (источник власти не только сила, но и конвенциональный закон, 'общественный договор'). это оттеняется, когда в закрытых сообществах именно зоология может доминировать.
> чтобы воспроизвести искусственное рациональное поведение как явление.
во1х, рациональное не просто только как правилосообразное (жестко нормативное) или целесообразное, но смысло-сообразное, когда система может рассуждать о своих правилах действия, целях, задачах, планах, критериях оценки, 'уровнях притязания', основаниях своих убеждений-полаганий, о реакциях на свои действия, моделировать других 'смысло-сообразных' агентов в терминах их желаний, установок, ожиданий, эпистемических критериев etc, На основе чего согласовывать действия, убеждения, планы etc.
и во2х, - воспроизвести на адекватной основе - на основе среды самоорганизации функциональных систем, комплексов систем, рефлексоподобных явлений.
> Я хочу чтобы мой ИИ был маньяком и параноической личностью
думается, что такой автономный агент (как искусственная личность) будет просто не допущен до социальной интеграции, его 'жизненное пространство' будет жестко ограничено (технически и законодательно).
мне лично кажется, что АС-агент должен быть именно что 'мягким', рефлексивным - чтобы проявлял необходимую жесткость и настойчивость, но при этом соблюдал МЕРУ и мог во-время остановиться, не ломать структуру ситуации при наличии оснований для сомнения через колено..
тут очень важно чтобы было понимание агентом цены необратимых изменений ситуации при действиях (или бездействиях) агента.
> Они - не люди.
поэтому они не должны быть допущены до людей без серьезных ограничений. ОДно дело когда общество интегрирует бездушные машины в свой жизненный оборот и другое - иное сознание.
Это предмет большой философии о ценности сохранения идентичности - она и без того меняется, - и насколько осмыслено введение еще и этого фактора? И по-любому, залог устойчивости - разнообразие, должны быть АС-агенты более психологически сродственные людям чем откровенно иносознания.
Может быть эффект зловещей долины - когда пси-АС-агенты будут вызывать даже более выраженные ксенофобские реакции чем ксено-АС-агенты, это тоже следует принимать во внимание. эТО вопросы взаимной адаптации и большие вопросы к социальной инженерии будущего.
> бомжа
андрей, у вас нездоровые социальные предрассудки. ВЫ вымойте бомжа, промотивируйте (даже патологический бездельник имеет свои интересы и это тем или иным образом можно поставить на службу обществу - другое дело что этим никто не хочет заниматься) - и его гибкий мозговой аппарат вас приятно удивит..
'нам' не нужны люди-маньяки, люди-параноики (причем фашисткие методы 'улучшения породы' неприемлемы из-за того, что они ухудшают психологические качества этой самой породы) - мы должны нести этот груз - но неосторожной фабрикацией Ас-агентов с параноидными тенденциями (без внутренних тормозов) мы только излишне усложним свое положение.
> борьбы эмоций с этикой
ну, можно полагать что наши эмоции (напр. мщения, ревности, честности или эмпатического альтруизма) вполне рациональны, если правильно рассматривать вопрос. Но как бы то ни было, наш разум в его рациональной части адаптирован к его иррациональной стороне (положим, мы с некоторой условностью разделили его на эти части), наше общество и культура адаптированы к особенностям нашего разума, они взаимоадаптированы.
как бы высшая рациональность в том, чтобы не придерживаться жестко конкретных моделей рациональности.
еще раз - жесткие структуры не выживают, выживают только адаптабельные структуры, пластичные, переопределяющиеся.
'сложная игра корреляций' это залог того, что сознание остается живым, осмысляющим, рефлексирующим, развивающимся, развивающим свое понимание мира - а не превратилось в инстинкт или даже суперрефлекс. Муравьиное коллективное 'сознание' каждой новой колонии активно познает мир, но в ЖЕСТКО детерминированных генетикой рамках, видовое понимание муравьями мира не меняется в течении десятков и сотен миллионов лет - в этом и суть нашего интереса к сознанию - что понимание мира ранними и промежуточными видами хомо довольно быстро спрогрессировало до понимания мира современным человеком.
и если уж делать ставку не на среднего (модального) человека, то моделировать нужно 'обобщенного умственного лидера', чья способность обусловлена генерирующим протенциалом среды самоорганизации, а не cугубо способностью к умственной стереотипизации ('дисциплине') (дедуктивной логикой новые синтетические истины не достигаются).
> но ещё нам, очевидно, не нужен ИИ-Хмур.
нам это кому? малообразованным менеджерам среднего звена? думается, что вы первые будете ликвидированы как класс АС-агентами.
Андрюша, Твоя попытка похамить сколь неуклюжа, столь и глупа. Хмур наверное ничем не уступает андрюше, но многократно превосходит его по знаниям, т.ч. какой идиот откажется приделать к искуcственному андрюше (положим это тот идеал, который 'нам' нужен) познания хмура? разве будет тогда такой агент тогда застревать на антиэволюционной глупости, местологических примитивизмах, cеченове с его детским уровнем изложения и прочей ерунде.
Cистему знаний и навыков запитать бы мотивацией.. но кто не знает, кто не умеет, кто не хочет..
> зачаточные признаки компромисса.
компромисс возможен только если вы вникните в то, что именно вам говорят. И никакого компромисса быть не может с самоуверенностью на мизере и наивно авторитаристскими тенденциями.
> Откуда берётся норма?
эталон сравнения. Cначала нормой может быть случайное назначение (или импринт), потом происходит двоякий процесс - норма нормирует, эффекты нормировки модифицируют норму. Пока система нормирования не выйдет на устойчивый стационар.
примерно об этом говорили и вы.
> роль сознания в формировании рефлекса (автоматической регуляции)
cознание 'сопровождает' формирование автоматизма (с компонентами регуляции) и рефлекса. Автоматизмы опираются на врожденные системы регуляции. Автоматизмы это более программное управление (запуск программы), чем оперативное управление по отклонениям (как бы автоматизируется только компенсация возмущений). КОгда автоматизм сталкивается с непредусмотренным отклонением (за рамками возмущения) как раз включается сознание как высший уровень ориентации и управления по отклонению и инстанция санкционирующая активную переделку программы или перевод ее интерпретативный режим.
удержание в сознании образца, образа потребного способствует превращению его в имплицитную (усвоенную) норму. НОрмируется как автоматизм, так и эффект его исполнения.
важной особенностью является что нормы обобщаются, абстрагируются, как образ-образец схематизируется и обобщается.
и важно, что есть двоякий процесс - нормы обобщаются и нормы контекстуализируются, в разных контекстах нормы могут обобщаться в разной степени. Норма какую воду считать чистой ('допустимо чистой') зависит от обстоятельств.
---------
егг> увеличение контекстов, кейсов и полисемических знаков (это я на Хмура намекаю)
- это не усложнение, это хаотизация.
неверно намекаешь - хаотизация если полисемия не соотнесена с контекстами - хаос неразведенных значений возникает при восприятии в системе представлений бедной контекстами, опорными примерами и опытом интерпретации.