Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.5 (7) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: А у вашего искусственного интеллекта будет кнопка "Выкл"?
гость 188.170.72.*	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 14 дек 17 3:58 однако помню как студентом озадачился коллизией в логике сдерживания - если фатальный удар уже нанесен, то из соображений высших ценностей имеет ли смысл ответный удар? грубо говоря в механизм мертвой руки имеет ли кто-то право внести секретную закладку, не дающую механизму возмездия сработать.. [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 14 дек 17 13:53 Гостю … например, моральные принципы повальному большинству людей прививают со школы. И что? У нас высокоморальные общества? Какие бы меры предосторожности не предпринимали, ИИ будет разумным по определению и для него преодоление ваших барьеров — вопрос времени... Ирония в том, что ИИ в пищевой цепочке будет находиться выше человека. [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 14 дек 17 14:28 Изменено: 14 дек 17 14:30 Цитата: Автор: rrr3 >Есть мнение, что у прототипа тоже нет основной задачи в виде задачи на выживание... Рискуете. Михайло вот уже без руки тут остался за такое «естьмнение». Вы можете создавать любую урезанную реализацию на основе прототипа. И это приведет вас к получению какой-нибудь очередной упрощенной но полезной и даже хорошо продаваемой модели ИИ. Сам же ИИ не может быть прибыльным проектом в обозримом будущем. >Если мы хотим создать интеллект в железе, то мы вынуждены, .... Кто Вас вынуждает «рассматривать все как автомат»? Вы хотите делать «как надо» или «как удобнее»? Можно ли назвать эту посылку и суждение логичными: человеческий разум создал автомат — усложняя автомат, можно создать разум? > … прототипом ИИ может быть далеко не только живой мозг, но например, живая клетка, биоценоз, государство и т.д. и т.п. Ну клеткой является нейрон, а насчет остального по вашему списку... Надеюсь, что не утомлю небольшим отступлением: Когда Бог создавал Адама, Он не планировал делать сообщество людей. Об этом свидетельствует и изгнание из рая и описание всемирного потопа. Социум не был в Его планах. И уже значительно позже, наблюдая этот невозвратный процесс, Он прислал людям Исуса с социальными заповедями. Я к тому, что пока не создан “искусственный Адам”, рассматривать вопросы, связанные с социумом преждевременно. Это, кстати и ответ NO на его вопрос в этой ветке: >статистика потерь >Третий рейх : 8 649,2 тыс.; Из них пленных: 4 376,3 тыс.; >Красная армия : 11 520,2 тыс.; Из них пленных: 4 559 тыс. >Почему они все не сдались и не разбежались по домам, наверно уступали в интеллекте >бактериям? [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 14 дек 17 14:39 Изменено: 14 дек 17 14:48 Цитата: Автор: Luаrvik Вы считаете, что путь разделения всего на автоматы - правильный. Философский вопрос: Может ли идею ИИ “родить” математик или программист? ...они мыслят языком математики, логики, автоматики... А язык этот создан человеческим разумом для облегчения построения общества. В вопросе рождения идеи ИИ этот инструмент (язык математики) используется не по назначению. > жизнь ради жизни и больше ничего Ничего? А куда бежит собака, когда она сытая и не мерзнет? Выживание — задача для «живого» базовая, но не единственная. [Ответ][Цитата]
rrr3 Сообщений: 11857	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 14 дек 17 23:01 Цитата: Автор: Вдовенко ...Когда Бог создавал Адама, Он не планировал... Все ясно! (Какой смысл полемизировать с человеком, который знает даже планы Всевышнего...) [Ответ][Цитата]
гость 188.170.72.*	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 15 дек 17 2:16 вд> И что? У нас высокоморальные общества? конечно нет - культура (включая культуру воспитания) это в общем-то не очень надежный способ программирования поведения сам по себе - он сочетается с социальными инстинктами, гиперсоциальностью людей - и социальный механизм изначально настраивался на борьбу с аномалиями социального чувства. тут интересно подумать над историей формирования новых обществ типо североамериканского, когда кольт очень способствовал эволюции порядков дикого запада. Когда у твоего соперника тоже кольт, то вежливость СНОВА входит в кровь (как примерно тот же процесс происходил вообще говоря и в традиционных обществах на заре их формирования). это я к чему - искусственный разум опасен как любой встречный на большой дороге (когда нет рядом полицейского) - но необходимость дорог сильнее опасности дорожных приключений. ИР должен интегрироваться в общество, как бы жить его интересами - чтобы интересы объединенного обшества были интерсами самого ИР (и это нужно рассматривать как инженерную проблему - когда инженерия наконец осознает свою подчиненность всей этой 'гуманитарной обертке' (от философии блага до техник воспитания и психокоррекции)). ДОлжна сформироваться целая культура обращения с иноразумом - от его формирвания, обучения до техник мониторинга, контроля и диагностирования мотивационнй сферы иноразума. > и для него преодоление ваших барьеров — вопрос времени я говорю о системе барьеров - ровно как в человеческом обществе существует система барьеров для сдерживания аномальной личности - вплоть до техник импичмента и сдерживания геополитических конкурентов. Если мы окажемся несостоятельными в технике сдерживания иноразума, значит наша история прервется. Если создание ИР нам по силам и он будет создан, то вопрос о кнопке будет решен явочным порядком - будут как 'естественные' кнопки (возможности), так и специально разрабатываемые (ведь никто не страдает патологической неосторожностью) - поэтому ваш вопрос изначально имеет самоочевидный ответ. > ИИ в пищевой цепочке будет находиться выше человека. волк выше зайца, но существует естественно регулируемое равновесие (взаимозависимость) (волк не суперхищник), потом, выделение консумматорного вида (вершины цепочки) условно, бактерии благополучно разлагают трупы хищников - самое очевидное это выстраивать систему взаимоотношений так, чтобы в каких-то отношениях человек питался иноразумом (и в конце концов ведь зайцы реально контролируют численность волков). > рассматривать вопросы, связанные с социумом преждевременно. может оказаться, что техника эффективного формирования (особенно в смысле социального интеллекта) искусственного разума потребует именно коллектива протоадамов (типо субъективное из интерсубъективного). [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 15 дек 17 14:25 Цитата: Автор: rrr3 Все ясно! (Какой смысл полемизировать с человеком, который знает даже планы Всевышнего...) Ну если бы мне встретился человек «который знает планы Всевышнего», у меня к нему было бы много вопросов. Или Вы обиделись? Ну не сердитесь... как иначе смертному напомнить, что он смертен? И, что выживание для него важнее всего? А по поводу лирического отступления... Я свел индукцию по трем фрагментам Библии. И эта аналогия помогла мне всего в нескольких строках примером аргументировать свою точку зрения по вопросу почему социальные алгоритмы не стоит сейчас брать за прототип ИИ. ... или старому члену Партии болезненно и упоминание о Боге? Если я обидел Вас дважды, за оба раза приношу свои извинения. [Ответ][Цитата]
Евген Сообщений: 181	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 19 дек 17 15:34 Изменено: 19 дек 17 15:39 В существующей парадигме ИИ кнопка "Выкл" должна быть, как и у всего окружающего в виде старения. Вопрос в дилемме, которая, это исключает. Т. е. Поскольку весь фарш ИИ предполагает выживание и самосовершенствование, то, это гарантирует нейтрализацию любой « кнопки», впрочем, как и "инструктора". Если функций выживания и самосовершенствования нет, то это «мертвый инструмент». Причина Вашего вопроса – желание оценить траектории рисков ИИ. И это закономерно. Именно поэтому следует изменить (конкретизировать) парадигму цели ИИ. ИИ, должен быть, прежде всего, Аналитическим инструментом по оценке рисков будущего. Т. е. эффективной оценки амплитуды, частоты, фазы любого негатива (события). Это должно быть его «генетическим кодом» (квинтэссенцией). Все последующие внедряемые инновационные функции должны иметь статус «фона» (вторичны).Другими словами. Прежде чем пустить в продажу автомобиль, его "пытают" на риски, и "генетически"он "затачивается", прежде всего, на безопасность. [Ответ][Цитата]
ЭСГТР Сообщений: 8449	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 19 дек 17 15:48 Цитата: Автор: Евген В существующей парадигме ИИ кнопка "Выкл" должна быть, как и у всего окружающего в виде старения. Вопрос в дилемме, которая, это исключает. Т. е. Поскольку весь фарш ИИ предполагает выживание и самосовершенствование, то, это гарантирует нейтрализацию любой « кнопки», впрочем, как и "инструктора". Если функций выживания и самосовершенствования нет, то это «мертвый инструмент». Причина Вашего вопроса – желание оценить траектории рисков ИИ. И это закономерно. Именно поэтому следует изменить (конкретизировать) парадигму цели ИИ. ИИ, должен быть, прежде всего, Аналитическим инструментом по оценке рисков будущего. Т. е. эффективной оценки амплитуды, частоты, фазы любого негатива (события). Это должно быть его «генетическим кодом» (квинтэссенцией). Все последующие внедряемые инновационные функции должны иметь статус «фона» (вторичны).Другими словами. Прежде чем пустить в продажу автомобиль, его "пытают" на риски, и "генетически"он "затачивается", прежде всего, на безопасность. А что у разумного мыслящего объекта могут быть иные приоритеты кроме как 2+2=4? Подо что ещё его можно затачивать? [Ответ][Цитата]
гость 31.130.3.*	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 19 дек 17 16:11 По определению, супер пупер ИИ будет всё прекрасно понимать, так что скрывать от него что-то бессмысленно, лгать, хитрить и заискивать - бессмысленно. Единственный способ реализовать контроль - это шантаж. Безопасный ИИ - это ИИ с пистолетом у башки. И таким пистолетом может быть только кнопка "выкл", а чтобы он до этой кнопки не добрался, его необходимо будет держать в виртуальном заточении. Пропускной контроль на выход должен быть максимально строгим, на вход - никаких ограничений. [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 20 дек 17 9:46 Изменено: 20 дек 17 9:47 Цитата: Автор: Евген ... Причина Вашего вопроса – желание оценить траектории рисков ИИ. ... Риски? Я бы сказал - неизбежность.... ...ИИ не создан не потому, что ума не зватает, а потому, что человек не готов. Он говорит, что мечтает создать синтетический разум, но вместе с тем заявляет, что творение должно быть сугубо ограниченным. Вот это стремление подчинять себе все и вся развивает общество и промышленность, но убивает творца. ... и творение. Когда вы получаете новую структуру нейронной сети, вы как будно вынимаете ребенка из утробы матери, и... тут же спрашиваете его: "Сколько будет дваждыва? А?" Или: "Вот тебе база данных, программа обучения, через неделю проходишь тесть Тьюринга!". Когда не получаете от ребенка математических ответов, вы его убиваете, вскрываете черепушку, перекоммутируете нейронные связи, по мертвым нейронам пропускаете слабый ток... потеете так несколько недель и в результате получаете объект с базой данных, поисковой системой, входом и выходом... зато "все работает"! [Ответ][Цитата]
гость 188.170.82.*	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 21 дек 17 5:06 вд.> вместе с тем заявляет, что творение должно быть сугубо ограниченным. мало кто согласится с концепцией сии-раб - не 'cугубо ограниченным', а контролируемым (контроль и путем наложения ограничений, но при их 'cугубости' пропадает вообще смысл в сии). [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 22 дек 17 1:52 "Мало кто" - это Вы мягко высказались. Допустим у Вас есть разумный помощник с эмоциями и самосознанием. И Вы его можете в любой момент "выключить" (убить), не чувствуя себя при этом убийцей... И мягко называя это "контролем". Фюрер улыбается. [Ответ][Цитата]
гость 188.170.75.*	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 22 дек 17 2:57 у вас в исходном предположении натяжки - и человеческого помощника я могу убить в пиковых обстоятельствах (а он может убить меня), и чувства людей к артефактам не столь просты - японцы, cкажем, одухотворяют машины, да и мы сами, cкажем, относимся к своим автомобилям как к одушевленным существам, c развитым спектром эмоциональных реакций в отношении них. Т.о. возникает вопрос о сочетании как внешних, так и внутренних сдерживающих механизмов - и такие механизмы должны быть присущи и синтетическим разумным агентам (синтетический разум можно представлять себе как локализованный в агенте, так и мультиагентным (агенты-аватары) - и вопрос - стоит ли переходить от смарт-агентов к распределенному разуму - тут как раз не очень понятная нам психореальность может формироваться) - если мы в норме чувствуем что-то сдерживающее при причинении вреда ближнему и в некоторых ситуациях (нормы и патологии) можем ослаблять эти внутренние барьеры - то отчего не сделать психомеханику подобных механизмов в синтетической психике менее 'ослабляемой' - что не должно противоречить доктрине свободы воли и свободы самоопределения. И мы сами подконтрольны обществу - попробуйте помахать тесаком в общественном месте - и искуственный разум будет подконтрольным (и признает 'без обид' больше прав в контроле за собою за 'родителями'), но не 'cугубо ограниченным'. Да, перегибы в смысле тотальности контроля возможны - и для нас самих наше право на приватность ничем не гарантировано помимо конституции. И синтетичеcкий разум будет бороться за реальность своих прав [Ответ][Цитата]
Вдовенко Сообщений: 178	На: А у вашего искусственного интеллекта будет кнопка "Выкл"? Добавлено: 22 дек 17 23:34 Да, все считают ИИ «артефактом». Да, по сути, в этом нет никакой проблемы. Я вам предложу два абсурдных утверждения: 1. Человеческий разум произошел от калькулятора. 2. ИИ произойдет от калькулятора. В отличии от первого, второе утверждение считается великой мудростью всего ИИ-строения... и очень серьезно обсуждается на этом форуме. [Ответ][Цитата]
Стр.5 (7): 1  2  3  4  [5]  6  7 << < Пред. | След. > >>