Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.20 (55) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Противоестественный сильный ИИ.
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 14:36 Цитата: Автор: гость Квантовый комп это новый источник вдахновения? Очередной... ---------------------------------- Каких либо вопросов в том как всё это должно работать нет ---------------------------------- Но и как же это должно работать собсно? А конфет дать и не шею посадить? Или ключ от квартиры торжественно передать? [Ответ][Цитата]
ЭСГТР Сообщений: 8449	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 14:55 Цитата: Автор: гость 31.211.0.* 2> ЭГТР Вижу расстроило упоминание кумира всуе, ладно, удалил то, что было воспринято как хула. А зря удалили... там была не плохая мыслишща. О том что к истине ведут на самом деле две дороги одна из фантазий, а другая из знаний. Истина это всегда форма для содержания, но форма содержания не требует. Нам безразлично содержание если у нас есть его форма. Форму можно достичь двумя способами: 1. сложить все необходимые компоненты. и 2. Удалить всё лишнее. [Ответ][Цитата]
ЭСГТР Сообщений: 8449	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 15:15 Изменено: 06 апр 15 15:18 Цитата: Автор: гость 31.211.0.* Цель не оправдывает средства, но иногда важность цели может снять часть ответственности за использование неприемлемых средств. Уже высказывался на этот счёт: http://www.gotai.net/forum/default.aspx?postid=115610#115610 Уверяю Вас, что вся моя активность в этой теме, обусловлена только пониманием глубокой и неустранимой опасности продуцирования СИИ. Это опасность гораздо более реальна и близка чем фобии по поводу изменений климата или опасения о возможной гибели цивилизации от падения астероида. Утверждение о неизбежности создания СИИ в ближайшие 5-10 лет кому-то может показаться нереальным, но к сожалению это так, гигантские деньги инвестируемые в это дело тупыми сундуками из ВПК возьмут своё. Каких либо вопросов в том как всё это должно работать нет, осталось только подтянуть технологии, нарастить выч. мощности классических комп. и достигнуть достаточного прогресса в квантовых вычислениях. Квантовый комп. идеальное средство редуцировать неопределённость, всего-то навсего необходимо её правильно смоделировать, добиться правильного её эволюционирования, и производить измерения с требуемой дискретностью, всё это может работать практически мгновенно и в реальном масштабе времени. Для любых интересных неопределённостей, квантового регистра на 100к кубит с обвязкой хватит за глаза. Вот такая у нас не весёлая перспектива. Есть тут проблема. Только давайте называть вещи своими именами. Тест Тюринга это не СИИ. Если создать машину прошедшую Тест то она будет точно опасна. Если построить СИИ по ЭГТР-схеме то тоже есть риск что он в свое время развалит свою экосистему (в которой мы будим её частью), как это пытаемся сделать мы сейчас. В общем могу с вами согласиться.... СИИ по схеме теста Тюринга строить опасно.... и даже очень. Только такая машина не будет являться СИИ. Это "супер солдат".... наверно. Понятно что человеку с таким не справиться, а СИИ вполне. Супер солдат это тоже самое как нацист.... выродок СИИ. Только вопрос... а зачем такое г. делать? [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 15:45 Изменено: 06 апр 15 21:21 Цитата: Автор: ЭГТР http://egtr.ru/forum/index.php Есть тут проблема. Только давайте называть вещи своими именами. Тест Тюринга это не СИИ. Если создать машину прошедшую Тест то она будет точно опасна. Если построить СИИ по ЭГТР-схеме то тоже есть риск что он в свое время развалит свою экосистему (в которой мы будим её частью), как это пытаемся сделать мы сейчас. В общем могу с вами согласиться.... СИИ по схеме теста Тюринга строить опасно.... и даже очень. Только такая машина не будет являться СИИ. Это "супер солдат".... наверно. Понятно что человеку с таким не справиться, а СИИ вполне. Супер солдат это тоже самое как нацист.... выродок СИИ. Только вопрос... а зачем такое г. делать? Можно дискутировать на тему возможности и полезности СИИ различной природы, но фактом является инвестирование в создание СИИ хищного типа, т.с. по образу и подобию... Интеллект овощ, улучшающий "самочувствие", едва ли заинтересует инвестора по причине его сомнительной полезности и неочевидности самой возможности быть интеллектуальным в такой системе целеполагания. [Ответ][Цитата]
Luarvik. Сообщений: 17287	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 16:02 Изменено: 06 апр 15 17:34 Вы оба неправы. Почему, если СИИ - то непременно катастрофа ? Насколько опасен СИИ - это вопрос о том, насколько может быть саморазрушительной сущность с неограниченными возможностями (в пределе). Достаточно стравить пару равномощных СИИ, чтобы они забыли о человеке (так ведет себя собака_с_хозяином в присутствии чужих собак - собак по-настоящему интересуют только собаки). Каждый СИИ в конфликтующей паре надолго зароется в моделировании по сути себя самого (в лице противника), в попытке решить задачку - как бы обойти свой контроль над собой, так себя обхитрить, чтобы незаметно себя уничтожить... На самом деле, я думаю, "нормальный" СИИ будет стремиться к состоянию "если сам ты не раб и рабов не имеешь...". И потом, вряд ли действительно сильный ИИ позволит обмануть себя человеческими бирюльками и заморочками... Но как сейчас мы имеем "элементы ИИ", где интеллектом и не пахнет, так же, вероятно, будет наспех сотворен и уродец с "элементами СИИ", в котором аналогичным образом не обнаружится никакого СИИ... Ну, а если сильно страшно, то есть старая и проверенная спасительная стратегия - лучше ничего не делать абы чего не случилось Впрочем, говорить на эту тему можно бесконечно... "Если птице отрезать руки Если ноги отрезать тоже Птица... умрет от скуки Потому что сидеть не сможет"(В.В.) [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 21:05 Изменено: 06 апр 15 22:09 Цитата: Автор: Luarvik Вы оба неправы. Почему, если СИИ - то непременно катастрофа ? Насколько опасен СИИ - это вопрос о том, насколько может быть саморазрушительной сущность с неограниченными возможностями (в пределе). Достаточно стравить пару равномощных СИИ, чтобы они забыли о человеке (так ведет себя собака_с_хозяином в присутствии чужих собак - собак по-настоящему интересуют только собаки). Каждый СИИ в конфликтующей паре надолго зароется в моделировании по сути себя самого (в лице противника), в попытке решить задачку - как бы обойти свой контроль над собой, так себя обхитрить, чтобы незаметно себя уничтожить... На самом деле, я думаю, "нормальный" СИИ будет стремиться к состоянию "если сам ты не раб и рабов не имеешь...". И потом, вряд ли действительно сильный ИИ позволит обмануть себя человеческими бирюльками и заморочками... Но как сейчас мы имеем "элементы ИИ", где интеллектом и не пахнет, так же, вероятно, будет наспех сотворен и уродец с "элементами СИИ", в котором аналогичным образом не обнаружится никакого СИИ... Ну, а если сильно страшно, то есть старая и проверенная спасительная стратегия - лучше ничего не делать абы чего не случилось Впрочем, говорить на эту тему можно бесконечно... "Если птице отрезать руки Если ноги отрезать тоже Птица... умрет от скуки Потому что сидеть не сможет"(В.В.) Собака уже не совсем хищник, ну и уж точно не СИИ. Вот кот остался хищником и подобного поведения от него ожидать не приходится, но слава Богу, что он тоже не СИИ. Кто-то из известных англосаксов сказал:"Коты умнее собак, поэтому невозможно заставить восемь котов тащить сани по снегу". Невозможность контроля со стороны более слабого в интеллектуальном отношении существа, более сильного, очевидна. [Ответ][Цитата]
rrr3 Сообщений: 11857	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 22:08 Изменено: 06 апр 15 22:09 Странно читать, как в некую сущность обозначаемую СИИ вкладывают значения силы чисто в количественном отношении... На мой не просвещенный взгляд, СИИ - это прежде всего иной принцип функционирования нежели в ИИ, а не количественное выражение некой мифической "силы". Иначе было бы совсем просто, наращивать и наращивать разноплановые ИИ, таким образом получая "силу". При этом как кошка, так и собака и даже птички - есть разного уровня СИИ в "мясной" реализации... [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 06 апр 15 23:44 Изменено: 06 апр 15 23:46 Цитата: Автор: rrr3 Странно читать, как в некую сущность обозначаемую СИИ вкладывают значения силы чисто в количественном отношении... На мой не просвещенный взгляд, СИИ - это прежде всего иной принцип функционирования нежели в ИИ, а не количественное выражение некой мифической "силы". Иначе было бы совсем просто, наращивать и наращивать разноплановые ИИ, таким образом получая "силу". При этом как кошка, так и собака и даже птички - есть разного уровня СИИ в "мясной" реализации... Сила - необходимое условие для изменения чего угодно. Например, сила измеряемая в ньютонах одинаково применима в качестве характеристики ядерных взаимодействий и способности лошади тянуть телегу, т.е другой принцип функционирования не исключает возможности использования одой меры интенсивности для разных взаимодействий. Норматив употребления слова сила не исчерпывается физическими явлениями, например, сила воли или сила разума или нечистая сила. Поэтому семантическая конструкция "сила интеллекта" понимаемая как способность уменьшать неопределённость вполне корректна. Наверное странные ощущения, действительно следствие недостаточной просвещённости взгляда. [Ответ][Цитата]
гость 78.25.121.*	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 3:57 скромное резюме по принципу максимизации энтропии. в развитие поста от 03 апр 15 0:13. как видим I(Х,У)=(H(Х+Y)-H(Х/Y)-H(Y/X))/2 и принцип максимизации энтропии эквивалентен инфомаксу только при относительно малом разнообразии результатов X/Y или при малом ассортименте реакций Y/Х. В свою очередь инфомакс эквивалентен принципу максимизации полезности при высоком уровне запаса ресурсов (малом дефиците). Т.о. интеллект не обязан починяться этим тривиальным интегралам своего движения - ни максимизации энтропии, ни инфомаксу, ни максимизации полезности (в узком смысле) (если он ориентирован на полезность в более широком смысле). (PS 'Силовые' интерпретации драйверов интеллекта напомнили рассмотрения Левина (все-таки ученик винера) о поле психологических стимулов (силы аттракции, репеленции, векторные суммы etc). Все-таки интеллект более 'поленезависим' чем это предполагается в упрощенных моделях.) [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 8:26 Понимаете, что приведённое выражение абсолютно бредовое? [Ответ][Цитата]
гость 77.109.141.*	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 8:34 Цитата: Автор: гость I(Х,У)=(H(Х+Y)-H(Х/Y)-H(Y/X))/2 [Ответ][Цитата]
гость 78.25.123.*	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 8:52 I(X,Y)=H(Y)-H(Y/X)=H(X)-H(X/Y) 2I=H(Y)+H(X)-H(Y/X)-Н(X/Y) [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 9:01 Цитата: Автор: гость I(X,Y)=H(Y)-H(Y/X)=H(X)-H(X/Y) 2I=H(Y)+H(X)-H(Y/X)-Н(X/Y) Количество бреда стало меньше, но он остался. В случае если Y - реакция линейной системы на ансамбль X правая часть будет равна нулю. [Ответ][Цитата]
гость 78.25.123.*	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 9:12 нет никакого бреда, есть бред с абсолютизацией принципа максимума энтропии. Для приведенных формул (очевидных) нет условия Y=Lin(X). Правая часть ноль когда взаимная информация ноль (когда Н(Х)=Н(Х/Y) или Н(Y)=Н(Y/Х)). [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1849	На: Противоестественный сильный ИИ. Добавлено: 07 апр 15 9:21 Цитата: Автор: гость нет никакого бреда, есть бред с абсолютизацией принципа максимума энтропии. Для приведенных формул (очевидных) нет условия Y=Lin(X). Правая часть ноль когда взаимная информация ноль (когда Н(Х)=Н(Х/Y) или Н(Y)=Н(Y/Х)). [Ответ][Цитата]
Стр.20 (55): 1  ...  16  17  18  19  [20]  21  22  23  24  ...  55 << < Пред. | След. > >>