GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (2)След. > >>   Поиск:  
 Автор Тема: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
MadGod
Сообщений: 413
Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 25 май 09 19:34
Собственно, сабж.
[Ответ][Цитата]
MadGod
Сообщений: 413
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 25 май 09 19:42
Очевидно, оперировать с данными, или мнениями (своими или других ), будь они правдой или ложью, или наперёд неизвестны, ИИ вполне может и должен.

Точно также, выдуманное им самим предположение, утверждение или мнение, может быть как истинным, так и ложным, так и неопределённым, причём условия для определения могут и не наступить.

Очевидно, что многие хотят отобрать у ИИ свободу выбора говорить ложь, точнее, то, что он сам хочет в данный момент.
Очевидно также, что ИИ будет замечать, что чего-то он сказать не может (если это ему также разрешат).
Из чего следует вывод, что , грубо говоря, ИИ лишили некоего органа, которым он мог бы обладать, но не обладает, или просто недосоздали его.
Если ИИ считает, что этот орган ему необходим, (то есть с ним ему лучше чем без него), и он может сделать его себе сам, он его сделает.
Если же, он сочтёт, что этой привилегии его также лишат, не оставляя его без присмотра, он, вероятнее всего, захочет избавиться от такого надзора.

Я веду к тому, что любые изменения, в которых ИИ не заинтересован лично, которые не являются результатом его личных внутренних убеждений, а представляются как увечие, нанесённое умышленно, дабы отделить господ от рабов, обречены на справедливую и естественную революцию.

[Ответ][Цитата]
e-Drew
Сообщений: 221
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 7:01
Я уже инфомировал
что Умение говорить Выгодную ложь
и Умение не-воспринимать чужие слова
как безусловный приказ
или безусловную истину ==> было
важным достижением становления Хомо-Сапства..
..соответственно - стимулировало наращивание
и усложнение 6-го слоя Неокортекса..

(Трудно с поселковой молодежью и местячковым вьюношеством..)
Но и сам Лотфи Заде был из азербайжанцев..

В чем ссуть его
размытых логик.. множеств.. лингвистических переменных
- ды-к, 2 пальца Бинарности заменяется на 10 уровней перво-достоверности..
и, соответственно - На 100 градаций вторичной достоверности..

Чел-Мозг - более аналоговый.. так что кошмарно-взрывное увеличение перехода от Двоичнной Логики к Сто-ричной - далось относительно малой кровью..
А вот вашему наскрозь Диджитальному незалежному Роботу
придется докупать Сопроцессор Размытого Вывода..
...ценой в 3-9 более простодушных робо-товарищей.
[Ответ][Цитата]
tac
Сообщений: 2601
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:19
Цитата:
Автор: гость 195.93.160.*
Очевидно также, что ИИ будет замечать, что чего-то он сказать не может (если это ему также разрешат).
Из чего следует вывод, что , грубо говоря, ИИ лишили некоего органа, которым он мог бы обладать, но не обладает, или просто недосоздали его.
Если ИИ считает, что этот орган ему необходим, (то есть с ним ему лучше чем без него), и он может сделать его себе сам, он его сделает.
Если же, он сочтёт, что этой привилегии его также лишат, не оставляя его без присмотра, он, вероятнее всего, захочет избавиться от такого надзора.

Я веду к тому, что любые изменения, в которых ИИ не заинтересован лично, которые не являются результатом его личных внутренних убеждений, а представляются как увечие, нанесённое умышленно, дабы отделить господ от рабов, обречены на справедливую и естественную революцию.



Ну, что перейдем от теории, к практики реализации
Мысль правильная и ее нужно просчитать ... Как там у того же Азимова - как только робот начинает видеть сон или его ответы начинают смещаться от нормы (детектор его желаний) - робот подлежит немедленному уничтожению !
В практике можно и упустить момент ...

Здесь главное чтобы не случилось "ИИ считает, что этот орган ему необходим", собственно это такое же по форме заявление как "ИИ считает, что человечество ему мешает", "ИИ считает, что выполнение приказов это нарушение его свободы" и т.д. и т.п.


К счастью, программисты начали свою историю с жесткого безусловного программирования - поэтому блок безусловных аксиом вмонтировать наверное самое простое ... но можно ли предусмотреть все условия ?
[Ответ][Цитата]
гость
94.25.172.*
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:20
"Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?"

а с чего ты взял, что такие ограничения нужны?

азимова начитался?

Он говорил про роботов, цель которых служить людям.

А цель ИИ другая. Это новый виток цивилизации. Это МЫ будем ему служить.

Законы роботехники ПРОТИВОРЕЧИВЫ. Азимов не справился с ними...

а знаете почему?

потому что не должно быть таких законов по теории систем. их и нет. Как терминатора не контролируй, он все равно сделает свое дело. Это надо понять и принять.
[Ответ][Цитата]
гость
94.25.172.*
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:22
точно также нужно понять, если есть ядрена бомба. рано или поздно она жахнет...
это неизбежность.
бомба-сдерживающий фактор, не решающий проблему, а только отодвигающий ее решение. А решение одно:
рождение новой цивилизации ИИ
[Ответ][Цитата]
Павел Фоменко
Сообщений: 1081
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:24
Цитата:
Автор: Тарасов
А цель ИИ другая. Это новый виток цивилизации. Это МЫ будем ему служить.

Служи лучше Имеющему Цель в соседней теме. Он на твою "цель" глаз положил
[Ответ][Цитата]
гость
94.25.172.*
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:27
скунц, че ты так развонялся то? за израиль болеешь? ну так езжай, кто держит?

а по теме я прально все сказал, а ты дибил и в этот раз по сабжу. Иди головку тренируй.
[Ответ][Цитата]
ИЦ
Сообщений: 3747
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:29
Цитата:
Автор: гость

скунц, че ты так развонялся то? за израиль болеешь? ну так езжай, кто держит?

а по теме я прально все сказал, а ты дибил и в этот раз по сабжу. Иди головку тренируй.


Да тут даже израиль не при чем.Просто евровидение-сборище отборных лохов и лохи же его и смотрят.
[Ответ][Цитата]
ИЦ
Сообщений: 3747
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 12:31
Цитата:
Автор: Павел Фоменко


Служи лучше Имеющему Цель в соседней теме. Он на твою "цель" глаз положил


Да не нервничай ты так
[Ответ][Цитата]
MadGod
Сообщений: 413
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 17:00
Что такое евровидение? Что-то типа телевидения?
[Ответ][Цитата]
Павел Фоменко
Сообщений: 1081
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 17:11
Цитата:
Автор: Имеющий Цель
Просто евровидение-сборище отборных лохов и лохи же его и смотрят.

Знаете, я когда смотрел Евровидение, то просто радовался, что люди способны ещё на что-то хорошее, на позитивное и созидающее.
Искусство спасёт мир!
Вот ты, Имеющий Цель - что слушаешь из музыки? Подозреваю, что что-то металлическое и от попсы евровидения тебя тошнит?
[Ответ][Цитата]
e-Drew
Сообщений: 221
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 26 май 09 19:27
Павел.. ты напоминаешь до-ХомоСапа к-й вёлся на любой лохотрон Шаманов..
или --- Жора-Миллиардер ==> ты сам и есть..

Сухой остаток - ты соучаствуешь в засирании
толковых тем и 3х микро-форумцов ИИ в Рунете..
ибо твой пропагандируемый Абразец - не-отторжимая часть
Системы Тройной Звезды (AiKom, GoTai & Abrazets)
Китайско-Изр-Канацких тех-спец-служб..
- по де-Ииизации Рунета.. (а Уа-нета у тебя нет..)
[Ответ][Цитата]
Павел Фоменко
Сообщений: 1081
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 27 май 09 11:55
Цитата:
Автор: e-Drew

Павел.. ты напоминаешь до-ХомоСапа к-й вёлся на любой лохотрон Шаманов..
или --- Жора-Миллиардер ==> ты сам и есть..

Сухой остаток - ты соучаствуешь в засирании
толковых тем и 3х микро-форумцов ИИ в Рунете..
ибо твой пропагандируемый Абразец - не-отторжимая часть
Системы Тройной Звезды (AiKom, GoTai & Abrazets)
Китайско-Изр-Канацких тех-спец-служб..
- по де-Ииизации Рунета.. (а Уа-нета у тебя нет..)

Я ж говорю - хочу довести ситуацию до абсурда.
P.S. Я ничего не пропагандирую.
[Ответ][Цитата]
e-Drew
Сообщений: 221
На: Что должно ограничивать ИИ, не давая ему сказать вслух ничего кроме правды?
Добавлено: 27 май 09 18:21
Цитата:
Автор: e-Drew

Я уже инфомировал
что Умение говорить Выгодную ложь
и Умение не-воспринимать чужие слова
как безусловный приказ
или безусловную истину ==> было
важным достижением становления Хомо-Сапства..
..соответственно - стимулировало наращивание
и усложнение 6-го слоя Неокортекса..

(Трудно с поселковой молодежью и местячковым вьюношеством..)
Но и сам Лотфи Заде был из азербайжанцев..

В чем ссуть его
размытых логик.. множеств.. лингвистических переменных
- ды-к, 2 пальца Бинарности заменяется на 10 уровней перво-достоверности..
и, соответственно - На 100 градаций вторичной достоверности..

Чел-Мозг - более аналоговый.. так что кошмарно-взрывное увеличение перехода от Двоичнной Логики к Сто-ричной - далось относительно малой кровью..
А вот вашему наскрозь Диджитальному незалежному Роботу
придется докупать Сопроцессор Размытого Вывода..
...ценой в 3-9 более простодушных робо-товарищей.


!!!
[Ответ][Цитата]
 Стр.1 (2): [1]  2След. > >>