GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.15 (15)<< < Пред.   Поиск:  
 Автор Тема: На: Эвристическое создание AI
Андрей
Сообщений: 3308
На: Эвристическое создание AI
Добавлено: 09 янв 11 23:52
Цитата:
Автор: Victor G. Tsaregorodtsev
правила человеческого общежития должны соответствовать решению в игре с ненулевой суммой [...], и что отношения между конкретными людьми должны не строиться по схеме использования кого-то кем-то
Читая эту фразу я вижу такую картину: Виктор Царегородцев возвышается над толпой землян и говорит им: "Вы должны строить свои отношения на принципах игры с ненулевой суммой. А кто не будет так делать - отключим газ!"
Я толкую о том, что интеллект ничего другого в принципе и не может, как обеспечивать возможность использования кого-то (чего-то) в качестве своего инструмента и самому быть инструментом для кого-то (чего-то), в силу своей интеллектуальности. Вот это Ваше "должно строиться" не описывает какой-то закон природы. Это просто Вы мечтаете такую команду дать всем людям и чтобы они её выполнили.

Цитата:
Автор: Andrey
Жертва действительно противоречит идее сохранения баланса одного организма (или робота). Но прекрасно соответствует идее сохранения баланса группы.
А зачем это надо? Ведь каждый робот в отдельности самостоятельно принимает решение о том как выполнить полученное задание на базе своих знаний. Не будете же Вы в самом деле каждому роботу привинчивать датчики, чтобы каждый чувствовал всех остальных роботов и оценивал каждое свое действие на предмет выживаемости группы.

Какое-то время назад я предлагал участникам форума мысленный эксперимент, демонстрирующий важность выполнения команды, как такового, в отрыве от любых идеологий.
Представим, что Вы министр обороны США и Вам надо выбрать роботов для войны со всем миром. Двумя конкурирующими фирмами изготовлено всего два робота - по одному роботу от каждой фирмы. Вы дали роботам команду: "Уничтожь себя". Первый робот себя уничтожил. Второй робот себя сохранил. Теперь вопрос: какого робота выберите для войны?
[Ответ][Цитата]
daner
Сообщений: 4130
На: Эвристическое создание AI
Добавлено: 10 янв 11 0:23
>>>>>>>Andrey
Цитата:

Понаблюдайте за поведением животных. Да, в новой обстановке ориентировочное поведение становится преобладающим, чувствительность рецепторов - выше, реакция на раздражители - настороженной. Но как только обстановка становится привычной, поведение меняется. Даже хомячок в привычной обстановке не "прячет голову в песок" от каждого шороха, а решает важные задачи.
Марсоход должен освоиться на заданном участке, и начать работать над решением важных задач. Но если начнутся подвижки грунта, камнепад или еще какая-нибудь напасть, марсоходу неплохо будет позаботиться о своей безопасности, прервав на время решение важных задач.


Я не знаком детально с программой марсаходов opportunity и spirit, но предполагаю, что скорее всего именно так они и реагировали. Пусть далеко не на все события, но на многие. Если вообще, говорить, про конкретно эти марсоходы, то если не ошибаюсь, в этих марсаходах была использована любимая NASA архитектуре поведения 3-Тier. Как минимум в эту архитектуру входит реакция на события-ошибки выполнения поведений нижнего уровня (т.е. когда поведение отработано не так как предполагалось, поэтому если робот пытается ехать в горку, а барометры показывают обратное, робот об этом уведомляется). Кроме этого, верхних уровень архитектуры (так называемый делибератор или планировщик) предоставляет сервис планирования действий. Собственно, это уже снимает с робота необходимость постоянно обращаться за планами в ЦУП (естественно, это планирование без особого креатива, т.е. все в рамках заранее определенных событий и действий, но если уж речь зашла о животных, то далеко не все из них, способны на какой-то стоящий креатив с расширения системы возможностей, думаю хомячки не из их числа).
[Ответ][Цитата]
Andrey
Сообщений: 128
На: Эвристическое создание AI
Добавлено: 10 янв 11 0:32
Цитата:
Автор: Андрей

А зачем это надо? Ведь каждый робот в отдельности самостоятельно принимает решение о том как выполнить полученное задание на базе своих знаний. Не будете же Вы в самом деле каждому роботу привинчивать датчики, чтобы каждый чувствовал всех остальных роботов и оценивал каждое свое действие на предмет выживаемости группы.


Да, робот, управляемый интеллектуальной системой, может работать автономно. Но создание такого робота без механизмов социального взаимодействия, без определенных генетических механизмов передачи лучших свойств от поколения к поколению я считаю маловероятным. А датчики - дело несложное.

Цитата:
Автор: Андрей

Какое-то время назад я предлагал участникам форума мысленный эксперимент, демонстрирующий важность выполнения команды, как такового, в отрыве от любых идеологий.
Представим, что Вы министр обороны США и Вам надо выбрать роботов для войны со всем миром. Двумя конкурирующими фирмами изготовлено всего два робота - по одному роботу от каждой фирмы. Вы дали роботам команду: "Уничтожь себя". Первый робот себя уничтожил. Второй робот себя сохранил. Теперь вопрос: какого робота выберите для войны?


Война - понятие слишком общее. На войне задачи бывают разные.
Одно дело - подавить вражеское огневое средство. Другое - провести разведку сил и средств противника. Третье - провести инженерные работы на местности при подготовке обороны. И так далее.

Теперь расширим ваш эксперимент. Перед министром - не робот, а солдат. Даем ему незаряженный пистолет (солдат думает, что он заряжен). Один по команде приставляет к бошке пистолет и нажимает спусковой крючок. Второй - отказывается выполнять команду, ссылаясь на недопустимость выполнения преступных приказов согласно статьи такой-то закона такого-то.
Кого вы выберите для выполнения задачи? Какой из задач? А если это не солдат, а офицер, который должен руководить подразделением, выполняющим задачу?
Я бы вообще не рискнул брать к себе в подразделение солдата, способного пустить себе пулю в башку по первой команде.

Проблема - не создание самонаводящегося оружия. Их успешно создают. Проблема - создание интеллектуальной системы.
[Ответ][Цитата]
daner
Сообщений: 4130
На: Эвристическое создание AI
Добавлено: 10 янв 11 0:51
>>>>>>>Andrey
Цитата:

Да, робот, управляемый интеллектуальной системой, может работать автономно. Но создание такого робота без механизмов социального взаимодействия, без определенных генетических механизмов передачи лучших свойств от поколения к поколению я считаю маловероятным. А датчики - дело несложное.

Ну вообще, у роботики с генетикой пока достаточно сложные отношения. Просто само понятие поколений, пока не актуально (нужно что бы конкретных робот/ы выполняли задачу).
Что же касается сенсоров и прочего... здесь просто Андрей (тот который кириллицей пишется) как всегда проявляет свой дилетантизм. Социально полезное поведение возможно даже вообще без всякой связи между особями (роботами/агентами), а уж если феромоны доступны или коммуникация существует, тут уж и говорить не о чем...

[Ответ][Цитата]
Андрей
Сообщений: 3308
На: Эвристическое создание AI
Добавлено: 10 янв 11 1:11
Цитата:
Автор: Andrey
создание такого робота без механизмов социального взаимодействия, без определенных генетических механизмов передачи лучших свойств от поколения к поколению я считаю маловероятным
У меня есть правило №1 - не требовать от машины того, чего не делает человек. Человеку не нужно несколько реинкарнаций, чтобы его интеллект начал функционировать, значит и машине не нужно ничего, кроме механизма обучения. Обучения выполнять команды. Этого достаточно.
Что касается "социального взаимодействия" то обучение с учителем - это святое.

Цитата:
Автор: Andrey
Я бы вообще не рискнул брать к себе в подразделение солдата, способного пустить себе пулю в башку по первой команде.
Вы ушли от прямого ответа (от прямого выполнения команды). Речь ведь идёт не об идеальной инвариантной армии, которая и клумбу может вскопать и родину заслонить, а о форс-мажорной ситуации, в которой проявляется главное. А пока мы рассусоливали гламурные сопли о несчастном солдате, Россия навела свои ядерные боеголовки в нашу сторону, открыла люки и очень скоро начнёт стрелять. Надо срочно принимать решение и запускать конвейер в Китае по производству роботов. Какого робота выберите? Ситуацию можно сделать менее драматичной. Например, не Вы отдавали приказ роботам, а кто-то другой, раньше, и теперь Вы располагаете только этой информацией. Другого варианта проверить роботов у Вас нет, в ваших руках судьбы миллиардов человеков, которых Вы так любите, и необходимо сделать свой выбор.
[Ответ][Цитата]
 Стр.15 (15)1  ...  11  12  13  14  [15]<< < Пред.