GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.23 (56)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Выполнение команд
гость
77.88.218.*
На: Выполнение команд
Добавлено: 01 окт 11 15:45
Андрей, дочитал вашу замечательную статью "Интеллект - как артефакт". Мне она показалась интересной. Особенно такой взгляд на интеллект как способ управщения объетом извне.
Вот только такая идея меня смутила:
"Но битва за создание ИИ - покорного раба, как апофеоза нашей технологии - продолжается"
Мне кажется это невозможно. Если исходить из того, что ИИ - должен все же превосходить возможности человека, а для этого в его основе должна быть технология подобная той, что использует нервной системой, способной саморазвиваться, то контроль над такой сложной системой будет просто потерян, и как результат никакого управления человек не сможет оказывать на ИИ, и станет рабом обстоятельств и процессов вокруг него, которых он уже не в силах будет понять (они будут управляться самим ИИ).
Если рассматривать альтернативный подход к созданию ИИ, который я считаю более слабым: последовательное наращивание знаний(базы данных) и навыков(технических методов решения задач, созданных человеком), то конечно, над таким ИИ возможен контроль. Спасибо за статью, было над чем задуматься
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 2952
На: Выполнение команд
Добавлено: 01 окт 11 16:25
Цитата:
Автор: гость
Есть один закон, обойти который нельзя. А именно: человек не может создать что-то умнее себя. Любая экспертная система, будет ограничена знаниями экспертов, которые ее создали.

Создатели Deep Blue разве были чемпионами мира по шахматам? Тем не менее, созданная ими "ЭС" уделала Каспарова.
Есть и ещё несколько шахматных ЭС, которые написаны не гроссмейстерами, но выигрывают у гроссмейстеров.
[Ответ][Цитата]
Андрей
Сообщений: 3329
На: Выполнение команд
Добавлено: 01 окт 11 16:48
Цитата:
Автор: гость 77.88.218.*
Мозг никак не разделяет эти 3 потока, потому что их не существует (вы их выдумали
Согласен, деление на 3 условное, я говорил об этом. В силу того, что человеку так легче понимать и, следовательно, доносить мысль. Однако, если с абсолютной искусственностью и нарочностью деления потока афферентации на "контекст" и "обратную афферентацию" я согласен и не скрывал это ("граница между контекстом и ОА достаточно условна"). То с делением на "контекст" и "задачу" не всё так прозрачно. Я уже приводил пример с тетрисом. Человек способен разделять поток афферентации на задачный и контекстый, выделять задачи из своих прогнозов и противопоставлять их. Да вообще-то это очевидно. Вот, например, два текста:
1. 14 октября в Киев приезжает Жан Мишель Жарр.
2. Пока не поздно, пойди купи билеты на концерт.

Первый текст даёт возможность читателю сделать прогноз, что в некотором месте в некоторое время будет то-то и то-то. Здесь в явном виде нет никакой задачи. Это просто прогноз.
Второй же текст содержит в себе описание задачи. Даже двух: "не опоздай" и "купи билет".

И тот и другой текст получен читателем через зрение, можно всё это считать контекстом, но только второй текст заставляет противопоставить себя миру, а первый - нет.

P.S. Между прочим, тетрис был изобретён Алексеем Пажитновым для тренировки своих искусственных интеллектов...

Цитата:
Автор: гость 77.88.218.*
Жизнь изначально предполагалось, когда "кто-то" или "что-то" начинало думать над основными законами физики будущего мира, а после заложило их в крохотные кирпичики (атомы), взаимодействие которых и запустило процесс эволюции - как вполне реального физического взаимодействия, по спирали поднимавшего простые системы к сложным.
Это - ортогенез, разновидность креационизма.

Цитата:
Автор: гость 77.88.218.*
Что бы создать ИИ умнее человека, в его основе должны лежать механизмы, результаты работы которых превзойдут знания конструкторов
Другими словами, необходимо создать механизм, способный обучаться. Полностью согласен. Только здесь нет нужды прибавлять приставку "само". Никакого самообучения не бывает. Обучение всегда подразумевает внешнее обучающее воздействие. От "само" остаётся только сам механизм обучения. Но ведь мы не называем ложку само-ложкой, или вилку само-вилкой, потому что в саму их конструкцию внесён их функционал. Да, интеллект обладает механизмом обучения, но ведь это не значит что только он сам и определяет поведение интеллекта. Никто, конечно, не вмешивается непосредственно в мозг студента, когда он слушает лекцию преподавателя, но ведь никому в голову не взбредёт называть этот процесс "самообучением студента"...
Приставка "само" ничего не добавляет по сути, кроме иллюзии того, что она якобы что-то добавляет... Эта добавочная иллюзия вредна, потому что заставляет человека искусственно делить все явления на "само" и "не само", а затем впустую тратить время и искать какие-то волшебные мифические само-явления, поэтому я и не упускаю возможности заострить на этом внимание.

Цитата:
Автор: гость 77.88.218.*
Если исходить из того, что ИИ - должен все же превосходить возможности человека, а для этого в его основе должна быть технология подобная той, что использует нервной системой, способной саморазвиваться, то контроль над такой сложной системой будет просто потерян
Вот! Именно об этой ошибке от приставки "само" я и говорю. Контроль не может быть "потерян", контроль может быть только "перехвачен". Перехвачен в данном случае чем?..

Цитата:
Автор: гость 77.88.218.*
Спасибо за статью
Спасибо за внимание
[Ответ][Цитата]
гость
77.88.218.*
На: Выполнение команд
Добавлено: 01 окт 11 17:18
Victor G. Tsaregorodtsev, игра в шахматы - задача, которая может подлежать полной формализации. То есть, она по сути достаточно проста, ибо там не так уж много правил, и они заранее известны. Разработчики решили задачу не как гроссмейстеры, они решили ее как математики, научив просчитывать компьютер все возможные игровые варианты. Это пример совершенно не интеллектуального способа решения задачи, и он возможен был только потому, что шахматы - простая и полностью формализуемая игра. Попытка решить таким же образом что-либо по-сложнее, потребует строительства компьютера с размером уже не в несколько шкафов. Попробуйте заставить Deep Blue решить задачу другую, кроме игры в шахматы, точнее просчета всех игровых состояний шахматной доски? это было решение узкоспециализированной логической задачи, назвать это интеллектуальной системой очень сложно.
Создатели опять же, решили задачу не как гроссмейстеры (иначе зачем им строить Deep Blue, им достаточно было всего-то назначить партию Каспарову лично), а с помощью определенной методики, алгоритма, сами же разработчики этим алгоритмом воспользоваться не могут(!), потому что для человека это слишком сложно, удерживать столько вариантов в уме и не сбиться. Ну а что касается того, что человек не может создать что-либо умнее себя, то этим я намекал на то, что не нужно создавать ИИ, нужно создавать предпосылки к его появлению. Можно придумать алгоритм, по которому работает ИИ, но создать конечную систему, которая по этому алгоритму будет построена, без помощи компьютера, человек не сможет.
Вообще, у меня создается в последнее время впечатление, что ИИ начинается там, где человек перестает понимать суть происходящего. Только при соблюдении программой условий непонимания принципов своей работы окружающими - она сможет добиться признания себя другими как полноценного ИИ. Любая решенная задача, часто выходит из круга интересов ИИ дисциплины, и перестает быть интеллектуальной.
[Ответ][Цитата]
Андрей
Сообщений: 3329
На: Выполнение команд
Добавлено: 01 окт 11 18:19
Цитата:
Автор: гость 77.88.218.*
Разработчики решили задачу не как гроссмейстеры, они решили ее как математики, научив просчитывать компьютер все возможные игровые варианты. Это пример совершенно не интеллектуального способа решения задачи
Поправочки:
1. Все варианты в шахматах просчитать, к сожалению, нельзя.
2. Гроссмейстер тоже просчитывает варианты, у него просто значительно более развитиая система прогноза развития ситуации на доске, чем у новичка, и как правило очень хорошая краткосрочная память. Как именно прогнозировал (оценивал) ситуации Дип Блю - малоизвестно.
3. В чём действительно следует обвинить программистов IBM, так это в том, что они не с "чистого листа" обучали компьютер, а "зашили" в него готовые знания, подсказанные гроссмейстером Джоэлем Бенджамином. Т.е. фактически у Каспарова выиграл не компьютер, которому только сообщили правила игры (вот это было бы честно!), а команда - нехилый гроссмейстер (рейтинг 2552) + программисты IBM + суперкомпьютер.
[Ответ][Цитата]
гость
77.88.218.*
На: Выполнение команд
Добавлено: 01 окт 11 18:45
1. Все варианты в шахматах просчитать, к сожалению, нельзя.

Я считаю, что в случае шахматов, еще как можно. Для этого собственно и был создан Deep Blue, другого оправдания таким вложениям просто не может быть.
[Ответ][Цитата]
Андрей
Сообщений: 3329
На: Выполнение команд
Добавлено: 01 окт 11 19:01
Азы...
[Ответ][Цитата]
гость
178.178.12.*
На: Выполнение команд
Добавлено: 01 окт 11 20:58
один из подходов создания программы, играющей в шахматы, описан в работах Ботвинника. Желающие могут ознакомиться, в сети есть его книги. Алгоритм, заложенный в "Пионер", не предполагал полный перебор вариантов, так как на ход отводилось определенное время, и машина, в те времена, не могла полностью осуществить перебор.
[Ответ][Цитата]
гость
178.178.12.*
На: Выполнение команд
Добавлено: 01 окт 11 21:01
заложенный в "Пионер" алгоритм описан в книге "Шахматный метод решения переборных задач"
[Ответ][Цитата]
Андрей
Сообщений: 3329
На: Выполнение команд
Добавлено: 24 дек 11 1:54
По итогам стэнфордских посиделок возникло желание поставить точку в одном из ключевых ИИ-вопросов, а именно, определить критерий рационального интеллектуального поведения. Стэнфордское определение рациональности как "стремления к максимальной выгоде" слишком размыто ибо в каждой задаче выгода своя и для разных задач эта выгода может быть следствием противоположных действий. Посему созрела следующая теория (излагаю схематически, суть).

Исчисление задач

Для целей дальнейшего изложения будем понимать слово "задача" как синоним слов: "проблема", "команда", "задание" и им подобных.

Под словом "задача" будем понимать то, что можно отличить от всего остального. Если интеллект что-то может отличить от чего-то, значит это - задача.

Задачи между собой отличаются только тем, что интеллект, который выделяет задачи, может совершать с ними разные действия. Вот эти действия:
1. Принять задачу.
2. Снять задачу.
3. Проигнорировать задачу.
4. Создать задачу.

Принять задачу, значит просто внести её в список принятых задач.
Снять задачу, значит исключить её из списка принятых задач. Всё просто.
Игнорирование задачи не требует, имхо, пояснений. (Хотя, возможно рассмотреть вариант игнорирования, как принятие задачи с её немедленным снятием.)
Создать задачу - совершить локомоцию.

Теперь ключевое! Какое же поведение следует считать рациональным?
(далее следует жёсткая рекурсия)

Какие задачи следует принимать, какие - игнорировать и какие - снимать?

Принимать следует те задачи, игнорирование которых приводит в прогнозе к увеличению количества задач, которые следует принять.

Игнорировать следует те задачи, принятие которых приводит в прогнозе к увеличению количества задач, которые следует принять.

Список всех принятых задач - это контекст.

Снимать следует те задачи, снятие которых приводит в прогнозе к уменьшению контекста (или, в общем случае, к сохранению размера контекста в некотором предзаданном диапазоне). В пределе все задачи следует снять - это главный и единственный мотив.

Зачем нужно создавать задачу?
Создавать задачу нужно для того, чтобы принять её, а затем снять больше задач, чем это было возможно до создания этой задачи.

Решить задачу, значит так снять задачу, чтобы в прогнозе количество задач, которые следует принять, оставалось в некотором заданном диапазоне.

В контексте всегда есть главная задача - это та задача, которая находится первой в очереди на снятие и относительно которой делается прогноз.

Таким образом, решить некоторую задачу Х это значит принять (либо сначала создать и потом принять) некоторую задачу Y, которая сделает возможным снятие задачи X.
[Ответ][Цитата]
Эгг
Сообщений: 9084
На: Выполнение команд
Добавлено: 24 дек 11 9:34
Цитата:
Автор: Андрей
Создать задачу - совершить локомоцию.

а я говорил тебе прошлый раз, что ты придешь к тому, что всякая задача сведется к локомоции, не прошло и трех месяцев... это ошибка... мышление - это организация интерфейса между средой и внутренним устройством, но не выполнение команд, конечно же...

Цитата:
Автор: Андрей
Список всех принятых задач - это контекст.
Снимать следует те задачи, снятие которых приводит в прогнозе к уменьшению контекста (или, в общем случае, к сохранению размера контекста в некотором предзаданном диапазоне). В пределе все задачи следует снять - это главный и единственный мотив.

раньше у тебя было, что Интеллектуальное - это рабство, теперь у тебя получилось, что Интеллектуальное - это пустота...
Пока ты не поймешь где в этом конвейере место энтропии (управлению сложностью) у тебя не будет инструмента по манипуляции задачами... одну подсказку дам - представь себе, что пул задач - это очередь LIFO и нет прямой адресации, невозможно снять произвольную задачу в произвольном месте списка...

в целом, такая твоя модель очень примитивна, ибо она лишена самого главного - научения...
[Ответ][Цитата]
Andrey
Сообщений: 128
На: Выполнение команд
Добавлено: 25 дек 11 0:17
Цитата:
Автор: Андрей

Исчисление задач



В вашей схеме самое слабое место - это алгоритм определения приоритетности задач.
Мне кажется, в него нужно добавить две веши:
1. Балансировка веса важности задач. То есть, задачи не пропадают, меняется уровень их приоритетности. И выполняется задача с высшим приоритетом.
2. Иерархичность задач. Есть задачи преобладающие, глобальные, между которыми происходит вычисление текущей приоритетности. Есть задачи ниже уровнем, которые нужны для решения задач высокого уровня. и так далее.
[Ответ][Цитата]
Андрей
Сообщений: 3329
На: Выполнение команд
Добавлено: 25 дек 11 2:26
Цитата:
Автор: Egg
раньше у тебя было, что Интеллектуальное - это рабство, теперь у тебя получилось, что Интеллектуальное - это пустота
Двигатель автомобиля сжигает топливо. Означает ли это, что автомобиль создан для того, чтобы сжигать топливо? Нет, не означает.
Автомобиль создан для того, чтобы перевозить грузы из точки А в точку Б, сжигая для этого топливо. Так же и интеллект - решая свою внутреннюю абстрактную никому-не-интересную задачу (например, опустошение контекста, или сохранение размера контекста на некотором уровне) он осуществляет для нас интересную функцию рабства. Определять интеллект через рабство - это очень хорошая эвристика, но она слишком абстрактная, так же как определять ДВС как "устройство, чтобы повозка ехала без коней", поэтому и копаем глубже. Рабство - это наше всё.

Если интеллект не раб - то нафига он нужен?
Правильный вопрос в том, как дополнить модель, чтобы интеллект таки стал рабом. У человека это решено через удовольствие и страдания. Чтобы человек стал рабом - нужно гарантированно доставлять ему боль и/или причинять удовольствие.
Посему дополняю модель.

Есть задачи, которые ставятся автоматически. Это легко понять каждому - боль невозможно снять в отличие от, например, задачи просмотра очередной серии какого-то безблагодатного сериала. Боль, как задача, ставится автоматически, извне, и не может быть снята.

Удовольствие, судя по всему, наоборот - это автоматическое бонусное снятие задач(и).

Вот здесь скрыты те ниточки, за которые надо дёргать, чтобы интеллект чему-то учился.
Интеллект ничему не может научиться если все задачи у него под контролем и он может произвольно их принимать или снимать. Обязательно должны быть задачи, устанавливаемые и снимаемые "извне", чтобы задать "коридор" для обучения. Если интеллекту подвластны все задачи, то в чём его задача?...

Цитата:
Автор: Egg
Пока ты не поймешь где в этом конвейере место энтропии (управлению сложностью) у тебя не будет инструмента по манипуляции задачами...
1. По моему, в самом конвейере энтропии минимум, она вся вовне, в мире, который и ставит задачи.
2. Манипуляция задачами - это тоже задача, насколько я помню.

Цитата:
Автор: Egg
пул задач - это очередь LIFO и нет прямой адресации, невозможно снять произвольную задачу в произвольном месте списка...
1. Да, примерно так я себе это и представляю. Получается любопытное толкование процесса сна, как способа автоматической вычистки стека от "просроченных" задач. Если снится ближайшее прошлое, значит стек полон всякой ерунды и очистка прошла поверхностная - выспаться не удалось. Если же снится детство, значит прошла глубокая чистка стека и наутро будет свежая голова.
2. Если я давно хотел купить какую-то вещь и наконец купил её, разве это не означает, что я могу адресно снять задачу покупки этой вещи?
3. Разве в первую очередь нужно снимать ту задачу, что пришла последней? Наверное всё-таки ту, которая в прогнозе сулит потянуть за собой бОльшие задачи.

Цитата:
Автор: Egg
всякая задача сведется к локомоции, не прошло и трех месяцев... это ошибка...
Допустим, что локомоций нет и задачи создавать нельзя. Что тогда?
Тогда интеллект превращается в парализованного прогнозиста. Он знает, что вероятнее всего произойдёт дальше, но он никак не может на это повлиять. В таком случае задачи сможет решать (снимать) только мир, нечто внешнее. Причём без всякой связи с контекстом этого конкретного прогнозиста.
Искусственный интеллект интересен именно тем, что, будучи для нас внешним фактором, он может активно создавать задачи, которые помогут нам снять наши задачи. А я не знаю другого способа создать задачу, кроме локомоции. Может телекинез?

Цитата:
Автор: Egg
модель очень примитивна, ибо она лишена самого главного - научения...
Да, этот момент я совсем не затронул. Это самое главное.
Такой интеллект должен учиться всем вышеуказанным действиям:
- правильно принимать задачи
- правильно игнорировать задачи
- правильно снимать задачи
- правильно создавать задачи
- максимально точно прогнозировать
Здесь "правильно" = "вовремя"(!) Таким образом, я хочу свести процесс научения к синхронизации, подбору временнЫх интервалов. А обратная связь для обучения ясна - баланс задач.

Цитата:
Автор: Andrey
задачи не пропадают, меняется уровень их приоритетности. И выполняется задача с высшим приоритетом
Выполняется - значит снимается (а значит пропадает, забывается). Если снять задачу в несоответствующем контексте, то это приведёт к увеличению числа задач, которые следует принять. Таким образом, принцип выставления приоритета очевиден и единственен - снимать нужно в первую очередь ту задачу, снятие которой в данном контексте приведёт в прогнозе к наилучшему балансу задач.

Цитата:
Автор: Andrey
Есть задачи преобладающие, глобальные, между которыми происходит вычисление текущей приоритетности. Есть задачи ниже уровнем, которые нужны для решения задач высокого уровня. и так далее.
Разве есть нужда в каком-то дополнительном критерии для оценки важности задачи, кроме того прогноза, который следует за действием интеллекта по отношению к этой задаче? Только прогнозируемый баланс задач может показать какая задача приоритетнее. Ясно, что идти утром на работу важнее, чем продолжать сладко спать, потому что в перспективе опоздание приведёт к большему числу задач, че те, которые ты принимаешь, вылезая из под одеяла.
Большинство людей стремятся к выживанию не потому, что им прям так уж нужно жить, а потому, что смерть сулит непрогнозируемый баланс задач. И некоторые на этом спекулируют.
[Ответ][Цитата]
Andrey
Сообщений: 128
На: Выполнение команд
Добавлено: 27 дек 11 19:38
Цитата:
Автор: Андрей

Выполняется - значит снимается (а значит пропадает, забывается). Если снять задачу в несоответствующем контексте, то это приведёт к увеличению числа задач, которые следует принять. Таким образом, принцип выставления приоритета очевиден и единственен - снимать нужно в первую очередь ту задачу, снятие которой в данном контексте приведёт в прогнозе к наилучшему балансу задач.


Вы говорите о системе, которая стремится к решению всех задач. В какое состояние перейдете такая система, когда актуальных задач не будет?
В природе мы не видим интеллектуальных систем, которые все задачи решили. Наоборот, сплошь и рядом системы, которые сталкиваются с задачами, требующими непрерывного решения. Поиск пищи, поиск укрытия, размножение и т.д. - подобные задачи требуют постоянного и длительного решения.

Так же и у робота могут быть задачи, которые решать надо постоянно. Например, задача поддержания функционирования системы (может включать подзарядку аккумуляторов, избегание опасных ситуаций и т.д.). Такие задачи можно сравнить с инстинктами. Сюда же мы можем "зашить" нужные нам инстинкты, задачи, для решения которых робот и создан. Например, если робот должен исследовать фауну в определенном районе, можно поставить ему такую задачу на уровне инстинкта.

Робот будет балансировать между задачами, решая ту или иную в конкретный момент времени. Такая задача, как "подзарядка аккумуляторов" (от солнечных батарей, или от базовой станции) не может быть "выполнена и забыта". Просто она становится более приоритетной при разряде батарей, или менее приоритетной, если уровень заряда высок.

Цитата:
Автор: Андрей

Разве есть нужда в каком-то дополнительном критерии для оценки важности задачи, кроме того прогноза, который следует за действием интеллекта по отношению к этой задаче? Только прогнозируемый баланс задач может показать какая задача приоритетнее.


Но большинство высокоразвитых животных, и человек во многих ситуациях ничего не прогнозируют. Хочется есть - едят. Хочется пить - пьют. Хочется спать - спят. Хочется телевизор смотреть - смотрят. И прекрасно справляются с большинством своих задач.

Цитата:
Автор: Андрей

Ясно, что идти утром на работу важнее, чем продолжать сладко спать, потому что в перспективе опоздание приведёт к большему числу задач, че те, которые ты принимаешь, вылезая из под одеяла.


А вот здесь не факт, что данное действие является результатом прогноза, а не результатом обученного поведения - программой действий, ведущей к наиболее эффективному решению задач, закрепленной удачным решением подобной задачи в прошлом. Вы получили зарплату за хорошую работу, позволили себе и сладко спать, и хорошо есть, и многое другое. Поведение закрепилось.
Моя собака хочет играться с мячиком. И выполняет сложные навыки послушания, для того чтобы этот мячик получить. Не прыгает на меня, пытаясь мячик забрать, а бодро ходит рядом, выполняет "сидеть-лежать-стоять", сидит по три минуты на расстоянии 30 шагов. Потому что это эффективный способ добиться своего, а не результат аналитики и прогноза.
[Ответ][Цитата]
Capt.Drew
Сообщений: 4179
На: Выполнение команд
Добавлено: 27 дек 11 20:11
Андрей, будучи среди своих
не стесняйтесь словечек "ПОЛНЫЙ ПЕРЕБОР"
[Ответ][Цитата]
 Стр.23 (56)1  ...  19  20  21  22  [23]  24  25  26  27  ...  56<< < Пред. | След. > >>