GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (1)   Поиск:  
 Автор Тема: Машинное обучение, всё что знаете
Mad_God
Сообщений: 545
Машинное обучение, всё что знаете
Добавлено: 14 фев 08 10:29
Давайте обсудим.

Задача: понять, что такое машинное обучение, какие есть способы реализации МО, достоинства и недостатки этих способов. Лучший способ на данный момент. Платные и бесплатные решения. Где может применяться и какое отношение к ИИ всё это имеет.
[Ответ][Цитата]
Mad_God
Сообщений: 545
На: Машинное обучение, всё что знаете
Добавлено: 14 фев 08 10:47
Обучение предполагает накопление знаний, поиск истины, отсев лжи.
Это может быть накопление слов (как я думал раньше), накопление фактов, накопление взаимоствязей.
Опять же, ИМХО, в процессе МО должен присутствовать как часть модуль data mining добычи данных, не просто накопления данных путём сборки из текстов, вебстраниц, сетевых хранилищ, а добыча данных из имеющихся.

Это подразумевает некоторую "разумность" при выводе одних данных из других.

По моему скромному мнению, теоретически возможно создание такой программы путём имитации сигналов во внутреннем представлении и их внутренней модификации для дальнейшего подтверждения или опровержения.

Я пока не беру в расчёт рассуждения высокого уровня, присвоения названий объектам, создание языка и пр.

Посмотрим, как это работает.
Информация, хранящаяся в мозгу и передающаяся от мозга к мозгу превращается в разного рода форму: письменную, устную, электронную, язык жестов.
Что за этим стоит? Конечно, модели.
Наблюдая, мы моделируем. Моделируя - предсказываем. Наблюдая нечто в первый раз мы можем лишь догадываться о продолжении. Наблюдая это в несколький раз мы уже приблизительно знаем продолжение, готовы к нему.

Допустим, мы вводим в программу слова в виде последовательностей цифр. Эти цифры обозначают ссылки на позицию в шрифте. Шрифт тоже является моделью.
Введённые слова встречаются с программой, в которой мы реализуем "наблюдателя".
"Наблюдатель" должен узнать символы, узнать слово, а если не знает - записать.

Что в этот момент происходит? "Наблюдатель" создаёт модель, которая помогает распознать слово, символ. Созданная модель включается в цепочку распознавания, добавляется к ней. Программа обучается.

Но цифровой мир не ограничен только текстом. Последовательность шестнадцатеричных числе может выражать и рисунки и музыку, и видео, и сигналы между управляющими и принимающими устройствами.

Получив доступ к определённому участку памяти программа может даже получать данные о своём коде и изучать себя.
Если у неё достаточно моделей, достаточно быстродействия, чтобы обработать определённый объём информации за единицу времени - она сможет "жить" в настоящем смысле этого слова - участвовать в событиях реального мира наравне с человеком адекватно реагировать на события мира.
Если же быстродействия будет недостаточно - такая программа не сможет успеть полноценно ежесекундно реагировать на изменения окружающей среды и её будет сложно избежать опасности.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Машинное обучение, всё что знаете
Добавлено: 14 фев 08 13:59
Любое обучение - это закрепление чего-то предварительно созданного. Человек создаёт предсказательные модели. Их закрепление и есть память. Их применение - это и есть вспоминание и думанье вообще. Их невостребованность приводит к их незакреплению или забыванию (возможно, путём создания подавляющих моделей). Востребованность приводит к закреплению. Возникновение модели спровоцированно внешним воздействием. Это основное.

Главный вывод, что знание сначала создаётся, а потом оказывается или не оказывается востребованным и, соответственно, закреплённым. Причиной создания знания есть внутренняя энергия системы (будем кушать - будем думать) и внешний раздражитель, который требует своего моделировния и предсказания.

Создание знания можно рассматривать как выращивание знания на "пустом" месте или как отсекание (ограничение) неупорядоченного (хаотического) вороха потенциальных знаний. Второй вариант мне нравится больше.
[Ответ][Цитата]
Mad_God
Сообщений: 545
На: Машинное обучение, всё что знаете
Добавлено: 14 фев 08 14:05
Большое спасибо, Андрей. Ещё кто нибудь?
[Ответ][Цитата]
daner
Сообщений: 4593
На: Машинное обучение, всё что знаете
Добавлено: 14 фев 08 17:18
Формально: обучение -- это поиск такой гипотезы, которая будет истинной для всего опыта.
Опыт -- множество фактов, представляющих некое состояние элементов системы.
Гипотеза -- есть высказывание/модель/формула описывающая взаимосвязь между элементами.
Если на примере, то имея элементы {облачно, дождь, холодно}
мы имеем множество гипотез:
нотация: [<облачно>, <холодно>, <дождь>]
[да,да,да]
[да,да,нет]
[да,нет,да]
.......
[да/нет,да,да]
[да,да/нет,да]
.......
[да/нет,да/нет,да/нет]

Так же проведя несколько экспериментов мы имеем опыт:
[да, да, да], [да,нет,да], [нет, да, нет], ....

таким образом, отсевая такие гипотезы которые не соответствуют опыту, а так же выбирая наиболее подходящие (например с наименьшей степенью свободы), мы получаем то что искали: [да,да/нет,да] и [нет,да/нет,нет]

Вот этот процесс и есть обучение.

Еще формально, обучение любят представлять в виде построения функции разделителя состояний системы, в пространстве ее свойств. Это эквивалентно тому определению которое я привел выше.

Так что в неформальной форме, Андрей высказался довольно правильно (хотя я только пробежал глазами его ответ).

Что же касается способов машинного обучения, то их такое множество, что лично я не собираюсь писать здесь обзор по этому вопросу. Читайте литературу, которой неимоверное множество.
Лично мое мнение, что как минимум, тому кто хочет заниматься маш.обучением надо знать (хотя бы представлять следующие способы).
1. Деревья решений и инфоген (infogen) (методы на основе теории информации)
2. статистическое обучение, т.е. bayesian learning (не знаю как по Русски правильно).
3. Поддержка Векторных Машин (ну это тоже прямой перевод), т.е. SVM
4. Нейронные Сети
5. Обучение с подкреплением (Temporal Difference, Q-Learning, SARSA, policy iteration, и т.д.)

Ну... не знаю, может еще что-то, больше пока в голову не приходит. Но по каждому из этих методов есть СТОЛЬКО способов, что все знать вообще не возможно (мне так кажется). Так что надо хотя бы просто представлять принципы.
[Ответ][Цитата]
гость
164.132.51.*
На: Машинное обучение, всё что знаете
Добавлено: 22 авг 17 14:28
МО сейчас в тренде
[Ответ][Цитата]
 Стр.1 (1)