Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.2 (11) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Какие методы обучения ИНС существуют и чем отличаются?
Вася Сообщений: 180	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 17:27 tac Поскольку я как раз занимаюсь именно эволюционными подходами, хочу выступить в их защиту как достойной альтернативы нейросетям. Хотя, может и не альтернативы, а симбионта или даже... отражения. Пытаясь найти наиболее дееспособный способ эволюционного представления, я пришёл к такому способу, в результате работы которого получаются именно нейросетевые структуры. Обобщая, можно допустить, что существует некоторая идеальная сетеая структура с алгоритмыми её поиска, подходящая для решения интеллектуальных задач, которая реализованна в биологии - и в генах, и в нейронных сетях, - и к которой люди просто идут разными путями, от генов и от нейронов, поскольку в них как раз заметны черты этой идеальной структуры и черты способов её поиска. Цитата: Просто представьте нужно Вам решить частную задачу классификации - аппроксимации (что и есть основная задача нейросеток), а Вам говорят давайка оцени на сколько это пригодно Что-то я не вижу здесь проблемы. Допустим есть задача выделить во множестве картинок картинки кошек от собак. Решаем мы её чисто с помощью нейросеток или эволюционно, но целевая функция - это процент успеха, отношения случаев верного угадывания к количеству примеров. Не вижу тут, что уничтожает надежду, уточняйте. А вот в способе генетического кодирования - действительно есть сложности, точнее, в выборе этого способа как раз и состоит творческая задача, и подразумевается, что в рамках эволюционного подхода можно найти такой крутой способ, который превзойдёт нейросетевые представления и алгоритмы обучения, ибо... Цитата: Ну, и для чего тогда вообще все это затевать ... Прелести эволюции - как раз в алгоритмах поиска в пространстве решений: случайное прощупывание плюс прыжки, зависящие от генетического представления и операторов изменчивости. То есть, в рамках эволюионных возможностей есть больше свободы найти такое представление, в котором и поисковое пространство проще и у областей правильных решений сильное и широкое притяжение, так что поиск становится делом тривиальным и не требует большого времени и ресурсов. По поводу основной задачи нейросеток. Насколько я понимаю, нейросетки бывают статические и динамические. Для статических больше подходят задачи классификации, то есть, подали на вход пример, сетка выдала сигнал, отнесла пример в некую группу. А для динамических, то есть, наделённых всякими обратными связями, с изменяемой во времени активностью, вся таки боле основной задачей является управление. Типа, на входе показанияд атчиков, а на входе управляющие сигналы, и всё это непрерывно. Правильно я понимаю общую картину? Вот мне кажется, что мощь эволюционного подхода в соединении с нейросетевым, скорее проявляется именно в задачах такого вот динамического управления. [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 17:38 Цитата: Автор: Вася tac Что-то я не вижу здесь проблемы. Допустим есть задача выделить во множестве картинок картинки кошек от собак. Решаем мы её чисто с помощью нейросеток или эволюционно, но целевая функция - это процент успеха, отношения случаев верного угадывания к количеству примеров. Не вижу тут, что уничтожает надежду, уточняйте. Это у Вас от привычки ... У нейросеток нету целевой функции, если точнее ее как раз то и надо найти, а экспериментатор всего лишь постфактум может сказать хорошо получилось или нет ... а в генетическом программировании от этого зависит весь алгоритм нахождения (обучения), т.е. не зная какой индивидум успешен или нет, просто нельзя определить кому умирать, а кому размножатся ... [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 17:40 Цитата: Автор: Вася По поводу основной задачи нейросеток. Насколько я понимаю, нейросетки бывают статические и динамические. Для статических больше подходят задачи классификации, то есть, подали на вход пример, сетка выдала сигнал, отнесла пример в некую группу. А для динамических, то есть, наделённых всякими обратными связями, с изменяемой во времени активностью, вся таки боле основной задачей является управление. Типа, на входе показанияд атчиков, а на входе управляющие сигналы, и всё это непрерывно. Правильно я понимаю общую картину? Вот мне кажется, что мощь эволюционного подхода в соединении с нейросетевым, скорее проявляется именно в задачах такого вот динамического управления. В принципе все правильно, просто динамика не сильно по сути отличается от статики, просто немного разная специфика применения и все ... [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 17:45 Цитата: Автор: Вася Прелести эволюции - как раз в алгоритмах поиска в пространстве решений: случайное прощупывание плюс прыжки, зависящие от генетического представления и операторов изменчивости. То есть, в рамках эволюионных возможностей есть больше свободы найти такое представление, в котором и поисковое пространство проще и у областей правильных решений сильное и широкое притяжение, так что поиск становится делом тривиальным и не требует большого времени и ресурсов. Случайное прощупывание совсем не выделяет принципы эволюции, существуют много методов стохастического обучения, которые ничем не хуже это делают без эволюции, но доказанно, что на порядок медленее, чем, например, алгоритм обучения перцептрона Розенблатта. [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 17:49 Цитата: Автор: Вася Поскольку я как раз занимаюсь именно эволюционными подходами, хочу выступить в их защиту как достойной альтернативы нейросетям. Хотя, может и не альтернативы, а симбионта А этого и я хотел бы, но сейчас мне кажется несколько не правильная тенденция к достяжению это симбионта ... Если желаете можем вместе подумать как это можно добится, но так чтобы результат совмещения, стал бы больше суммы частей ... Мне представляется, что начинать нужно с "нейромодулирующих архитектур", что Вы о них знаете, думаете ... ? [Ответ][Цитата]
Вася Сообщений: 180	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 17:57 Цитата: У нейросеток нету целевой функции Странно. Давайте уточним. Целевая функция или функция пригодности (fitness function) - это способ выяснить, насколько хорошо обучаемая сетка или эволюционирующая особь решает свою задачу. В простом случае, значение функции = 1, если задача решена верно, и <1 если не совсем. То есть, если из 10 зверей, 8 угаданы верно, значение функции = 0.8. Разве нет такого в обучении сетей? Как-то же надо количественно измерять качество обучения? [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 18:09 Цитата: Автор: Вася Странно. Давайте уточним. Целевая функция или функция пригодности (fitness function) - это способ выяснить, насколько хорошо обучаемая сетка или эволюционирующая особь решает свою задачу. В простом случае, значение функции = 1, если задача решена верно, и <1 если не совсем. То есть, если из 10 зверей, 8 угаданы верно, значение функции = 0.8. Разве нет такого в обучении сетей? Как-то же надо количественно измерять качество обучения? Да, такое можно получить и для нейросеток, но сам алгоритм обучения это знание ни как не использует - в чем и разница. Единственно, используется для остановки обучения - скажем так две величины: 1- обучилась всем примерам, 0 - продолжать обучение ... такого знания думаю генетическому алгоритму принципиально не хватит, ему нужно показать, что данный конкретный индивид эволюционно пригоден или нет .. Разве не так ? [Ответ][Цитата]
Вася Сообщений: 180	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 18:18 tac Цитата: Мне представляется, что начинать нужно с "нейромодулирующих архитектур", что Вы о них знаете, думаете ... ? Знаю мало, лишь то, что в этой переведённой статейке указано, а думаю, что сигналы с одних нейронов должны не только влиять на возбуждение других нейронов, на которые этот сигнал поступает, но и влиять на веса связей. Это открывает новый порядок активности, недостижимый в стандартных нейросетях. Роль эволюционного поиска тут в том, чтобы находить эти связи в пространстве возможных. Давайте так, вы оставляете тут ссылки, если они у вас есть, на эти модулирующие архитектуры, чтоб я ознакомился, а вам я пока предлагаю почитать, каким, собственно, образом из эволюции вытекает сетевая структура, которой, по-моему, как раз свойственна "нейромодуляция". Вот эта статья: http://allscience.ru/Articles/Acticle/?ID=080725003 Цитата: Случайное прощупывание совсем не выделяет принципы эволюции, существуют много методов стохастического обучения, которые ничем не хуже это делают без эволюции, но доказанно, что на порядок медленее, чем, например, алгоритм обучения перцептрона Розенблатта. Хорошо, а как насчёт усложняющего синтеза архитектуры? Есть ли такие чисто нейросетевые алгоритмы обучения, которые создают, если надо, новые нейроны, то есть, достраивают сеть сколь угдно? Для эволюции это несложно. [Ответ][Цитата]
Вася Сообщений: 180	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 18:33 Цитата: Да, такое можно получить и для нейросеток, но сам алгоритм обучения это знание ни как не использует - в чем и разница. Единственно, используется для остановки обучения - скажем так две величины: 1- обучилась всем примерам, 0 - продолжать обучение Обучилась всем примерам - это не есть целевая функция. Целевая функция - это показатель работоспособности сети. Чтобы его вычислить, мы должны временно отойти от обучения, и прогнать через сетку все примеры. И подсчитать число правильных ответов. И надо выполнять эту операцию после каждого акта обучения, чтобы оценить динамику изменения целевой функции. Например, она может перстать расти не достигнув единицы. Вот например, вы упоминали стохастический поиск. Очередное обучающее воздействие даёт несколько вариантов перестройки весов. Все их надо сравнить (вычислить целевую функцию) и выбрать лучший. И на следующем цикле обучать его. Тогда получится, что весь процесс обучения мы двигались с наибольшей скоростью к лучшей сети. Но это работает только если существует путь монотонного возрастания целевой функции в просранстве поиска весов. Но это нечастая ситуация. Поэтому, используют популяции решений, то есть сохраняют для дальнейщего обучения много различных вариантов сети, соответствующих различным точкам в пространстве возможных комбинаций весов связей. Некоторые из этих точек застрянут в локальных оптимумах целевой функции, но некоторые могут достигнуть оптимума глобального. И это как раз пример совместного использования обучения и эволюции. [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 20:32 Цитата: Автор: Вася Обучилась всем примерам - это не есть целевая функция. Целевая функция - это показатель работоспособности сети. Вот поэтому я и говорю - для нейросеток в таком нет необходимости ! "Некоторые из этих точек застрянут в локальных оптимумах целевой функции, но некоторые могут достигнуть оптимума глобального. " А вот отсюда помедленее, как Вы поймете, что достигли глобального оптимума ? Из целевой функции ? Тогда зачем Вы его достигали, если уже знали ? [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 20:43 Цитата: Автор: Вася Хорошо, а как насчёт усложняющего синтеза архитектуры? Есть ли такие чисто нейросетевые алгоритмы обучения, которые создают, если надо, новые нейроны, то есть, достраивают сеть сколь угдно? Для эволюции это несложно. Да, действительно, таких архитектур нету (я не знаю) ... Но совершенно, по другой причине, чем Вы полагаете ... Эволюция этой проблемы не решает ... Главный здесь вопрос: для чего и в каком случае следует изменять архитектуру ? Добавлять число нейронов во время обучения - не проблема, нужно знать когда ? А эволюция ничего кроме случайности предложить не может, так и без нее можно раз от раза добавить по нейрончику, например, когда начинает тормозить обучение (правда, как оказалось, для обратного распространения этим не поможешь - правда, пока еще не понял почему) [Ответ][Цитата]
Вася Сообщений: 180	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 21:23 Цитата: "Некоторые из этих точек застрянут в локальных оптимумах целевой функции, но некоторые могут достигнуть оптимума глобального. " А вот отсюда помедленее, как Вы поймете, что достигли глобального оптимума ? Из целевой функции ? Тогда зачем Вы его достигали, если уже знали ? Глобальный оптимум - это когда значение целевой функции = 1. Этому соответствует неизвестная сначала структура нейросети, которую мы и ищем. И ещё раз (помедленнее): значение целевой функции - это число на интервале [0, 1]. Сама целевая функция - это эксперимент: для полученной в результате поиска структуры нейросети ищем значение целевой функции. Структура сети - это точка в n-мерном пространстве, где n - количество связей сети, которую мы обучаем, то есть ищем такие величины весов связи, при которых значение целевой функции сети = 1. То есть, при которых она верно решает задачу в 100% случаев. Цитата: Вот поэтому я и говорю - для нейросеток в таком нет необходимости! Согласен, в процессе поиска такого вычисления не делают, над сетью просто последовательно выполняют обучающие итерации, предъявляют обучающие примеры, изменяют веса, и так для всего множество примеров. Но вот тут-то, по завершении обучения, сеточку то и проверяют на предмет, как хорошо научилась. И затем, если сеть не демонстрирует желаемого уровня, меняют её структуру или алгоритм обучения, и повторяют всё сначала. А эволюционные методы этот процесс автоматизируют. И вот каким изящным способом: множество операторов изменчивости - это как бы кусочки разных алгоритмов обучения. Применяя их в различных (случайных) комбинациях над особями популяции, мы, по сути, получаем множество одновременно обучающихся по различным траекториям сетей. Выживают те особи, обучение которых, волею случая, быстрее привело к успеху (для этого мы после каждого шага вычисляем значение целевой функции, и оно влияет на то, кто выживет, а кого уберут). То есть, классическое обучение по единственному алгоритму является частным случаем, когда мы раз за разом применяем один и тот же оператор изменчивости. Но данный частный случай модет не быть лучшим. Если мы откроем историю мутаций, произошедших с лучшей, по результатам эволюционного поиска, сетью, то увидим, что последовательность содержит различные операторы, кратчайшим путём приведшие сеть к оптимуму. [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 05 авг 08 23:57 Цитата: Автор: Вася Глобальный оптимум - это когда значение целевой функции = 1. Этому соответствует неизвестная сначала структура нейросети, которую мы и ищем. Вот смотрите я обучаю нейронную сеть функции XOR на 4 примерах (волей случая это все возможные варианты) - спрашивается какова должна быть целевая функция для генетического алгоритма, не чтобы проверить, а чтобы научится этим четырем примерам ? Думаю ровно такая же XOR. И замедте, пожалуйсто, главную разницу ... чистым эволюционным алгоритмом мы не смогли бы научится функции XOR, не зная ее ... а в нейросети, мы вначале бы обучились бы по примерам и (!!) если бы захотели бы (!!) на тесте сравнилибы с настоящим XOR. Теперь возьмем просто 5 изображений 30х30 и обучим им нейронную сеть, чтобы изображение ассоциировалось со словом. Какая целевая функция ? Да я ее не знаю и знать не хочу, она появится сразу как сеть сойдется, и будет заключаться в структуре сети, т.е. целевая функция и есть "неизвестная сначала структура нейросети". Поэтому в реальности совершенно нельзя "по завершении обучения, сеточку то и проверяют на предмет, как хорошо научилась" - нету ни каких для этого прямых данных, на то оно и прогнозирование, чтобы получать то чего не знаешь, и доверять или нет, но нельзя сказать на сколько можно доверять ... Ну, а генетический алгоритм даже не сможет начать обучатся, он будет просто случайно блуждать ... замедте, я пка не говорю о совмещении этих методов ... "эволюционные методы этот процесс автоматизируют" - это красивая сказка, на такую дорогую по времени автоматизацию просто нет времени ... [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 06 авг 08 0:45 Цитата: Автор: Вася Давайте так, вы оставляете тут ссылки, если они у вас есть, на эти модулирующие архитектуры, чтоб я ознакомился, а вам я пока предлагаю почитать, каким, собственно, образом из эволюции вытекает сетевая структура, которой, по-моему, как раз свойственна "нейромодуляция". Вот эта статья: http://allscience.ru/Articles/Acticle/?ID=080725003 До Вашей переведенной статьи, я думал, что я первый собрался моделировать нейромодуляцию ... да, и конечно, не смотря на то, что описанные направления очень близки, у меня несколько другие идеи, но они далеко еще не проверенны ... со временем, если будет интересно могу поделится ..? Статью Вашу начал читать ... [Ответ][Цитата]
tac Сообщений: 2601	На: Какие методы обучения ИНС существуют и чем отличаются? Добавлено: 06 авг 08 1:04 По поводу, целевой функции - я понял, что Вы имели введу, посмотрев Вашу работу (оригинально), буду думать ... Но все равно, можете ответить на предыдущий мой пост по целевой функции ... Вообще, это действительно может быть интерессно ... но, только не всегда можно найти такой способ оценки агента, для этого должна быть достаточно сложная среда ... и действительно, это применимо только для обучения агента управлению ... Т.е. функция оценки должна отличатся (быть на порядок проще) реальной необходиомй функции поведения, а в задачах классификации практически всегда эти функции совпадают ... Но в свете того, что я больше как раз интересуюсь управлением агентами - большое спасибо, похоже Вы несколько развеяли мой писсимиз в этом вопросе с эволюционными алгоритмами ... [Ответ][Цитата]
Стр.2 (11): 1  [2]  3  4  5  6  ...  11 << < Пред. | След. > >>