GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.2 (2)<< < Пред.   Поиск:  
 Автор Тема: На: Какие нейронные сети используются для решения задач по различению?
гость
31.181.59.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 25 июл 14 23:48
***У меня вот была ...

И какое это имеет отношение к инвариантности?

зы. У меня тоже есть.
[Ответ][Цитата]
Dmitry
Сообщений: 3
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 26 июл 14 5:41
Изменено: 26 июл 14 5:43
to гость 78.25.123.*
Цитата:
вопрос можно 'поднять' в том смысле, что можно рассматривать нейрореализации 'прото'алгоритмов (изначально 'параллельных') и смотреть как варьированием структруры и параметров сети можно варьировать вид преобразования.

Можно по подробнее.
Что значит "можно варьировать вид преобразования"?
Вроде на выходе должено быть 0/1?
Какие преобразования бывают?
Может я могу прочитать где то подробнее про Вашу мысль?
[Ответ][Цитата]
Dmitry
Сообщений: 3
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 26 июл 14 5:41
Изменено: 26 июл 14 5:43
Цитата:
По-моему, такие элементарные задачи можно решить и чисто алгоритмически. Другое дело, если автору нужно нейросетевое решение

Нужно именно нейросетевое решение

Цитата:
c помощью одной сетки можно сделать преобразование исходных образов (т.е. фактически описать их), а другой - различить в пространстве дескрипторов.

Каким методом нужно обучать первую сетку(которая делает преобразование исходных образов) и каково ее строение?
[Ответ][Цитата]
гость
94.233.254.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 26 июл 14 10:53
Скорее всего он имел в виду, что одна сеть образы распознавать будет на фоне и фон, а вторая распознавать распознанное и выдавать результат - есть там искомое или нет. По моему глупость какая то.
[Ответ][Цитата]
гость
94.233.254.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 26 июл 14 10:55
***Нужно именно нейросетевое решение

Пойми же на конец, принцип работы всех нейросетей и их подобий одинаков, разница в фишках типа обратного распространения ошибки и слоёв, дающих +10 к качеству распознавания и -1000 к скорости обучения.
[Ответ][Цитата]
гость
78.25.122.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 27 июл 14 23:45
dm.> про Вашу мысль

вопрос глобален и далеко выходит за рамки вопроса квадрат-круг, трудно его систематически осветить компактно..

наводки просты.

cкажем, в простейшем случае вид логической функции на формальном нейроне зависит от величины порога.

cкажем, простейшее преобразование на композиции линейных взвешенных сумматоров MX=Y при наложении глобальных обратных связей преобразуется в уравнение MX+M'Y=Y, т.е. ФX=Y, где Ф зависит от способа организации ОС.

в стандартных случаях искомые Y(X) получают путем задания, скажем, хеббовской динамики dM/dt. простейшее расширение - это введение члена на забывание при перманентом доучивании dM/dt=хебб-bM и возникает задача исследования влияния параметра b на адаптивные свойства нейропреобразователя в, скажем, ассоциативных операциях. Об этом можно посмотреть в классической кн. Кохонена 'Ассоциативная память'. напр. там также можно посмотреть как влияют (улучшают) на линейные ассоциативные преобразования (в задаче идентификации) предварительные конволюционные преобразования образов (повышающие
долю высших пространственных частот) (тут возникают соотв. параметрические исследования) - возникает общая задача на исследование соотношения затрат на предопработку (и поиска оптимальной предобработки) с выигрышем от оной.

можно рассматривать более реалистические модели нейронов и динамическое поведение сетей. C физиологическим прицелом можно исследовать зависимость частотных характеристик активности нейронов от пространственной частоты стимула и от
параметров сети. Напр. если рассматривать двухслойную сеть, то структурно параметризовать ее можно степенями дивергенции возбуждающих и тормозных проекций с первого слоя на второй и их соотношением - сответсвующими вариациями можно получить управляемые полосовые фильтры пространственных частот (путем комбинирования эффектов высоко- и низкочастотной фильтрации). Так можно прийти к стандартным структурам рецептивных полей типа DOG. Так можно прийти к исследованию преобразовательных свойств гетерогенных сетей (напр. колончатой организации) - смотреть преобразования в первичной зрительной коре, скажем. Об этом можно для начала посмотреть у Кропотова, Пономарева в 'Нейрофизиологии целенаправленной деятельности'.
Cвойства НТМ хокинса также следует конкретно изучать при параметрических и структурных вариациях.

Систематического ответа на вопрос, как именно вид и свойства преобразования, осуществляемого сетью общего вида зависит от ее структурных характеристик и соотв. параметров пока нет, есть частные рассмотрения в стандартных курсах типа Хайкина. Нет главного - описания процесса САМООРГАНИЗАЦИИ нейропреобразователя в случае ОБЩЕГО ПОЛОЖЕНИЯ. - когда процесс контролируется влиянием градиента функциональности на вероятность продолжения существования преобразователя (управляющие преобразования).

есть много частностей, крайне важных, но общее пока не интегрировано в единую теорию с соотв. изложением.

cкажем, вот кн. осовского 'Нейронные сети для обработки информации', очень интересно рассмотрение модифицированной структуры ассоциативной памяти по Коско (ВАМ) путем введения расширения слоев на которых разыгрывается рекуррентая динамика - влияние расширения на подавление ошибок распознавания. тут общая идея - растущие сети, влияние на их свойства (как преобразователей) подключения новых нейронов (фельдман, гладун, лекун, кохонен, гроссберг и мн.др.). Хотя, Опять же общей теории выращивания сети нет.

понятно, что было бы очень интересно изложить весь функциональный анализ (особенно нелинейный) в нейротерминах.

Думается, что ограниченные успехи концепции неорганиченного параллелизма в теории вычислений (когда предлагнаемые алгоритмы оказываются несостоятельными по причине сложности межоперационных инфосвязей, численной неустойчивости,
некотролируемых конфликтов в памяти) cвязаны с концептуальной неудовлетворительностью - нужно не распараллеливать то, что возникло идейно как последовательное, а исследовать возможности SO MPP. Но эти вещи в стандартной литературе по парр. выч. (напр. Воеводин) освещаются откровенно неадекватно (практичность видят в другом).

есть рассмотрения dM/dt, есть рассмотрения dE/dw, потоковых графов dG/dw, но пока не совсем понятно как при Y=F(X,p) систематически рассматривать dF/dp (р - не просто параметризация преобразования, но и детерминация структурного класса преобразователя).
[Ответ][Цитата]
Валентин
Сообщений: 4536
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 29 июл 14 23:45
Дима, Вы и другие предлагаете идти от создания математической модели и затем на её основе создать некую физическую на иной, чем реальная, физической реализации проводить эксперименты по обучению и т.п. Я же предлагаю ПОПЫТАТЬСЯ идти от создения ПОДОБИЯ реальной нейронной древовидной модели, с пороговой сенсорикой, где, например, нет "ассоциативной памяти" как таковой, а она проявляется как свойство построения или запуска работы "дерева" от похожих "корней", когда превышен порог срабатывания соответствующей структуры. Т.е. строить модель без математики, опираясь на РЕАЛЬНУЮ физическую реализацию. Так как Ем.-Яр., строил "индуктивный автомат".
Трудно? Да. Но результат будет отличный от уже "зашоренных".
[Ответ][Цитата]
гость
78.25.123.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 03 авг 14 6:02
> дерева

сеть корней (ризома), мангровые кусты, ветви, стегающие корни (укореняющиеся) - как
раз классика растущих деревьев есть некоторая зашоренность.. одеревенелость т.ск..
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 03 авг 14 22:34
[Ответ][Цитата]
гость
78.25.123.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 04 авг 14 0:36
глубокое обучение это ни разу не сильное обучение (на 'сильных' основаниях).
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 04 авг 14 0:41
Цитата:
Автор: гость 94.233.254.*
Пойми же на конец, принцип работы всех нейросетей и их подобий одинаков, разница в фишках типа обратного распространения ошибки и слоёв, дающих +10 к качеству распознавания и -1000 к скорости обучения.

Круто!
[Ответ][Цитата]
гость
78.25.122.*
На: Какие нейронные сети используются для решения задач по различению?
Добавлено: 04 авг 14 1:15
когда идея сверточных сетей в головах архитекторов уравновесится идеей 'разверточных'
сетей, тогда, может быть, что-то сдвинется..
[Ответ][Цитата]
 Стр.2 (2)1  [2]<< < Пред.