GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.2 (2)<< < Пред.   Поиск:  
 Автор Тема: На: Реализация трехслойного персептрона
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Реализация трехслойного персептрона
Добавлено: 14 июн 17 8:07
Цитата:
Автор: NO.
На меня однажды снизошло понимание, что больше 3 слоев не нужно. Этого уже достаточно чтобы всё обобщить, декодировать и даже получить числовые оценки поверх семантики.

Да народ до сих пор не может так алгоритмы/идеи допилить, чтобы даже малослойки нормально учить.
См статью "Do Deep Nets Really Need to be Deep?" на NIPS-2014 (а в арХив её препринт в декабре 2013 положили).
При обучении малослойки на исходных данных - она проигрывает глубоким сеткам, но если её учить копировать поведение обученной глубокой - то дотягивает до уровня точности последней. Т.е. используемые при обучении целевые функции как-то не оптимально штрафуют за совершаемые необученной/недообученной сетью ошибки (не оптимально - с точки зрения применения при обучении на исходных данных).
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Реализация трехслойного персептрона
Добавлено: 14 июн 17 9:52
Статья про нейросети вроде бы всего одна, только много раз переписанная.
Умный человек нейросетями заниматься не будет. Разве только данные как раз под нее подходят. Но с такими данными можно разобраться вообще без компьютеров.
А кто занимается это халявщики, пользователи.
Можно же просто посчитать сколько существует видов нейростей, вот и будет число, сколько раз вообще люди включали голову.
Если бы сейчас Макаллоку-Питсу показать чего творится, он бы покраснел и сказал, что нужно было назвать свою работу как обычно у математиков, чтобы никто не понял о чем там речь.
[Ответ][Цитата]
гость
163.172.151.*
На: Реализация трехслойного персептрона
Добавлено: 14 июн 17 10:06
Цитата:
Автор: NO.
нужно было назвать свою работу как обычно у математиков, чтобы никто не понял о чем там речь
ну почемуже "никто", не судите по себе, у кого развито абстрактное мышление, понимают, Вы не понимаете математическую абстракцию, вам нужны бытовые ассоциации, хотя это скорей не от генетики а от образования зависит, от пресловутых 10к часов практики
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Реализация трехслойного персептрона
Добавлено: 14 июн 17 10:27
Так объясните мне математическую абстракцию, может и пойму.
[Ответ][Цитата]
kondrat
Сообщений: 4026
На: Реализация трехслойного персептрона
Добавлено: 15 июн 17 8:09
Изменено: 15 июн 17 8:10
Хочу заметить, что для причинно следственных графов независимость отдельных, даже интерфейсных, связей не обязательно дает какие-либо преимущества. А вот в задачах, где собственное время не выражено, т.е. нет устойчивых причинно-следственных связей в последовательности входных образов, слоистость, на мой взгляд, - очень мощная эмпирика, позволяющая существенно упростить сеть.
[Ответ][Цитата]
kondrat
Сообщений: 4026
На: Реализация трехслойного персептрона
Добавлено: 15 июн 17 8:16
Изменено: 15 июн 17 9:40
Для двухпроходового обсчета сеток на основе причинно-следственных связей необходимо три типа списков: полный в рамках полузакрытой или закрытой системы, частичный в рамках элемента полного списка для учета реципиентов влияния и частичный для учета влияний.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Реализация трехслойного персептрона
Добавлено: 18 июн 17 10:32
Цитата:
Автор: NO.
Так объясните мне математическую абстракцию, может и пойму.

Стоящую за нейронками?
Или в указанной мной статье?

Если в статье - то аккуратно в очередной раз привлечено внимание к проблеме внимания (сорри за тавтологию): видимо, не всю обучающую выборку нужно считать гомогенной, вполне вероятна необходимость новых (ибо самым старым - уже больше 20лет) алгоритмов active learning (алгоритмов/способов/эвристик выбора тех примеров выборки, на которых в первую или в последнюю очередь нужно учиться). Что, впрочем, укладывается в идею модификации используемой при обучении целевой функции (ибо можно же тем неправильно решаемым примерам, на которых в данный момент учиться не нужно, заменять ошибку на отсутствие ошибки).
Т.е. декомпозиция задачи не на подзадачи - а декомпозиция "учебника" на в первую и в последнюю очередь решаемые примеры, с, возможно, разным способом оценивания неуспеха их решения, с, возможно, разной скоростью адаптации к тем и к другим группам примеров.
Это я уже так, перевожу на варианты решения, не повторяющие изложенный в статье (ибо изложенному варианту нужно предварительное создание глубокой модели, поведение которой затем будем копировать), но могущие дать сравнимый (и лучший по отношению к текущим схемам обучения малослоек чисто по выборке) результат.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Реализация трехслойного персептрона
Добавлено: 18 июн 17 13:34
Цитата:
Автор: Victor G. Tsaregorodtsev
Стоящую за нейронками?
Или в указанной мной статье?

это было гостю, он один владеет пониманием математической абстракции

Цитата:
Автор: Victor G. Tsaregorodtsev
active learning

В обучении много очевидных идей, обсуждать не хочется, они не такие сложные.
Возможно даже есть системы, в которых всё собрано и со всеми удобствами организовано. Просто плохо рекламируется, эти люди всё понимают и никаких лишних упований не возлагают и перспектив не обещают.
А что рекламируется хорошо, оно никуда не ведёт. Типа вот тут самое сложное сделано, нужно только кодера, который плохо понимает в обучении, но может приделать кнопочки. Вот народ туда и валит.
[Ответ][Цитата]
AliansDekor
Сообщений: 1
На: Реализация трехслойного персептрона
Добавлено: 20 июн 17 3:14
[Ответ][Цитата]
аdmax
Сообщений: 299
На: Реализация трехслойного персептрона
Добавлено: 20 июн 17 4:54
Изменено: 20 июн 17 4:54
Цитата:
Автор: NO.

В обучении много очевидных идей, обсуждать не хочется, они не такие сложные.
Возможно даже есть системы, в которых всё собрано и со всеми удобствами организовано. Просто плохо рекламируется, эти люди всё понимают и никаких лишних упований не возлагают и перспектив не обещают.
А что рекламируется хорошо, оно никуда не ведёт. Типа вот тут самое сложное сделано, нужно только кодера, который плохо понимает в обучении, но может приделать кнопочки. Вот народ туда и валит.
А вы типа понимаете ML и даже написали MLP? Где здесь http://o-nabatov.narod.ru/ MLP? Там как раз всё из разряда "кнопочку приделать к годовому алгоритму", выходит вы самого себя осуждаете. ML никто не понимает, ни одному человеку не понятно как работает персептрон, даже VGT, но он работает и этого достаточно, а что бы написать персептрон нужна хорошая память.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Реализация трехслойного персептрона
Добавлено: 20 июн 17 5:39
Сделайте в Exсel МПЛ 3*3 нейрона и посмотрите как оно работает.

Хорошая задача тест Бонгарда, Lmm говорит в Яндексе никто не может решить, хотя у них своя школа машинного обучения. Или машина школьного обучения, они это не различают.
http://www.foundalis.com/res/bps/bpidx.htm
надо догадаться чем левые картинки отличаются от правых, например тут слева пузыри в ряд, а справа по-украински
[Ответ][Цитата]
аdmax
Сообщений: 299
На: Реализация трехслойного персептрона
Добавлено: 20 июн 17 6:03
Цитата:
Автор: NO.

по-украински
оно и видно, что вы сам какой то украинский...
[Ответ][Цитата]
kondrat
Сообщений: 4026
На: Реализация трехслойного персептрона
Добавлено: 20 июн 17 14:48
А чего все троллят местных современным мл-овским детским садом? Сидите там и наслаждайтесь!
[Ответ][Цитата]
гость
23.129.64.*
На: Реализация трехслойного персептрона
Добавлено: 18 мар 21 8:55
Цитата:
Автор: гость


Через веб интерфейс(фронт-энд) http://playground.tensorflow.org или пишите заявку VGT(http://neuropro.ru/contacts.shtml) тут только он один в состоянии собрать MLP с нуля а также любой другой классификатор, другие философы.

Согласен, сейчас нейросетки все делаются через гугл и майкрософт(а также амазон и тп.) руками делать нейросетку - позор.
[Ответ][Цитата]
 Стр.2 (2)1  [2]<< < Пред.