новости  материалы  справочник  форум  гостевая  ссылки Поиск с Яндексом  
Новости
Материалы
  Логические подходы
  Нейронные сети
  Генетические алгоритмы
  Разное
  Публикации
  Алгоритмы
  Применение
Справочник
Форум
Гостевая книга
Ссылки
О сайте
 

Одно- и многослойные персептроны

Персептрон - еще одно название искусственного нейрона. С момента появления на свет искусственные нейроны именовались по-разному, - например, adaline (ADAptive LINear Element), в зависимости от особенностей модели и настроения тех, кто занимался созданием сети. На данный момент терминология немного утвердилась. Каждая отдельная клетка называется узлом или персептроном:

41.gif (801 bytes)

нейронная сеть, состоящая из слоя узлов между входом и выходом, - однослойным персептроном:

42.gif (1708 bytes)

а сеть, состоящая из нескольких слоев - многослойным персептроном:

43.gif (2952 bytes)

Справедливо утверждение, что многослойный персептрон более эффективен, чем однослойный. В 1969 году Марвин Минский и Сеймур Пейперт написали книгу "Персептроны", в которой математически доказали, что однослойные персептроны не могут справляться с задачами классификации линейно неразделимого типа. Книга оказала большое влияние на общественное мнение и сыграла роковую роль в развитии нейроинформатики. На тот момент исследователи возлагали большие надежды на однослойные персептроны ( и получали иногда впечатляющие результаты). Минский же и Пейперт доказали ограниченность способностей в решении задач с помощью нейронных сетей.

Книга приостановила исследования примерно на 15 лет. Конечно, идея применения большего количества слоев неоднократно предлагалась, но способы обучения таких сетей оставались неизвестными. До середины 80-х, когда появился алгоритм обратного распространения, к нейронным сетям относились без должного внимания.

Два или три слоя?

Есть небольшое затруднение, - каким образом считать количество слоев. Посмотрите еще раз на схему многослойного персептрона. Эта нейронная сеть состоит из двух слоев обрабатывающих узлов (обозначены кружками). Также представлена серия точек, - в тех местах, где в сеть подается входной образ. Я называю это двухслойной сетью, но многие исследователи могут назвать такую схему трехслойной (считая ряд точек - отдельным слоем). Эти исследователи называют эти три слоя как входной слой, скрытый слой и выходной слой.

Можно считать, что сеть с такой архитектурой довольно успешно справляется с множеством задач (при достаточном количестве нейронов в слоях). Некоторые ученые, однако, публикуют работы, название которых звучит примерно так: "Трех слоев хватит для любой проблемы". Если вы встретите таких людей, сначала уточните, что именно они подразумевают под слоем нейронной сети.

Литература:
"Perceptrons", by Marvin Minsky and Seymour Papert, published by MIT Press, Cambridge Massachusetts, (1969)
Минский М., Пайперт С. Персептроны. - М.: Мир, 1971


Предыдущая Оглавление Следующая