GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (26)След. > >>   Поиск:  
 Автор Тема: Delay Line Networks (DLN)
Jenka
Сообщений: 959
Delay Line Networks (DLN)
Добавлено: 28 фев 15 22:48
Изменено: 02 мар 15 21:24
Delay Line Network(DLN) - Сеть линий задержек.
Принцип функционирования данной сети основан на эффекте задержки распространения сигнала когда он проходит по более длинному проводнику относительно времени его прохождения по более короткому проводнику.
Структурно сеть DLN представляет ориентированный граф в узлах которого находятся управляющие элементы - "нейроны", связи соединяющие различные "нейроны" представляют из себя линии задержки.

Сеть DLN предполагается использовать для создания модели функционирования мозга.

Свойства которыми должна обладать DLN:
- Память. способность сети сохранять и воспроизводить некоторые данные которые будут поступать на вход сети.
- Способность сохранять и восстанавливать последовательности входных данных.
- Иерархичность. способность сети сохранять входные данные в памяти в виде иерархий, также образовывать новые уровни иерархий.
- Ассоциативный доступ к данным в памяти.
- Целеобразование и реструктуризация целей сети.

DLN можно также назвать корреляционой сетью, т.к. основным принципом работы данной сети является установление зависимостей во входных данных.

//----
Рассмотрим что же из себя представляет линия задержки в структуре DLN

Линия задержки по сути представляет локальную память системы, способную хранить некоторое кол-во информационных состояний(S). Чем длиннее линия задержки тем больше ее информационная емкость.
Линию задержки можно сравнить с локальной переменной в программировании.
Второй функцией линии задержки является образование структуры сети. Ее вычислительной мощности.

//---
Общая структура системы будет иметь следующий вид


//---
Реструктуризация информации в сети DLN.

Рассмотрим сначала основные способы реструктуризации информации в сети.
На мой взгляд их всего 3:
1) Реструктуризация по через создание обратных связей.
2) Реструктуризация через модификацию соединительных связей.
3) Реструктуризация через изменение свойств элементов.
Четвертым типом может быть комбинированная реструктуризация сочетающая перечисленные выше типы.


[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 28 фев 15 22:49
...зарезервировано 1
[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 28 фев 15 22:50
...зарезервировано 2
[Ответ][Цитата]
гость 31.211.0.*
Сообщений: 1849
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 1:24
Теперь для правильного осмысления бытия мозга остался один шаг - понять, что он видимость из 3-х мерного пространства, пространства-время Минковского размерности близкой к четырём.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 4:58
Цитата:
Автор: Jenka
Delay Line Network(DLN) - Сеть линий задержек.

Мне бы хотелось, чтобы Вы взяли нейросетевой талмуд Хайкина, а конкретно - главу 13 оттуда, и, может, главу 15 (если у Вас сеть-граф предполагается с циклами). И написали отличия Вашего подхода от классики четвертьвековой давности.
[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 6:07
Изменено: 01 мар 15 6:25
Цитата:
Автор: Victor G. Tsaregorodtsev
Мне бы хотелось, чтобы Вы взяли нейросетевой талмуд Хайкина, а конкретно - главу 13 оттуда, и, может, главу 15 (если у Вас сеть-граф предполагается с циклами). И написали отличия Вашего подхода от классики четвертьвековой давности.

Предлагаемый мною подход очень похож по описанию на сети TLFN описанные в главе 13 (стр 811 и 820). Сеть DLN это действительно распределенная сеть с задержкой во времени в которой задержки распространены по всей структуре сети.
Однако как я писал выше работа сети DLN построена на цифровых принципах обработки информации. В ней нет понятия активационная функция нейрона. Нейрон будет активироваться самим фактом поступления информации.
Соответственно нет также понятия "синаптические веса". Есть только управляющие нейроны которые обрабатывают поступающую информацию и передают ее дальше.
Запоминание в такой сети будет происходить не за счет подстройки синаптических весов а за счет перенаправления сигналов и образования новых связей.
Второе, я предлагаю не просто модель сети, а модель управляющей структуры. Которая будет адаптирована именно для управления каким-то физическим объектом(телом). функции распознавания будут в ней присутствовать лишь как задачи второго плана.
На первом плане будут процессы реструктуризации памяти.

Производить реструктуризацию памяти гораздо легче в цифровом виде чем в аналоговом.
Как и производить расчет всех элементов сети.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 20:52
Цитата:
Автор: Jenka
Предлагаемый мною подход очень похож...
...
Есть только управляющие нейроны...
...
Производить реструктуризацию памяти гораздо легче в цифровом виде чем в аналоговом...

Не думаю, что Вам стоит зацикливаться на своем подходе не оглядываясь вокруг. "ВременнАя" задержка (а точнее разнообразие(!) временных параметров), на мой не просвещенный взгляд, всего лишь одна из составляющих "второго порядка"(второго, подчиненного уровня) требуемых для обеспечения, для краткости условно скажем, гибкой когнитивности.

Кто и кем, а главное по какому принципу управляет. Корректно ли вообще, в данном контексте говорить про управление, которое, как бы, подразумевает критерии управления, "цели" и т.п., про которые у Вас ни слова. Как бы странно это ни казалось, если уж Вам так нравится слово "управление", то может идет "взаимоуправление" системы и среды?

А выбор "вида" (цифрового или аналогового), здесь еще вообще не созрел.
[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 22:21
Цитата:
Автор: rrr3
Не думаю, что Вам стоит зацикливаться на своем подходе не оглядываясь вокруг. "ВременнАя" задержка (а точнее разнообразие(!) временных параметров), на мой не просвещенный взгляд, всего лишь одна из составляющих "второго порядка"(второго, подчиненного уровня) требуемых для обеспечения, для краткости условно скажем, гибкой когнитивности.

Кто и кем, а главное по какому принципу управляет. Корректно ли вообще, в данном контексте говорить про управление, которое, как бы, подразумевает критерии управления, "цели" и т.п., про которые у Вас ни слова. Как бы странно это ни казалось, если уж Вам так нравится слово "управление", то может идет "взаимоуправление" системы и среды?

А выбор "вида" (цифрового или аналогового), здесь еще вообще не созрел.

Не надо забегать вперед. Вы хотите сейчас чтобы я вам выдал уже законченную систему разложенную по полочкам. Я пока только начинаю её создавать и вполне вероятно что многое из её описания в конечном итоге поменяется.

В предлагаемом мною подходе преобразовать систему из цифровой в аналоговую не составит труда. Как я писал выше за основу я взял цифровую систему, а если быть более точным то дискретную. т.к. в ней гораздо меньше возможных состояний чем в аналоговой и их легче отследить и контролировать.

Сеть DLN будет манипулировать 3 состояниями сигнала "-1" - отсутствие сигнала, ("0" и "1") - 2 информационных состояния.
Можно было построить данную систему вообще на 2х состояниях 0 и 1 но в этом случае кол-во внутренних связей системы резко возросло бы.

3 состояния это оптимальный набор для начала исследований. Который впоследствии может быть увеличен до любого кол-ва состояний приведя систему к аналоговому виду, сделав из нее своеобразный АЦП.

[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 22:32
Цитата:
Автор: Jenka
Не надо забегать вперед. Вы хотите сейчас чтобы я вам выдал уже законченную систему разложенную по полочкам. Я пока только начинаю её создавать и вполне вероятно что многое из её описания в конечном итоге поменяется.

Извините, не удержался от советов...
(Ну что же можно "хотеть" от Вас... в плане СИИ... )
[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 22:43
Изменено: 01 мар 15 22:58
Отображение объектов внешнего мира в сети DLN.

В современном представлении описание внешнего мира можно представить с помощью 3х сущностей - объектов, связей и свойств. Которые имеют качественный отличия друг от друга.
В сети DLN не будет ни объектов, ни связей ни свойств. А будует только связь между входными значениями.
Если рассмотреть любой объект (Возьмем для начала самый простой- белый лист и на нем черный квадрат). Квадрат это совокупность точек обладающих одинаковыми свойствами (они все черные) опознаваемая нами как один объект. соответственно обладающих корреляцией значения сигнала друг относительно друга.
Свойства-это конкретные значения сигнала для данной группы точек.
Связи-это временная корреляция свойств.
Таким образом все описание внешнего мира можно построить лишь с использованием двух сущностей - значения сигнала и его связи с другими значениями.

На этом и будет основан принцип фуннкционирования сети DLN. Мы попробуем создавать и реструктурировать все многообразие проявлений внешнего мира через эти 2 типа сущностей.

Т.е. окружающий мир для нашей DLN будет двухмерным.
[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 01 мар 15 23:46
Целеобразование в сети DLN.

Рассмотрим простой пример описания цели человеком. Например: "Я хочу купить машину".
Эта структура описания состоит из 4х частей.
1) "Я" - субъект цели.
2) "хочу" - это просто признак что данное предложение является выражением цели.
3) "купить" - предполагаемый способ достижения цели.
4) "машину" - собственно сам объект цели.
Субъект(1) и признак цели(2) можно исключить из структуры цели. т.к. они носят чисто описательный характер и предназначены для внешнего собеседника.
Остается 2 составляющих через которые выражается цель. Это "объект цели"(4) и "предполагаемый способ достижения цели"(3).

Как мы уже договорились любой объект можно выразить через корреляционную составляющую входных сигналов, тогда как "способ достижения цели" есть последовательность действий над объектами. Т.е. упорядоченное расположения ранее встречавшихся состояний внешней среды.

[Ответ][Цитата]
гость
193.0.152.*
На: Delay Line Networks (DLN)
Добавлено: 02 мар 15 3:56
***Рассмотрим простой пример описания цели человеком. Например: "Я хочу купить машину".

Рассмотри заодно структуру "1010101011101010" - где объект, а где субъект(это строка из двух слов с бинарным алфавитом, которая может быть, а может и не быть одной сенсорной матрицей)?

Если обучать по объектной модели "объект" -> "субъект" -> "свойства", это равноценно конструкции if -> then, что не сулит универсальности.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Delay Line Networks (DLN)
Добавлено: 02 мар 15 4:14
Цитата:
Автор: гость
... это равноценно конструкции if -> then, что не сулит универсальности.

А что такое универсальность? Ограничена она чем либо или ничем? Может ли быть универсальность "вообще"? А если много много "if -> then" в разных комбинациях, это будет больше универсальности чем 2 или 3 "if -> then"?
[Ответ][Цитата]
Jenka
Сообщений: 959
На: Delay Line Networks (DLN)
Добавлено: 02 мар 15 4:22
Цитата:
Автор: гость
***Рассмотрим простой пример описания цели человеком. Например: "Я хочу купить машину".
Рассмотри заодно структуру "1010101011101010" - где объект, а где субъект(это строка из двух слов с бинарным алфавитом, которая может быть, а может и не быть одной сенсорной матрицей)?

а теперь возьмите фотографию на которой человек покупает машину, и скажите где там объект а где субъект цели? не зная вообще что такое машина и человек.
Та строка которую вы продемонстрировали примерно тоже самое. Она может содержать объект а может объект и субьект(зависит от предыдущего опыта) а может вообще ничего не содержать, это первое.

Второе, и самое главное, как я уже говорил память в сети DLN не раскладывается на отдельные входные составляющие подобно битам в байтах.
И строку "101010111" нельзя интерпретировать как содержащую объект в явном виде. Ее можно интерпретировать лишь как набор входных данных.
Сеть DLN может увидеть в этой строке какую-то сущность и создать себе в памяти ее отображение. Это может быть вовсе не объект в том смысле в котором его понимает человек.

Приведение мыслей сети к образам которыми оперирует человек это совсем другая задача.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Delay Line Networks (DLN)
Добавлено: 02 мар 15 4:28
Изменено: 02 мар 15 4:28
Цитата:
Автор: Jenka
работа сети DLN построена на цифровых принципах обработки информации. В ней нет понятия активационная функция нейрона. Нейрон будет активироваться самим фактом поступления информации.
Соответственно нет также понятия "синаптические веса". Есть только управляющие нейроны которые обрабатывают поступающую информацию и передают ее дальше.
Запоминание в такой сети будет происходить не за счет подстройки синаптических весов

А разве что-то мешает из классической нейронки с задержками, обучаемой "бэкпропом через время", убрать нелинейности? И обучать только длительность задержки (на сколько тактов линия будет задерживать сигнал)?
Ну и чтобы вообще убрать и веса (оставив только длительность задержки), и нелинейности - сделать аналог полиномиальных сумматоров у нейрона. Но если в классических сумматорах высокого порядка идёт перемножение двух и более сигналов (при необходимости, можно произведение домножить и на вес, но мы вес договорились убрать) - то можно поступить гибче, и какой-то приходящий на нейрон сигнал трактовать управляющим (именно как Вы пишете - "Нейрон будет активироваться самим фактом поступления информации."). Есть отличный от нуля управляющий сигнал - нейрон пропускает вход на выход (или как-то по-другому обрабатывает вход, в т.ч. с учётом управляющего сигнала), а если управляющий сигнал равен нулю, то что угодно на вход нейрона подавай - на выходе нейрона будет ноль (или иная константа, или что-то, зависящее только лишь от внутреннего состояния нейрона).
Т.е. в чём проблема какие-то связи к нейрону сунуть сверху (имеется в виду классика рисования схем из "квадратов и стрелочек": вход входит слева в чёрный ящик, выход выходит справа, а сверху подходит управляющий сигнал)? И однотипно с входными связями обучать и задержки по управляющим связям?
[Ответ][Цитата]
 Стр.1 (26): [1]  2  3  4  5  ...  26След. > >>