GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.9 (9)<< < Пред.   Поиск:  
 Автор Тема: На: Всё слишком сложно что бы быть правдой.
Валентин
Сообщений: 4536
На: Всё слишком сложно что бы быть правдой.
Добавлено: 16 май 16 10:16
Всё-таки прочитайте. Вам поможет. Вы не так зашорены как ЭГТР.
[Ответ][Цитата]
гость
95.83.166.*
На: Всё слишком сложно что бы быть правдой.
Добавлено: 22 май 16 3:40
Знаете, возможно лет пять назад, я и заинтересовался книгой с таким названием. Но не сейчас. Мне не нужна модель мозга, тем более однобокая модель, построенная на принципах индуктивного автомата.

Я даже больше скажу, возможно я её даже начинал читать. Но не запомнил по той простой причине, что все книги по данной теме похожи одна на другую. Сперва читая вступление, ты осознаешь, что автор, формулирует твои собственные мысли, делает выводы к которым ты и сам пришёл (статья про деревья и мосты из спичек). А потом всегда происходит одно и тоже. Смотрим на год издания и не понимаем, почему за десятилетия (чаще всего) с момента издания, такое глубокое и правильное понимание проблемы не привело к результату. Возможно автор ошибся пытаясь раскрыть тему? Читаем первые главы и в этот момент приходит понимание, что автор пытается перевести идею, представленную во вступлении, на язык своей профессиональной деятельности.

А в какой-то момент, идея перестаёт работать на книгу, уступая место требованиям формата. После чего всё заканчивается в общем-то однотипной фразой: «Данная тема очень перспективна, но её изучению уделяется крайне мало внимания, дайте денег и отвалите от моей кафедры с тупым вопросом «А чего вы тут делаете?»».

Ваше высказывание, что математика и логика мертвы по природе, лишний раз доказывают очевидную вещь – если специалисту в области психологии или социологии, или писателю фантасту, для описания человеческого «Я», требуется одна книга, то на тот же объём материала математику придётся настрадать в сотни раз больше, только по тому, что ни в математике, ни в логике нет понятий для описания человеческого «Я» в рамках простой модели. А сложная модель целостно воспринимается только её автором, который не считает необходимым описывать очевидные для него вещи, ибо это будет увеличивать объём в геометрической прогрессии.

Вам кажется, что мой подход смахивает на детский лепет? А вы не задумывались что, мои профессиональные, чисто технические навыки, вообще не подходят для описания проблематики создания ИИ. Возможно именно по этой причине создателям Бурана потребовался междисциплинарный язык общения? Но, во-первых, не все умеют им пользоваться, во-вторых, он имеет схематичное оформление, что несколько затрудняет его использование.

Но, тем не менее, желание получить оценку своим выводам, никуда не делось, что заставляет импровизировать с представлением информации. Пока правда, удачных примеров междисциплинарного общения, я на форуме не наблюдал.
[Ответ][Цитата]
гость
188.43.30.*
На: Всё слишком сложно что бы быть правдой.
Добавлено: 01 окт 16 4:04
В попытке создания чего-то, что можно было бы назвать Искином, пришёл к выводу что ключевая проблема в создании механизма памяти. И каждый раз всё заканчивается тем, что встаёт вопрос правильного структурирования связей между элементарными единицами. То есть требуется аналог нейронной сети.
Возможно, здесь оказало своё влияние, пристальное внимание, уделяемое в последнее время свёрточным сетям и как следствие появление массы статей на тему нейронных сетей. Обилие такой информации, позволяет составить общее представление о нейронных сетях любому и попытаться реализовать на этой основе собственные решения.
И вот, при попытки создать память Искина, взяв за основу перцептрон Розенблатта, обнаружилось полное отсутствие представления о трёх, на мой взгляд, ключевых параметрах.

Определённый интервал, с момента возбуждения нейрона, в течении которого нейрон считается активным и воспринимает изменения, происходящие в сете. Да, процесс обучения теряет свою интенсивность, не позволяя обучать такую сеть на выборке данных, за то позволяет выстраивать более гибкую систему оценки процесса, что требуется для обучения Искина. Ведь Искин, в отличии от нейронной сети, должен обучатся постоянно, в том числе в процессе повседневной работы, и оценка обучения должна происходить по итогом этого труда.
Так же, если забегать вперёд – зачем распространять фокус внимания на всю сеть, тем самым исключая возможность предметного диалога, ведь в сознании сети будет осознаваться единый образ хранимого представления о мире.

Корреляция сигналов с предыдущего слоя и текущем состоянием нейрона. То есть значимость сигнала для нейрона. Если связь будет 100% коррелироваться с возбуждением нейрона, это говорит о том, что такая связь более значима чем связь, которая коррелирует с возбуждением нейрона только на 10%. Возможно корреляция характеризуется массой связи?

Минимальный уровень сигнала, необходимый и достаточный для активации нейрона. При этом не важно, на сколько уровень сигнала, передаваемого по связи выше минимально необходимого для этой связи. Соответственно активация произойдёт только в том случае если влияние всех связей позволит активировать нейрон. И это тоже учитывается при выборе массы связи?

В связи с чем мне не понятно, что пытаются найти в локальном минимуме методом обратного распространения ошибки, если не учитывается, совместно, значимость связи и требуемый минимальный сигнал.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Всё слишком сложно что бы быть правдой.
Добавлено: 01 окт 16 8:44
Цитата:
Автор: гость
Определённый интервал, с момента возбуждения нейрона, в течении которого нейрон считается активным и воспринимает изменения, происходящие в сете.

См разные механизмы решения дилеммы стабильности-пластичности.
Они, правда, направлены на сохранение навыков решения старых задач при обучении новым и/или в нестационарной среде.

Цитата:
Автор: гость
Ведь Искин, в отличии от нейронной сети, должен обучатся постоянно, в том числе в процессе повседневной работы, и оценка обучения должна происходить по итогом этого труда.

Не должен он обучаться постоянно.
Лень приводить доводы (ибо, прогнозирую, окажется большой объём текста) - просто примите как моё ИМХО.

Цитата:
Автор: гость
Корреляция сигналов с предыдущего слоя и текущем состоянием нейрона. То есть значимость сигнала для нейрона. Если связь будет 100% коррелироваться с возбуждением нейрона, это говорит о том, что такая связь более значима чем связь, которая коррелирует с возбуждением нейрона только на 10%. Возможно корреляция характеризуется массой связи?

См правило обучения Хебба (самое первое из предложенных для иск.нейросетей).

Цитата:
Автор: гость
Минимальный уровень сигнала, необходимый и достаточный для активации нейрона. При этом не важно, на сколько уровень сигнала, передаваемого по связи выше минимально необходимого для этой связи. Соответственно активация произойдёт только в том случае если влияние всех связей позволит активировать нейрон. И это тоже учитывается при выборе массы связи?

Опять же дилемма стабильности-пластичности.

Цитата:
Автор: гость
В связи с чем мне не понятно, что пытаются найти в локальном минимуме методом обратного распространения ошибки, если не учитывается, совместно, значимость связи и требуемый минимальный сигнал.

Находят набор значений параметров для функции (или вектор-функции) мэппинга эталонного набора "стимулов" в нужные при этом реакции. Т.е. идентифицируют параметры структурно-заданного "чёрного ящика"
И вполне успешно находят, не привлекая для этой задачи никаких добавочных гипотез о минимальных сигналах и т.д.
Альтернатива (выражение производных по всем параметрам в аналитическом виде, приравнивание производных к нулю, решение системы нелинейных уравнений) тоже не требует этих гипотез, но для практики гораздо менее удобна.
[Ответ][Цитата]
гость
188.43.30.*
На: Всё слишком сложно что бы быть правдой.
Добавлено: 01 окт 16 12:20
Цитата:
Автор: Victor G. Tsaregorodtsev
Не должен он обучаться постоянно.
Лень приводить доводы (ибо, прогнозирую, окажется большой объём текста) - просто примите как моё ИМХО.

Я не правильно выразился. Искин должен иметь возможность использовать оценку результатов своей деятельность для оптимизации своих навыков. Естественно, процесс обучения должен начинаться при определённых условиях, а не идти постоянно.
Цитата:
Автор: Victor G. Tsaregorodtsev
См правило обучения Хебба (самое первое из предложенных для иск.нейросетей).

В принципе согласен, только с реализацией проблемы. Во-первых, процесс формирования связи рассматривается только в одном направлении. Во-вторых, не учитывается значение сигнала, передаваемое по связи, что возможно не требуется биологическим нейронам, но отметать такую возможность в искусственной нейронной сете, недальновидно. В-третьих, в той статье на заданную тему, которую я нашёл, нет отсылок к тому что правило Хебба имеет свой вид и для тормозящих нейронов. Ну и в-четвёртых, постулат Хебба не получил дальнейшего развития.
Цитата:
Автор: Victor G. Tsaregorodtsev
Опять же дилемма стабильности-пластичности.

Ровно те же проблемы, что и у постулата Хебба, плюс боязнь формирования лишних связей, большая часть которых даже не требуется подгружать в память.
Цитата:
Автор: Victor G. Tsaregorodtsev
Находят набор значений параметров для функции (или вектор-функции) мэппинга эталонного набора "стимулов" в нужные при этом реакции. Т.е. идентифицируют параметры структурно-заданного "чёрного ящика"
И вполне успешно находят, не привлекая для этой задачи никаких добавочных гипотез о минимальных сигналах и т.д.
Альтернатива (выражение производных по всем параметрам в аналитическом виде, приравнивание производных к нулю, решение системы нелинейных уравнений) тоже не требует этих гипотез, но для практики гораздо менее удобна.

Все это замечательно, и с результативностью нейронных сетей спорит бессмысленно. Если удовлетворяет запросам такое использование нейронной сети, с постоянным поиском её оптимальной структуры и величины приращения, чтобы не промахнуться мимо глобального минимума. При этом, всё равно не понимая, как были получены результаты.
А использование для обучения корреляции и минимального сигнала позволяют настроить нейрон практически в ручную. Проблема при таком подходе в другом. Если вопрос корреляции решается относительно просто на программном уровне (тот же постулат Хебба, только полноценный), то какие условия влияют на формирования минимума сигнала неясно.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Всё слишком сложно что бы быть правдой.
Добавлено: 02 окт 16 11:19
Цитата:
Автор: гость
>правило обучения Хебба

В принципе согласен, только с реализацией проблемы. Во-первых, процесс формирования связи рассматривается только в одном направлении. Во-вторых, не учитывается значение сигнала, передаваемое по связи, что возможно не требуется биологическим нейронам, но отметать такую возможность в искусственной нейронной сете, недальновидно. В-третьих, в той статье на заданную тему, которую я нашёл, нет отсылок к тому что правило Хебба имеет свой вид и для тормозящих нейронов. Ну и в-четвёртых, постулат Хебба не получил дальнейшего развития.

Видимо, проблема в том, что Вы нашли какую-то ОДНУ (и при том - УБОГУЮ) статью.
На буржуинском по запросу hebbian learning гугл выдаёт дофига научных статей, в т.ч. свежих (этого года), в т.ч. для рекуррентных, нелинейных и т.д. связей.
[Ответ][Цитата]
гость
188.43.30.*
На: Всё слишком сложно что бы быть правдой.
Добавлено: 04 окт 16 13:04
Цитата:
Автор: Victor G. Tsaregorodtsev


Видимо, проблема в том, что Вы нашли какую-то ОДНУ (и при том - УБОГУЮ) статью.
На буржуинском по запросу hebbian learning гугл выдаёт дофига научных статей, в т.ч. свежих (этого года), в т.ч. для рекуррентных, нелинейных и т.д. связей.


https://geektimes.ru/post/102305/

А на мой, непрофессиональный взгляд, статья очень достойная и совпадает с моим представлением о том, как должна выглядеть логика нейронной сети, на основе которой можно реализовать память Искина. Так же в статье развёрнуто объясняются причин, по которым этот подход не получил дальнейшего развития.
Правда автор статьи, при всем его, глубоком, погружении в данный метод, не замечает фундаментальных ошибок в самой концепции, хотя сам Хебб указывал на одну из них открытым текстом. Например, нельзя использовать вариант с сумой входных сигналов и пороговой функцией, т. к. активность одной связи из нескольких, не может привести к возбуждению нейрона. По какой причине подобная ошибка до сих пор не устранена, есть тайна великая, хотя Хебб, говорил о ней аж в 1949.
Но тем неимение, радует, что и до меня пытались реализовать заинтересовавший меня метод. А раз нахожу пересечения с моими собственными выводами, недосказанности и явные ошибки, значит продвинулся значительно дальше в понимании метода.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Всё слишком сложно что бы быть правдой.
Добавлено: 04 окт 16 21:43
Цитата:
Автор: гость
примеров междисциплинарного общения, я на форуме не наблюдал.

Оно не так происходит. В природе разные виды тоже не скрещиваются, однако бывают тесно связаны.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Всё слишком сложно что бы быть правдой.
Добавлено: 05 окт 16 7:50
Цитата:
Автор: гость
Например, нельзя использовать вариант с сумой входных сигналов и пороговой функцией, т. к. активность одной связи из нескольких, не может привести к возбуждению нейрона.

Всё зависит от того, какое "действие" (реакцию) Вы пытаетесь аппроксимировать или реализовать. Логический элемент И (суммой, в т.ч. взвешенной суммой) или логический элемент ИЛИ (реагированием на любой высокий по амлитуде сигнал).
[Ответ][Цитата]
гость
188.43.30.*
На: Всё слишком сложно что бы быть правдой.
Добавлено: 05 окт 16 11:33
Раз так получилось, что та модель которую я развиваю, оказалась реализована в постулате Хебба, то и сумма, рассматривается применительно к ней. А значит, связь — это путь, по которому поступает информация тем более значимая, чем по более релевантному пути она получена. Релевантность определяется корреляцией и выражается массой связи. Что может означать сложение релевантности связей, я затрудняюсь ответить.
Следовательно, утверждение об активности связи, не несет полезной нагрузки для возбуждения нейрона, это информация необходима только для формирования самой связи. Для возбуждение нейрона нужно знать какой сигнал был передан по связи, для чего требуется знать минимально достаточный уровень сигнала (амплитуду сигнала), передаваемого по связи.
В таком случае, нет необходимости выделять логические операторы, т. к. они хоть и не явно, но присутствуют в самой модели.
Действительно, язык междисциплинарного общения, хорошее оправдание собственной лени и косноязычности. Но иногда требуется расправить скомканный неясный образ, пришпилив его заворачивавшиеся края к реальности, какими-то весомыми и многозначащими словами. Но чаще всего, приходится засыпать образ словесной шелухой за которой он полностью теряется.
[Ответ][Цитата]
 Стр.9 (9)1  ...  5  6  7  8  [9]<< < Пред.