GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.5 (7)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Похожесть двух множеств. Решения.
Kek
Сообщений: 1133
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 7:41
Изменено: 08 мар 14 8:11
1. Относительно обучения и кластеризации.
Для ИИ нужно конечно использовать кластеризацию. Но для отработки методов на первом этапе нужно жесткое обучение. Как происходит в жизни? А эти два метода сливаются в один адаптивный.
Возьмем распознавание речи. Если поток речевой и больше никакого потока нет, то чистая кластеризация ничего не даст. Как построить иерархическую базу по типу онтологической, если система одномерная, однопоточная? Никак. Поэтому для узкой задачи распознавания без обучения не обойтись.
В сложной системе несколько ортогональных потоков. Объект, как абстрактная единица онтологии одновременно существует в нескольких потоках. Причем степень чувствительности и степень детализации одного объекта в этих потока разная. И это весьма существенно. Ребенок ощущает тактильно что-то. Это ощущение простое по типу тепло-холодно. Но одновременно он получает аудио и визуальное воздействие, которые сложны и требуют детализации. Но простой поток выступает в роли учителя, который задает первую ступень абстракции. Эта ступень синхронизирует все остальные сложные потоки. Этот феномен создает паттерн, создает индекс.
Вот почему я обратился к огибающей. Анализ ее прост и результат создает грубые очертания, которые детализируются совершенно другими характеристиками потока.
[Ответ][Цитата]
covax
Сообщений: 1609
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 8:11
Цитата:
Автор: Slava
Что-то разумное создать абстрактной кластеризацией - мало шансов, так как результат кластеризации определяется управляющими ею смысловыми критериями,


Здесь вопрос в том, какие именно это критерии кластеризации, а не в том, кластеризация это или что-то еще, помимо неё...

Цитата:
Автор: гость 78.25.120.*

ковакс> адаптивный (статистический) синтез классификатора?

адаптивный не обязательно статистический, те же SOFM (cамоорганизующиеся нейрокарты)
это ДИНАМИЧЕСКИЙ подход.


Адаптивный = статистический!
Все методы обобщающие информацию о потоке являются статистическими, а значит адаптация есть и она здесь либо параметрическая, либо структурная.

Может вы имели в виду "статический" вместо "статистический" раз зашла речь о ДИНАМИЧЕСКОМ подходе?
[Ответ][Цитата]
Kek
Сообщений: 1133
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 8:15
2. Относительно обучения и кластеризации.
То что сказано в абзаце 1 - это теоретизирование. Делать реальные вещи весьма сложно. Все в отдельности на данный момент готово: анализ огибающей в виде нахождения пиков и старый добрый Фурье.
Увязать все в иерархическое взаимодействие понятно как, но блин, сложно и кропотливо. Это не жалоба, а уведомление о том, почему до сих пор нет результатов.
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 11:35
Цитата:
Автор: covax

Здесь вопрос в том, какие именно это критерии кластеризации, а не в том, кластеризация это или что-то еще, помимо неё...


Вы правы - критерии должны быть смысловыми - всего лишь, и тогда - все в порядке
[Ответ][Цитата]
covax
Сообщений: 1609
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 12:03
Цитата:
Автор: Slava
Вы правы - критерии должны быть смысловыми - всего лишь, и тогда - все в порядке


Как-то нескладно получается. Почему у кластеризации должны быть смысловые критерии?
Какой смысл в смысловых критериях? Надеюсь вы не имеете в виду смысл высоких порядков, т.е семантику символов и тп?
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 13:07
Цитата:
Автор: covax

Как-то нескладно получается. Почему у кластеризации должны быть смысловые критерии?
Какой смысл в смысловых критериях? Надеюсь вы не имеете в виду смысл высоких порядков, т.е семантику символов и тп?


Почему же - нескладно? - кластеризация должна быть осмысленной
В противном случае произвольное разбиение событий на подмножества будет для вас в равной степени пригодным
Ну а как этого добиться - вопрос технологии
И в этом смысле интерес представляют только смысловые кластеризации
Можно думать о том, почему бездумно выбираемые критерии приводят хоть к чему-то осмысленному, как повышать степень осмысленности, что такое вообще эта самая осмысленность и т.д. и т.п. Но суть от этого по сути не меняется. Просто об этом обычно народ не задумывается
[Ответ][Цитата]
гость
78.25.121.*
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 21:43
ковакс> Адаптивный = статистический!

разумеется не все методы обобщающие информацию о потоке являеются статистическими - это
какое-то странное мнение. Если вы поток мыслите как поток статистических данных, то,
конечно, производное от статистики будет иметь отношение к статистике. Но если вы
взяли объект не как вектор статистически идентифицированных признаков, а как совокупность динамических связей рецептирующей подсистемы - то задача выделения статистически значимых признаков возникает ПОСЛЕ динамической преезентации объекта.
Грубо говоря, если вы копите поточечные представления образа, то 'первична' динамика
смены состояний поточечной матрицы, а статобработка вторична.

Да, 'динамика' двусмысленна - это и 'непосредственная' зависимость изменения одной переменной от изменения другой и противопоставление статике.

Поток изменений может поначалу обрабатываться динамической системой, выделяющей признаки как признаки динамических форм, а статистическая верификация признаков
может рассматриваться вторичной. Грубо говоря, если некое движение конечностью
начальной системы приводит состояние нейромотокарты к ассоциации его с 'ощущением'
боли, то такая траектория (динамическая форма) получает ВНЕШНИЙ маркер (признак)
'нежедательно' при репрезентации этого опыта в ассоциативной памяти. Cистема может
иметь ВРОЖДЕННЫЕ средства характеризации той или иной динамической формы теми или иными
собственными ВНУТРЕННИМИ (для моторной системы) признаками. Понятно, что эти признаки
могут рассматриваться как порождение филогенетической статистики, но онтогенетически
они врождены, динамичны, а не статистичны. Если генезис не связывать с 'квантовыми
статистиками', то динамика выглядит 'условно' первичной.
[Ответ][Цитата]
гость
78.25.121.*
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 21:49
т.е. если на базе встроенных (врожденных) средств мы как-то охарактеризовали
объект, выделили признаки, то путем, скажем, отбрасывания одного из признаков
мы как бы 'динамически' (а не статистически) получаем описание КЛАССА абстрактных объектов, построенного путем обобщения данного конкретного объекта. По одному
объекту, а не по статвыборке, сразу получаем систему возможных обобщений, материал для индуктивных гипотез.
[Ответ][Цитата]
гость
78.25.121.*
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 22:39
кек> Делать реальные вещи весьма сложно.

нельзя не упомянуть о системах класса СELL (D.Roy), обучающиеся акустическим образам
слов с опорой на визуальный канал - как бы неопределенность соотношений и составов классов образов слов и означенных предметов у обучающейся системы 'регуляризовывалась'
за счет определенности обучающей системы и за счет кросс-регуляризации каналов. это
мячик, и это мячик, этот мячик большой красный, а тот желтый и тоже большой, но откатившийся. Roy предложил целую серию систем, обучающихся разным аспектам языка, восприятия и действий.

вообще, кластеризацию+обучение можно представить как SOFM+ART/MLP (например), а
SOM->SOFM, самоорганизующуюся архитектуру (синтез архитектуры) можно представить
в парадигме СoGANN в комплексе эвристик генетического, эволюционного, нейро- и
'социального' (МAP) программирования, оптимизацию задавая средствами нейродинамического (NDP) программирования.

монстры типа SPAUN http://ijkl.ru/a393 внушают оптимизм, но хочется чего-то более
'компактного'.. (как бы более 'крупнозернистого').
[Ответ][Цитата]
Kek
Сообщений: 1133
На: Похожесть двух множеств. Решения.
Добавлено: 08 мар 14 23:20
Цитата:
Автор: гость
монстры типа SPAUN http://ijkl.ru/a393 внушают оптимизм, но хочется чего-то более
'компактного'.. (как бы более 'крупнозернистого').

Именно это "хочется" и дает оптимизм в исследовании. Суть в том, что моделирование работы мозга на суперкомпьютерах это направление, которое имеет право на существование. Приверженцы "компактности", к которым я отношусь, вынуждены искать обшие закономерности феномена мышления, конкретная реализация которых не обязательно должна повторять путь пройденный природой.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Похожесть двух множеств. Решения.
Добавлено: 09 мар 14 5:57
Цитата:
Автор: гость

кавакс> адаптивный (статистический) синтез классификатора?

адаптивный не обязательно статистический, те же SOFM (cамоорганизующиеся нейрокарты)
это ДИНАМИЧЕСКИЙ подход. При этом статистика подразумевается как бы 'естественная' -
каждый новый образец идентифицированной сущности модифицирует карту (инкрементная ситуация обученения, эффект накопления), психологи в этой связи говорят об ассимиляции
информации схемой, что приводит рано или поздно под грузом новой информации к перестройке схемы (структуры кластеров и структуры на кластерах 'по вертикали и по горизонтали'), к аккомодации.

Тут среди разных вариантов/алгоритмов SOFM лучше взять SOINN или какую-то её модификацию.
SOINN лучше заточена на онлайн-режим работы (обучения=формирования карты). И в зависимости от того, сколько уровней "абстракции" нам надо - берём либо однослойную E-SOINN, либо двухслойную=двухуровневую исходную SOINN.
[Ответ][Цитата]
гость
31.181.129.*
На: Похожесть двух множеств. Решения.
Добавлено: 09 мар 14 5:58
***как бы более 'крупнозернистого'
Возьми тоже самое, уреж входную и выходную информацию.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Похожесть двух множеств. Решения.
Добавлено: 09 мар 14 5:59
Цитата:
Автор: Kek
1. Относительно обучения и кластеризации.
Для ИИ нужно конечно использовать кластеризацию. Но для отработки методов на первом этапе нужно жесткое обучение. Как происходит в жизни? А эти два метода сливаются в один адаптивный.
Возьмем распознавание речи. Если поток речевой и больше никакого потока нет, то чистая кластеризация ничего не даст. Как построить иерархическую базу по типу онтологической, если система одномерная, однопоточная? Никак.

Не "никак" - а без проблем.
Два уровня абстракции даёт E-SOINN.
А если берём методы deep learning - сделаем столько уровней, сколько нужно. Буржуины, например, этим способом обрабатывают текстовую речь (одномерный поток букв), получая результаты даже лучше, чем у вытащенных из человеческих мозгов онтологий (в прошлом году я тут на форуме раз или два упоминал буржуинский туториал страниц на 200 по применению deep learning в задачах NLP - в общем, или в этой лекции, или в её продолжении-дополнении были конкретные ссылки именно на превосходство компутерного результата в какой-то задаче).
[Ответ][Цитата]
Kek
Сообщений: 1133
На: Похожесть двух множеств. Решения.
Добавлено: 09 мар 14 13:40
Цитата:
Автор: Victor G. Tsaregorodtsev

deep learning в задачах NLP - в общем, или в этой лекции, или в её продолжении-дополнении были конкретные ссылки именно на превосходство компутерного результата в какой-то задаче).

http://habrahabr.ru/post/134950/
[Ответ][Цитата]
covax
Сообщений: 1609
На: Похожесть двух множеств. Решения.
Добавлено: 09 мар 14 22:09
Изменено: 09 мар 14 22:10
Цитата:
Автор: гость

ковакс> Адаптивный = статистический!

разумеется не все методы обобщающие информацию о потоке являеются статистическими - это какое-то странное мнение.
...
Грубо говоря, если вы копите поточечные представления образа, то 'первична' динамика
смены состояний поточечной матрицы, а статобработка вторична.


Если я обобщаю/агрегирую/кластеризую/классифицирую, то есть интегрирую поток по любому критерию (dx, dt, x > y, x == y и тп) то это статистика, в т/ч и адаптация статистических/интегральных параметров.
С динамикой непрерывно-дифференцируемого потока еще проще. Там где управление, всегда есть интегрирование, а значит статистика и адаптация в одном лице. Дайте определение статистике и адаптации и увидите что это одно и тоже. И одно без другого невозможно.
[Ответ][Цитата]
 Стр.5 (7)1  2  3  4  [5]  6  7<< < Пред. | След. > >>