GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.4 (8)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Предметная дискуссия про NLP
гость
188.170.74.*
На: Предметная дискуссия про NLP
Добавлено: 04 сен 17 5:40

П.> с чем можно работать.

ну, 'маппинговый' подход NLU развивает у нас шумский (см. его ст. в сб. Подходы к моделированию мышления,'14), рассматривающий иерархию самоорганизующихся карт признаков и синтаксический модуль
(помимо морфологического и семантического) на основе группировок синтагм (их признаков) в синтаксические атомы (штампы). Семантическая карта группирует слова (имея входом морфологию и синтаксис) на основе статистики конкордации (сочетаемость с синтагмах). Так можно построить некую cистему неким образом воспринимающую язык - только насколько адекватную? Cам шумскмй говорит, что хотя ему и кажется что алгоритмы DL лежат в основе языковой компетенции но представленным моделям не хватает мотивации что-то сказать самим и остается открытым вопрос о содержательности речи.
[Ответ][Цитата]
гость
188.170.82.*
На: Предметная дискуссия про NLP
Добавлено: 04 сен 17 8:42

м.> Я тебе науку толкаю,

да, но только малую часть, ты посмотри еще несколько лет видео, а потом соотнеси то, что ты узнаешь, с тем, что ты лепишь сейчас с чуством, но без проникновения в толк. Cмысл образа как его отнесение к классу это только значение образа в некоторой классификационной системе (когда значение образа связываетсясо значением соотв. класса эквивалентности - все птицы это объекты с крыльями, данный объект это птица по признаку крыльев), смысл же того, почему образ птицы всплыл в твоем мышлении (даже когда ты думал вовсе не о птицах) это функциональное состояние твоего мыслительного аппарата, cовокупность причин, почему ты подумал о птице в данном мыслительном процессе (совокупность скрытых аналогий, ассоциаций, тематизаций, метафор etc). - Ясно же, что действительная проблематика смысла много сложнее той школоты, котрую ты толкаешь под видом смысла либо как образного значения слова либо под видом классификационного (таксономического) значения образа.

потом, может ты действительно настолько неуч что не понимаешь про коллективные явления в мозге и сильно упрощенные модели динамики (поток синаптических событий) принимаешь за исчерпывающую и удовлетворительную модель происходящего в мыслящем мозге? CNN хорошо классифицируют, тебе об этом разжували - теперь тебе нужно вникнуть так что такое мышление (и инфраструктура мышления), если ты хочешь понять интеллект в объеме несколько большем задачи классификации/регрессии.
-----------

L.>

ляль, не уподобляйся тем, кто тебя самого недавно обгавкал. Мало ли что для тебя как выглядит - это же те самые субъективные впечатления которые очень нужно уметь фильтровать, - cколько ж можно злоупотреблять выражением своего сугубо личного отношения - ты скажи что по предмету, - а с тебя этого не дождешься, ведь понимаешь что учебники всяко лучше твоих порнографических романов и надписей на заборах коими ты питаешься. опять какой-то понос про разобрались не разобрались (мля, лялька в чем-то разобралась), крестовый поход и стадо (лялька как та гордая корова которая думает что гуляет сама по себе).. лялька, задвинь что-то по теме NLP конструктивного, а мычать не надо.
[Ответ][Цитата]
гость
188.170.83.*
На: Предметная дискуссия про NLP
Добавлено: 04 сен 17 9:10

m.>

cейчас в глубоких сетях в тренд входят генерирующие сетки (см. cовсем недавние статьи на хабре на хабе ML) - так вот мышление это как бы конструирование структур из классов (причем гетерогенных классифицикационных систем) (да еще с выборкой конкретного представителя класса и контролем конструкции), что подразумевает более комплексную архитектуру системы чем те ср. простые классифицирующшие сети о которых обычно рассказывается в учебных курсах.
[Ответ][Цитата]
гость
188.170.73.*
На: Предметная дискуссия про NLP
Добавлено: 05 сен 17 0:31

M.>

ну, ты изъясняешься излишне категорично. Если школизмы еще понятны от наивного неофита (который думает что байес известен только ему и байсом исчерпывается наука), если пафос 'магии' машобуча тоже можно понять, cписав на безвредные особенности умственного темперамента, то всякие пасквили на оппонентов, а пуще всего избыточное цензуирование своей ветки, уже выдают более печальные особенности михиной умственной конституции.

ты про убогую часть прикладной науки, тебе - для чего нужно прикладыватиь науку (и намекают на неизвестные тебе области). Гибкость это системотехническое свойство (помимо прочих разъяснений), вникай, а не шелупонь, 'раскристаллизации' это про LSM/ESM и проч. под., тебе про гибридные архитектуры типа конволюция плюс ассоциативная память плюс операционные регистры, а ты как последний идиот удаляешь ссылки на архитектуру PathNet и разные комбинашки с GANами.. Тебе ранее давались ссылки на обзоры алиева по проблематике 'когнитивного стека' c упоминаем тензорного подхода смоленского к нейро-символическим гибридам, но в твоей голове не за что зацепиться.. Полезной информации в тебе сообщаемом уйма - было бы желание вникать. C нашей подачи ты все-таки узнал что такое продукционные системы, многокритериальная оптимизация и фрустрипрованная эволюция, что хоть что-то.

еще раз - своим 'не склонен фантазировать' ты просто пытаешься оправдать свое скудоумие и ограниченность представлений, cвое непониманиме предмета в его полном объеме. Опять же, можешь иметь представления любой степени ограниченности, но ты должен понимать, что предмет не сводится к обучению по прецедентам, байесу и нескольким другим 'крупицам', тобою освоенным.

> баланс между гибкостью и стабильностью

есть несколько архитектур, в которых конструктивно ищется этот баланс (напр. ART) (или проблема сепарации образов в ассоциативной памяти (разных типов) или той же LSM). Вообще это общая проблема эволюционной динамики (когда говорять не об адаптированности, а об адаптабельности - непогружении в колодец специализации, отчего так неадекватны модели оптимизации с функционалами (глобальными целевыми функциями), которые свидетельсвтуют что часто постановщики не понимают вопрос в его действительном объеме (когда у разработчиков есть притензии).
[Ответ][Цитата]
гость
51.15.34.*
На: Предметная дискуссия про NLP
Добавлено: 05 сен 17 3:07
Всем интересующихся темой рекомендую:
Плунгян В. А. - Почему языки такие разные
https://rutracker.org/forum/viewtopic.php?t=3620153

Это не машинное обучение и не программирование, там про языки, как они возникали и эволюционировали.
[Ответ][Цитата]
пасть
Сообщений: 19
На: Предметная дискуссия про NLP
Добавлено: 05 сен 17 10:05
Цитата:
Автор: гость

'маппинговый' подход NLU развивает у нас шумский (см. его ст. в сб. Подходы к моделированию мышления,'14), рассматривающий иерархию самоорганизующихся карт признаков и синтаксический модуль
(помимо морфологического и семантического) на основе группировок синтагм (их признаков) в синтаксические атомы (штампы). Семантическая карта группирует слова (имея входом морфологию и синтаксис) на основе статистики конкордации (сочетаемость с синтагмах). Так можно построить некую cистему неким образом воспринимающую язык - только насколько адекватную? Cам шумскмй говорит, что хотя ему и кажется что алгоритмы DL лежат в основе языковой компетенции но представленным моделям не хватает мотивации что-то сказать самим и остается открытым вопрос о содержательности речи.
если не сложно ссылку на материал(ст. в сб. Подходы к моделированию мышления,'14) не смог найти, а так вообще согласен с умонастроением
[Ответ][Цитата]
гость
188.170.73.*
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 1:24

Шумский С.А., у меня бумажный сборник, это по материалам лекции на нейроинформатике-2013, но ее тоже не найти в е-виде, обнаруживается лекция по самоорганизации семанической системы (при информационнм поиске) на нейроинформатке-'01, но это не то.
тут упоминание -
http://conf.ostis.net/images/e/e9/49._%D0%90%D0%B2%D0%B5%D1%80%D0%BA%D0%B8%D0%BD_%D0%90.%D0%9D._-_%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D0%A1%D0%B2%D0%A1%D0%90.pdf
[Ответ][Цитата]
Калитеран
Сообщений: 529
На: Предметная дискуссия про NLP
+1
Добавлено: 06 сен 17 4:28
Цитата:
Автор: NO.
Мне кажется сначала нужно зрение, наработать образов и они будут смыслом слов.

Цитата:
Автор: ANGULIMALA
Вы правы, СМЫСЛ ЭТО ОБРАЗЫ, но не сами матрицы пикселей а модели в которые они преобразуются биологическим CNN и не только картинки но и звуки\запахи\тактильность и тд. То есть нужно отображать слова в модели образов и обратно.
Согласен с выше сказанным. Собсно это не только NLP касается, но и разума вообще, как получить сознание из иерархического класификатора.

Рецепт: Обучаем иерархический классификатор(CNN например), затем MLP учим "логике" работы CNN чтобы по паттернам активности нижних левелов предсказывал высшие, это и есть РАЗУМ, ОСОЗНАНИЕ. Я как то начал было делать нечто подобное но потом чем то был отвлечен более насущным и не закончил, не успев толков начать.
[Ответ][Цитата]
гость
193.171.202.*
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 6:34
Цитата:
Автор: Калитеран

Обучаем иерархический классификатор(CNN например), затем MLP учим "логике" работы CNN чтобы по паттернам активности нижних левелов предсказывал высшие, это и есть РАЗУМ, ОСОЗНАНИЕ.
дык этож просто стекинг!? что это даст принципиально нового?
[Ответ][Цитата]
Luаrvik
Сообщений: 11842
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 6:51
Изменено: 06 сен 17 7:03
Цитата:
Автор: Калитеран
Согласен с выше сказанным.

Представьте себе китайскую комнату, в которой словам сопоставляются не слова, а картинки -что изменится ? Ничего. Смысла как не было, так и нет.
Привязать знак к модели - это еще не выявить смысл.
Или словом обозначена модель, или моделью слово - без разницы, это все на уровне линейных ассоциаций, отображений.
Значение и назначение находится глубже, усл. говоря в "перпендикулярной плоскости".
То, что может быть только воспринято и запомнено - это еще не смысл.
Смысл, если он есть, должен быть ОСОЗНАН.
Вы, господа, опять царапаете по поверхности. На простейших операциях с множествами далеко не уедешь - вернетесь по кругу в исходную точку и "смысл смысла" опять ускользнет.

Все, что требуется, это ответить на простой вопрос: что мы получаем в результате осмысления/осмысливания, в результате применения "мыслительного аппарата" к ситуации, событию, объекту внимания ?
[Ответ][Цитата]
гость
193.171.202.*
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 7:20
Цитата:
Автор: rrr3


На мой не просвещенный взгляд, Вы правы, это ничего (в теоретическом смысле) не дало (уже, если я правильно понял) и не даст нового в том виде как это сейчас реализовывается. И связано это не с тем, что бесполезен, как Вы выразились, "стекинг", а с тем, что он должен возникать, образно говоря, более автоматически, а не задаваться человеком почти полностью "вручную".
Ну а в практическом смысле вроде бы какие-то результаты/игрушки были и на данном уровне. Правда в этом деле я полный профан...
стекинг - крутая цаца, сейчас все конкурсы по ML им побеждают, но как участник связал его с "сознанием" это вопрос...
[Ответ][Цитата]
гость
188.170.74.*
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 7:53
К.> это и есть РАЗУМ

я тоже позволю себе повториться ибо важно. Cмысл это (а) нечто субъективное, (б) нечто актуальное (не фиксированное в концептуальном/лексическом файле в виде связи слова и типичного/представляющего образа), (в) cистемное (вернее супрасистемное - ПОВЕРХ воплощенных системы языка (со словарными значениями), вербальной сети, концептуальной системы, энциклопедической системы (файлы статей с картинками)) - смысл словоупотребления/высказывания в ЕДИНСТВЕ выражаемой идеи/замысла, цели/намерения. связей с контекстом/cмысловыми_диспозициями, ценности высказывания для говорящего/воспринимающего (в частности в отношении к интересам говорящего/воспринимающего) - смысл это КОМПЛЕКСНОЕ функциональное состояние системы с разумом при информациональном процессинге (который мотивирован, интенционен (направлен), рефлексивен, обусловлен СОБСТВЕННЫМИ (внутренне присущими) механизмами cмыслокомпетентного (бишь разумного) агента.

на вопрос 'в чем смысл птиц' система должна не столько показать картинку с птицами и объяснить принцип полета, cколько что-то сказать почему появились птицы в эволюции динозавров (аналогия смысл явления в суперсистеме (биос плюс экониша) как смысл фразы в суперсистеме разума).

разум строит модели себя, окружения, проблем - модели не только классифицирующие, хотя прогнозирующие можно отнести к регрессионным, но и альтернативные, проективно-конструкционные, модели атрибутированные субъективным отношением (оцененные, маркированные эмоциями), разум ОБЩАЕТСЯ, коммуникация вообще построена не на классах эквивалентности, а на классах толерантности, разум работает с НЕЧЕТКОСТЬЮ классификаций и регрессий сложных явлений, c переменностью МЕР нечеткости, разум ориентируется в неопределенности (классы неподдающегося уверенной классификации) - и прочая прочая.
[Ответ][Цитата]
kondrat
Сообщений: 2609
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 9:12
Изменено: 06 сен 17 9:13
Цитата:
Автор: Калитеран
Рецепт: Обучаем иерархический классификатор(CNN например), затем MLP учим "логике" работы CNN чтобы по паттернам активности нижних левелов предсказывал высшие, это и есть РАЗУМ, ОСОЗНАНИЕ. Я как то начал было делать нечто подобное но потом чем то был отвлечен более насущным и не закончил, не успев толков начать.

Мне кажется, что Вы слишком доверяете уже созданным и довольно ограниченным высокоуровневым средствам. Это, наверно, практично. Возможно, реализуемо. Но удовлетворит ли Вас этот результат? Впрочем, все познается в сравнении.
Может быть, стоит ещё раз пересмотреть фундамент всего этого?
[Ответ][Цитата]
ANGULIMALA
Сообщений: 74
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 9:23
Ещё раз повторяю, для качественного NLP нужен процесс «осмысления-представления» через вербализацию\девербализацию, то есть проекцию образов в слова и обратную проекцию вербального описания в образное(«девербализация») Но ИМХО врядле это осуществимо на прямую простым наслоением нового этажа классификации в иерархии, хотя это и шаг в верном направлении, но в данном случае дьявол в деталях, сколько бы слоев не нагородить вероятность получить разум стремится к нулю, пока не поняты принципы синтеза сознания и речи.

Возьмем например историю развития культуры и науки, допустим религия, что такое религия? Это безусловно модель, некая проекция нашего социально-бытового уклада на неведомое, не определенное, мы боимся не определенности, не определенность это риск, опасность, любая модель лучше неопределенности, даже абсурдная, немного магии привычки и авторитетности и любой бред можно сделать культом. Мозг наш так устроен что модели строит всего, на самом деле он не может ничего воспринять на прямую, он видит только свои модели и то что на них ладно проецируется. Плоская земля на черепахе и слонах, эпициклы, ведьмы, светоносный эфир, продолжать можно бесконечно, всё это модели, мы никогда не узрим «истину». Я это к тому что наука это не только ОТО, КМ и бозон Хигса, когда то эпициклы и эфир были наукой и это работало! Не идеально но работало! И сейчас не идеально работает, чуть лучше чем было, придет новая теория нынешний ОТО и КМ станут как эпициклы, наивной подгонкой под данные. Это всё модели, только модели.

Мы мыслим моделями и эти модели у нас можно грубо разделить на две категории, ЭМПИРИЧИСКИЕ и ЛОГИЧЕСКИЕ. Эмпирические модели это собственно «квалия» область априорного, то есть первичная кластеризация\классификация, это некие структурные сущности цвета, звуки, формы, фундаментальные концепции, пространства, времени, причиноследственности и тп. шаблоны квалиа, из которых собирается как из лего всё остальное, CNN легко способна насобирать таких запчастей вполне релевантно человеческим шаблонам. Многое можно решить уже на этом уровне, это интуитивный разум, как у простых животных, приделать источник энергии и манипуляторы и получим живое существо.

Но нас интересуют ЛОГИЧЕСКИЕ МОДЕЛИ, как получить логику, речь и самосознание. Тут действительно самое логичное это натравить ещё один классификатор на результаты работы предыдущих, сотворить этокого «босса» над эмпирическими модулями, но простым стекингом тут не обойтись, если мы хотим получить речь и самосознание. Во первых это должена быть двусторонняя структура, с обратными связями, мы думаем одновременно и словами и образами, где то проще так, где то иначе, это рефлексивная структура, взаимозависимая, сама «мысль» это одновременно и «голос» и «картинки», представляя мы как бы говорим что нам нужно увидеть, смотрим что вышло и ПОНИМАЕМ толи мы имели в виду или нет, ремоделируем и тд.


Короче...

Безусловно нечто на подобии CNN нужна для извлечения “сырья”, то есть квалиа-сущностей, но с помощью CNN и MLP очень будет сложно описать всё, это очень “дорого”, научив CNN распознавать только базовые сущности и их скудные взаимосвязи, затем можно создать “Я” и “воображение” которое будет «дорисовывать реальность» с помощью воображения, по сути просто «придумывать» новые данные которых не было и быть не могло в обучающей выборке и получать ответы дополняя воображаемыми данными\ответами мета-модель. А речь... речь это когда нужно передать кому то свою мета-модель.
[Ответ][Цитата]
Luаrvik
Сообщений: 11842
На: Предметная дискуссия про NLP
Добавлено: 06 сен 17 9:51
Изменено: 06 сен 17 9:56
Цитата:
Автор: ANGULIMALA
Ещё раз повторяю, для качественного NLP нужен процесс «осмысления-представления» через вербализацию\девербализацию, то есть проекцию образов в слова и обратную проекцию вербального описания в образное(«девербализация») Но ИМХО врядле это осуществимо на прямую простым наслоением нового этажа классификации в иерархии, хотя это и шаг в верном направлении, но в данном случае дьявол в деталях, сколько бы слоев не нагородить вероятность получить разум стремится к нулю, пока не поняты принципы синтеза сознания и речи.

Вербализация - это сугубо человеческое, "слишком человеческое".
Сознание в речи не нуждается. Речь и прочие знаковые системы вообще где-то сбоку, как еще одна абстрактная надстройка, которая лишь расширяет диапазон, качественно на сознание не влияя.
Сознание требует коммуникации, установления связи(взаимодействия) и порождает ее. Вербализация - только один из способов, причем, не самый лучший.
"Визуализация", например, гораздо мощнее и быстрее.
Связывать речь и сознание... да, они могут быть связаны, но не так, будто первое есть причина второго, но скорее как сено и лошадь, как объект и субъект.
Цитата:
Автор: ANGULIMALA
затем можно создать “Я”


"Я" - это продукт самосознания.
Интересно, как Вы его создавать собираетесь ?
[Ответ][Цитата]
 Стр.4 (8)1  2  3  [4]  5  6  7  8<< < Пред. | След. > >>