GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.10 (17)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Сущность интеллектуальных алгоритмов
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Сущность интеллектуальных алгоритмов
Добавлено: 09 ноя 14 6:22
Цитата:
Автор: mserg
При одновременном решении множества задач, высоковероятно появление и использование общих «подфункций» из-за ограничения на размер. В принципе, даже в рамках одной задачи использование общих «подфункции» может дать эффект, но более вероятно появление задаче-независимых подфункций (пользуемых в 2-х или более задачах).

Rich Caruana написал об этом свою докторскую "Мultitask learning" ещё в 1997г. Первая же его публикация в этом направлении была в 93ем.

Цитата:
Автор: mserg
Далее, в случае появления новой задачи, у нас уже будет список подфункций, использование которых как бы статистически эффективно. Т.е. опыт решения одних задач можно попытаться использовать при решении других.

И опять же всё уже давно украдено до нас. Например, у Интратора и Эдельмана в 96ом была статья "Making a low-dimensional representation suitable for diverse tasks", где рассматривались вопросы получения "подфункций"=знаний и затем их трансфера между моделями, причём подфункций с разных уровней категоризации (у Каруаны велась работа только с одним уровнем).
Т.е. волна работ у буржуинов (именно практических работ, с многочисленными компутерными экспериментами - а не просто высказывания идей) пошла в середине 90х.

ЗЫ. Я отвечал только и именно на цитированные слова - я вижу, что позже Вы написали пост, в котором формулировка идеи совсем иная (насчёт переделки алгоритма перебора/поиска, а не модели).
[Ответ][Цитата]
mserg
Сообщений: 258
На: Сущность интеллектуальных алгоритмов
Добавлено: 09 ноя 14 7:54
Изменено: 09 ноя 14 8:44
Цитата:
Автор: Victor G. Tsaregorodtsev


Rich Caruana написал об этом свою докторскую "Мultitask learning" ещё в 1997г. Первая же его публикация в этом направлении была в 93ем.


И опять же всё уже давно украдено до нас. Например, у Интратора и Эдельмана в 96ом была статья "Making a low-dimensional representation suitable for diverse tasks", где рассматривались вопросы получения "подфункций"=знаний и затем их трансфера между моделями, причём подфункций с разных уровней категоризации (у Каруаны велась работа только с одним уровнем).
Т.е. волна работ у буржуинов (именно практических работ, с многочисленными компутерными экспериментами - а не просто высказывания идей) пошла в середине 90х.

ЗЫ. Я отвечал только и именно на цитированные слова - я вижу, что позже Вы написали пост, в котором формулировка идеи совсем иная (насчёт переделки алгоритма перебора/поиска, а не модели).


Мне казалось, что описанное мною более адресует к теории систем (1930-е годы)…

Но давайте остановимся на самом важном. Это ограничение/критерий на размер функции. В явном виде с четким обоснованием. Как называется работа, номер страницы и номер формулы, если есть таковая?

P.S. Мне ранее казалось, что алгоритмы описуемы через функции. Поэтому, ограничение размера даст похожий эффект что для "моделей", что и для "алгоритмов". Понятно, что все это на уровне гипотез.
[Ответ][Цитата]
mserg
Сообщений: 258
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 10 ноя 14 1:06
Изменено: 19 ноя 14 19:03, автор изменений: гоcть
Цитата:
Автор: rrr3


На мой не просвещенный взгляд нет необходимости преувеличивать роль "алгоритма поиска". В самом "универсальном", не ограниченным какими либо иными правилами/алгоритмами, это будет перебор со стохастикой (случайностью). "Алгоритм поиска" действительно не является волшебной палочкой.

А вот способы организации пространства функций (элементов и их связей) могут решить и вопрос, образно говоря, "локализации" перебора..., и "вид кривой обучения", и переход от "языков высокого уровня" типа ЕЯ, к условным рефлексам... (языку низкого, не видимого "снаружи" уровня, типа "ассемблера") и, как ни странно, переход от ИИ к СИИ.

(Особо подчеркиваю для знатоков научной лит-ры, истин никогда не глаголю, всегда только свое мнение )

Если я себя правильно понял, то речь не идет о создании алгоритма решения всех и всего.

Пусть есть некоторая реальность в «задачах». Если в этих задачах, в некотором смысле, нет ничего общего, то обучение невозможно. Если предъявить алгоритму задачу, обученному на множестве задач, не имеющих ничего «общего» с предъявленной задачей – то решение будет даже хуже, чем перебор. Мир «задач» бесконечен, поэтому речи о создании алгоритма на все случаи жизни речи никогда не шло. Другое дело, что можно найти алгоритм (функцию) на группе задач, который будет эффективно решать задачи (или описывать данные) из этой группы. Общесть - это, для примера, подфункции.

Данный подход не будет работать, если все «задачи» на свете, в некотором смысле, равновероятны (на что, в моем понимании, кстати, ссылается Виктор). В предположении, что задачи, так сказать, не равновероятны, подход будет работать.

Обсуждение в деталях реализации здесь практически невозможно. Могу сказать лишь, что чтобы обучение стало реальной реальностью, требуется база задач. При этом обучение возможно при «правильном» наборе задач. Иначе – комбинаторная смерть. Должны иметь место самые простые задачи (реально решаемых тупым перебором), потом сложнее, сложнее, и т.д. Начальное обучение возможно только на простейших задачах. Далее, после повышение эффективности, обучение будет возможно уже и на более сложных задачах. Если задачи подобраны как попало, преодолеть комбинаторный порог в реальности не удастся.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Сущность интеллектуальных алгоритмов
Добавлено: 10 ноя 14 1:33
Цитата:
Автор: mserg
...Если в этих задачах, в некотором смысле, нет ничего общего, то обучение невозможно....

Вероятно мы просто по разному применяем похожие слова, но на мой не просвещенный взгляд, обучение возможно и на одной задаче. А вот нахождение общего в "решении" задач не имеющих ничего общего, действительно сомнительно.
Цитата:

... Если предъявить алгоритму задачу, обученному на множестве задач, не имеющих ничего «общего» с предъявленной задачей – то решение будет даже хуже, чем перебор...

Слово "алгоритм" в данном случае мне не нравится. Ну да ладно. Отмечу только, что наличие "общего" или "не общего" будет зависеть не только от "задач", но и от "алгоритма", образно и условно говоря от его способностей "различать"... При этом под алгоритмом понимается не выработанные "приемы" ("алгоритмы") решения ранее представленных задач, а система вырабатывающая "решения", а по сему "ухудшение" не обязательно, но без перебора не получится все равно.
Цитата:

... Мир «задач» бесконечен, поэтому речи о создании алгоритма на все случаи жизни речи никогда не шло. Другое дело, что можно найти алгоритм (функцию) на группе задач, который будет эффективно решать задачи (или описывать данные) из этой группы. Общесть - это, для примера, подфункции...

Вот и ладненько. Хотя когда речь идет о СИИ подразумевается система не нацеленная изначально на конкретный класс задач, но все же любая система будет иметь свои ограничения по потенциалу "решения разнообразных задач", прежде всего (но не только) из-за разнообразия и количества закладываемых в нее "под-под-функций" (элементов).
Цитата:
...
Обсуждение в деталях реализации здесь практически невозможно...

Возможно и необходимо, другое дело степень детализации. В противном случае разговор ни о чем в рамках банальностей. Например, как следующая цитата от Вас, не вызывающая никаких возражений.
Цитата:
...
Могу сказать лишь, что чтобы обучение стало реальной реальностью, требуется база задач. При этом обучение возможно при «правильном» наборе задач. Иначе – комбинаторная смерть. Должны иметь место самые простые задачи (реально решаемых тупым перебором), потом сложнее, сложнее, и т.д. Начальное обучение возможно только на простейших задачах. Далее, после повышение эффективности, обучение будет возможно уже и на более сложных задачах. Если задачи подобраны как попало, преодолеть комбинаторный порог в реальности не удастся.

Добавлю только то, что одного "тупого перебора" будет маловато, даже для "простых задач", особенно если вспомнить, о иерархичности в задачах, которые возможно придется решать в последующем, и не нацеленности на конкретный класс изначально и т.д. и т.п.
[Ответ][Цитата]
Yandersen
Сообщений: 351
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 10 ноя 14 2:43
Бессмысленно обсуждать алгоритмы поиска, если образование субстрата для поиска не описано.

Ящитаю, сперва нужно описать интерфейс интеллектуальной системы - что и как в неё входит и как выходит; общие назначения системы вообще и принципы функционирования.

Затем придумать, как из того, что входит, формируется информационная платформа. Ну а после этого уже можно думать о том, как входящая инфа и база знаний могут использоваться для управления выходами, чтобы система исполняла своё предназначение.

Думаю, было бы неплохим подходом по-элементно детализировать блок-схему интеллектуальной системы, начав с чёрного ящика со входами и выходами.
[Ответ][Цитата]
mserg
Сообщений: 258
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 10 ноя 14 2:58
Цитата:
Автор: rrr3


Вероятно мы просто по разному применяем похожие слова, но на мой не просвещенный взгляд, обучение возможно и на одной задаче. А вот нахождение общего в "решении" задач не имеющих ничего общего, действительно сомнительно.

Слово "алгоритм" в данном случае мне не нравится. Ну да ладно. Отмечу только, что наличие "общего" или "не общего" будет зависеть не только от "задач", но и от "алгоритма", образно и условно говоря от его способностей "различать"... При этом под алгоритмом понимается не выработанные "приемы" ("алгоритмы") решения ранее представленных задач, а система вырабатывающая "решения", а по сему "ухудшение" не обязательно, но без перебора не получится все равно.

Вот и ладненько. Хотя когда речь идет о СИИ подразумевается система не нацеленная изначально на конкретный класс задач, но все же любая система будет иметь свои ограничения по потенциалу "решения разнообразных задач", прежде всего (но не только) из-за разнообразия и количества закладываемых в нее "под-под-функций" (элементов).

Возможно и необходимо, другое дело степень детализации. В противном случае разговор ни о чем в рамках банальностей. Например, как следующая цитата от Вас, не вызывающая никаких возражений.

Добавлю только то, что одного "тупого перебора" будет маловато, даже для "простых задач", особенно если вспомнить, о иерархичности в задачах, которые возможно придется решать в последующем, и не нацеленности на конкретный класс изначально и т.д. и т.п.


Если я говорю о дискретных задачах, значит у меня их собрано и записано в математическом виде несколько сотен. Некоторые есть здесь:
http://np-soft.ru/npproject/projects/index.htm
Есть огромный опыт решения таких задач, в том числе, при разработке Quick NP.
Поэтому когда мне рассказывают о переборе, это выглядит весьма и весьма специфически. Особенно человек, который сам о себе рассказывает, что не силен в математике и программировании.

И все что выше обучения меня перебору - в таком же духе. И потом, Вы не можете со мной вести обсуждение в ключе ИИ/СИИ, т.к. я не интересуюсь философскими гипотезами и их критериями – только математика, изучение эволюции систем решения задач, изучение условий, организационного процесса, изучение статистики и т.д.
[Ответ][Цитата]
mserg
Сообщений: 258
На: Сущность интеллектуальных алгоритмов
Добавлено: 10 ноя 14 3:13
В моем понимании, входной интерфейс – это некоторый язык.
Нужна также база задач, описанная на этом языке.
Например, за базу, можно взять это:
http://archive.ics.uci.edu/ml/datasets.html
[Ответ][Цитата]
Калитеран
Сообщений: 585
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 10 ноя 14 3:17
Цитата:
Автор: mserg
Если я говорю о дискретных задачах, значит у меня их собрано и записано в математическом виде несколько сотен. Некоторые есть здесь:
http://np-soft.ru/npproject/projects/index.htm
Неплохо! Респект!
Цитата:
Основные компоненты интеллектуальных систем
Рассмотрим перечень компонент, необходимых для создания интеллектуальных систем. Предложенный подход разбиения можно продолжить, разбивая большие компоненты на субкомпоненты и так далее. Такой подход не только дает возможность увеличить производительность труда из-за возможности разделения труда, но и снизит «ценз» для работы в этой области - даже отдельные разработчики смогут применить свои таланты.

Для выявления необходимых компонент рассмотрим кратко процесс решения практических задач, и по ходу процесса выделим компоненты.
Работа над задачей начинается с того, что стоится модель на некотором языке моделирования (см. «исходная задача», «моделирование», «язык моделирования» на рис. ниже). Создание модели суть состоит в том, чтобы выделить существенные для задачи моменты, а второстепенные и несущественные детали отбросить. Так возникает потребность в первом компоненте - язык моделирования. Наши симпатии относятся к объектно-ориентированной методологии UML и обычному языку математики.
После того, как создана модель, требуется подобрать или разработать самостоятельно программное обеспечение (см. «решение», «решатель», «решенная задача» на рис.). Так возникает необходимость во втором компоненте - в решателе задач.
Не всегда условия модели прямо «ложатся» на используемый решатель задач. Иногда требуется привести условия исходной модели к виду, в котором решатель «понимает» условия задачи. Этот элемент мы называем генератором (см. «генерация», «генератор»). В его цели входит трансляция исходной пользовательской модели в модель решателя и подстановка/загрузка конкретных исходных данных. В качестве примера можно привести решатель линейных задач. В этом случае генератор должен уметь переводить условия модели в линейные условия (если, конечно, это вообще возможно). Вполне вероятен вариант, когда решатель – это какой-либо язык программирования. В этом случае роль генератора – создание программы по декларативному описанию.
Описание модели на языке – это суть текст. Чтобы генератор смог использовать модель, ее нужно преобразовать к удобному для обработки виду. Этот четвертый компонент называется компилятором (см. «компиляция», «компилятор» на рис.)
Современные средства разработки немыслимы без комфортабельной интегрированной среды (см. интегрированная среда разработки), содержащей средства не только средства собственно разработки, но и средства отладки. Это – пятый компонент.
Таким образом, при наличии качественных компонент, пользователю достаточно сформулировать условия задачи в декларативном виде и задать данные. В результате он получит решение задачи (см. рис. выше).
Компоненты неравнозначны по сложности. Несомненно, решатель и генератор – самые наукоемкие из них. В первую очередь требует разбиения на подкомпоненты решатель, но для этого потребуется большее тесное сотрудничество и большее доверие между разработчиками. Описание некоторые подкомпонент решателя приведены в описании системы “Quick NP”: «инфраструктура» из переменных и ограничений, подкомпонента автоматическое формирование эвристик, интервальная арифметика и отсечения, библиотека стандартных задач (линейное программирование).

[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Сущность интеллектуальных алгоритмов
Добавлено: 10 ноя 14 6:04
Цитата:
Автор: mserg
Но давайте остановимся на самом важном. Это ограничение/критерий на размер функции. В явном виде с четким обоснованием. Как называется работа, номер страницы и номер формулы, если есть таковая?

Ну, это тогда "бритва Оккама" в историческом пределе получается.
А если с современной научной точки зрения - принцип MDL (minimum description length, минимум длины описания, МДО). Лень смотреть - доставабельна ли сейчас исходная статья Риссанена 78г, но статьи МакКэя начала или середины 90х в интернете вроде лежат (там не переоткрытие заново - а переформулировка через рассмотрение-доказательство эквивалентности MDL и байесовского вывода). Не говоря уж о том, что лежит куча лекций для студентов.
[Ответ][Цитата]
гость
78.25.123.*
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 11 ноя 14 1:33
сущность интелл. алгоритмов в том, чтобы система, которую они (программы) образуют
могла так обрабатывать поток задач (таких состояний среды (внешней и внутренней), отсутствие реакций на которые вызывает разрушение системы), чтобы быть в нем устойчивой. Поначалу витальные задачи, потом - информационное освоение среды и себя в среде (когда начинается активная реакция следов, внутренних моделей стимулов, описаний, представлений etc друг на друга).
[Ответ][Цитата]
гость
78.25.123.*
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 11 ноя 14 1:54
поэтому 'интеллектуальность' это не просто моделирование данных, 'поиск факторов моделирования', факторов значения, рефлексия 'смыслов', а делание всего этого так, чтобы быть продолжаемым в потоке смыслов (напр. целей) и значений (напр, предметных или персональных). (если камень, стаб. элем. частица, дерево окажутся способными лавировать в переменных целях и средствах (методах), проявлять предпочтения (специфические внутренные переменные) (активно), то и их следует признать 'интеллектуальными агентами'.)
[Ответ][Цитата]
гость
78.25.123.*
На: Сущность интеллектуальных алгоритмов
Добавлено: 11 ноя 14 2:19
в разуме нет ничего чего не было бы вовне кроме собственного принципа (суммы принципов) (NB факторов организации, организационного роста) быть разумом (не перестать быть разумом) (понимать себя как разум! - со всеми ограничениями, недостатками, особенностями)..
[Ответ][Цитата]
гость
78.25.123.*
На: Сущность интеллектуальных алгоритмов
Добавлено: 11 ноя 14 2:48
cимп>> полностью определяются средой, которую «отражают»
> cобственные принципы

сложное траектория муравья определяется во многом средой, поведение более 'умного'
агента определяется во многом и внутренними переменными, отличными от переменных базового гомеостаза (целе-направленность vs целе-сообразности). Какие управляющие иерархии алгоритмов установятся на внутренних переменных в общем случае не предзадано. интересно думать о том, как внутренний оборот 'информации' продуцирует сами эти внутренние переменные.

> Но они есть

разумеется
[Ответ][Цитата]
mserg
Сообщений: 258
На: Сущность интеллектуальных алгоритмов
+2
Добавлено: 11 ноя 14 17:01
Изменено: 19 ноя 14 19:25, автор изменений: гоcть
Цитата:
Автор: Victor G. Tsaregorodtsev


Блин, я говорю о том, что ограничение на размер модели - это необходимое условие в некой распространённой научной онтологии (и в рамках этой онтологии для тех или иных классов задач строятся те или иные схемы нахождения/оптимизации решения, тем или иным образом учитывающие это условие).

Соответственно, или рассматриваете Ваши 100 байт как ненаучную (ничем доказательно не обоснованную) хотелку - или соглашаетесь, что онтологической идее (управляющей созданием методологий, технологий, алгоритмов, и неким образом формализующей предпочтение одной модели над другой) уже 100 лет в обед (а если так - скажите, для каких классов задач или для каких условий можете сказать что-то новое или предложить более оптимальное решение (неужели куча учёных долгие годы занималась только ненаучной фантастикой, ничего не проверяя и ничего не доказывая?)).


А я Вам говорю, что мне не нужны всякие ауры, чакры, оккультные практики, трансферы моделей, категоризации, онтологии, СИИ, философии, сознание, самосоздание, мудрость, общение на китайском языке и т.п.. Можно сделать формальную и короткую математическую постановку проблемы, решением которой будет алгоритм, высоковероятно содержащий целеполагание, планирование, «обученность» и т.п.
Ключ к этому - размер и стоимость пользования (в нашем контексте использование ресурсы компьютера) нужно чисто конкретно включить в модель. Вот о чем речь. В этом сущность (см. название темы). Гипотеза состоит в том, что автоматическое построение интеллектуальных алгоритмов в некотором роде эквивалентно умению решать задачи оптимизации с функциональными ограничениями. Раз это формальное описание, значит гипотетически «решаемо компьютером».

После ваших заявлений я Вас просил ссылки на работы где прямо есть ограничения на размеры. В виде математических «формул», а не философских принципов построения чего-нибудь. И где? Ссылки, что Вы давали, не релевантны тематике. Попытка спросить номер 3, последняя.

Требуется минимизировать функционал:
L=(E(f)+delta)*exp(eps+l(f)),
где E(f) – ошибка аппроксимация данных функцией f,
delta – положительная константа,
eps – положительная константа,
l(f) – размер функции f
f – искомая функция; сигнатура: [+,-,*,/,константа,exp,ln,^,if,определение функции, вызов функции]

Ну, так можете привести (математические) работы, где есть подобные постановки задачи?

P.S.Проблема современной науки – это получение все больших знаний о все меньшем. Внешне выглядит она как бесконечное изложение бесконечных деталей. Как-то на научном форуме я задал вопрос о критериях развития математики. В ответ услышал мычание. В моем понимании, это
* Возможность адекватно (точно, по возможности) описывать окружающий мир
* Компактность аппарата
* Надежность (поэтому стремятся к строгости в математике)
* Целостность аппарата (отсюда неизбежно приходим к аксиоматическим системам, через которые воедино связывается вся математика; а через нее получаем и целостное описание мира)
* Эффективность (использование мат-аппарата требует некоторых издержек, которые должны быть приемлемыми)


[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Сущность интеллектуальных алгоритмов
+1
Добавлено: 11 ноя 14 22:06
Изменено: 11 ноя 14 22:47
Вообще, интересно наблюдать, как идея незаметно качественно редуцируется выбором средств ее реализации - в одном месте прослабили, в другом, в третьем... в результате получается "что-то", в сумме никак не дотягивающееся до заявленных функций.

Т.о., моделирование И-функций становится наглядной моделью принципа действия второго начала термодинамики.

Результат оказывается меньше простой суммы, а ожидается, что он должен быть больше или хотя бы равен - где-то рассеивается "мощность", где-то прячется активное сопротивление...

Да, реальная модель Интеллекта будет во многом похожа на действующую модель вечного двигателя.

Или аналогия с временнЫми задержками: есть 10 этапов работы, каждый этап по времени выполняется на 10% больше расчетного, в результате работа будет закончена не сегодня, а завтра... а может оказаться, что завтра она будет уже никому не нужна...
[Ответ][Цитата]
 Стр.10 (17)1  ...  6  7  8  9  [10]  11  12  13  14  ...  17<< < Пред. | След. > >>