GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.2 (2)<< < Пред.   Поиск:  
 Автор Тема: На: Минимальный интеллект
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 13 авг 25 11:37
Цитата:
Автор: Дмитрий Стволовой
Представьте библиотеки "микромоделей" под конкретные задачи, динамическую сборку архитектур из предобученных блоков и коллективное улучшение компонентов сообществом. Это позволит небольшим командам собирать сложные системы, не имея бюджета на полный цикл обучения.

Да. Именно так. Но в этом месте очень много вопросов. Будут ли эти "микромодели" агентами, управляемые большим LLM сервером или это будет "чистый" рой. "Неполный" цикл обучения может быть очень разным, системные промты, динамические контексты, RL, domain specific, что-то еще. Будет ли такое решение проще и эффективнее, чем простое использования API. Но так или иначе речь идет о взаимодействии когнитивных агентов.
[Ответ][Цитата]
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 15 авг 25 5:04
Изменено: 15 авг 25 5:10
/*

Обращаю внимание, что гость 31.211.0.* редактирует сообщения и цитаты, дедушка явно выжил из ума. Обращайте внимание на автора изменений, если увидите какую-то галиматью вместо осмысленных msg



*/
[Ответ][Цитата]
Дмитрий Стволовой
Сообщений: 364
На: Минимальный интеллект
Добавлено: 16 авг 25 11:39
Цитата:
Автор: Ꜿгг


Да. Именно так. Но в этом месте очень много вопросов. Будут ли эти "микромодели" агентами, управляемые большим LLM сервером или это будет "чистый" рой. "Неполный" цикл обучения может быть очень разным, системные промты, динамические контексты, RL, domain specific, что-то еще. Будет ли такое решение проще и эффективнее, чем простое использования API. Но так или иначе речь идет о взаимодействии когнитивных агентов.
Вопросов много согласен, собственно их становится со временем только больше, чем решаются, но думаю это нормально.

Куда, на ваш просвещенный взгляд, будет эволюционировать "индустрия ИИ" в ближайшие лет 5? Какие бы вы выделили основные вектора развития? Так… на вскидку, по верхам.
[Ответ][Цитата]
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 16 авг 25 15:38
Цитата:
Автор: Дмитрий Стволовой
Куда, на ваш просвещенный взгляд, будет эволюционировать "индустрия ИИ" в ближайшие лет 5? Какие бы вы выделили основные вектора развития? Так… на вскидку, по верхам.

Это очень сложно, новости пока обгоняют любые прогнозы. Некоторая определенность есть с игроками, мне кажется, что круг их определен и новых не будет. Может быть только какая-нибудь китайская поделка выскочит как это сделала DeepSeek. Мне кажется, что рынки перегреты и будет какая-то корреция этого всего хайпа. В том числе рынок ожиданий. Мне вообще не очень понятна эта странная погоня за AGI, никто не знает как это определить (иначе, чем humanlike), и это (как мне кажется) противоречит всем алайментам и борьбой с галлюцинациями.

Мне бы хотелось видеть инструментальное развитие ИИ, когда можно было включать в код проекта компактные удобные объекты, которые могли бы выполнять интеллектуальный сервис. С формализованным промтом, который можно было бы определять на уровне метаописаний. Этакая STL, где вместо темплейтов были бы объекты/агенты, обладающие предсказуемым, устойчивым, но интеллектуальным поведением.
[Ответ][Цитата]
Дмитрий Стволовой
Сообщений: 364
На: Минимальный интеллект
Добавлено: 17 авг 25 4:44
Цитата:
Автор: Ꜿгг


Это очень сложно, новости пока обгоняют любые прогнозы. Некоторая определенность есть с игроками, мне кажется, что круг их определен и новых не будет. Может быть только какая-нибудь китайская поделка выскочит как это сделала DeepSeek. Мне кажется, что рынки перегреты и будет какая-то корреция этого всего хайпа. В том числе рынок ожиданий. Мне вообще не очень понятна эта странная погоня за AGI, никто не знает как это определить (иначе, чем humanlike), и это (как мне кажется) противоречит всем алайментам и борьбой с галлюцинациями.

Мне бы хотелось видеть инструментальное развитие ИИ, когда можно было включать в код проекта компактные удобные объекты, которые могли бы выполнять интеллектуальный сервис. С формализованным промтом, который можно было бы определять на уровне метаописаний. Этакая STL, где вместо темплейтов были бы объекты/агенты, обладающие предсказуемым, устойчивым, но интеллектуальным поведением.
Согласен, ожидания перегреты и рынок тоже, но вот с участниками хз, думаю конторок вроде дипсика, за ближайшие пару лет ещё десятки вылезут и не факт что они будут только "догоняющими". Это как с компами в 80х или интернетом в 90е, предсказать кто кого и как обойдёт невозможно.

А AGI я бы узнал по одному главному признаку - если бы он сам себя разрабатывал, полностью контролируя процесс от софта до железа, опережая или хотя бы сравниваясь с человеческими возможностями, ну ок, пускай только софт пока. Многие думают, что мы уже близки к этому - современные LLM и гибриды неплохо генерируют код, и кажется, что осталось лишь добавить компилятор и цикл обратной связи. Но на практике всё гораздо сложнее, и простым "зацикливанием" здесь не обойтись. Фигня выходит, кто пробовал знает.
[Ответ][Цитата]
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 17 авг 25 5:50
Изменено: 17 авг 25 7:17
Цитата:
Автор: Дмитрий Стволовой
А AGI я бы узнал по одному главному признаку - если бы он сам себя разрабатывал, полностью контролируя процесс от софта до железа, опережая или хотя бы сравниваясь с человеческими возможностями, ну ок, пускай только софт пока.

Если только это не отвлеченные математические задачи, то такой софт должен быть использован в какой-то деятельности. Материальной, предметной, феноменальной. Со всеми вытекающими в виде контактов, описаний, специфических условий, трубующими по сути AGI быть product manager'ом. А не только software engineer. Часть задач, скорее всего, являются исследовательскими, иначе бы они уже были решены хотя бы на уровне каких-то проприетарных библиотек. То есть AGI должен быть еще и R&D. Взаимодействие с рынками и пользователями станут неизбежной границей разрабатываемого сервиса и наш интеллект начинает заниматься задачами PR и маркетинга. Понятно к чему я веду AGI становится предприятием/компанией целиком.

Но это не всё. Если мы говорим о том, что кто-то "полностью контролирует процесс", то мы должны понимать, что в перспективе это означает, что вся наша производственная, научная, социальная, etc. среда - это один большой AGI. Я склонен считать, что это очень далекая перспектива и рассматривать какие-то гибридные варианты, где трансформеры занимаются решением локальных хорошо формализуемых задач, а человеки являются media, в которую quasi-AGI вовлечены как инструменты.
[Ответ][Цитата]
Дмитрий Стволовой
Сообщений: 364
На: Минимальный интеллект
Добавлено: 17 авг 25 8:50
Цитата:
Автор: Ꜿгг


Если только это не отвлеченные математические задачи, то такой софт должен быть использован в какой-то деятельности. Материальной, предметной, феноменальной. Со всеми вытекающими в виде контактов, описаний, специфических условий, трубующими по сути AGI быть product manager'ом. А не только software engineer. Часть задач, скорее всего, являются исследовательскими, иначе бы они уже были решены хотя бы на уровне каких-то проприетарных библиотек. То есть AGI должен быть еще и R&D. Взаимодействие с рынками и пользователями станут неизбежной границей разрабатываемого сервиса и наш интеллект начинает заниматься задачами PR и маркетинга. Понятно к чему я веду AGI становится предприятием/компанией целиком.

Но это не всё. Если мы говорим о том, что кто-то "полностью контролирует процесс", то мы должны понимать, что в перспективе это означает, что вся наша производственная, научная, социальная, etc. среда - это один большой AGI. Я склонен считать, что это очень далекая перспектива и рассматривать какие-то гибридные варианты, где трансформеры занимаются решением локальных хорошо формализуемых задач, а человеки являются media, в которую quasi-AGI вовлечены как инструменты.
"софт" самого себя, свой код, на всех уровнях, особенно архитектура нейросетей и обучение. ИМХО это именно ключевой переломный момент. По началу может и какой то другой софт делать, среднего или крупного масштаба, в миллионы строк кода, только по исходной концепции, требованиям, юскейсам и тп. периодически коммуницируя с заказчиком, уточняя детали в реалтайме. Чтобы люди посмотрели через неделю на результат и сказали да… мы бы это сотней человек 5 лет делали и так бы хорошо не сделали. Я бы лично сказал, что всё, приехали, бронируем места в зоопарке))
[Ответ][Цитата]
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 17 авг 25 9:49
Изменено: 17 авг 25 16:32
Цитата:
Автор: Дмитрий Стволовой
"софт" самого себя, свой код, на всех уровнях, особенно архитектура нейросетей и обучение. ИМХО это именно ключевой переломный момент.

Проблематика CV очень далека от LLM, мы в YOLO еще залезаем, но реально наша математика - это средневековое ML. Трансформерных архитектур сейчас целый зоопарк, но я не думаю, что мы (все кто снаружи) знаем о тех, которые реально используются в современных моделях GPT.

Но речь, как я вижу, идет о сингулярности. Об эволюции эволюции, о моделировании моделирования. В этом месте у меня как раз очень большие сомнения в не_стерильности LLM, особенно в реализации GPT. Это самый долгий путь -- пытаться реконструировать модель реальности через набор языковых семантических конструкций. Чтобы запустить эволюцию эволюции нужна управляемая платформа, два микрофона, широкоугольная камера и манипулятор по типу лапы енота (racoon). И пусть оно генерирует свои эмбеддинги до марковкина заговенья, улучшая себя параллельно с созданием альтернативной науки... Вот такое самописание будет бескомпромиссно))
[Ответ][Цитата]
Дмитрий Стволовой
Сообщений: 364
На: Минимальный интеллект
Добавлено: 18 авг 25 5:34
Цитата:
Автор: Ꜿгг


Проблематика CV очень далека от LLM, мы в YOLO еще залезаем, но реально наша математика - это средневековое ML. Трансформерных архитектур сейчас целый зоопарк, но я не думаю, что мы (все кто снаружи) знаем о тех, которые реально используются в современных моделях GPT.

Но речь, как я вижу, идет о сингулярности. Об эволюции эволюции, о моделировании моделирования. В этом месте у меня как раз очень большие сомнения в не_стерильности LLM, особенно в реализации GPT. Это самый долгий путь -- пытаться реконструировать модель реальности через набор языковых семантических конструкций. Чтобы запустить эволюцию эволюции нужна управляемая платформа, два микрофона, широкоугольная камера и манипулятор по типу лапы енота (racoon). И пусть оно генерирует свои эмбеддинги до марковкина заговенья, улучшая себя параллельно с созданием альтернативной науки... Вот такое самописание будет бескомпромиссно))
Да, кто следит за развитием ИИ, давно понятно: "сингулярность" вряд ли наступит внезапно, как в фантастических сценариях. Скорее, это будет постепенный процесс, растянутый на годы или даже десятилетия. Вообще идея самоулучшающегося ИИ не нова — ещё в прошлом веке нейросети оптимизировали генетикой, отжигом и тп. Что в каком то смысле был шаг в сторону сингулярности.

И уже не корректно говорить о "чистых" LLM в реальных продуктах — под капотом почти у всех современных систем скрывается не просто модель, генерирующая следующий токен, а целый гибридный конвейер, в котором LLM — лишь один из элементов. Даже базовые реализации всё чаще включают элементы агентного поведения: разбор промта, планирование шагов, инструмент-вызовы, цепочки рассуждений (Chain-of-Thought), и даже попытки сымитировать мышление через ReAct, Tree of Thoughts или аналоги. Это уже не просто предсказание текста — это попытка организовать минимальную архитектуру интеллекта, где модель не просто отвечает, а действует, анализирует, пробует, исправляется.

При этом активно идёт гонка за интеграцией мультимодальности — изображения, звук, видео, данные с сенсоров — но пока большинство решений выглядят как временные костыли. Текстовые эмбеддинги пытаются склеить с визуальными, аудио и другими модальностями через простые проекции или адаптеры, но настоящей симбиозной архитектуры, где все модальности гармонично участвуют в рассуждении, ещё нет. Создание по-настоящему единой мультимодальной модели восприятия и мышления — вопрос на триллиоон баксов(ну, не тому кто придумает, а кто искусно забарыжит)) Короче мы вышли за рамки классических LLM: теперь это скорее гибридный агент, собранный вокруг языковой модели, как вокруг ядра, пока, потом ядром должно стать скорее некая мультимодальная "мета-модель мира", текст для которой будет уже инструментальным, дополнительным. Так что всё ещё впереди)))
[Ответ][Цитата]
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 18 авг 25 7:56
Изменено: 18 авг 25 8:47
Цитата:
Автор: Дмитрий Стволовой
Короче мы вышли за рамки классических LLM: теперь это скорее гибридный агент, собранный вокруг языковой модели, как вокруг ядра, пока, потом ядром должно стать скорее некая мультимодальная "мета-модель мира", текст для которой будет уже инструментальным, дополнительным. Так что всё ещё впереди)))

Да, согласен. Вопрос ядра остается открытым, с этим тоже согласен. Я бы здесь такую аналогию рассмотрел: protobuf vs XML. Второй прозрачный для human, но большой и медленный. Нужна взаимная конвертация промтов в "эмбеддинг-ориентированные" языки, а для этого и человеческий язык должен чуть поменяться в сторону формализации (ОЕЯ). Пусть ОЕЯ будет человеческим интерфейсом, но делать на нем тренинг ядеpной модели нет смысла. Нужно что-то более эффективное и компактное. В этом месте, кстати, возникает задача генерации синтетики, она тоже очень интересная.
[Ответ][Цитата]
Дмитрий Стволовой
Сообщений: 364
На: Минимальный интеллект
Добавлено: 19 авг 25 6:19
Цитата:
Автор: Ꜿгг


Да, согласен. Вопрос ядра остается открытым, с этим тоже согласен. Я бы здесь такую аналогию рассмотрел: protobuf vs XML. Второй прозрачный для human, но большой и медленный. Нужна взаимная конвертация промтов в "эмбеддинг-ориентированные" языки, а для этого и человеческий язык должен чуть поменяться в сторону формализации (ОЕЯ). Пусть ОЕЯ будет человеческим интерфейсом, но делать на нем тренинг ядеpной модели нет смысла. Нужно что-то более эффективное и компактное. В этом месте, кстати, возникает задача генерации синтетики, она тоже очень интересная.
Да, промт на ЕЯ в семантический "машинный промт", потом система с двумя модулями. Первый модуль — это "быстрый"(ну, как получится...) семантический движок, работающий с онтологическими графами знаний. Его задача — точно понять "смысл" запроса, найдя соответствующие узлы и связи в структурированном пространстве смыслов, и построить логическую цепочку рассуждений(возможно путь в графе, связи узлов и тп.). Второй модуль — это языковой движок, который получает готовый результат от первого модуля и занимается исключительно его грамотным и стилистически верным оформлением в виде естественной речи, не участвуя в процессе осмысления.

Такой подход напрямую решает ключевые недостатки современных языковых моделей. Он практически исключает галлюцинации, поскольку вывод основывается на проверенных фактах из базы знаний, а не на статистике. Процесс становится полностью объяснимым, так как можно проследить весь путь по графу от вопроса к ответу. Кроме того, система получается более эффективной, так как дорогостоящая генерация текста запускается лишь один раз для конечного результата, а вся работа по анализу выполняется оптимизированным семантическим движком. Обновление знаний также упрощается до манипуляций с онтологическим графом, а не до переобучения всей модели.

Элементы этой архитектуры уже прослеживаются в современных тенденциях, таких как нейро-символический ИИ, где нейросети и логические системы работают вместе, или в Graph RAG, где поиск ведется по сущностям, а не по тексту. Будущее развитие лежит именно в направлении таких гибридных систем, где каждому компоненту отводится своя сильная роль: нейросети для распознавания и нечеткого сопоставления, графы знаний для точного хранения фактов и логического вывода, а языковые модели — для качественного общения с пользователем. Это превратит ИИ из инструмента, предсказывающего слова, в систему, оперирующую реальными смыслами.

Осталось "только" понять как научить такой онтологический граф автоматически, нейросетками, желательно с помощью дешевых шаровых данных))
[Ответ][Цитата]
Ꜿгг
Сообщений: 13159
На: Минимальный интеллект
Добавлено: 19 авг 25 14:32
Изменено: 19 авг 25 14:53
Цитата:
Автор: Дмитрий Стволовой
Будущее развитие лежит именно в направлении таких гибридных систем, где каждому компоненту отводится своя сильная роль: нейросети для распознавания и нечеткого сопоставления, графы знаний для точного хранения фактов и логического вывода, а языковые модели — для качественного общения с пользователем. Это превратит ИИ из инструмента, предсказывающего слова, в систему, оперирующую реальными смыслами.


Согласен. Есть несколько замечаний к блоку "знания - факты - логика", но это долгий и предметный разговор)))

Вот китайцы неделю назад сделали обзор современных архитектур, 33 страницы ссылок, поднимают индекс цитирования, чтобы перед кормчим отчитаться))) Яковлева с самой правильной системой обучения среди них не нашёл

https://arxiv.org/pdf/2508.09834
[Ответ][Цитата]
 Стр.2 (2)1  [2]<< < Пред.