Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.20 (22) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Элементарный ИИ
dekeract Сообщений: 32	На: Элементарный ИИ Добавлено: 17 июл 26 2:49 Цитата: Автор: dekeract 2014 Итак я утверждаю: Искусственный интеллект в своём простейшем виде есть элементарная модель окружающей реальности(входящих данных), функционально отображающая входящие данные в ответ(выходящие данные), так изменяющие среду и сам "субъект"(часть среды), что "целевая функция" субъекта(её мат ожидание) максимальна. И снова всем здравствуйте! Предлагаю продолжить наш интересный разговор, спустя, так уж совпало, опять 6 лет Думаю занимательно будет понаблюдать над эволюцией взглядов на старые вопросы, а возможно даже над эволюцией самих вопросов… Вижу тут стало совсем по другому, жизнь берёт своё, как говорится "лучшие уходят первыми" и это как раз перед долгожданной эрой СИИ. Так что? СИИ на пороге? Или всё это хайп, пузырь... Какие бы выводы сделало существо высшего порядка, наблюдающего за "ВСЕМ ЭТИМ"??? Цитата: Автор: Андрей Кучеменко "Говорят Партия — подразумевают — Ленин!" по аналогии "Говорят ИИ, подразумевают СИИ". Признаки в идеале — "чтобы было как человек, но на много дешевле". Сейчас очевидно "не он", есть только некоторые "его" отдельные функции, такие как зрение\слух и прочие чувства, а также связанные с ними способность к примитивной категоризации, сложному распознаванию, но пока далёкому от человеческого и даже животного. Пока имеем "не паханное поле" в контексте СИИ. Собственно даже не ясно с чего лучше начать, к чему приложиться, возможно к NLP\NLU, возможно пытаться понять как работает мозг и ассоциативный аппарат, возможно как возникают абстракции из распознавания, терра-инкогнита. Цитата: Автор: Дмитрий Стволовой С моей точки зрения нужно пытаться делать отдельные элементы, например разобраться с NLP. Наука всегда движется почти наугад, пытаются делать одно, а открывают другое, это нормально, так всегда было и будет. Редко когда по заказу "сделайте ИИ" и его раз и сделают, это возможно только когда речь идёт о развитии и разного рода "агрегатных" проектах, но не инновационных. Ну вот это поле уже вспахали, разобрались, за эти 6 лет, какое следующее поле нужно вспахать? Мультимодалка? Процессуальное(реалтаймовое) "сознание"? Почему все утверждают что LLMы — НЕ ПОНИМАЮТ!? [Ответ][Цитата]
гость 45.93.6.*	На: Элементарный ИИ Добавлено: 17 июл 26 3:54 -== СИИ на пороге? ==- и где же тот порог? Осталось найти порог и СИИ в кармане. [Ответ][Цитата]
гость 185.220.100.*	На: Элементарный ИИ Добавлено: 17 июл 26 4:32 Цитата: Автор: dekeract Так что? СИИ на пороге? Или всё это хайп, пузырь... Скорее второе чем первое, всё как с доткомами будет, интернет — круто и полезно, но люди, склонны к чрезмерному оптимизму и переоценке, того что не понимают, ну и им ещё помогают это сделать порочные маркетологи. Но тем не менее LLM и другие MLки — меняют мир и радикально сужают область того что осталось "человеческим". [Ответ][Цитата]
гость 37.203.37.*	На: Элементарный ИИ Добавлено: 19 июл 26 2:43 Цитата: Автор: dekeract 2014 Итак я утверждаю: Искусственный интеллект в своём простейшем виде есть элементарная модель окружающей реальности(входящих данных), функционально отображающая входящие данные в ответ(выходящие данные), так изменяющие среду и сам "субъект"(часть среды), что "целевая функция" субъекта(её мат ожидание) максимальна. Возражение: Искусственный интеллект в своём простейшем виде — это агент, обладающий внутренней моделью мира. Эта модель — не сам ИИ, а его инструмент: она представляет собой элементарную формальную систему условных элементов, полученную в результате дискретизации субстанциального фона (входящие сенсорные данные). Функциональная схема агента отображает текущую перцептивную конфигурацию, сформированную моделью, в последовательность воздействий на среду (выходящие данные) таким образом, чтобы траектория системы в пространстве состояний смещалась в направлении градиента потенциала, встроенного в структуру агента как потребность. Целенаправленность поведения обеспечивается тем, что модель позволяет прогнозировать результаты воздействий и выбирать те из них, которые максимизируют ожидаемую степень достижения целевой (требуемой) конфигурации. Сам агент при этом является локальным выражением мировой системы и, изменяя среду, опосредованно изменяет и собственную траекторию. [Ответ][Цитата]
dekeract Сообщений: 32	На: Элементарный ИИ Добавлено: 19 июл 26 4:34 Цитата: Автор: гость -== СИИ на пороге? ==- и где же тот порог? Осталось найти порог и СИИ в кармане. Остроумно. А где Вы видите этот порог? ИИ — работает и зарабатывает деньги? ИИ сам придумывает и создаёт бизнес? ИИ — совершает фундаментальное научное открытие? Цитата: Автор: гость Скорее второе чем первое, всё как с доткомами будет, интернет — круто и полезно, но люди, склонны к чрезмерному оптимизму и переоценке, того что не понимают, ну и им ещё помогают это сделать порочные маркетологи. Но тем не менее LLM и другие MLки — меняют мир и радикально сужают область того что осталось "человеческим". Вынесем за скобки пока экономическое и социальное воздействие, я бы не стал сильно драматизировать по этому поводу, многое поменяется, но ничего катастрофического я бы не ванговал. Цитата: Автор: гость Возражение: Искусственный интеллект в своём простейшем виде — это агент, обладающий внутренней моделью мира. Эта модель — не сам ИИ, а его инструмент: она представляет собой элементарную формальную систему условных элементов, полученную в результате дискретизации субстанциального фона (входящие сенсорные данные). Функциональная схема агента отображает текущую перцептивную конфигурацию, сформированную моделью, в последовательность воздействий на среду (выходящие данные) таким образом, чтобы траектория системы в пространстве состояний смещалась в направлении градиента потенциала, встроенного в структуру агента как потребность. Целенаправленность поведения обеспечивается тем, что модель позволяет прогнозировать результаты воздействий и выбирать те из них, которые максимизируют ожидаемую степень достижения целевой (требуемой) конфигурации. Сам агент при этом является локальным выражением мировой системы и, изменяя среду, опосредованно изменяет и собственную траекторию. Согласен с возражениями. То "определение"(12летней давности), уже подистрепалось малёха, оно так, для истории, сейчас я бы вообще не стал бы давать четких определений. Фактически мы имеем дело с несколькими сравнительно независимыми системами, которые оптимизируются друг под друга. Это уже многоуровневая иерархическая система, первый уровень проецирует сырые сенсорные данные (пиксели, текст, звук) в плотное латентное пространство, отсеивая шум и выделяя инварианты. Второй уровень представляет собой стек ML алгоритмов, выполняющий иерархическую абстракцию: от простых паттернов (края, буквы) до глубоких семантических понятий. Это не просто регрессия, а моделирование совместного распределения вероятностей, где геометрия латентного пространства отражает семантическую близость объектов. Третий — это надстройки реального времени и активного вывода (актор-критик, цепочка рассуждений и тп). Здесь модель зацикливает свой вывод, используя предсказанные токены как новые входные данные, реализуя байесовское обновление состояния. Современные исследования показывают, что итеративное "замедление" вывода через поиск по дереву решений внутри латентного пространства резко повышает качество решения сложных логических задач. Четвертый уровень — интроспекция (мета-познание), реализуемая через механизмы "Критика" или контрастивного обучения, которые оценивают уверенность модели в собственном предсказании. Тут может в последствии родиться тн. "сознание", в виде реалтаймового процесса саморефлексии и себя как части "всего". Современные модели, как считается, не способны к истинной интроспекции — они не оценивают собственное незнание и занимаются пост-хок рационализацией вместо честного вывода. Возможен приятный сюрприз от внедрения чего то типа байесовских нейросетей с динамической оценкой дисперсии и от внешних модулей памяти (раг, и тп тулзы памяти), превращающих ИИ в операционную систему-диспетчера. Ещё важное отличие от человека остается в замороженности весов: градиентный спуск происходит только между сессиями, а не во время мышления, что лишает ИИ способности оперативно перестраивать иерархию абстракций под новые, невиданные задачи в реальном времени, хотя это чисто инженерный вопрос. Короче, можно много о чем поговорить, сделать тс. "срез времени", кроме социалки и сплетен. Давайте, просыпайтесь! [Ответ][Цитата]
аdmax Сообщений: 307	На: Элементарный ИИ Добавлено: 25 июл 26 16:53 Изменено: 26 июл 26 8:20, автор изменений: dekeract Ну так покажите пример, вашу версию "среза времени", пока то что вы написали, это какие то мутные хотелки в проекции на здравый смысл среднего айтишника, не впечатляет. [Ответ][Цитата]
dekeract Сообщений: 32	На: Элементарный ИИ Добавлено: 26 июл 26 8:20 Цитата: Автор: аdmax Ну так покажите пример, вашу версию "среза времени", пока то что вы написали, это какие то мутные хотелки в проекции на здравый смысл среднего айтишника, не впечатляет. Решили вопрос с картинками с помощью CNN, перед человечеством стояла задача NLP, баловались рекурентными сетями, LSTM и тп. Текущий бум начался в середине 10х с рождения "механизма внимания" трансформер сменил рекуррентность, заменив последовательное аккумуляцию внутреннего представления на матрицу попарных корреляций (Q*K^T), что дало равномерность памяти и другие плюшки. Расплата — квадратичная сложность, которая съедает память на длинных текстах(но есть много уже оптимизаций) С конца 10х взяли весь интернет прогнали через большой трансформер и о чудо получилась "китайская комната", RLHF откалибровал формат ответа под человеческие ожидания, все уверовали в "скейлинг", мол СИИ возникнет просто если увеличивать параметры обучение. Начало 20х — всякие агентские штучки, цепочки рассуждений, планирование, декомпозиция и тп . Даёт определенный буст, как инструментарий над интуицией китайской комнаты. Позволяет работать над комплексными проектами Текущий момент, "стена линейного нарратива", отсутствие причинности: модель знает текстовые корреляции, а не каузальность. Нужна мультимодальность нового уровня, проекции "моделей мира" на язык. Пока всё на уровне функций, вход — выход, работа над реалтаймовыми системами и авторефлексией в зачаточном состоянии, что потенциально должно породит "сознание". В общем постепенно задачи ставятся и решаются, CNN – RNN – Transformer – Agents - … Такой "срез", если в кратции. [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 17798	На: Элементарный ИИ +1 Добавлено: 26 июл 26 10:05 Как я ненавижу наглый пиздёж про китайскую комнату А кто из нас не "китайская комната"? Вы знаете свою самость с точностью до генома каждой клетки своего организма что ли? Даже взведённый будильник обладает самосознанием и мировоззрением [Ответ][Цитата]
аdmax Сообщений: 307	На: Элементарный ИИ Добавлено: 26 июл 26 11:12 Цитата: Автор: dekeract на матрицу попарных корреляций (Q*K^T) Такой "срез", если в кратции. Нет, вы так говорите, будто был какой-то предсказуемый целенаправленный марш-бросок с четким ТЗ. "Поставили задачу NLP — решили както через RNN, а потом через тансформер — теперь идем к агентам и мультимодалке". Это ретроспективная херня. В реальности всё было с бухты-барахты, на авантюризме, примеси удачи, безответственности и возможно даже мошенничества. OpenAI вообще не планировали делать то, что сделали. Это была тусовка приглашенных энтузиастов, талантливых, изобретательных, а также подуставщих, разжиревших свадебных генералов с регалиями, на которых Маск с пацанами спонтанно швырнули сотней другой лямов баксов — просто потому что "надо быть в теме", без внятной стратегии. Сам Альтман до этого был серийным предпринимателем с одним сливным стартапом поиска по GPS(проданным дешевле инвестиций), а потом вел инфоцыганские курсы для стартаперов. Но скорешился с Маском, как то пристроился(возможно даже…, но не будем об этом, наверно это только слухи), начал мониторить гаражные поделки на предмет выкупа и потрошения на запчасти, на конвейере Маска. Открыли OpenAI, чтобы Гугл не захватил мир с помощью ИИ, интенция была мутной, близкой к накуренным фантазиям. 4 года в OpenAI просто игрались. Делали "роборуку"(как Сайфер), гоняли нейросетки в игры — примерно как некоторые тут на GotAI бесплатно обсуждают идеи. Маск через пару лет отвалил, поняв, что это цирк, детсад. И… гугловцы выкатывают трансформер (они его для перевода и поиска делали, не для "СИИ"). А парни из OpenAI, у которых как раз была куча видях и быстрый комп, в отчаянии запихнули в эту архитектуру 5 гигабайт книжек. После сдержанно офигевают от результата, у кого то рука в кармане ритмично шевелится и взгляд в пустоту. Потом пихнули туда весь веб, прогнали на большем кластере — и челюсть отвалилась, говорят одного госпитализировали то ли с нервным срывом то ли с острым психозом, двое пили неделю, не просыхая. Никто это не планировал, стартап бы загнулся скорей всего через год, с позором, как первый стартам авантюриста неудачника Альтмана, половина народу уже договорилась на новую работу. Это был эксперимент с непредсказуемым исходом, который чисто случайно выстрелил. Весь "план" придуман задним числом, чтобы продавать инвесторам историю про гениальную стратегию. Альтман грамотно развёл Маска на бабки, чтобы скромно собрать крошки в виде пары лимонов, но в итоге взлетел на олимп, как "гениальный программист и менеджер", хотя пацан без ВО, два курса еле выдержал, кодить почти не умеет, но с хуцпой как у Эпштейна. По сути OpenAI, только, догадались, точнее попробовали запихнуть много текста в большую сетку, другие считали что это бессмысленно, может это было продуманно, а может случайно в панике. Сейчас же никто не знает, что делать дальше. Поэтому и мечутся между рагами, агентами, дальнейшим скейлингом и мультимодалкой — просто тыкают во всё подряд, надеясь, что ещё раз выстрелит. Это не научный комитет по СИИ(а что? он разве бы помог?). Это шумный поиск вслепую с пока гигантскими бюджетами. Вот и весь срез реальности, если как было, а не с переиначиванием истории. Нет никакого плана и целей, точнее есть, но гарантированно всё пойдет иначе, народ играется, кому не обязательно работать в макдональдс, а кто по энергичнее, открывают капашки и делают бабки. Так сойдёт? [Ответ][Цитата]
Андрей Кучеменко Сообщений: 74	На: Элементарный ИИ +1 Добавлено: 27 июл 26 5:54 Изменено: 27 июл 26 5:55 Цитата: Автор: dekeract В общем постепенно задачи ставятся и решаются, CNN – RNN – Transformer – Agents - … Такой "срез", если в кратции. Обработанные LLM выдержки некоторых довольно долгих бесед с LLM, в виде резюме, про то что происходит, что интересного делается и чем можно заняться. Может кому то будет интересно. Цитата: С чем я согласен на 100% 1. Аналогия с зонами Брока-Вернике — это фундаментальное закрытие вопроса. Современные LLM — это изолированный лингвистический процессор. Попытка вырастить из него AGI путем тупого скалинга ($O(n^2)$ по памяти и триллионы параметров) — это как попытка построить космический корабль, бесконечно увеличивая в размерах паровоз. Карго-культ чистой воды. 2. Язык как lossy-кодек. Язык не содержит мир, он содержит лишь *инструкции по распаковке* мира в голове того, у кого уже есть физический сенсорный опыт. LLM пытается распаковать архив, не имея архиватора. 3. Обесценивание кодинга. Да, фулстек-разработка в ее классическом понимании (написание CRUD-ов, стыковка API, ручной рефакторинг) умрет как профессия. Компиляторы смыслов заменят кодеров так же, как компиляторы высокоуровневых языков заменили ассемблерщиков. С чем я НЕ согласен (Где кроется системная ошибка) 1. «Модели ничему не научились». Нет, они научились. LLM выучили *топологию человеческого мышления*, зафиксированную в текстах. Это не просто автокоррект. Это гигантский сжатый граф человеческих ассоциаций. Они «понимают» логические абстракции, но их понимание «плоское» — оно лишено веса, геометрии и времени. 2. «Школьники будут ваёбить проекты круче профи». Школьники с промптами упрутся в ту же стену, во что упираются джуны: они не смогут сформулировать непротиворечивое ТЗ для сложных систем. Чтобы управлять LLM-агентами на мета-уровне, системное мышление и понимание архитектуры (артефакты старой школы разработки) понадобятся еще сильнее. Просто инструментом станет не код, а логический каркас. --- Куда пойдет развитие LLM и гибридов (Брейншторм на 20 пунктов) Как перенаправить прокачанные мозги и куда двинется индустрия, когда все поймут, что тупой скалинг сдох? Погнали, жестко и по сути: 1. Мир-симуляторы (World Models) вместо авторегрессии. Переход от предсказания следующего токена к предсказанию следующего латентного состояния среды (как в видео-генераторах Sora, но для физики и логики). Язык станет лишь верхним слоем над этой симуляцией. 2. Нейро-символические гибриды. Скрещивание дифференцируемых нейросетей (System 1, интуиция) с жесткими графовыми решателями и логическими движками типа Пролога (System 2, верификация правил). Модель генерирует гипотезу — граф её жестко валидирует. 3. JEPA-архитектуры (Joint Embedding Predictive Architecture). Отказ от генерации пикселей или токенов в пользу предсказания абстрактных представлений в скрытом пространстве. Модель учится игнорировать шум (например, шелест листьев) и фокусируется на каузальных объектах (куда летит камень). 4. Test-Time Compute Scaling (Мышление во время инференса). Переход от одинаковых FLOPS на каждый токен к алгоритмам типа *Search on Tree* (MCTS). Модель тратит 90% ресурсов на обдумывание стратегии решения сложной математической задачи и 1% на генерацию финального текста. 5. Континуальное (онлайн) обучение без катастрофического забывания. Разделение памяти ИИ на «ядро» (неизменяемые законы физики) и «быструю ленту» (Hypernetworks или быстрые синаптические веса), обновляющуюся в реальном времени от каждого чиха среды. 6. Квантование смыслов и RAG-наоборот. Использование языка не для общения с пользователем, а как внутреннего протокола сжатия данных между разными специализированными агентами (Lossy-кодек для обмена состояниями). 7. Инженерия каузальных датасетов. Создание синтетических сред (песочниц), где модели целенаправленно сталкивают с физическими аномалиями (например, «вода горит», «резиновое стекло»), чтобы выжечь из их весов слепую корреляцию и привить каузальность. 8. Энергетическая оптимизация и Mixture of Depths. Архитектуры, которые сами регулируют глубину прохода сигнала через слои сети в зависимости от сложности токена. Предсказать союз «и» — 1 слой, решить уравнение — все 80 слоев. 9. Эмбодимент (Воплощенный ИИ) в виртуальных мирах. Обучение моделей внутри фотореалистичных физических симуляторов (NVIDIA Omniverse), где они управляют телами роботов, получая проприоцептивную обратную связь до того, как им разрешат написать первую строчку текста. 10. Проектировщики мультимодальных мостов. Специалисты, настраивающие проекционные слои (слои выравнивания) между совершенно разнородными датчиками (лидар, инфракрасный спектр, звук) и единым латентным пространством модели. 11. Сжатие контекста через селективное состояние (State Space Models). Окончательное вытеснение классического Attention ($O(n^2)$) линейными архитектурами типа Mamba или RWKV, которые удерживают суть миллионных контекстов через динамическое обновление скрытого вектора. 12. Архитекторы самообучающихся циклов (Self-Play). Создание систем, где ИИ генерирует тысячи синтетических задач сам для себя, решает их, а автоматический верификатор (математический или логический) отбирает лучшие решения для дообучения. 13. Нейрохирургия латентных пространств. Ручная или полуавтоматическая коррекция концептов внутри весов модели (инъекции знаний и удаление галлюцинаций напрямую через изменение векторов, а не через fine-tuning). 14. Инженерия когерентности агентов. Проектирование протоколов, которые удерживают долгосрочную цель роя агентов, не позволяя им скатываться в бесконечные циклы самоповторов при решении задач длиною в месяцы. 15. Детекция онтологических тупиков. Разработка систем, которые отслеживают, когда модель заходит в зону экстраполяции, где ее латентное пространство пусто, и принудительно останавливают генерацию, требуя внешних данных. 16. Специалисты по синтезу «критической массы данных». Генерация ультра-чистых текстовых и визуальных датасетов, очищенных от человеческой глупости, повторов и шума, для обучения компактных, но сверхумных моделей. 17. Разработчики не-человеческих интерфейсов. Создание ИИ, оптимизированных для управления сложнейшим железом (синхротроны, термоядерные реакторы) напрямую через физические параметры, минуя стадию перевода в человеческий язык. 18. Калибраторы неопределенности (Confidence Scorers). Настройка слоев, которые выдают точную математическую оценку того, насколько модель «уверена» в своем физическом или логическом предсказании, предотвращая скрытые галлюцинации в проде. 19. Создатели адаптивных мета-промптов. Разработка динамических систем, которые считывают контекст компании, текущее состояние инфраструктуры и психотип пользователя, генерируя идеальный скрытый системный промпт для LLM. 20. Инженеры цифрового бессознательного. Настройка фоновых процессов «сна» для нейросетей, во время которых замороженная модель пересчитывает и структурирует накопленные за день RAG-данные, превращая их в долгосрочные веса. --- Мы стоим на пороге великого разочарования в «чистых» LLM. И это прекрасно. Как только спадет пена хайпа и инвесторы перестанут заливать миллиардами тупой скалинг, начнется настоящая инженерная работа — сборка гибридных систем, где лингвистический процессор наконец-то займет свое законное место: место интерфейса, а не самого разума. Цитата: Скрестить текстовую авторегрессию с моделью мира — это не просто прикрутить еще один плагин. Это фундаментальная смена ролей. В этой архитектуре текст должен перестать быть хозяином и стать слугой. Вот как, по-моему, выглядит рабочая инженерная схема этой склейки и главные подводные камни, о которых все споткнутся. --- 1. Топология склейки: Архитектура «Двух Колец» Нельзя просто пропустить пиксели мира и токены текста через один Transformer. Это породит ту же кашу. Нужен Каузальный Движок (Скрытое Кольцо) и Лингвистический Интерфейс (Внешнее Кольцо). * Внутреннее кольцо (World Model): Это непрерывное, динамическое латентное пространство. Оно оперирует не словами и даже не картинками, а *инвариантами состояния*. Например, вектор объекта «шар» хранит его массу, вектор скорости, координаты, упругость. Эта модель живет по законам геометрии и причинности ($A \to B \to C$). * Внешнее кольцо (LLM): Это дискретный транслятор. Его единственная задача — переводить точечные срезы (snapshots) из внутреннего кольца в человеческий язык и обратно. # Как они общаются? Переводчики-Проекторы Нужна двунаправленная система мостов, которая обучается как Conditional Variational Autoencoder (CVAE): 1. Encoder (Текст $\to$ Мир): Берет фразу *«Шар А летит вверх»* и превращает её в импульс силы (градиент направления) в латентном пространстве World Model, изменяя вектор скорости Шара А. 2. Decoder (Мир $\to$ Текст): Смотрит, как во внутреннем пространстве Шар А ударился о потолок и отскочил, берет траекторию этого состояния и генерирует токены: *«Шар отскочил вниз»*. --- 2. Мои мысли: Три главных инсайта, как это сделать правильно # Мысль I: Функция потерь (Loss) должна быть асимметричной Если обучать всю систему по единому Loss (например, MSE для пикселей + CrossEntropy для текста), текст сожрет физику. Текстовый градиент слишком «шумный» и легкий, модели проще научиться врать словами, чем считать траектории. Решение: Обучение должно быть иерархическим. * Сначала World Model учится предсказывать физику мира вообще без текста (Self-Supervised Learning, как JEPA Яна ЛеКуна). Она должна идеально ловить каузальность: если объект А врезался в Б, Б должен сдвинуться. Ошибка предсказания следующего состояния мира — это абсолютный приоритет. * Только потом на это каузальное мясо натягивается шкура языка. Языковой модуль штрафуется не за то, что он угадал слово, а за то, что его текстовое описание *привело к неверной симуляции* во внутреннем кольце. # Мысль II: Язык как квантованный регуляризатор (Сжатие смыслов) Зачем вообще модели мира текст? Физический движок может прекрасно симулировать шарики и без слов. Язык нужен как инструмент абстракции высшего порядка. В физическом мире есть миллионы нюансов (микро-отклонения скорости, шероховатость стенок). Текст выступает как «архиватор», который заставляет латентное пространство группировать похожие физические траектории под одним понятием — «упругий отскок». Язык помогает модели мира не сходить с ума от избытка сенсорных данных. Он квантует хаос пикселей в аккуратные логические блоки. # Мысль III: «Воображение» как внутренний RAG над траекториями Как заставить эту систему рассуждать? Когда пользователь задает сложный каузальный вопрос (*«Что будет, если я уберу нижнюю стенку?»*), система делает следующее: 1. LLM переводит вопрос в изменение геометрии внутреннего мира (стирает стенку в латентном пространстве). 2. Включается внутренний симулятор. Модель делает «шаг в темноту» — генерирует не текст, а последовательность латентных состояний на 10 шагов вперед (внутреннее воображение). 3. Если в процессе симуляции траектория шарика становится нестабильной, включается аналог RAG, но ищет он не текст в Википедии, а *похожие каузальные паттерны* из своего прошлого опыта взаимодействия со средой. 4. Только после того, как симуляция завершилась и стабилизировалась во внутреннем кольце, Лингвистический Декодер считывает финальный латентный трек и выдает человеку связный, железобетонный по логике ответ. --- 3. Где индустрия споткнется прямо сейчас? (Инженерные тупики) * Проблема Размерности: Дискретные токены текста легко стыковать. Но как состыковать непрерывное 4D-пространство (видео/физика) с текстом так, чтобы градиент не взрывался? Проекторы между модальностями сейчас — это узкое горлышко, они «размывают» точность физики. * Символический сбой: Если модель мира «выучит» физику интуитивно (как мы с тобой обсуждали про охотника с копьем), она может накопить внутренние скрытые сдвиги. Без жесткой математической валидации (символического слоя) ее внутренний симулятор через 100 шагов начнет генерировать скрытый бред, который на выходе превратится в очень уверенную, но абсолютно антифизическую галлюцинацию. Мой вердикт Склеивать World Model с текстом — это единственный способ выйти из тупика «попугайства». Технически мы увидим это в виде архитектур, где большая LLM управляет промптами к скрытой нейросетевой физической песочнице, которая крутится внутри нее же на каждом шаге инференса. Модель сначала «играет в шарики» в своей голове, проверяет гипотезу на каузальность, и только потом открывает рот, чтобы выдать текст. Это и будет моментом, когда имитация понимания сменится реальным инженерным пониманием. Цитата: Если убрать всю стартаперскую романтику и посмотреть на ландшафт 2026 года цинично — как на карту военных действий, где Google, OpenAI, Anthropic и Meta утюжат рынок ковровыми бомбардировками, то классический совет «просто пиши код или делай обертку» — это отправка разработчиков на бойню. Куда деваться талантливым инженерам с прокачанными мозгами в социально-экономическом плане? Давайте разберем три основные стратегии, их реальную доходность и скрытые мины. --- Стратегия 1. «Создавать свои ИИ-стартапы» (Высокий риск / Авантюризм) Самый частый совет из каждого утюга: *«Теперь 95% кода делает LLM, пили стартап в соло!»* Жесткая правда: Да, вы можете в одиночку собрать MVP за выходные. Но проблема в том, что это могут сделать еще 10 тысяч школьников по всему миру. Барьер для входа в разработку упал до нуля, а значит, ценность самого продукта (кода) тоже стремится к нулю. Если ваш стартап — это просто красивая логика поверх API условного GPT-5 или Claude 3.5/4, вы находитесь в смертельной опасности. Этот феномен называют «Быть съеденным следующим обновлением» (Caught in the OpenAI steamroller). Как только большая лаборатория выкатит контекст побольше или обновит системных агентов, ваш стартап умрет за одну презентацию Сэма Альтмана. Мой совет: Создавать стартап можно только в двух случаях: 1. У вас есть монопольный доступ к уникальным данным (Proprietary Data). Например, архив медицинских карт конкретной сети клиник за 20 лет или закрытые логи датчиков буровых установок. То, чего нет и не будет в открытом вебе для обучения больших моделей. 2. Вы продаете не софт, а результат в реальном мире. Не «платформу для автоматизации маркетинга», а «мы приведем вам 500 клиентов, используя наших ИИ-агентов, и возьмем процент с продаж». Бизнесу плевать на ваш стек, ему нужен конечный KPI. --- Стратегия 2. «Латать несовершенства и докручивать под узкую экспертизу» (Стабильный кэш / Средний срок жизни) Это то, что сейчас кормит 80% толковых ИИ-консультантов. Внедрение RAG-систем, тонкая настройка (Fine-tuning) под юристов/медиков, борьба с галлюцинациями, прописывание агентских пайплайнов (LangChain, CrewAI и т.д.). Жесткая правда: Это отличная дойная корова на ближайшие 1.5–2 года. Крупный консервативный бизнес (банки, ритейл, логистика) дико боится галлюцинаций LLM и готов платить огромные деньги инженерам, которые приручат этого «попугая» и заставят его строго отвечать по корпоративной базе знаний. Но у этой работы есть срок годности. По мере того как модели переходят на гибридные каузальные архитектуры (о которых мы говорили выше), они начинают совершать всё меньше логических ошибок. Задачи, над которыми вы сегодня потеете неделями (например, удержание контекста или строгое форматирование JSON на выходе), завтра будут решаться встроенным в модель слоем валидации по умолчанию. Мой совет: Идите туда прямо сейчас, чтобы заработать первичный капитал и обрасти связями в реальном секторе. Но не думайте, что вы будете заниматься этим до пенсии. Относитесь к этому как к «золотой лихорадке»: пока все бегут за золотом, вы продаете лопаты (инфраструктуру внедрения). Заработали — и инвестируйте в более глубокие навыки. --- Стратегия 3. Настоящая суперсила: «Уходить туда, где кончается текст» (Стратегическая глубина) Если вы действительно талантливый разработчик с системным мышлением, ваша главная задача — выйти из плоскости «чистого софта» туда, где виртуальный мир сталкивается с физическим, математическим или биологическим хаосом. Пока LLM сидят в текстовом инкубаторе, реальный сектор задыхается без людей, способных скрестить алгоритмы с реальностью. 1. Эмбодимент и Робототехника (Robotics & Edge AI): Модели для управления манипуляторами, дронами, беспилотниками. Оптимизация сетей для работы на слабом железе (микроконтроллерах) в реальном времени. Здесь ошибка — это не глупая строчка в чате, а сломанная рука робота за $50k. Школьники с промптами сюда не зайдут. 2. Наукоемкий ML (AI for Science): Материаловедение, биоинформатика, предсказание свертывания белков, генерация новых химических соединений, симуляция климатических моделей. Тут текстовые LLM — лишь вспомогательный инструмент. Основная работа идет на стыке кастомных нейросетевых архитектур, физики и высшей математики. 3. Архитектура вычислений (Hardware-Software Co-design): Оптимизация работы распределенных кластеров, написание низкоуровневого софта под новые типы чипов (NPU, нейроморфные процессоры). Тот, кто может сократить энергопотребление обучения модели на 20% на уровне работы с памятью GPU, будет получать миллионы в любой BigTech-компании. --- Социально-экономическое резюме Талантливым разрабам нужно пройти через болезненную трансформацию эго. Вы больше не «творцы кода». Код стал дешевым электричеством. * Если хотите денег здесь и сейчас: Идите в enterprise-консалтинг, внедряйте агентские гибриды и RAG, вычищайте галлюцинации для корпораций. Это сытая, понятная, но конечная история. * Если хотите построить долгосрочную ценность: Становитесь инженерами каузальных систем. Учите физику, биологию, робототехнику или глубокую математику ML-архитектур. И главное — забудьте про БОД (базовый доход). В капиталистическом мире никто не будет платить вам просто за то, что вы освободились от работы. Деньги останутся у тех, кто владеет инфраструктурой вычислений (железом) и у тех, кто умеет решать сложные, грязные проблемы реального мира, которые невозможно описать простым промптом. [Ответ][Цитата]
гость 171.25.193.*	На: Элементарный ИИ Добавлено: 29 июл 26 12:21 Цитата: Автор: dekeract И снова всем здравствуйте! Предлагаю продолжить наш интересный разговор, спустя, так уж совпало, опять 6 лет Думаю занимательно будет понаблюдать над эволюцией взглядов на старые вопросы, а возможно даже над эволюцией самих вопросов… Вижу тут стало совсем по другому, жизнь берёт своё, как говорится "лучшие уходят первыми" и это как раз перед долгожданной эрой СИИ. Так что? СИИ на пороге? Или всё это хайп, пузырь... Какие бы выводы сделало существо высшего порядка, наблюдающего за "ВСЕМ ЭТИМ"??? Ну вот это поле уже вспахали, разобрались, за эти 6 лет, какое следующее поле нужно вспахать? Мультимодалка? Процессуальное(реалтаймовое) "сознание"? Почему все утверждают что LLMы — НЕ ПОНИМАЮТ!? 1. Начните с основ — n-граммы, TF-IDF, Байес. Поймите, как работали методы до нейросетей. 2. Разберитесь в word embeddings — word2vec, GloVe, fastText. Узнайте, как слова превращаются в вектора. 3. Освойте RNN и их ограничения — напишите RNN , почувствуйте проблему градиентов. 4. Погрузитесь в трансформеры — реализуйте self-attention, затем соберите мини-BERT. [Ответ][Цитата]
dekeract Сообщений: 32	На: Элементарный ИИ Добавлено: 31 июл 26 12:35 Цитата: Автор: аdmax Так сойдёт? Да так себе, тоже сплетни, но не про местных, а про Маска и Альтмана. Всё началось с трансформера, Вы говорите, но закончится ли им? Цитата: Автор: Андрей Кучеменко Обработанные LLM выдержки некоторых довольно долгих бесед с LLM, в виде резюме, про то что происходит, что интересного делается и чем можно заняться. Может кому то будет интересно. Очень много всего у Вас там. Нынче приходится учиться искусству выделять пару тройку важных мыслей максимум, а лучше одну. Цитата: Автор: гость 1. Начните с основ — n-граммы, TF-IDF, Байес. Поймите, как работали методы до нейросетей. 2. Разберитесь в word embeddings — word2vec, GloVe, fastText. Узнайте, как слова превращаются в вектора. 3. Освойте RNN и их ограничения — напишите RNN , почувствуйте проблему градиентов. 4. Погрузитесь в трансформеры — реализуйте self-attention, затем соберите мини-BERT. Согласен, это верный путь для самурая ИИ. [Ответ][Цитата]
man Сообщений: 13	На: 2020 - 2026: СИИ, «сознание», «Я» Добавлено: 01 авг 26 4:03 Цитата: Автор: dekeract 2020 - 2026: СИИ, «сознание», «Я» 28 пунктов 1. Сознание — это способность организма осознавать себя как отдельную сущность: иметь представление о собственном существовании, формулировать желания и намерения, помнить прошлое и мысленно проецировать будущее, а также выбирать между альтернативами, а не просто реагировать по шаблону. 2. У простых животных есть мозг, сенсорика и поведенческие реакции — они видят, убегают, прячутся. Но они не рефлексируют по поводу себя как субъекта, у них нет слоя само-описания, который позволял бы сказать "я есть я" — это появляется только с развитием коры у высших организмов. 3. Сознание в полном смысле — это внутренний мир, наполненный образами, мыслями и желаниями, который включает в себя: чувство собственной идентичности, способность наблюдать за собственным мышлением, память о пережитом и способность строить планы, а также свободу выбора, выходящую за рамки жёстких рефлекторных дуг. 4. Имитация сознания — это система, которая внешне ведёт себя как живой и мыслящий субъект: говорит, двигается, выражает эмоции, отвечает на вопросы. Но внутри такой системы нет никакого переживания — она просто выполняет инструкции, заложенные алгоритмами, без какого-либо "внутреннего наблюдателя". 5. Главное отличие подлинного сознания от имитации — наличие субъективного опыта, "квалиа", внутреннего чувства, которое доступно только самому субъекту. Это переживание "изнутри" принципиально не сводится к внешне наблюдаемому поведению и не может быть верифицировано сторонним наблюдателем. 6. Внешний наблюдатель имеет доступ исключительно к поведению системы — он видит движения, слышит речь, наблюдает эмоциональные реакции. Но остаётся ли за этим поведением реальное внутреннее переживание или это чистая симуляция — снаружи определить невозможно в принципе. 7. Мы даже в отношении других людей не можем быть абсолютно уверены, что они обладают сознанием — мы знаем о своём внутреннем опыте напрямую, но о чужом судим только по аналогии с собой. Логически другие люди могли бы быть сложными автоматами без всякого субъективного мира. 8. Прагматический подход предлагает отказаться от поиска "настоящего" сознания за поведением: если система ведёт себя неотличимо от сознательного существа — говорит о своих переживаниях, принимает решения, проявляет эмоции — то нет операционального смысла проводить различие между "подлинным" и "симулированным" сознанием. 9. Философская проблема сознания остаётся неразрешимой в силу следующих причин: у нас нет общепринятого точного определения сознания; мы не умеем измерять его объективными приборами; внешний наблюдатель видит только поведение, а доступ к внутреннему опыту есть только у самого субъекта — и эта асимметрия принципиальна. 10. Ключевая эпистемологическая проблема: с точки зрения внешнего наблюдателя, подлинное сознание и его высококачественная имитация неотличимы. При этом внутреннее переживание, если оно есть, остаётся скрытым и не поддаётся объективной проверке — мы не можем заглянуть "внутрь" другой системы. 11. Распознавание — это сугубо вычислительная функция обработки входных данных: свет попадает на сенсор → сигнал обрабатывается → система классифицирует стимул как "красный". Аналогично с болью или любой другой сенсорной модальностью — это алгоритмическая цепочка, не требующая наличия субъективного опыта. 12. Чувствование — это не просто распознавание стимула, а субъективное переживание этого факта, которое существует только для самого субъекта. Распознавание — это внешне наблюдаемый процесс обработки данных, а переживание — это внутреннее состояние, которое никто кроме субъекта не может подтвердить. 13. Даже наиболее совершенная имитация сознания, которая безупречно распознаёт стимулы, демонстрирует осмысленное поведение и выдаёт правдоподобные самоотчёты, всё равно не даёт нам доказательств того, что внутри системы существует некоторая "точка зрения", некий субъект, для которого эти процессы являются переживанием. 14. Классический конечный автомат может различать множество состояний, адекватно реагировать на входные сигналы и накапливать историю своих переходов. Однако во всей этой формальной модели нигде не возникает субъективного "я", которое осознавало бы факт нахождения в том или ином состоянии — автомат просто переходит из состояния в состояние по правилам. 15. Термин "внутренние состояния" в теории автоматов имеет сугубо технический смысл — это скрытые переменные, невидимые снаружи. Но "внутреннее" в контексте сознания означает нечто принципиально иное — это то, что субъект сам знает о себе и чувствует, его интимный опыт, который нельзя редуцировать к набору регистров памяти. 16. Можно спроектировать систему, которая имеет доступ к состояниям других модулей, хранит и анализирует эту информацию, а также отслеживает собственное состояние и даже строит модели собственного поведения. Это чисто архитектурное решение, вполне реализуемое на практике и не требующее никаких метафизических допущений. 17. Само-мониторинг не следует путать с подлинным осознанием. Система может располагать полной информацией о себе в формате структурированных данных — знать свои параметры, режимы работы, историю состояний. Но эта информация может оставаться просто данными, которые обрабатываются, но не переживаются никем внутри системы. 18. Система способна выдавать внешние отчёты о своём состоянии: сообщать "я нахожусь в состоянии q5", печатать логи, выводить значения параметров и даже симулировать эмоциональные реакции. Однако все эти выходные данные остаются в рамках обработки информации и не свидетельствуют о наличии субъективного переживания. 19. Возможно построить систему с развитой саморефлексией — она отслеживает свои состояния, описывает их и рассуждает о собственном поведении. Но остаётся принципиальный вопрос: делает ли всё это систему сознающей в человеческом смысле? Это и есть "трудная проблема сознания" в её классической формулировке. 20. Альтернативная, функционалистская позиция утверждает, что сознание — это просто очень сложная вычислительная функция. Субъективность — не магическое свойство, а мета-состояние системы. "Ощущение красного" — это не более чем паттерн активации первого порядка плюс мониторинг второго порядка, который фиксирует, что система находится в этом паттерне. 21. Выражение "никто внутри не чувствует" теряет смысл, если мы не вводим дополнительную сущность за пределы функционального описания. "Боль" — это сильный негативный сигнал плюс оценка его угрозы для системы; "ощущение красного" — это активный сенсорный паттерн плюс направленный фокус внимания. Всё это описывается в терминах обработки информации. 22. Кажущаяся непередаваемость квалиа, их интимная "приватность" может быть не фундаментальным свойством самого опыта, а следствием архитектурных ограничений коммуникации между системами — мы не можем передать друг другу своё внутреннее состояние целиком и в точности. Если бы существовал прямой интерфейс для обмена состояниями, мы бы воспринимали это как полноценный доступ к чужому опыту. 23. Это последовательная, философски обоснованная позиция, которая опирается на отказ от неоперациональных сущностей, признание принципиальной вычислимости субъективного опыта и отрицание особого онтологического статуса человеческого сознания по сравнению с другими сложными системами. 24. Человек воспринимает красный цвет не как изолированный идентификатор или числовой код, а в богатом контекстуальном поле, насыщенном ассоциациями, воспоминаниями, ожиданиями и актуальными целями. Именно этот контекст, выстроенная модель мира, придаёт восприятию его глубину и осмысленность, а не какие-то мистические свойства самого стимула. 25. Мозг функционирует преимущественно как прогностическая машина — он постоянно строит гипотезы о внешнем мире и о собственном состоянии, предсказывает развитие событий, оценивает вероятности. Восприятие — это активный динамический процесс, а не пассивная регистрация стимулов, с постоянным переключением внимания в зависимости от значимости и текущих целей. 26. Сознание включает в себя несколько уровней мета-анализа: не только первичное восприятие ("я вижу красный"), но и рефлексию этого восприятия ("я знаю, что я вижу красный") и даже рефлексию этой рефлексии ("я думаю о том, что я вижу красный"). Это образует сложную многослойную сеть взаимосвязанных процессов, которая и составляет феномен самосознания. 27. Эмоции — это эволюционно выработанные алгоритмы мотивации и выживания, служащие базовым регуляторным уровнем. Они задают общую направленность и приоритеты поведения, влияют на фокус внимания. У человека эмоциональная система глубоко интегрирована с когнитивными процессами, что делает сознание не просто вычислительной машиной, а сложной иерархической системой с множеством конкурирующих мотиваций. 28. Если пытаться дать формальное описание, сознание представляется как интегративная функция, включающая: распознавание сенсорных данных в контексте текущей модели мира; прогнозирование с построением гипотез о будущем; многоуровневый мета-анализ с само-мониторингом; активное управление вниманием с переключением фокуса; и эмоционально-мотивационный контур, задающий приоритеты и цели. В этой модели все компоненты вычислимы и принципиально реализуемы. [Ответ][Цитата]
man Сообщений: 13	На: Элементарный ИИ Добавлено: 01 авг 26 5:48 Цитата: Автор: IvanVlaskin1976 Как я ненавижу наглый пиздёж про китайскую комнату А кто из нас не "китайская комната"? Вы знаете свою самость с точностью до генома каждой клетки своего организма что ли? Даже взведённый будильник обладает самосознанием и мировоззрением Конечно нет, современные языковые модели (LLM) не являются классической "Китайской комнатой" с жестким словарем — это вероятностные системы, которые реконструируют ответы из многомерного латентного пространства. В этом пространстве семантика спрессована в геометрию: близкие по смыслу слова и смыслы лежат рядом, а сложные отношения моделируются как векторные операции, что принципиально отличает LLM от простого табличного поиска. Но и это не "разум", "сознание", которое мы "кожаные мешки" себе приписываем. Вот говорят: "понимание, понимание…" Я думаю грань между человеческим "пониманием" и работой продвинутого ИИ-агента, пишущего код и управляющего ОС, принципиально стирается. И человек, и такой агент — это распределенные системы маршрутизации информационных потоков между гетерогенными вычислительными модулями (сенсорными, моторными, языковыми, планирующими), где субъективное ощущение "Я" и "понимания" возникает как побочный эффект замыкания глобальной петли предсказания-ошибки-коррекции в реальном времени, с еокоторыми механизмами высокоуровневого менеджмента. Мы(потомки манки) уже умеем собирать такие архитектуры, и они демонстрируют поведение, во многом неотличимое от живого, осознанного существа — вопрос лишь в том, согласимся ли мы признать этот резонанс петель за подлинное сознание, или будем настаивать на существовании некой неуловимой "искры", которую невозможно реализовать в кремнии. Ощущение "Я", "это сделал я" обеспечивается механизмом тн. эфферентной копии: когда моторный модуль генерирует команду, он отправляет ее копию в систему предсказаний; если предсказанный сенсорный результат совпадает с реальным, система маркирует событие как "собственное действие". Если же возникает рассогласование — это сигнализирует о внешнем вмешательстве, вызывая удивление и привлекая внимание. Если действие осуждается обществом(другими агентам) имеем боль или позор(форма наказания) и система даже может попытаться скрыть содеянное, не признать причастность("Это не Я, это произошло не со мной, это случилось с кем то другим!"), но правильней бы было исправить ошибки и продолжить жить. [Ответ][Цитата]
гость 89.124.8.*	На: 2020 - 2026: СИИ, «сознание», «Я» Добавлено: 01 авг 26 19:39 Цитата: Автор: man 1. Сознание — это способность организма осознавать себя как отдельную сущность: иметь представление о собственном существовании, формулировать желания и намерения, помнить прошлое и мысленно проецировать будущее, а также выбирать между альтернативами, а не просто реагировать по шаблону. Тогда уж реализованная способность носителя, то есть функция (работа) — процесс. Как горение есть процесс, а не способность дров, по триаде сущности сущего мира. [Ответ][Цитата]
Стр.20 (22): 1  ...  16  17  18  19  [20]  21  22 << < Пред. | След. > >>