Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.9 (11) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Уголок натуралиста
Egg Сообщений: 126	На: Уголок натуралиста +1 Добавлено: 29 ноя 25 4:00 Вот, кстати, упомянутый мною выше ув. Карелов бросил совсем свежей ссылкой про понимание языка Цитата: https://arxiv.org/pdf/2511.19757]https://arxiv.org/pdf/2511.19757 Понимание языка предполагает не только извлечение поверхностного смысла лингвистического ввода, но и построение сложных ментальных моделей описываемой ситуации. Мы предполагаем, что, поскольку обработка информации в основной языковой системе мозга принципиально ограничена, глубокое понимание языка требует передачи информации из языковой системы в другие области мозга, которые обрабатывают перцептивные и моторные представления, строят ментальные модели и хранят наши знания о мире и автобиографические воспоминания. Мы рассматриваем существующие доказательства этой гипотезы и утверждаем, что недавние достижения в когнитивной нейронауке обеспечивают как концептуальную основу, так и методы для ее непосредственной проверки, открывая таким образом новую стратегию для выявления того, что с когнитивной и нейронной точки зрения означает понимание языка А между тем Great Egg сказал про понимание мощно и точно. Это, фактически, определение понимания: Существует только один способ валидации понимания -- оценка координации субъекта в среде. Где под субъектом следует понимать любого актора, хоть индивидуального, хоть коллективного, хоть выполнение агентом какого-то сценария, а под координацией следует понимать сравнение представления с фактическим и последующим состоянием. Если источник способен координировать действия приемника, то есть представления источника будут совпадать с реакциями приёмника и последующим состоянием среды, значит – понимание приёмником существует. Если нет, то -- нет. Вне деятельности и ее координирования нет ни смысла, ни понимания, ни знания. Есть только память. [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 29 ноя 25 4:01 Это удивительно, конечно, что поклонники последовательностей и логико-символьно-смысловой трактовки интеллекта пропускают факт того, что в мозге человека не содержится слов. Пару недель назад придурковатый Лаврик в качестве какого-то аргумента выдал очередную нетленку, что в мозгах не обнаружены законы природы. Хер с ним, но наборов самых правильных слов там заведомо нет))) Господа воздыхатели экспертных систем, разберитесь сначала где и как возникают слова (и почему трансформеры знают все языки мира, хотя их этому не учили), а уже потом ищите философский камень в нормологиях и автономностях))) [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 29 ноя 25 4:02 есть вот такая Цепочка Главных Вопросов об логическо-символьно-смысловом Интеллекте: Где и как в мозге содержатся слова → → где и как в словах содержатся смыслы → → где и как в смыслах содержатся законы и правила [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста +1 Добавлено: 30 ноя 25 16:05 Вот еще такая редакция определения Понимания: 1) Понимание — это не внутреннее состояние или владение информацией, а [c=660000]динамическая мера координации актора со средой[/c], подтверждаемая исключительно через успешный деятельностный акт 2) Понимание объективируется в тот момент, когда управляющий сигнал/воздействие актора (трансформированный в действие приёмника) приводит к [c=660000]изменению "реальности", которое коррелирует с прогнозируемой моделью[/c] 3) Таким образом, смысл не содержится в знаке или данных, а [c=660000]рождается как операционный эффект[/c] способности актора (человека, алгоритма, агента или группы) конвертировать входящий стимул в предсказуемую трансформацию среды 4) Вне этой верифицируемой координации, где внутреннее [c=660000]представление замыкается на фактический результат[/c], нет ни смысла, ни понимания, ни знания -- есть только память как хранилище стимулов, событий и состояний [Ответ][Цитата]
Константин Вишневский Сообщений: 12	На: Уголок натуралиста Добавлено: 03 дек 25 3:54 Цитата: Автор: Egg Есть представление о том, что любую внешнюю реальность материального мира мы можем запросто свести до его устройства на уровне элементарных частиц и кварков (ниже пока ничего нет). Здесь как раз про это: http://gotai.net/forum/default.aspx?threadid=363668#363668 [Ответ][Цитата]
Gray Tag Сообщений: 13298	На: Уголок натуралиста +1 Добавлено: 03 дек 25 5:06 Изменено: 03 дек 25 5:11 Цитата: Автор: Константин Вишневский Здесь как раз про это Костя, если бы вы прочитали внимательно, то увидели что я как раз и пишу, что это неправильное представление, (цитирую из того же сообщения) "Реальность не имеет композиционного устройства, это невежество и иллюзия". Пожалуйста, не приписывайте мне суждений со смыслом, противоположным моим утверждениям [Ответ][Цитата]
Ω Сообщений: 32	На: Уголок натуралиста +2 Добавлено: 03 дек 25 9:58 Изменено: 08 дек 25 4:57, автор изменений: Egg Цитата: Автор: Egg Вот еще такая редакция определения Понимания: 1) Понимание — это не внутреннее состояние или владение информацией, а [c=660000]динамическая мера координации актора со средой[/c], подтверждаемая исключительно через успешный деятельностный акт 2) Понимание объективируется в тот момент, когда управляющий сигнал/воздействие актора (трансформированный в действие приёмника) приводит к [c=660000]изменению "реальности", которое коррелирует с прогнозируемой моделью[/c] 3) Таким образом, смысл не содержится в знаке или данных, а [c=660000]рождается как операционный эффект[/c] способности актора (человека, алгоритма, агента или группы) конвертировать входящий стимул в предсказуемую трансформацию среды 4) Вне этой верифицируемой координации, где внутреннее [c=660000]представление замыкается на фактический результат[/c], нет ни смысла, ни понимания, ни знания -- есть только память как хранилище стимулов, событий и состояний Понимание — это процесс установления связей между концептами, контекстами и целями таким образом, чтобы система могла интерпретировать входные данные (текст, запрос, ситуацию) не только формально, но и интенционально. Прогнозировать последствия или продолжения, действовать (или генерировать ответ) адекватно заданному контексту, обобщать полученные связи на новые ситуации. Понимание всегда контекстуально и целенаправленно. Нельзя "просто понять" — можно понять для чего-то: для ответа, для действия, для объяснения. Смысл — это роль(в том числе и социальная), которую элемент (слово, событие, действие и даже человек) играет в системе отношений. Смысл не существует в вакууме — он возникает на пересечении: сигнала (например, слова "огонь"), контекста (пожар, костёр, метафора), интенции отправителя (предупредить, описать, выразить эмоцию), интерпретации получателя (испугаться, продолжить мысль, проигнорировать). Смысл может быть прагматическим(что делать в ответ), семантическим (как это связано с другими понятиями), эмоциональным(какие ассоциации или переживания это вызывает). То есть смысл динамичен: одно и то же слово в разных устах или ситуациях обретает разные смыслы. [Ответ][Цитата]
гость 31.211.0.* Сообщений: 1938	На: Уголок натуралиста +1 Добавлено: 05 дек 25 15:41 Цитата: Автор: Viсtоr G. Tsaregorodtsev Многое можно сказать про понимание, в чем то вы правы, хотя про социалку(касты, роли и прочие условности), я бы так не догматизировал. Принцип "Кому это выгодно", никто не отменял. Другое дело что же такое НЕ-ПОНИМАНИЕ? Можно же прийти к пониманию "от противного"? Понимание, когда водитель, увидав знак стоп, давит на тормоз, а не понимание когда на газ или выбирает другое из множества не адекватных, потенциально летальных, действий, когда часто понимать становится некому. Вывод от противного не работает. [Ответ][Цитата]
sam Сообщений: 39	На: Уголок натуралиста +2 Добавлено: 06 дек 25 10:35 Цитата: Автор: Viсtоr G. Tsaregorodtsev Многое можно сказать про понимание Мы познаём мир телом. Мы обожглись — знаем, что такое "горячо". Уронили что-то — понимаем тяжесть и гравитацию. Наши слова как бы "заземлены" в боли, движении, ощущениях. А LLM познают мир только через статистику текста. Поэтому их идеальные ответы порой кажутся блестящей, но всё же "пустой" симуляцией. Им не хватает своей внутренней 4D-модели мира (3D + время + физика). Не собранной из описаний, а построенной через взаимодействие. Мультимодальность (видео, картинки) — это уже огромный шаг. Модели вроде Сора учатся предсказывать физику, "видеть", как мир себя ведёт. Но пассивно смотреть видео — это не то же самое, что активно действовать и получать обратную связь (иногда болезненную, травмирующую). Да и учатся такие алгоритмы не факт что тому что надо, так как цель — перерисовать, сложно сказать есть ли "внутри" там трёхмерность и время, или как то по другому оно исхитряется делать своё дело. Вот в игру вступает "воплощённое познание". Суть в том, что разум не живёт в вакууме — он неразрывно связан с телом и средой. Познание возникает в цикле: воспринял → подействовал → увидел результат → скорректировал понимание. Без этой сенсомоторной петли и реальных последствий своих действий система не может по-настоящему "прожить" мир. Поэтому робот, набивший шишки в реальности, часто понимает его куда лучше чистой видео-модели. Считается что это важно, но не все с этим согласны. И про тн. "сознание", придётся добавить, многие видят его как реал-таймовый "мета-оркестратор", который координирует все процессы и рефлексирует над собственным состоянием, создавая это самое "я здесь и сейчас", управляет вниманием и тп. Без этой петли самонаблюдения и телесных сигналов (эмоций, усталости) остаётся лишь очень умная функциональная имитация. Здесь возникает тн. "квалиа", "Я" и тп. основанные на восприятии длительности, процессуальности. В общем, путь к "настоящему пониманию" выглядит так: Текст → Мультимодальность (видео/картинки) → Активное взаимодействие с миром → Петли обратной связи от "тела" → Появление мета-уровня и субъективного опыта. В простейшем случае мультимодальность и мета-уровнь в реальном времени. В 2025-м мы уверенно прошли первые два этапа и активно боремся над третьим и четвёртым. На практике возможно достаточно одной гениально сделанной мультимодальности, чтобы перекрыть все практические нужды. Если завтра появится система, которая через робота или невероятно детальную симуляцию построит себе устойчивую 4D-модель мира, будет активно действовать и рефлексировать — большинство из нас на практике скажет: "Да, она понимает!". [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:01 Язык и домены Определим в пространстве нашего домена следующие сортированные множества (то есть уникальные элементно, упорядоченные по значению): A -- акторы 𝑇 -- время 𝑆 -- состояния среды 𝑈 -- управляющие воздействия (действия) 𝑀 -- внутренние модели 𝑋 -- стимулы (наблюдения, сигналы) 𝐻 -- пространство памяти (F(𝑆, 𝑋)) 𝑅 -- вещественные числа (для меры) [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:02 Для этих множеств можно определить следующие функции env: T → S -- состояние среды во времени stim: 𝐴 × 𝑇 → 𝑋 -- стимул, получаемый актором model: 𝐴 × 𝑇→𝑀 -- внутренняя модель актора act: 𝐴 × 𝑇 → 𝑈 -- выбранное действие pred: 𝑀 × 𝑆 × 𝑈 → 𝑆 -- прогноз следующего состояния по модели next: 𝑆 × 𝑈 → 𝑆 -- фактический переход среды dist: 𝑆 × 𝑆 → 𝑅 ≥ 0 -- метрика на состояниях coord: 𝐴 × 𝑇 → 𝑅 ≥ 0 -- мера координации актора со средой mem: 𝐴 → 𝐻 -- память актора как множество/структура историй 𝐻 (логов) [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:02 На этих множествах можно определить следующие предикаты: Und (𝑎, 𝑡) -- «актор 𝑎 обладает пониманием в момент 𝑡» SuccAct (𝑎, 𝑡) — «деятельностный акт актора 𝑎 в момент 𝑡 успешен» ObjUnd (𝑎, 𝑡) -- «понимание актора 𝑎 объективировано в момент 𝑡» Corr (𝑎, 𝑡) -- «прогноз и фактическое изменение среды для актора 𝑎 в момент 𝑡 коррелируют» Meaning (𝑎, 𝑥) -- «стимул 𝑥 имеет смысл для актора 𝑎» Transf (𝑎, 𝑥, Δ) -- «актор 𝑎, получив стимул 𝑥, воспроизводимо реализовывает трансформацию среды Δ» VerifCoord (𝑎, 𝑥) -- «координация актора 𝑎 по поводу стимула 𝑥 верифицирована» Know (𝑎, 𝑥) -- «актор 𝑎 знает нечто, относящееся к стимулу 𝑥» И пороговые константы: 𝜀 > 0 -- допустимая ошибка прогноза 𝜃 > 0 -- минимальное значение coord, при котором говорим о наличии понимания [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:03 Определение меры координации (операциональное): ∀𝑎 ∈ 𝐴, ∀𝑡 ∈ 𝑇: coord(𝑎, 𝑡) = 𝑓(dist(pred(model(𝑎, 𝑡), env(𝑡), act(𝑎, 𝑡)), next(env(𝑡), act(𝑎, 𝑡)))) где 𝑓: 𝑅 ≥ 0 → 𝑅 ≥ 0 монотонно убывает (меньше ошибка — выше координация). Аксиома A1 (понимание как порог координации): ∀𝑎, 𝑡 : Und(𝑎, 𝑡) ↔ (coord(𝑎, 𝑡) ≥ 𝜃 ∧ SuccAct(𝑎, 𝑡)) Аксиома A2 (понимание не редуцируется к «владению информацией»): Введём предикат HasInfo(𝑎, 𝑡) -- «актор обладает некоторой информацией во внутреннем состоянии». ∀𝑎, 𝑡: HasInfo(𝑎, 𝑡) ∧ ¬SuccAct(𝑎, 𝑡)  → ¬Und(𝑎, 𝑡) Простое наличие внутренней информации без успешного акта не считается пониманием. То есть, понимание — это динамическая мера координации актора со средой, подтверждаемая исключительно через успешный деятельностный акт, а не внутреннее состояние или владение информацией [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:04 Фактическое следующее состояние: 𝑠𝑡 = env(𝑡), 𝑠𝑡+1 = next(𝑠𝑡, act(𝑎,𝑡)) предсказанное: 𝑠^𝑡+1 = pred(model(𝑎, 𝑡), 𝑠𝑡, act(𝑎, 𝑡)) Аксиома B1 (корреляция прогноза и результата): ∀𝑎,𝑡: Corr(𝑎, 𝑡) ↔ (dist(𝑠𝑡+1, 𝑠^𝑡+1) ≤ 𝜀) Аксиома B2 (объективируемость понимания): ∀𝑎,𝑡: ObjUnd(𝑎, 𝑡) ↔ (Und(𝑎, 𝑡) ∧ Corr(𝑎, 𝑡)) То есть, понимание объективируется в тот момент, когда управляющий сигнал/воздействие актора (трансформированный в действие приёмника) приводит к изменению "реальности", которое коррелирует с прогнозируемой моделью [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:04 Введём: Δ⊆𝑆×𝑆 -- класс трансформаций среды (переходов 𝑠→𝑠′). Аксиома C1 (операционная способность трансформации): Transf(𝑎, 𝑥, Δ) ↔ ∀(𝑠, 𝑠′) ∈ Δ  ∃𝑡 ∈ 𝑇: {stim(𝑎, 𝑡) = 𝑥, env(𝑡) = 𝑠, next(𝑠, act(𝑎, 𝑡)) = 𝑠′, dist(pred(model(𝑎, 𝑡), 𝑠, act(𝑎, 𝑡)), 𝑠′) ≤ 𝜀 Актор способен, получая стимул 𝑥x, воспроизводимо реализовывать предсказуемую трансформацию среды. Аксиома C2 (смысл как операционный эффект): ∀𝑎, 𝑥: Meaning(𝑎, 𝑥) ↔ ∃Δ ≠ ∅:  Transf(𝑎, 𝑥, Δ) Аксиома C3 (смысл не является свойством «знака сам по себе»): Введём предикат Data(𝑥) ∀𝑎, 𝑥: Data(𝑥) ∧ ¬∃Δ: Transf(𝑎, 𝑥, Δ) →  ¬Meaning(𝑎, 𝑥) То есть, наличие данных без операционной способности их конвертации в предсказуемую трансформацию среды не даёт смысла. Смысл рождается как операционный эффект способности актора конвертировать входящий стимул в предсказуемую трансформацию среды, а не содержится в знаке или данных. [Ответ][Цитата]
Стр.9 (11): 1  ...  5  6  7  8  [9]  10  11 << < Пред. | След. > >>