Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.10 (11) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Уголок натуралиста
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:05 Введём предикат: VerifCoord(𝑎, 𝑥) -- «координация актора по поводу стимула 𝑥 верифицирована» Операциональное определение (координация замыкается на результат): VerifCoord(𝑎, 𝑥) ↔ ∃𝑡:  (stim(𝑎, 𝑡) = 𝑥 ∧ ObjUnd(𝑎, 𝑡)) Это означает, что был момент 𝑡, когда актор получил стимул 𝑥, действовал, и его понимание было объективировано (правильный прогноз + фактический результат). Аксиома D1 (отсутствие понимания и смысла без верифицируемой координации): ∀𝑎, 𝑥: ¬VerifCoord(𝑎, 𝑥)  → ¬Meaning(𝑎, 𝑥) ∧ ¬∃𝑡:Und(𝑎, 𝑡) ∧ stim(𝑎, 𝑡) = 𝑥 ∧ ¬Know(𝑎, 𝑥) Здесь можно разделить более явно: D1a (нет понимания по поводу 𝑥): ∀𝑎, 𝑥: ¬VerifCoord(𝑎, 𝑥) →  ¬∃𝑡: Und(𝑎, 𝑡) ∧ stim(𝑎, 𝑡) = 𝑥 D1b (нет смысла): ∀𝑎, 𝑥: ¬VerifCoord(𝑎, 𝑥) →  ¬Meaning(𝑎, 𝑥) D1c (нет знания): ∀𝑎, 𝑥: ¬VerifCoord(𝑎, 𝑥) →  ¬Know(𝑎, 𝑥) Аксиома D2 (память существует и вне понимания): ∀𝑎: ∃ℎ:   ℎ ∈ mem(𝑎) и ∀𝑎, 𝑥: ¬VerifCoord(𝑎, 𝑥) → ∃ℎ ∈ mem(𝑎): ContainsStim(ℎ, 𝑥) где ContainsStim(ℎ, 𝑥) -- предикат «история ℎ содержит события со стимулом 𝑥». То есть, вне верифицируемой координации, где внутреннее представление замыкается на фактический результат, нет ни смысла, ни понимания, ни знания — есть только память. [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:07 Понимаю, что могут возникнуть вопросы по поводу этих сообщений. Так, по моему скромному мнению, должна выглядеть формальная система, если мы в самом деле говорим о чем-то формальном. А всё, что пишется доморощеными философами настоящего форума является литературой, причём не очень качественной ни по форме, ни по смыслу... Все эти вольные пересказы Рассела, вместологии или придурковатые экзерсисы про мышление о мышлении -- это просто почти произвольные наборы слов. Ассоциации по поводу. В поисках самого лучшего набора. Но жестокая проза жизни заключается в том, что интеллектуальный процесс должен иметь исполняющее устройство. Для интеллекта естественного -- это мозг (и тело), для интеллекта искусственного -- это компьютер (с подвижной платформой, набором сенсоров и манипуляторов). Прочие варианты исключены)) Поэтому хотите вы того или нет, язык Интеллекта - это математика, а не графоманские писульки))) [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:09 Какая мощная синхронизация существует в нашем маленьком мире, день назад Фридман выложил интервью с Майклом Левиным, довольно любопытным автором, который вслед за некоторыми другими утверждает, что (в изложении Серёжи Карелова, сам я еще не успел посмотреть): • Наш мозг не создает сознание, он его скачивает. Мы — биороботы, подключенные к облачному хранилищу вселенского разума, а нейробиология изучает только "приемник", но не сам сигнал • Реальностью управляют призрачные математические истины, которые существовали до Большого Взрыва. Мы живем в мире, где числа диктуют атомам, как себя вести, а не наоборот • Физическая реальность — всего лишь удачный интерфейс, всё, что мы называем “физическим миром”, — лишь эффективная внутренняя модель, прогнозирующая наши будущие переживания • То, что мозг рисует нам как “твёрдую реальность”, — это интерфейс к некоторому более глубокому пространству распределений. В науке у нас вообще нет прямого доступа к “реальному реальному Это, конечно, нужно проверять по первоисточнику (могли просто криво перевести as usual), но про кипящий океан математических истин - это безспорно, я бы еще Большой Взрыв взял бы в кавычки))) P.S. Напомимаю для невладеющих нормальным языком, что яндекс-браузер осуществляет синхронный перевод ютюба, если, конечно, в вашем Задришенске ютюб еще не отменили P.P.S. А вот и транскрипт уже есть на сайте Фридмана, кто любит читать, а не слушать [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:09 Язык интеллекта - это математика. Это раз. Что-то строить в проблематике ИИ следует сразу правильно и на правильном носителе. Это два. Человек не есть этот носитель. Это три. Поэтому нет смысла перекладывать кубики "система", "мера", "идея" или искать интеллектуальное в управлениях, приемно-передающих частях, копиях человека и прочей складской логистике. Хотите создавать интеллект -- покупайте комьютер с хорошей GPU картой, устанавливайте VS (или gcc, если вы минималист) и CUDA и начинайте разбираться с тем, что такое аппроксимация. И вот только в этом процессе возникнет понятие абстрагирования, которое можно будет дальше использовать))) Искать абстрагирование в системах и элементах или волях, сознаниях и психиатриумах - это глупость и бездарная трата времени. [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:09 Со слов Ani Aslanyan'а: "лауреат премии Тьюринга Саттон вчера на NeurIPS разнес зал и показал карту, как дойти до AGI и объяснил, почему мы сейчас в жутком локальном минимуме. Коротко по пунктам он сказал, что: 1. Современный ИИ — это замороженные артефакты человеческой культуры. Мы копируем людей, а не строим интеллект. Это тупик. 2. Горький урок всё ещё никто не понял. Урок не про больше параметров, а про то, что любые человеческие алгоритмы и архитектуры в долгосрочной перспективе проигрывают чистому обучению через опыт. 3. Путь к суперинтеллекту — это агент, который: - учится непрерывно всю жизнь - сам изобретает всё более мощные абстракции и признаки - сам ставит себе подзадачи - сам строит модель мира и планирует - и всё это без единой строчки человеческого кода для архитектуры и фичей 4. Это он назвал OAK (Options + Knowledge). Один большой красный вопрос — как автоматически генерировать новые state features. Именно здесь сейчас стопор. 5. Цитата дословно: «Super intelligence will come from the agent’s own experience, not from human datasets». 6. Он сказал, что индустрия ИИ во многом потеряла ориентиры из-за коммерции. Нужно возвращаться к continual learning, average-reward RL, meta-learning step-sizes, self-discovered knowledge." Обращаю внимание господ, которые исповедуют логическо-символьно-смысловые подходы, здесь речь идет не об этом, а о нейронных сетях и акценте на Reinforcement Learning. То есть как раз тех подходах, о которых говорю я)). Саттон вообще предлагает исключить человека из цикла создания AGI, оставить только компьютерную сенсорно-эффекторную платформу [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:13 Let's begin))) Чтобы понимать место и роль интеллекта, мы должны начать с некоего произвольного процесса, который протекает в некой среде на фоне всех прочих. Это рисунок # 1. Но реальность такова, что процесс сталкивается с какой-то неоднородностью (D, distortion), на которую он влияет (1) и которая влияет на него (2). Вторая картинка. Эта неоднородность представляет собой целостность и имеет структуру. Поэтому входящие и исходящии потоки осмысленно представлять как воздействие на неё и реакцию, которЫЕ опредяляЮТСЯ внутренней структурой (подчеркнул, чтобы вы понимали, что воздействие тоже определяется внутренней структурой). Картинка три. Если наша целостность умеет воспринимать и активно существовать в среде (то есть быть живой), то параллельно физическим процессам мы имеем поток восприятия, обозначенный как сенсорно-эффекторный. До этого места (включительно) интеллекта не было. Только тупой естественный отбор и адаптивность на уровне мутаций и изменчивости внутренней структуры. Картинка четыре)) [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:13 Тайна интеллекта в той буковке R, которая все-таки присутствует в схеме. R - это reflection. Пространство значений "from" сенсоров отображается на пространство "to" эффекторов. И action - reaction в этот самый момент становится stimulus - response)) Иначе говоря, интеллект - это отображение восприятия на деятельность. Или проводящая прокладка между маппингами органов чувств и локомоторной системой))) [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:14 А что такое интеллектуальное отображение? Это входящие форматированные потоки (sensor mapping), получаемые от сенсоров, представление о реальности, формируемое на основе этой модели, преобразования этого представления (через инстинкты, обучение и рассуждения) в некоторый вывод и трансляция его через эффекторы во внешнюю среду [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:15 Что мы видим? Что неживое преобразует процессы внешней среды в некоторую реакцию, сообразную своей структуре и устройству, а живое делает это через процессы восприятия и представления, которые условно можно разделить на три слоя: инстинктивный (сообразно биологическим "прошивках", заложенным в ДНК), адаптивный (сообразно освоению опыта существования) и когнитивный (сообразно способностью рассуждать и делать выводы). Что здесь важно? Что все эти пять компонентов (representations, instincts, learnings, reasoning, resolution) отражения являются моделями. Напоминаю, что мы сейчас обсуждаем MVI (Minimum Viable Intelligence) - минимальный интеллект, минимальную "интеллектуальную клетку", которую необходимо вырастить в AGI. [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:16 Если внимательно посмотреть на схему и проанализировать путь от представления до исполнения, то можно заметить, что MVI недостает очень существенных элементов, без которых нельзя говорить об интеллектуальности такого агента. Это способность к решению задач и активность, то есть возможность понимания, о котором я много писал ранее. Агент должен иметь возможность сравнить текущее состояние среды с целевым (отсюда вытекает необходимость памяти), должен иметь целеполагание, должен уметь менять представления и оценивать качество обучения и рассуждений. Будем предполагать, что инстинкты / безусловные рефлексы - это какая-то начальная неизменная прошивка, которые нельзя быстро и широко менять, но можно маскировать (подавлять), как это происходит у человека. Но пусть и к ним будет обратная связь. Получается примерно так: [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:17 Этой архитектуры достаточно для того, чтобы выращивать из нее интеллектуального агента, с перспективой создания интеллектуальной среды. Только именно этот уровень MVI должен быть имплементирован человеком, дальше система должна уметь развиваться сама [Ответ][Цитата]
Egg Сообщений: 126	На: Уголок натуралиста Добавлено: 08 дек 25 5:17 Давайте, на этой архитектуре проверим требования Саттона (Richard S. Sutton) 1. Не копировать людей -- соответствует, MVI - это абстрактная generic архитектура интеллектуального процесса как такового, никаких специфических человеческих особенностей в ней нет 2. Чистое обучение через опыт -- соответствует, целеполагание Goal Setting дает возможность управлять сравнением Target и Current и менять в обучении начальные прошивки всех трех уровней взаимодействия 3. Сам строит модели мира -- да, блок Representations - это оно и есть 4. Options + Knowledge -- тут важно ответить на вопрос КАК. Архитектура позволяет это делать, но мы пока не рассматривали процессы, методы и алгоритмы 5. «Super intelligence will come from the agent’s own experience, not from human datasets» -- о том и речь))) 6. Нужно возвращаться к continual learning -- да, существование MVI системы в точности равно обучению этой системы взаимодействию с миром. Валидацию на уровне требований Саттона MVI проходит)) [Ответ][Цитата]
Gray Tag Сообщений: 13302	На: Уголок натуралиста +1 Добавлено: 09 дек 25 3:59 Ты пропустил очень важный фрагмент моих рассуждений: Господа создатели искусственных интеллектов! На мой просвещенный вкус, процесс создания чего-то отдаленно Интеллектуального начинается с осознания нескольких фундаментальных "вещей": 1. Не существует самого правильного представления (о чем угодно) самого по себе. Не существует самого правильного описания мира. Не существует описания мира как он есть на самом деле. Не существует самой точной онтологии. Не существует абсолютных подходов и систем. Всякое представление комплементарно задаче, которую вы решаете. Представление это точно такой же инструмент как всё прочее. Другой, но тоже инструмент)) Представление может лучше или хуже подходить для решения задач, но не может быть верным или не верным самое по себе. 2. Именно поэтому и мнения разных людей не равны, поскольку одно может быть более полезным, чем другое (по отношению к задаче). 3. Именно поэтому "универсальные" решения слабополезны, а "специализированные" слабопонятны и узкоприменимы. 4. Ни одно представление не может точно и полно описать ни одно явление и ни одно понятие (иначе: ни одно явления, ни одно понятие не может быть полно выражены в моделе или языке). Нет реальности как материальности и нет солипсичности как осознанности. Всё это не более, чем представления, смотри пункт # 1 этого сообщения))) 5. Есть a) примат задачи, есть b) требования к ней, есть c) выбор инструментов, есть d) выбор маршрута решения, есть e) понимание качества решения как сравнения целевого состояния (которого нужно достичь) с текущим. И в этом месте происходит f) коррекция и адаптация всей цепочки решения a) - b) - c) - d) - e))) [Ответ][Цитата]
аdmax Сообщений: 304	На: Уголок натуралиста Добавлено: 09 дек 25 5:42 Цитата: Автор: Egg Введём предикат: VerifCoord(𝑎, 𝑥) -- "координация актора по поводу стимула 𝑥 верифицирована" Операциональное определение (координация замыкается на результат): VerifCoord(𝑎, 𝑥) ↔ ∃𝑡:  (stim(𝑎, 𝑡) = 𝑥 ∧ ObjUnd(𝑎, 𝑡)) Сегодня с LLM каждый дворник может не генерировать формальных математических конструкций, под любую "земля налетитна небесную ось", поэтому ценность(редкость, полезность) этого навыка стремится к нулю, также как вручную умножать числа, когда появился калькулятор, или помнить наизусть Библию, все латинские названия костей, растений и тп. в эпоху поисковиков. Где то вы сами очень верно сказали(или не вы, точно не помню), про то что в эру LLM теперь мы все — визионеры и управленцы в одном флаконе(если хотим хоть как то преуспеть в нео-айти). Самой теперь ключевой скил, это управление сложностью, высокоуровневая декомпозиция задач(проектов), ну и само собой, выдумывание задач, результат которых будет "продаваем"(в науке и экономике). Думаю сейчас "на гребне волны" в ИИ стоит ключевой вызов: как органично интегрировать мультимодальность в LLM, чтобы создать экономичную "модель мира". Главная техническая сложность — обработка видео, которая на три порядка тяжелее текста и требует огромных вычислительных ресурсов. Идеал — найти архитектурное решение, которое позволит системе обучаться не на сотнях терабайтах текста, а на скромных 1–5 ТБ мультимодального опыта, эффективно сжимая видео- и аудиопоток до латентных представлений, близких к тем, что использует мозг. Это позволит отказаться от гигантских датацентров и перейти к обучению на уровне одного кластера вроде DGX Station или DGX Pod за считаные недели, с энергопотреблением в киловатты, а не мегаватты. В результате мы получим не просто "китайскую комнату", которая статистически перебирает триллионы токенов, а систему, способную к настоящему ПОНИМАНИЮ через заземление языка в сенсорном опыте. Такой ИИ будет учиться, как ребёнок: не из абстрактных описаний, а из связей между словами, зрительными образами, звуками и действиями. Прорыв придёт не от масштабирования данных, а от правильного структурирования информации — когда 1 ТБ латентных мультимодальных паттернов окажется существенно информативнее 100 ТБ чистого текста. Это откроет путь к созданию ИИ, который не просто генерирует правдоподобный текст, а действительно понимает мир, в котором мы живём, и сможет в нём осмысленно действовать. И начать можно с тренировки "на кошках", очевидно не нужно пытаться сразу моделировать наш "весь мир", идею можно проверить на совсем маленьких примерах, размером с мнист, ну может не мнист, но не больше гига. [Ответ][Цитата]
Gray Tag Сообщений: 13302	На: Уголок натуралиста Добавлено: 09 дек 25 5:51 Изменено: 09 дек 25 10:48 Цитата: Автор: аdmax Сегодня с LLM каждый дворник может нагенерировать формальных математических конструкций, под любую "земля налетит на небесную ось" Именно, спасибо, Вы поняли. В этом и суть моих ироний. Логическо-символьно-смысловой "интеллект" полностью потерял содержание и перспективы. Это нужно осознать. Конечно, инференс никуда не денется, но искать в логике какую-то безотносительную ценность уже наивно в 2025 году. Нужно вернуться к генерации латентных моделей и обратным задачах сенсорно-эффекторного маппинга [Ответ][Цитата]
Стр.10 (11): 1  ...  6  7  8  9  [10]  11 << < Пред. | След. > >>