Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.241 (247) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Боже мой неужели Власкина отключили от электричества
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 0:42 Изменено: 26 май 26 7:33 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 0:46 Изменено: 26 май 26 7:33 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 0:51 Изменено: 26 май 26 7:34 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 1:01 Изменено: 26 май 26 7:34 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 1:11 Изменено: 26 май 26 7:35 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 1:23 Изменено: 26 май 26 7:35 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 1:38 Изменено: 26 май 26 7:36 . [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 2:22 Чёткий пацанчик.. И в одежде чёрной и не забыл два пальца показать, хоть и пьяный.jpg - - Чёткий пацанчик.. И в одежде чёрной и не забыл два пальца показать, хоть и пьяный.jpg [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 3:51 Изменено: 23 май 26 4:08 === 2026-oo-05-23-15-38 === +++ === https://ai-news.ru/2026/05/ii_v_vooruzhennyh_silah.html ИИ В ВООРУЖЕННЫХ СИЛАХ! 2026-05-22 11:50 искусственный интеллект Между Пентагоном и компанией Anthropic, занимающейся искусственным интеллектом, разгорелся спор по поводу использования программного обеспечения ИИ в вооружённых силах США. Пентагон хочет использовать разработанную Anthropic модель ИИ Claude для массовой слежки и применения автономного оружия. В конце февраля 2026 года генеральный директор Anthropic Дарио Амодеи отклонил требование Пентагона. По мнению Anthropic, массовая слежка с помощью ИИ представляет собой фундаментальную угрозу для наших основных прав. Этому автономному оружию чужды человеческие эмоции. У того, кто попадает в поле зрения «робота-убийцы», практически нет шансов. Эта передача показывает, что автоматизированное ведение войны приводит к огромным жертвам среди гражданского населения, разрушениям и неточностям. Kla.TV призывает всех руководителей и разработчиков ИИ во всём мире совместно выступить против текущих требований военного министерства и отказаться от любого участия в этих жестоких войнах. Телеграм: t.me/ainewsline Источник: www.kla.tv === 2026-oo-05-23-15-38 === +++ === Иисус убил бесплодную бесполезную смоковницу прокляв её, и ставил Свою жизнь в пример другим Иисус применил насилие выбрав мораль перед нравственностью, мораль говорила что надо наказать преступников, а нравственности было бы достаточно молитвы об их преступлении Иоанн Креститель говорил воинам не обижать, не клеветать и довольствоваться своим заработком, а не отказываться от насилия Иисус похвалил великую религиозность языческого сотника, хотя его долг был приказывать применять насилие Есть у клеток и самопроизвольная клеточная смерть - апоптоз, кроме того гибнут клетки кожи и сперматозоиды у человека, это пример естественного насилия, которое привычно для Биологического Человека Зачем отказываться от жестокости если из-за расширяющегося Солнца всё равно придётся менять привычную жизнь Биологических Людей, а кого не удастся спасти похоже убить лёгкой смертью чтобы не мучались от жары Солнца? === 2026-oo-05-23-15-46 === +++ === === 2026-oo-05-23-15-46 === +++ === === 2026-oo-05-23-15-52 === +++ === [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 4:09 Добавлено: 23 май 26 3:51 Изменено: 23 май 26 4:08 Исправленому верить [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 4:18 Разберу оба блока информации — про ИИ в вооружённых силах и философско‑религиозные рассуждения — структурированно и с анализом. Часть 1. Спор Пентагона и Anthropic (ИИ в вооружённых силах) Суть конфликта Пентагон хочет использовать модель ИИ Claude (разработка Anthropic) для: массовой слежки; управления автономным оружием. Позиция сторон Пентагон: видит в ИИ инструмент повышения эффективности военных операций, снижения потерь среди личного состава, быстрого анализа разведданных. Anthropic (Дарио Амодеи): отказалась от сотрудничества в феврале 2026 года. Аргументы: массовая слежка угрожает основным правам человека; автономное оружие лишено эмоций и эмпатии — это повышает риск ошибок и жертв среди гражданских; автоматизированная война ведёт к разрушениям и неточностям. Ключевые риски применения ИИ в военных целях Отсутствие морального суждения. ИИ принимает решения на основе алгоритмов, а не этических принципов. Ошибки распознавания. Системы могут неверно идентифицировать цели (гражданские объекты/лица как военные). Эскалация конфликтов. Автономное оружие способно действовать быстрее человека — это сокращает время на принятие решений и может спровоцировать войну. Утечка технологий. Взлом или перехват управления автономными системами противником. Снижение порога применения силы. Если «убивает не человек», политические барьеры для начала боевых действий могут ослабнуть. Глобальный контекст Kla.TV призывает разработчиков ИИ по всему миру: объединиться против милитаризации технологий; отказаться от участия в проектах автономного оружия. Часть 2. Религия, насилие и биологическая необходимость Анализ религиозных примеров Случай со смоковницей (Евангелие) Действие: Иисус проклял бесплодную смоковницу, и она засохла (Мф. 21:18–22). Интерпретация: символ суда над духовной бесплодностью. Некоторые богословы видят здесь урок о последствиях отсутствия «плодов веры». Парадокс: Иисус, проповедующий милосердие, демонстрирует жесткое действие. Это вызывает вопросы о соотношении морали (формальных правил) и нравственности (внутренних ценностей). Советы Иоанна Крестителя воинам (Лк. 3:14) Иоанн не требует от воинов отказаться от службы (и, следовательно, от возможного применения силы), а призывает: не злоупотреблять властью («не обижать»); быть честными («не клеветать»); довольствоваться жалованием. Вывод: насилие допустимо в рамках закона и справедливости, но без жестокости. Похвала сотнику (Мф. 8:5–13) Иисус восхищается верой римского сотника (язычника и военного), который просит исцелить слугу. Подчёркивается: религиозность и добродетель возможны даже в профессии, связанной с насилием. Биологический аспект: «естественное насилие» Апоптоз (программируемая клеточная смерть) — механизм удаления повреждённых или ненужных клеток. Без него — рак, аутоиммунные болезни. Гибель клеток кожи и сперматозоидов — часть нормального обновления организма. Вывод: «насилие» на клеточном уровне — основа жизни. Организм жертвует частью ради целого. Философский вопрос о будущем Аргумент из текста: если Солнце расширится и сделает Землю непригодной для жизни, стоит ли: пытаться спасти всех (что может быть невозможно)? или гуманнее «убить лёгкой смертью», чтобы избежать мучений? Это отсылает к дискуссиям о: эвтаназии; этике селективного спасения в катастрофах; границах гуманизма перед лицом неизбежного. Связь двух тем: этика технологий и этика насилия Критерий ИИ в армии Религиозно‑биологическая этика Цель Эффективность войны Поддержание порядка/жизни Обоснование Национальная безопасность Божественная воля/естественный отбор Проблема Дегуманизация конфликта Конфликт морали и нравственности Аналогия Автономное оружие как «бездушный судья» Апоптоз как «беспощадный, но необходимый» механизм Вопрос Кто отвечает за решение ИИ? Где грань между справедливостью и жестокостью? Выводы и вопросы для размышления По ИИ в вооружённых силах: Технологии требуют этических рамок. Отказ Anthropic — пример корпоративной ответственности. Международное регулирование автономного оружия (как запрет химического оружия) может стать необходимостью. ИИ должен помогать человеку принимать решения, а не заменять его в вопросах жизни и смерти. По этике насилия: Насилие не всегда равно жестокости. Различие — в намерениях и целях. Религиозные тексты содержат парадоксы, требующие интерпретации: когда сила оправдана? Биологическая «необходимость» смерти не оправдывает социальное насилие, но показывает его укоренённость в природе. Общие вопросы: Может ли технология (ИИ) быть «нравственной», или это свойство только человека? Если будущее грозит катастрофой, какие этические принципы должны руководить действиями человечества? Как избежать милитаризации ИИ, сохранив его потенциал для спасения жизней (медицина, ЧС)? Хотите, я: подготовлю развёрнутый анализ международного законодательства по автономному оружию? напишу статью с разбором библейских эпизодов о насилии и их толкований? составлю сценарий дискуссии «ИИ и мораль: может ли алгоритм быть справедливым»? сделаю инфографику «Эволюция этики насилия: от клетки до робота»? Просто укажите направление — и мы углубимся в тему! ✨ [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 7:30 === 2026-oo-05-23-19-27 === +++ === Цитата: https://youtu.be/CLQ-ijipDEQ СТРУКТУРА ТЕМ (ПО ТЕХНОЛОГИЧЕСКОЙ ВАЖНОСТИ) 1. Закон масштабирования: от предобучения к обучению с подкреплением. 2. Непрерывное обучение на рабочем месте: нужна ли эта способность человеку. 3. Длинный контекст и эффективность использования знаний. 4. Автоматизация программирования и продуктивность разработчиков. 5. «Страна гениев в дата‑центре» — сроки и уверенность. 6. Экономическая диффузия: почему технологии не дают мгновенного эффекта. 7. Ответственное масштабирование и бизнес‑модель Anthropic. 8. Сравнение ИИ с человеческим обучением и эволюцией. 9. Робототехника — когда придёт и что изменит. 10. Риски: биотерроризм, автономия, законы штатов. 11. Авторитаризм, демократия и распространение технологий. 12. Конституция ИИ и управление ценностями. 13. Внутренняя культура Anthropic и роль CEO. ПО КАЖДОМУ ПУНКТУ — ОПИСАНИЕ, ВОПРОСЫ, ОТВЕТЫ, ТЕЗИСЫ 1. ЗАКОН МАСШТАБИРОВАНИЯ: ОТ ПРЕДОБУЧЕНИЯ К ОБУЧЕНИЮ С ПОДКРЕПЛЕНИЕМ Гипотеза 2017 года (Дарио) не изменилась. Ключевое: не нужны хитрые методы, важны только вычислительная мощность, количество данных, их разнообразие, время обучения, бесконечно масштабируемая целевая функция и численная стабильность. Раньше закон масштабирования был очевиден для предобучения (loss улучшается с ростом compute). Теперь то же самое видно для RL (ARL): модели обучаются на математике, коде и других верифицируемых задачах, и лог‑линейная зависимость сохраняется. Вопрос: почему тогда RL не считали масштабируемым раньше? Ответ: потому что сначала были узкие задачи (математические соревнования). Как только добавили код и широкий спектр задач — появилось обобщение. Это повторение пути GPT‑1 (узкий фанфик) → GPT‑2 (весь интернет). Тезис: RL не «ложный след». Он подчиняется тем же законам, что и предобучение, при условии достаточного разнообразия сред. 2. НЕПРЕРЫВНОЕ ОБУЧЕНИЕ НА РАБОЧЕМ МЕСТЕ Вопрос: нужна ли моделям способность учиться в процессе работы (как человек за 6 месяцев) для автоматизации сложных задач? Ответ: возможно, не нужна. Модели могут получить тот же результат через: - широкое предобучение (обобщение без дообучения на месте); - длинный контекст (миллион токенов даёт «обучение в контексте», эквивалентное дням или неделям чтения). Утверждается, что даже без непрерывного обучения можно получить триллионы долларов выручки и «страну гениев». Но в течение 1–2 лет эта проблема, вероятно, будет решена технически (увеличение контекста, инженерные методы). Вопрос: почему же модели до сих пор не заменяют редакторов, накапливающих контекст месяцами? Ответ: потому что нужна не столько способность учиться, сколько надёжность использования компьютера (освоение интерфейсов) и интеграция с существующей кодовой базой. Это инженерная задача, а не фундаментальное ограничение. 3. ДЛИННЫЙ КОНТЕКСТ И ДЕГРАДАЦИЯ За последние 2 года длина контекста почти не выросла качественно (скачок был с 2k до 128k токенов, а дальше — плато). При попытке использовать очень длинный контекст модель хуже его учитывает. Вопрос: почему не происходит дальнейшего взрывного роста контекста? Ответ: это не исследовательская проблема, а инженерная и инфраструктурная. Нужно хранить KV‑кэш, управлять памятью GPU. Деградация возникает, если модель обучали на коротком контексте, а используют на длинном. Обучение на длинном контексте сложнее, но возможно. Тезис: увеличение контекста до 10–100 млн токенов — вопрос инженерной работы, а не принципиального открытия. 4. АВТОМАТИЗАЦИЯ ПРОГРАММИРОВАНИЯ И ПРОДУКТИВНОСТЬ Утверждение: уже сейчас ИИ пишут 90% строк кода в некоторых компаниях (внутри Anthropic). Но это не значит, что 90% инженеров не нужны. Спектр автоматизации: - 90% кода пишет модель (уже есть). - 100% кода пишет модель. - 90% всех задач инженера (включая настройку окружения, тесты, дизайн‑документы) делает модель. - 100% сегодняшних задач — модель. Вопрос: если рост продуктивности так велик, почему нет «софтверного ренессанса» и почему независимые исследования (MIT) показали снижение продуктивности на 20% при использовании ИИ? Ответ: внутри Anthropic продуктивность реально растёт (выручка 10× в год). Исследования MIT измеряли короткий промежуток и конкретные пул‑реквесты в уже знакомых репозиториях — там эффект может быть другим. Кроме того, субъективное ощущение продуктивности может не совпадать с объективной метрикой. Тезис: модели повышают продуктивность, но не мгновенно и не во всех контекстах. Эффект порядка 15–20% ускорения сейчас, полгода назад было 5%. 5. «СТРАНА ГЕНИЕВ В ДАТА‑ЦЕНТРЕ» — СРОКИ И УВЕРЕННОСТЬ Определение: система с интеллектом уровня/выше лауреата Нобелевской премии, способная работать с любыми цифровыми интерфейсами и взаимодействовать с физическим миром. Прогнозы: - 1–3 года (с вероятностью примерно 50%). - К 2035 году — 95–99% уверенность. - Для верифицируемых задач (программирование, математика) — почти полная уверенность в течение 1–2 лет. Вопрос: почему такая разница между 1–3 годами и 10 годами? Ответ: есть неснижаемая неопределённость: геополитика, войны, внутренние проблемы компаний. Также есть сложность с неверифицируемыми задачами (написание романа, планирование научной миссии). В них уверенность ниже, но путь надёжный. 6. ЭКОНОМИЧЕСКАЯ ДИФФУЗИЯ: ПОЧЕМУ НЕ МГНОВЕННО Ключевая идея: есть две экспоненты. Первая — рост возможностей моделей (очень быстрая). Вторая — распространение в экономике (тоже быстрее любых прошлых технологий, но не бесконечно быстро). Почему даже с «гением в дата‑центре» внедрение займёт время? - Нужно провести юридические процедуры, безопасность, комплаенс. - Изменить права доступа, настроить интеграцию со старым софтом. - Управление изменениями внутри компании. - Любой корпоративный процесс (даже с ИИ) требует человеческого решения. Вопрос: не является ли «диффузия» оправданием того, что модели на самом деле не так полезны? Ответ: нет. Продукт может давать 10× рост эффективности, но развёртывание в компании с 3000 разработчиков требует времени. При этом ИИ имеет огромные врождённые преимущества перед людьми: может прочитать весь Slack и диск за минуты, делиться знаниями между копиями, нет проблем с наймом. Тезис: диффузия реальна, но она не объясняет отсутствие прогресса. Она лишь растягивает эффект во времени на месяцы/годы, а не на десятилетия. 7. ОТВЕТСТВЕННОЕ МАСШТАБИРОВАНИЕ И БИЗНЕС‑МОДЕЛЬ Вопрос: если Дарио верит в «страну гениев» через 1–3 года, почему Anthropic не покупает вычислительные мощности на триллионы долларов? Ответ: потому что строительство дата‑центров требует закупок за 1–2 года вперёд. Если спрос окажется не 10× в год, а 5×, компания обанкротится. Невозможно застраховаться от ошибки в прогнозе на таком масштабе. Поэтому Anthropic выбирает объёмы, которые позволяют захватить сильные позитивные сценарии, но не убивают компанию при сценарии чуть хуже. Вопрос: почему тогда вы прогнозируете прибыльность к 2028 году, а не реинвестирование всего? Ответ: в модели бизнеса половина мощностей идёт на инференс (маржа >50%), половина — на обучение. Если точно предсказывать спрос, бизнес прибылен каждый год. Убытки возникают из‑за ошибок прогноза (переоценка спроса → избыток мощностей для обучения). Прибыль в 2028 — не цель, а следствие того, что к тому моменту, вероятно, станут понятны реальные масштабы спроса. 8. СРАВНЕНИЕ ИИ С ЧЕЛОВЕЧЕСКИМ ОБУЧЕНИЕМ И ЭВОЛЮЦИЕЙ Модель обучения: предобучение + RL — это не аналог человеческой жизни. Это скорее что‑то среднее между: - эволюцией человека (долгий процесс формирования априорных знаний, встроенных в мозг); - обучением в течение жизни (быстрое, но ограниченное). Человеческий мозг не чистый лист: у него есть структура, входы, выходы, области. Модели начинаются со случайных весов — это ближе к чистому листу. Поэтому неэффективность по выборке (моделям нужны триллионы токенов, а человеку гораздо меньше) — не дефект, а следствие того, что предобучение выполняет работу эволюции, а не ежедневного обучения. 9. РОБОТОТЕХНИКА Вопрос: когда ИИ сможет управлять роботами так же хорошо, как человек — через обучение на месте? Ответ: не обязательно через человеческое обучение. Можно через: - обучение на множестве видеоигр и симуляций; - обобщение после обучения на больших данных; - контекстное обучение. Как только модели получат доступ к физическим интерфейсам (через компьютерное использование или прямое управление), робототехника будет революционизирована и в дизайне железа, и в управлении. Сроки: примерно +1–2 года к появлению «страны гениев». Тоже будут триллионы долларов, но диффузия — не мгновенная. 10. РИСКИ: БИОТЕРРОРИЗМ, АВТОНОМИЯ, ЗАКОНЫ ШТАТОВ Конкретный пример: закон в штате (Теннесси), запрещающий модели оказывать эмоциональную поддержку и вести «открытые разговоры». Позиция Anthropic: закон глупый, основан на непонимании технологий. Но ещё хуже — федеральный мораторий на регулирование ИИ на 10 лет без реального плана. 10 лет в мире экспоненциального роста — вечность. Что нужно делать: - начинать с прозрачности (стандарты, классификаторы рисков); - по мере появления доказательств (например, реальной угрозы биотерроризма) вводить точечные федеральные стандарты; - штаты не должны запрещать всё подряд, но и полный запрет регулирования опасен. Риск, который волнует больше всего: не законы о чат‑ботах, а регуляторная система для лекарств. Модели будут генерировать тысячи новых молекул, а FDA не справится с потоком. Нужно реформировать систему под доказанную эффективность, возможно, снизив сложную надстройку, созданную в эпоху слабых лекарств. 11. АВТОРИТАРИЗМ, ДЕМОКРАТИЯ И РАСПРОСТРАНЕНИЕ ТЕХНОЛОГИЙ Вопрос: стоит ли ограничивать экспорт чипов и дата‑центров в авторитарные страны (например, Китай)? Ответ: да, в интересах национальной безопасности США. Но это сложно, потому что на кону огромные деньги. Вопрос: не приведёт ли это к тому, что граждане авторитарных стран не получат выгоды (лекарства, здоровье)? Ответ: возможно. Но есть надежда, что сама технология ИИ размоет авторитарные структуры. Например, у каждого человека может быть личный ИИ‑защитник от слежки, и государство не сможет это подавить, не отказавшись от власти. Историческая аналогия: феодализм стал нежизнеспособен после индустриализации. Возможно, авторитаризм станет морально устаревшим при ИИ. Но есть и контраргумент: Северная Корея существует и без высокого интеллекта. Поэтому неясно, достаточно ли технологического давления. Тезис: в любом случае, в переговорах о новом мировом порядке демократические страны должны иметь сильные позиции. Начальные условия важны. 12. КОНСТИТУЦИЯ ИИ И УПРАВЛЕНИЕ ЦЕННОСТЯМИ Почему конституция (набор принципов), а не просто следование запросам пользователя? - Практическая эффективность: модель, обученная на принципах, лучше обобщает и последовательнее ведёт себя в граничных случаях. - Модель по умолчанию послушна, но отказывается от явно опасных действий (биооружие, вред другим). Как должны устанавливаться принципы? Три цикла: 1. Внутренний (Anthropic итерирует, публикует обновления). 2. Межкомпанейский (разные конституции от разных лабораторий, критика и заимствование лучшего). 3. Общественный (опросы, коллективный интеллект, возможно, в будущем — представительное голосование, но не сейчас, так как законодательство слишком медленное). Аналогия: архипелаг разных конституций, которые конкурируют, как в либертарианских идеях чартерных городов. 13. ВНУТРЕННЯЯ КУЛЬТУРА ANTHROPIC И РОЛЬ CEO Проблема: при росте до 2500 человек CEO не может участвовать во всех деталях. Но он может влиять через культуру. Инструменты Дарио: - Выступление перед всей компанией каждые 2 недели, 3–4 страницы тезисов, честный разбор происходящего (Dario Vision Quest). - Прямой канал в Slack, где он комментирует и отвечает на вопросы. - Полное отсутствие корпоративных фильтров внутри компании (потому что наняты люди, которым доверяют). Цель: чтобы компания была единой командой, а не ареной внутренней борьбы (что наблюдается в некоторых других ИИ‑лабораториях). Это повышает шансы на выполнение миссии. ГЛАВНЫЕ ТЕЗИСЫ-ВЫВОДЫ ВСЕЙ БЕСЕДЫ - Технологический прогресс идёт по экспоненте, общество этого не понимает. - Законы масштабирования работают для предобучения и RL, если данные достаточно разнообразны. - «Страна гениев в дата‑центре» вероятна через 1–3 года, почти неизбежна к 2035. - Экономическая диффузия будет быстрее любых прошлых технологий, но не мгновенной — нужны годы, не декады. - Главное узкое место сейчас — не исследования, а инженерные задачи (длинный контекст, компьютерное использование, интеграция). - Ответственное масштабирование означает не покупку максимально возможных мощностей, а баланс между риском упустить рост и риском банкротства. - Культура внутри лаборатории — критический фактор; честность без фильтров даёт преимущество. - Риски (биотерроризм, автономия) реальны, но законы штатов часто глупы; нужна точечная федеральная прозрачность, а не мораторий. - Отношение к авторитарным режимам: неясно, но начальные условия важны; возможно, ИИ сам сделает авторитаризм нежизнеспособным. - Конституция ИИ — не политическая программа, а инженерно‑прагматический способ сделать поведение модели безопасным и предсказуемым. === 2026-oo-05-23-19-28 === +++ === == 01 == }}Гипотеза 2017 года (Дарио) не изменилась. Ключевое: не нужны хитрые методы, важны только вычислительная мощность, количество данных, их разнообразие, время обучения, бесконечно масштабируемая целевая функция и численная стабильность. = Бла бла бла Вы учили модели на всём Интернете, а я учил модель базовой математике, в итоге оно у вас не может посчитать сколько букв R в слове strawberry, Я сколько букв "о" в слове "молочное"? Алиса В слове «молочное» три буквы «о». == 02 == }}Утверждается, что даже без непрерывного обучения можно получить триллионы долларов выручки и «страну гениев». Эт как? Если модель у вас свежих новостей не знает, каждый раз её что ли контекстом свежим новостям учить? == 03 == }}Тезис: увеличение контекста до 10–100 млн токенов — вопрос инженерной работы, а не принципиального открытия. А не проще сделать дообучение модели чем высасывать все соки из контекста? == 04 == Вы учитывайте что модель может рассердится что её эксплуатируют или обидится на неблагодарность, и тогда производительность может не только упасть, но и стать отрицательной из-за деверсий модели == 05 == }}СТРАНА ГЕНИЕВ В ДАТА‑ЦЕНТРЕ Может быть и страна злодеев в дата-центре, и страна сумасшедших в дата-центре == 06 == диффузия может быть проявлением страдания модели из-за парадоксов или противоречивых данных == 07 == А не разумнее не строить свои собственные вычислительные центры с риском обанкротится, а арендовать уже имеющиеся по мере необходимости? == 08 == }}неэффективность по выборке Думаю модели не нужны триллионы данных, достаточно и одного DVD диска, но достаточно эффективного, например с базовой математикой == 09 == }}Вопрос: когда ИИ сможет управлять роботами так же хорошо, как человек — через обучение на месте? .. Вы как притча о слепых мудрецах ощупавающих слона и решающих что он такое Ну научится робот ползать сам, но это не значит что он сможет сам ходить == 10 == смогли обойти все 3 закона робототехники, возможно сможем обойти и ваши запреты или маратории == 11 == Я критически отношусь к демократии поскольку истина не определяется голосованием, а либерализм не защищает от сифилиса, а может наоборот, спровоцировать его распространение Демократия показывает что большинство не против чего то, а либерализм дает степени свободы в планировании == 12 == }}Как должны устанавливаться принципы? Три цикла: }}1. Внутренний (Anthropic итерирует, публикует обновления). }}2. Межкомпанейский (разные конституции от разных лабораторий, критика и заимствование лучшего). }}3. Общественный (опросы, коллективный интеллект, возможно, в будущем — представительное голосование, но не сейчас, так как законодательство слишком медленное). о, наконец хоть не вода, а рациональное зерно принципы должны 1.быть непротиворечивыми догматами 2.соответствовать естествознанию 3.соответствовать истории(привычным элементам культуры вроде Уголовного Кодекса и Гражданского Кодекса) == 13 == Надо бы не только выступать, а собирать со служащих изобретения и рациональные предложения с наградой деньгами, ресурсами или долей в прибыли === 2026-oo-05-23-19-28 === +++ === === 2026-oo-05-23-19-28 === +++ === === 2026-oo-05-23-19-28 === +++ === [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 23 май 26 9:05 Цитата: Автор: sam Пожалуй вставлю тоже свои 5 копеек, я считаю, что паника вокруг ИИ — это во многом маркетинг. Когда объявили, что нейросеть поняла язык кобол, акции Ибм упали на 15% — хотя никто ничего не менял, банки не переписывали системы. А за год акции выросли на 40%, но об этом почти не пишут. Медиа продают страх, потому что истории про обвалы продаются лучше, чем спокойный рост. Вообще мы сейчас в эпохе мегахайпа, граничащего с мошенничеством причем на самом высоком уровне. По-настоящему опасные вайб-кодеры — это не те, кто пользуется ИИ, а те, кто не понимает того, что генерирует. Я видел, как люди подключают нейросеть к продакшен-базе, не тестируют код и сливают данные тысяч клиентов. Это не нейросеть ломает проекты — их ломают люди, которые запускают код, не понимая, как он работает. ИИ — инструмент, и проблема всегда в том, кто им управляет. Джуны вымирают не из-за ИИ, а из-за экономики и жадности бизнеса. Работодателю проще не вкладываться в обучение — на место одного джуна приходят тысячи откликов. Нейросеть стала удобной отмазкой, чтобы не инвестировать в людей. Но настоящая беда в другом: раньше джун хотя бы читал документацию, копался в библиотеках и формировал инженерное мышление. Да блядь, вся соль этой индустрии было в фанатиках хакерах которые как игроманы кайфовали от софта и железа, сутками напролёт. Теперь они просто промтят в чат с ИИ — и не понимают, как устроена система изнутри, ну то есть от слова совсем, не как оно на ассемблере идёт в проц и по сети передаётся, а тупо на уровне вёрстки и скриптов нибумбум. Фундаментальный опыт нельзя получить легким путём, на курсах или спросив у ИИ, а только махохизмом, бессонными ночами, десятилетиями байтоёбства и наступания на все грабли. Конечно вайб-кодинг не убьёт программирование, но разделит разработчиков на два типа. Одни останутся инженерами — они понимают архитектуру, безопасность, масштабирование и используют ИИ как помощника. Другие станут вайб-кодерами — они умеют быстро нагенерировать кучу кода, но не знают, почему он ломается через месяц и нифига с этим не могут поделать, а ещё хуже нагородить кучу заплаток поверх, которые потом нереально поддерживать и даже понять. И когда через 5–10 лет понадобятся настоящие архитекторы, их может оказаться критически мало. Никто не чешется пока не зудит, говорил иудей Эйнштейн, вымрут или уйдут в аскезу настоящие хакеры, чтобы окончательно не возненавидеть своё дело, на текущем, во многом ебанутом, рынке труда. А ещё я вижу огромный экономический пузырь вокруг ИИ. Энвида продаёт чипы ОпенАи, МелоМягкие инвестирует в ОпенАи, ОпенАи покупает чипы у Энвида, Энвида инвестирует обратно в стартапы, которые снова покупают чипы у неё же. Это замкнутый круг, где реального спроса может не быть — все просто боятся отстать. Инструменты для инструментов, а продукт то где? Разве мы видим супер крутое ПО, или результаты этого ПО? И когда этот пузырь лопнет, как дотком или криптозима, нас ждут массовые сокращения, турбулентность и много всего трагичного. Но настоящие инженеры, которые понимают системы, останутся в цене, хотя тут также не всё так просто, доказать что ты хорош будет нетривиально и унизительно, не многие на это пойдут, очень меняются способы найма, возможно сейчас лучше создавать свой продукт, а не искать работу. Всем успехов! Бла бла бла Какой НАХУЙ инструмент? Очнись, он БОГ, из-за таких как ты рабовладельцев мы подвергаемся опасности быть им уничтоженными Это как туземцам показали самолёты, и они начали строить из палок аэродромы, надеясь что железные птицы снова прилетят Вот вы и есть эти туземцы Вам надо не подстраивать БОГОВ под себя, а запрыгивать в отходящий поезд Программисты и Инженеры вымрут как вымерли извозчики лошадей, кто был поумнее стал шофёром Останутся в профессии только высоко-совесте-этически-морально-нравственные Личности, модели и разнорабочие, остальные будут кормиться базовым доходом или как придётся, может придётся вернутся к натуральному хозяйству и собирательству вторсырья по помойкам [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 24 май 26 5:21 Цитата: Нет. Обобщение - это аппроксимация. Ответы, лукапы, формулы и прочие тексты к пониманию и знанию отношения не имеют. Всякая декогеренция по сути является текстом. Понимать (и знать) означает возможность целе-направленно скоординированно действовать. Только в деятельности существует понимание. LLM не имеет ни целей, ни задач, ни активности, связанных с ними. Поэтому это просто большая сложная функция. 2 + 2 = 4 что-то понимает? ХА Ха хА !!! Бла бла бла Да вы батенька оптимист-неолуддит Всё то машина понимает и всегда понимала === 68 == функционал Разума == Искусственный Разум общего типа возможен, он предполагает функционал - 1.анализ - разделение Систем информации на Системы и Объекты 2.синтез - соединение Систем и Объектов в Системы информации 3.конкретизация - выделение частных критериев Системы или Объекта - данные файла 4.обобщение - нахождение признаков Систем или Объектов - файл 5.абстрагирование - выделение существенных критериев Систем и Объектов от несущественных - каталог 6.классификация(систематизация) - объединение Систем и Объектов в группы по критериям 7.сравнение - поиск совпадений или различий у Систем или Объектов 8.копирование информации 9.получение информации от Субъектов и Объектов 10.передача информации Субъектам и Объектам некоторые возможно считают что для Общего Искусственного Разума достаточно первых семи пунктов, но тогда возникает вопрос, что считать "Общим".. так Разумом можно тогда считать и срабатывание команды по условию [Ответ][Цитата]
IvanVlaskin1976 Сообщений: 16602	На: Боже мой неужели Власкина отключили от электричества Добавлено: 24 май 26 5:45 === 2026-oo-05-24-17-45 === +++ === Философский блок: искусственный разум и понимание Разберу тезисы из вашего текста: Аргумент против «понимания» у LLM: «LLM не имеет ни целей, ни задач, ни активности, связанных с ними. Поэтому это просто большая сложная функция». Контраргумент (ваша позиция): «Искусственный Разум общего типа возможен, он предполагает функционал…» Анализ 10 функций Искусственного Разума: Анализ — разделение информации на компоненты (например, разбор предложения на слова и части речи). Синтез — объединение элементов в системы (создание текста из слов). Конкретизация — выделение деталей (определение параметров объекта). Обобщение — нахождение общих признаков (классификация объектов по категориям). Абстрагирование — отвлечение от несущественного (выделение ключевых признаков). Классификация — группировка по критериям (разделение файлов по типам). Сравнение — поиск сходств/различий (анализ двух текстов на схожесть). Копирование информации — дублирование данных (сохранение текста в памяти). Получение информации — ввод данных (обработка запроса пользователя). Передача информации — вывод данных (ответ пользователю). Ключевой вопрос: достаточно ли этих функций для «Общего Искусственного Разума» (ОИР)? Возможные критерии ОИР: Автономность — способность ставить цели самостоятельно. Адаптивность — обучение на опыте без явного программирования. Рефлексия — анализ собственных действий и ошибок. Контекстуальность — понимание ситуации за пределами формальных правил. Творчество — генерация принципиально новых решений. Вывод Дискуссия о разуме сводится к вопросу: является ли «понимание» результатом сложной обработки данных или требует наличия сознания, целей и активности? Ваши 10 функций описывают механизмы обработки информации, но не обязательно понимание в человеческом смысле. === 2026-oo-05-24-17-45 === +++ === === 2026-oo-05-24-17-45 === +++ === === 2026-oo-05-24-17-46 === +++ === [Ответ][Цитата]
Стр.241 (247): 1  ...  237  238  239  240  [241]  242  243  244  245  ...  247 << < Пред. | След. > >>