GotAI.NET
Форум: Проблемы искусственного интеллекта
Регистрация
|
Вход
Все темы
|
Новая тема
Стр.7 (7)
<<
< Пред.
Поиск:
Автор
Тема: На: Уголок натуралиста
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 19 фев 25 9:09
С токена начинается эмбеддинг.
Это самое главное в токене.
С одной стороны токен адресует некоторый реальный объект. Экземпляр. С его конкретными свойствами, значениями, с его конкретными качествами, с его средой, устройством, отношениями, состояниями, вовлеченностями в процессы, с событиями, etc.
С другой стороны токен адресует некоторое понятие. Смысл. Представление. С его архитектурой, форматом, правилами, разметками, прагматикой использования, etc.
Как это можно реконструировать и как увязать?
Можно.
Эмбеддингами)))
Ну и чтобы два раза не вставать, я еще раз чуть подробнее опишу работу LLM, которая "совершенно неожиданным образом")) предоставляет универсальный подход к решению произвольной задачи. Чем, собственно, мышление и является. При этом методы, которые продуцирует LLM являются специфичными к проблемной области, то есть оптимизированными.
Проговорю схему еще раз.
1. У нас существуют какие-то высказывания, которые описывают некоторую предметную область. Это может быть естественный язык, может быть шахматные нотации, может быть набор команд какого-то управляющего устройства, какие-то произвольные звуковые и видеопотоки, представленными битрейтами или спектрами. Совершенно неважно, что за текст мы имеем в качестве входных данных. Совокупность всех описаний составляет корпус.
2. Обработка этого корпуса приводит к формированию словарей и эмбеддингов, которые (неявно) хранят внутри себя представления о "реальности" (тех объектов, которые являются денотатами описаний) и представление о смыслах (тех понятий, которые являются десигнатами описаний).
3. Обработка эмбеддингов multi-head вниманием и энкодерами-декодерами приводит к тому, что трансформер внутри себя строит пространство знаний о предмете (латентно): правила поведения объектов, их отношений, их свойств и качеств, "правила" их обработки, итд. Эти все знания хранятся в виде весов нейронной сети и других параметров и настроек трансформера.
4. Теперь трансформером можно оперировать - он в состоянии производить любое моделирование в рамках предметной области (уже в явном виде, на языке корпусов): отвечать на вопросы (то есть находить наилучшее включение в заданный фильтр), систематизировать описания, реконструировать сцены, находить требования, итд, учиться играм, действиям, reasoning'у и каким угодно последовательностям, имеющим в своей основе patterns.
Таким вот образом, господа, устроено всякое мышление. Хоть человеческое, хоть машинное))). Это и ИИ, и AGI и ASI. Если что-то будет развиваться, то исключительно в рамках представленной схемы. Уровень "интеллектуальности" конкретной реализации просто упирается в корпуса, архитектуры, размеры эмбеддингов, проектные кейсы, имплементации и перформансы (вычислительные кластеры). Другого интеллекта не было и не будет.
Можете расходиться 😃😃
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 19 фев 25 9:11
Цитата:
Автор: Prosolver
Как мы видим, самые "умные" чат-боты сами не разделяют идею того, что они есть вершина совершенства ии-строительства
1. Не очень понятно, почему мнение сетей, обученных на мусоре текстовых данных интернета и книжек могут служить аргументами, опровергающими мою схему. Так мы дойдём до того, что мнение лавриков или цапов будут что-либо значить, кроме булькания)))
2. Я нигде не говорил, что текущие решения идеальные и законченные, напротив, я указал куда они могут развиваться: "Уровень "интеллектуальности" конкретной реализации просто упирается в корпуса, архитектуры, размеры эмбеддингов, проектные кейсы, имплементации и перформансы (вычислительные кластеры). "
3. Я утверждаю, что этот подход - это универсальный подход решения любой произвольной задачи, то есть - мышление. На самом деле - мета-мышление, но это еще тяжелее будет объяснить)))) И уровень современных LLM (даже в текущей мусорной реализации) намного превосходит уровень "среднего человека". Про способности в программировании, системном анализе, проектировании я вообще молчу. OpenAI o1 - это один из лучших junior'ов, с которым я когда-либо работал. Подозреваю, что о3 будет просто лучшим. Другое дело, что писать хороший эффективный промт - это искусство сейчас, которым тоже нужно овладеть как инструментом))
4. А расходиться вы можете, поскольку вы все (за исключением Mist'а и qwerty) исповедуете подход экспертных систем, который устарел еще в 1974 году. Никто из вас не в состоянии ни понять схемы, которую я изложил, ни, тем более, её опровергнуть... 😃😃
upd: вот и Карелов говорит о том же)) И предлагает термин general-purpose AI вместо AGI))
[
Ответ
][
Цитата
]
гость
5.62.20.*
На: Уголок натуралиста
+1
Добавлено: 30 июл 25 9:56
Эггу чуть больше 50ти, он в отличной физической форме, профессионально занимается триатлоном, любит кайакинг, тратит четыре часа в день на спорт. В его рационе свежая рыба, устрицы, фрукты и прочие компоненты хорошего здоровья. Он никогда не плюется желчью, он подавляет своих оппонентов силой интеллекта и логики))
[
Ответ
][
Цитата
]
гость
5.62.20.*
На: Уголок натуралиста
Добавлено: 30 июл 25 11:02
Цитата:
Автор: гость
Видел видео где то на форуме с ним
Пиздеть негатив про Эгга трудно, поскольку он один из самых успещных челов в Плахе, айкоме и гатайке. Кто из вас смог стать архитектором компьютерного зрения в Silicon Valley, Эгг смог. Погуглите уровень такой зарплаты))
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 03 авг 25 4:36
Цитата:
Автор: гость
Эггу чуть больше 50ти, он в отличной физической форме, профессионально занимается триатлоном, любит кайакинг, тратит четыре часа в день на спорт. В его рационе свежая рыба, устрицы, фрукты и прочие компоненты хорошего здоровья. Он никогда не плюется желчью, он подавляет своих оппонентов силой интеллекта и логики))
Цитата:
Автор: гость
Пиздеть негатив про Эгга трудно, поскольку он один из самых успещных челов в Плахе, айкоме и гатайке. Кто из вас смог стать архитектором компьютерного зрения в Silicon Valley, Эгг смог. Погуглите уровень такой зарплаты))
Вы не плохо осведомленны про меня и мою жизнь в США, одобряю.
[
Ответ
][
Цитата
]
Ꜿгг
Сообщений: 13267
На: Уголок натуралиста
Добавлено: 07 авг 25 10:28
Изменено: 07 авг 25 10:32
Мне приятно, что у меня столько клонов. И - да - мне много меньше шестидесяти, я занимаюсь физической активностью, ежедневное плавание, ежедневный велосипед (30+ км) и прогулки, хожу в зал, но не регулярно. И - да - я тружусь CV Architect)), так получилось... я хотел быть System Analyst, но когда ты - гениальный специалист, тебя все время пытаются повысить))
Сюда можно приходить общаться с нашей тусовкой:
https://t.me/art_of_mind555
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 11 окт 25 11:09
Ты видел (я не спрашиваю "программировал", потому что понимаю, что нет) архитектуру самого простого трансформера? Думаю, тоже нет. Понимаешь, Сергей, есть пропасть между тем, что из себя сейчас представляет разработка LLM (и других ИИ нового поколения) и разными словами типа "речь - быстрое мышление", "интеллект - это 13ая проблема Гильберта". Эти все мысли и заключения не стоят тех байт, из которых они сложены.
Давай, на примере. Предположим есть какой-то очень прецизионный лазерный инструмент, который меряет длину с точностью до микрона. А вы с Лавриком до сих пор прыгаете вокруг обструганной ветки и обсуждаете, что если на ней поставить фломастером насечки, то её можно использовать в качестве линейки 😂😂
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 11 окт 25 11:11
Цитата:
mss:
Трансформер это ИНС с мильёнами токенов на входе сгенерёнными из текстов.
Нет. Снова пример, чтобы тебе было понятно -- описывать так трансформер -- это описать компьютер как параллелепипед, который гудит и из него торчит много проводов. Мильены токенов - это не главное в трансформерах, если ты подключишь (как-то) мильон токенов к любым другим приложениям, они не станут разговаривать на естественном языке и писать программы)))
Цитата:
mss:
Я не вполне понимаю что там на выходе но корректные тексты генерятся такими же трансформерами.
Ты не понимаешь не только что там на выходе, но и что внутри и как оно работает ))) У тебя даже приблизительного представления нет))
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 11 окт 25 11:11
Я просто обращаю внимание на два момента:
1) Никто из вас не может разобраться с тем, как устроены современные системы мышления. Да, они очень сложные, именно поэтому такой высокий порог вхождения в тему. Я сейчас даже не касаюсь того, что рассуждать о том, чего вы не знаете -- это профанация. Ваш уровень в LLM - бабки на скамейках))
2) Рассуждения на уровне каких-то общих слов не даст ничего, поскольку их (даже если они будут правильными) некуда деть. Нет никакого инструмента, в который эти слова можно было вставить, а на выходе получить интеллект. И не будет. Есть только компьютеры и программы для них. Хотите получить интеллект - учитесь его программировать. Никакой другой альтернативы нет)) Никаких волшебных устройств и магических машинок. Только компьютер
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 11 окт 25 11:12
Архитектура - это не про флопы)) И во-вторых, трансформером можно обрабатывать простенькие задачи, крестики и нолики, например. И понимание даст и представление получишь. Умный человек по капле воды может сделать вывод о величии океана))) Дело не в лаптопах
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 11 окт 25 11:13
1. Никакие рассуждения ничего не дадут, поскольку никто из вас не представляет, что с этим рассуждениями делать. Я даже допускаю, что часть из них будет адекватными, но что толку, слова предназначены исключительно для ушей, их не вставишь в программу, программа требует других слов на других языках.
И никакой альтернативы, кроме компьютера для искусственного интеллекта не существует. В пределе ИИ - это компьютер с набором программ, сетевыми подключениями, с системой датчиков, сенсоров, манипуляторов и движущейся платформой. Где вся периферия, по сути - это тоже потоки данных и протоколы.
2. Ваши рассуждения про LLM и трансформеры как одну из их имплементаций не стоит гроша, поскольку никто из вас не имеет ни малейшего представления как это устроено и как это работает. Ваши слова про LLM - это очередная невежественная профанация как все прочие, которыми вы здесь замусорили форум.
[
Ответ
][
Цитата
]
Egg
Сообщений: 88
На: Уголок натуралиста
Добавлено: 11 окт 25 11:14
Цитата:
Антин:
Я уже не обращаю внимания на ваше имбецильское поведение.
А я обращаю на ваше. Так, в одной ветке архитектура сети (в которой вы не в состоянии разобраться) вам очень сильно напоминает шкафы с электронным оборудованием, и современные решения раздражают ваше примитивное мышление настолько, что вы делаете спасительный вывод - раз ЭНИАК не использовался, то и LLM использоваться не будут, а люди вернутся в лоно символьно-логических выводов -- единственное, что вам хоть как-то понятно в этом мире, что по какой-то странной причине вы считаете интеллектуальным 😂😂
[
Ответ
][
Цитата
]
Ꜿгг
Сообщений: 13267
На: Уголок натуралиста
Добавлено: 12 окт 25 12:17
Изменено: 13 окт 25 4:45
Да. При этом ув. tac так забавно рассуждает про науку, словно его masters degree - это что-то большее, чем диплом о высшем образовании, полученном тридцать лет назад. Жаль, ув. Валентин умер от ковида, он был большой любитель говорить, что его называют академиком, они бы с ув.tac'ом нашли общий язык
[
Ответ
][
Цитата
]
Стр.7 (7)
:
1
...
3
4
5
6
[7]
<<
< Пред.
Главная
|
Материалы
|
Справочник
|
Гостевая книга
|
Форум
|
Ссылки
|
О сайте
Вопросы и замечания направляйте нам по
Copyright © 2001-2022, www.gotai.net