GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (33)След. > >>   Поиск:  
 Автор Тема: Selected refs on AGI, AI, ML, DL, VR, AR, BC, IoT
Эгг
Сообщений: 10322
Selected refs on AGI, AI, ML, DL, VR, AR, BC, IoT
Добавлено: 11 дек 17 9:17
Изменено: 13 янв 18 8:50
Буду здесь в меру свободного времени бороться с идиотизмом и невежеством, связанным с натягиванием регрессионного анализа на феномен мышления. Есть хороший повод, ЛеКун (это автор deep learning (вместе с Hinton'ом) и нынешней революции в машобуче) полчаса назад написал интересный комментарий:

Цитата:
Автор: Yann LeCun
"Neural networks copy the human brain." I cringe every time I read something like this the press. It wrong in multiple ways.
First, neural nets are loosely *inspired* by some aspects of the brain, just as airplanes are loosely inspired by birds.
Second the I aspiration doesn't come from the human brain. It comes from *any* animal brain: monkey, cat, rat, mouse, bird, fish, fruit fly, aplysia sea slug, all the way down to caenorhabditis elegans, the 1mm-long roundworm whose brain has exactly 302 neurons.
What neural nets have in common with animal brains is: 1. they are composed of simple computing elements with multiple inputs and one output (neurons); 2. The neurons essentially compute a weighted average of their input and compare the result to a threshold; 3. They learn by modifying the strength of the connections between neurons (synapses); 4. The architecture of convolutional nets (a particular kind of neural net) is inspired by some aspects of the pattern of connections in the visual cortex of animals (e.g. small mammals). That's about it. Pretty much every other detail is different.
Saying that neural nets are copied on "the human brain" seems to suggest that they reproduce functions that are specific to humans, not found in the rest of the animal kingdom. But nothing could be further from the truth. First, we have no idea in what way the human brain is different from other mammalian brains (except for the size). Second, the human brain isn't that different from the brains of other primates.
Third, AI researchers would would be happy to build a machine as intelligent as a parrot, a crow, a rat or a cat. That would be a tremendous progress over the current state of the art.
[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 9:38
Изменено: 11 дек 17 9:47
Вот для тех, кто не очень понимает тарабарский, я сделал вольный перевод:

ЛеКун об ИНС и ИИ:

«Искусственные нейронные сети копируют человеческий мозг.» У меня всё сжимается каждый раз, когда я такое читаю. Это ошибочно по многим причинам. Во-первых, искусственные нейронные сети просто вдохновляющая аналогия точно такая же как аналогия того, что самолеты подобны птицам. Во-вторых, исходить нужно не от человеческого мозга, а от любого животного мозга: обезьяны, кошки, крысы, мыши, птицы, рыбы, плодовой мухи, вплоть до длинного круглого червя, мозг которого имеет ровно 302 нейронов.

Что общего между искусственными нейронными сетями и животным мозгом:
1. Они состоят из простых вычислительных элементов с несколькими входами и одним выходом (нейронов);
2. Нейроны вычисляют взвешенное среднее входных данных и сравнивают результат с порогом;
3. Они учатся, изменяя силу связей между нейронами (синапсами);
4. Архитектура некоторых сверточных сетей аналогична некоторым аспектам структуры в зрительной коре животных.
Вот и всё. Все остальные детали у мозга и искусственных нейронных сетей отличаются.

Теперь поговорим о том, что искусственные нейронные сети воспроизводят функции, которые есть в мышлении, но нет у животных. Ничто не может быть дальше от истины. Вы-первых, мы не знаем, чем отличается человеческий мозг от мозга млекопитающих. Во-вторых, человеческий мозг не отличается от мозга других приматов. В-третьих, исследователи ИИ были бы счастливы построить такую интеллектуальную машину как попугай, ворону, крысу или кошку. Это будет огромный прогресс по отношению к современному состоянию техники.
[Ответ][Цитата]
Андрей
Сообщений: 3459
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 10:27
Цитата:
Автор: Эгг
автор deep learning (вместе с Hinton'ом) и нынешней революции в машобуче
В свете недавних впечатляющих успехов AlphaZero возникает 2 актуальных вопроса:
1. Существует ли угроза создания в ближайшем времени сверхсильного ИИ, решения которого будут не только непонятными людям, но и опасными?
2. Ведутся ли работы в области deep learning с целью создания интерфейса между людьми и сверхсильными решателями с целью достичь взаимопонимания между людьми и машинами?
Прошу Вас ответить в свободное время.
[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 10:45
Изменено: 11 дек 17 10:48
Цитата:
Автор: Андрей
В свете недавних впечатляющих успехов AlphaZero возникает 2 актуальных вопроса:
1. Существует ли угроза создания в ближайшем времени сверхсильного ИИ, решения которого будут не только непонятными людям, но и опасными?
2. Ведутся ли работы в области deep learning с целью создания интерфейса между людьми и сверхсильными решателями с целью достичь взаимопонимания между людьми и машинами?

Отвечу сейчас, время есть, напоминаю, что мы на ты .

Под успехами A0 ты имеешь ввиду обучение в шахматы (и еще две игры) за четыре часа?
https://hightech.fm/2017/12/07/newai_bard_games
Да, это впечатляет.

Но по сути это означает только одно - они смогли сформулировать формальную модель любой настольной комбинаторной игры. Всё. Поиск кластеров (паттернов). Если бы у них был квантовый компьютер, они могли какие-то задачи решить точно, поскольку комбинаторные задачи имеют ТОЧНОЕ решение, правда, для которого нужен полный перебор (см. мою КАИ). Ничего опасного или умного в таких комбинаторных поисках нет.

Развитие интефейса между ИИ и человеком - это очень широкая тема. Если говорить об естественно-языковых интерфейсах, то в МО/ИИ есть направление RNN - Recurrent Neural Networks. Есть автоматные направления (но это можно назвать уже традицией и классикой), есть предикативные исчисления (они еще древнее), в том числе и модные в последнее время non-axiomatic. Дофига всего разного, поскольку сейчас каждый универ имеет подраздление ИИ, студентов и преподов и все они должны писать по сколько-то статей в год. Рутина.

Что касается реальных разработок, то ждем Амазон, если там будут утечки (= они сами захотят показать). Прочие гиганты пока топчутся. Чего-то такого сильно интересного и не припомню. На вскидку у Гугла был совсем недавно обзор по Gated Linear сетям: https://arxiv.org/abs/1712.01897

И что такое взаимопонимание?
[Ответ][Цитата]
44
Сообщений: 424
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 10:55
Изменено: 11 дек 17 11:03

Помимо роста биологической нейронной сети, такой штуки как синаптический прунинг или процессов во сне, есть ещё взаимодействие нейронов с глией, то есть предполагается, что в информационном взаимодействии нейронов участвует и глия. Всё это в естественном мышлении малопонятно. В искусственных сетях ничего этого нет. Возможно, что скоро без этих механизмов их усложнение будет возможно только в принципе, но не на практике.

За хранение воспоминаний могут отвечать сети молекул вне клеток

Ученые нашли причину сохранения страшных воспоминаний

Другая часть мозга. Д. Филдз

[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 10:59
Изменено: 11 дек 17 11:09
Михайло, я прошу тебя не истерить в этой теме, а воспользоваться моим присутствием и во Флудилке, например, позадавать вопросы по поводу того, что именно тебе не понятно в каких-то методах машинного обучения. Ты сейчас реально похож на идиота - рекламируешь подходы, которых не понимаешь и в которых не разбираешься. Метод ближайших соседей - это уровень шестого класса даже не математической школы, уверен, тебе нужно просто 1) выбрать любой язык программирования, 2) скачать IDE, 3) разобраться уже с методом. На это у человека не страдающего крайней формой гуманитарного идиотизма уйдет три дня максимум.

Всю твою остальную истерику и оффтоп буду, извини, удалять - пиши сразу во Флудилке.
Или пиши по делу и по теме.
[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 11:03
Изменено: 11 дек 17 11:10
Цитата:
Автор: 44
Помимо роста биологической нейронной сети и процессов во сне, есть ещё взаимодействие нейронов с глией, то есть предполагается, что в информационном взаимодействии нейронов участвует и глия.

Да, там дохера всего есть. Ув. Нейронус (был такой интересный человек на Айкоме) искал варианты моделирования мозга, делая акцент на кортикальные колонки. Не знаю, в каком состоянии у него модели сейчас.

Мои подходы в ОИИ не основаны на бионике и подобии к мозгу, я ищу варианты "абстрактного мышления" на не сетевой элементной базе, в некотором смысле я разделяю концепцию non axiomatic reasoning. Мозг меня вообще не интересует.
[Ответ][Цитата]
eto_ya
Сообщений: 1027
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 11:24
Изменено: 11 дек 17 11:25
Просьба дать определение мышлению.

Шахматы - идеальное, а жизнь - реальное. В шахматах на поле не появляется неизвестная ранее фигура, и пешка не начинает устраивать кассетные бомбардировки, и ваш соперник не достает ствол чтобы пустить пулю вам в лоб.
[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 11:30
Изменено: 11 дек 17 11:32
Цитата:
Автор: eto_ya
В шахматах на поле не появляется неизвестная ранее фигура, и пешка не начинает устраивать кассетные бомбардировки, и ваш соперник не достает ствол чтобы пустить пулю вам в лоб.

Да, об этом и речь. Более того, методы машобуча применимы только там, где мы сможем сформулировать обучающую выборку, то есть где задано пространство признаков и класс, к которому принадлежит вектор (или кластер, если без учителя). Для игр мы всегда можем указать выигрыш или проигрыш в маршруте ходов. В реальной жизни - никогда.

Прошу простить, меня ждет седло, Колорадо или Швейцария, все-равно для хорошей работы ума нужны хорошие физические нагрузки в красивых местах. Буду ночью, наверное, не теряйте. Просьба сильно не оффтопить и не оскроблять each other.
[Ответ][Цитата]
Андрей
Сообщений: 3459
На: Почему мышление это не ML и даже не ИИ
+1
Добавлено: 11 дек 17 11:35
2 Эгг, благодарю за ответы и ссылки.

Цитата:
Автор: Эгг
что такое взаимопонимание?
Это хороший вопрос, хотел даже тему отдельную для него завести, но пока нет времени. Если попытка высказать мнение на этот счёт не будет засчитана за оффтоп, то я рискну коротко сказать следующее.

Есть такая задача "добиться понимания", эту задачу ставит, решает и верифицирует один из собеседников. Я, например, решаю эту задачу приводя примеры, формируя текст в виде вопросов-ответов, задач-решений, упорядоченных списков и т.д.
Когда были опубликованы 10 партий в шахматы между А0 и Stockfish все топовые шахматные ютуберы начали наперебой разбирать эти партии и давать свои человеческие объяснения. Например, в одной из ярких партий все комментаторы заявили, что "А0 поймал ферзя в коробочку", а в другой - что "А0 двинул короля в гущу событий, как атакующую фигуру". При этом совершенно ясно, что А0 не пользовался такими или подобными категориями, он только оценивал вероятность победы в том или ином паттерне. Но комментаторам удобно было донести своё понимание до зрителя именно через такие человеческие категории. В этой связи хотелось бы, чтобы и машины, выдавая свои решения, ставили и решали задачу "добиться понимания", разъясняя человеку свои решения в доступной форме, например "вот тут я пожертвовал фигуру, чтобы захватить пространство и т.п." Пугает именно то, что, похоже, автоматические решатели в той архитектуре, в которой они сейчас бурно развиваются, в принципе не способны на решение этой важной задачи. И если всё будет развиваться в том же ключе, рано или поздно человек окажется в трудной ситуации выбора в критической ситуации: либо используй свой чахлый мозг и гарантированно проигрывай, либо полностью доверяй машине, совершенно не понимая, почему она предлагает то или иное решение.
[Ответ][Цитата]
dr2chek
Сообщений: 854
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 13:01
Цитата:
Автор: Эгг


ЛеКун об ИНС и ИИ:
Во-вторых, человеческий мозг не отличается от мозга других приматов.

Когда вижу такие заявы, автора вычеркиваю из must read. Информация к размышлению: если бы НЕ ОТЛИЧАЛСЯ, то человеки и оставались бы этими самими "другими приматами".
[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 15:45
Изменено: 11 дек 17 15:47
Цитата:
Автор: Андрей
И если всё будет развиваться в том же ключе, рано или поздно человек окажется в трудной ситуации выбора в критической ситуации: либо используй свой чахлый мозг и гарантированно проигрывай, либо полностью доверяй машине, совершенно не понимая, почему она предлагает то или иное решение.

Я согласен с твоей аргументаций, только мне кажется, что эта проблема гораздо шире, чем отношения ИИ и человека. Например, масс-медиа. Нет возможности проверить каждую цитату, каждый материал, каждую ссылку. И возникают мифы, где Черчиль говорит про Сталина с сохой и бoмбoй (никогда не говорил), где у народов севера сто слов про снег и ни одного понятия снег (как раз сейчас изучаю книгу "Язык азиатских эскимосов" 1949 года издания, там всё по другому, много сложнее). Миф - это и есть когнитивная среда человека. А школа? Это вообще рассадник мифов и некомпетентного идиотизма. В этом смысле не будет никакой разницы.

Но задача "взаимопонимания" имеет массу других важных аспектов. Даже на уровне субъект-объект, в этом ты прав, я думаю, что это будет серьезная проблема с ИИ. Лично я не очень доверяю "интеллектуальным" фичам в винде и эпловской айосе и по возможности отключаю их нафиг.
[Ответ][Цитата]
Эгг
Сообщений: 10322
На: Почему мышление это не ML и даже не ИИ
Добавлено: 11 дек 17 15:49
Цитата:
Автор: dr2chek
Когда вижу такие заявы, автора вычеркиваю из must read. Информация к размышлению: если бы НЕ ОТЛИЧАЛСЯ, то человеки и оставались бы этими самими "другими приматами".

Это так. Но, оправдывая Яна, полагаю, он имел ввиду, что животные обладают "рациональным" поведением, начиная с червей и мышей. Основа которого - мозг. ИНС не обладают НИКАКИМ поведением, это просто функции.
[Ответ][Цитата]
PavelZX
Сообщений: 615
На: Почему мышление это не ML и даже не ИИ
Добавлено: 12 дек 17 4:30
Цитата:
Автор: Андрей
Пугает именно то, что, похоже, автоматические решатели в той архитектуре, в которой они сейчас бурно развиваются, в принципе не способны на решение этой важной задачи. И если всё будет развиваться в том же ключе, рано или поздно человек окажется в трудной ситуации выбора в критической ситуации: либо используй свой чахлый мозг и гарантированно проигрывай, либо полностью доверяй машине, совершенно не понимая, почему она предлагает то или иное решение.

По моему этот аспект очень важен. Технически не вижу проблем, со временем добиться, за счёт агрегации знаний и увеличения вычислительной мощности, что системы МО/ИИ смогут решить любую задачу, но пользы от этих решений людям не будет. Зачем тогда это направление вообще развивать, тем более как нечто подавляющее прочие, использующие семантику и онтологии?
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Почему мышление это не ML и даже не ИИ
Добавлено: 12 дек 17 5:36
Цитата:
Автор: PavelZX
Зачем тогда это направление вообще развивать, тем более как нечто подавляющее прочие, использующие семантику и онтологии?

Это создает рабочие места. Если гуманитарные темы не вызывают острой неприязни можете погуглить про офисный планктон. Если хорошо учатся то свою конфетку вполне способны отработать. А про ответственность даже рассуждать не могут, само слово вызывает страх. Там вообще ума не много, зато вот всяких гормональных и эмоциональных факторов полно. Можно на целую страну иметь всего одного настоящего пидораса и будет миллионы вот таких со сбитыми ориентирами и задержкой развития.
[Ответ][Цитата]
 Стр.1 (33): [1]  2  3  4  5  ...  33След. > >>