GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (2)След. > >>   Поиск:  
 Автор Тема: Внимание в искусственных нейронных сетях
44
Сообщений: 440
Внимание в искусственных нейронных сетях
Добавлено: 01 ноя 17 19:41

Недавно в какой-то ветке речь шла о внимании в нейронных сетях. В конце статьи по ссылке в общих чертах написано как это уже реализовано на практике. В целом роль внимания в ИНС такая же как в сетях биологических (Внимание. Нейробиология)

Азбука ИИ: «Рекуррентные нейросети».

[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 01 ноя 17 21:21
Идея: когда процессор считывает данные из ячейки памяти, то наверное это и есть проявление того, что мы называем вниманием?.. Чтобы у машины Тьюринга сместить "акцент внимания" надо подать команду перемещения ленты.
[Ответ][Цитата]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 0:42
Изменено: 02 ноя 17 0:50
Цитата:
Автор: Михайло

когда процессор считывает данные из ячейки памяти, то наверное это и есть проявление того, что мы называем вниманием?.. Чтобы у машины Тьюринга сместить "акцент внимания" надо подать команду перемещения ленты.


Внимание где имеется в виду? Так как вы не уточнили, то есть три варианта ответа — первые два про ИНС, третий про их природный аналог.

1. Совершенно верно, ведь речь об алгоритме.

2. Не совсем верно, так как речь всё же о недетерминированном алгоритме, и мы не знаем куда смотрит машина Тьюринга. Поэтому алгоритм, не алгоритм — а как живая.

3. Неверно. Биологическая сеть в высшей степени не алгоритм, так как в принципе не может быть к нему сведена сколько-нибудь точно.

О третьем варианте подробнее здесь во вложении в главе «Главный принцип». И отчасти ещё в главе «Другой уровень мышления».

[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 10:24
Изменено: 02 ноя 17 10:25
Недетерминированный алгоритм? Опять?
Божественная нейронная сеть? Это что за ё...?
[Ответ][Цитата]
гость
154.16.149.*
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 10:30
Сознание нельзя свести к материи и взаимодействию, оно иное, это другая форма существования, субьективная, та которая воспринимает, а не воспринимается, не возможно из материи сделать сознание, но вероятно сознание может как бы "перейти" в новую материальную оболочку, для этого оболочка должна быть достаточно сложной.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 10:40
Это нельзя свести к тому, то нельзя свести к этому. Детки, вы не похожи на математиков, сводящих одни математические объекты к другим. Давайте доказательства несводимости или сводимости. А то напостулировали, а доказать забыли.
[Ответ][Цитата]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 11:47
Изменено: 02 ноя 17 11:48
Цитата:
Автор: Михайло

Давайте доказательства несводимости или сводимости. А то напостулировали, а доказать забыли.


Где находятся доказательства «несводимости», я вам объяснил в предыдущем посте. Там же написано про недетерминированные алгоритмы.

[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 20:08
Изменено: 02 ноя 17 20:09
Извиняйте за критику.

Помните я говорил, что философия - это не наука, она не имеет собственного предмета, научных фактов, что она ворует все это у других наук и коверкает их по-своему. Так вот, это относится и к Вам. Вы понахватались верхушек с научно-популярной литературы и философствуете.
Смысл?
При этом вы еще делаете вредную работу: вы делаете умозаключения и ставите их в заголовки. Не надо делать умозаключения по верхушечным знаниям!

Недетерминированные алгоритмы, как я понял, Вы позаимствовали из области P/NP-полных задач. Типа это вероятностные алгоритмы + эвристические алгоритмы. Зачем придумывать свои термины? Чтобы пугать ими других, в том числе специалистов в этой области? Тем более эвристические алгоритмы не имеют ничего общего с вероятностными. Эвристика не имеет ничего общего с эврикой, процессом неожиданного открытия.
Возьмите пример любого эвристического алгоритма и проанализируйте. Эвристика - это уже открытый закон природы, известный, понятный. Он применяется в алгоритмах, которые потом называются эвристическими. Другими словами, эвристика - это когда у программиста имеются догадки, как можно быстро найти более-менее оптимальный маршрут коммивояжера, не делая полный перебор, и он воплощает эту идею в алгоритм... Алгоритм при этом никаких случайных поисков не осуществляет. А значит недетерминированностью тут не пахнет.

Доказательство невычислимости отсутствует. Пустословный заголовок.
[Ответ][Цитата]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 2:21
Изменено: 03 ноя 17 2:25

Во-первых, «доказательство невычислимости» основано на физических особенностях самоорганизации, которые в общих чертах описаны в главе «Главный принцип», далее в статье показано как эти особенности отразятся в практической плоскости при создании сложных систем и другие связанные с этим обстоятельства. Суть статьи, напомню, в том, что алгоритм, а также и вообще никакая система, созданная человеком, не может быть сложнее мышления человека и даже сколько-нибудь близко приблизиться к нему не получится.

Во-вторых, вероятностные алгоритмы не имеют к недетерминированным прямого отношения, хотя случайный выбор, повторы, эвристика — часть недетерминированного алгоритма. Цитата: «Поэтому на практике недетерминированный алгоритм — это некоторый эвристический метод, подразумевающий пробы и ошибки, повторы и случайный выбор. Как следствие, недетерминированный алгоритм не гарантирует — «не детерминирует» оптимальный результат и не имеет точного математического обоснования, из-за чего иногда выбор оказывается более успешным, иногда менее, если ответ далек от оптимального.»

Учитывая, что собственно по теме статьи вы ничего не написали, а с алгоритмами напридумывали, не читая текста, который критикуете, предлагаю вам попробовать ещё раз.
***


Цитата:
Автор: Михайло
Эвристика - это уже открытый закон природы, известный, понятный. Он применяется в алгоритмах, которые потом называются эвристическими.


Эвристика, эвристический метод — это не закон природы, тем более «понятный и известный», а наоборот, метод, который работает, но непонятно как.


Цитата:
Автор: Михайло
Другими словами, эвристика - это когда у программиста имеются догадки, как можно быстро найти более-менее оптимальный маршрут коммивояжера, не делая полный перебор, и он воплощает эту идею в алгоритм... Алгоритм при этом никаких случайных поисков не осуществляет.


Тут верно. Только догадки, а не точный маршрут, и есть недетерминированность. Например, в нейронных сетях «недетерминированность» воплощена в «догадках» при создании сети и обучении. Подробнее о чём написано в главе «Алгоритм нейронной сети».


[Ответ][Цитата]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 3:08
rrr3, ваш комментарий удалён, пишите по существу.
[Ответ][Цитата]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 9:50
Михайло, см. выше, по существу.
[Ответ][Цитата]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 10:48

Михайло и rrr3, тема недетрминированных алгоритмов слишком проста, чтобы там что-то долго обсуждать, понимать или не понимать. К тому же есть интернет, там всё написано, да и к моей статье это имеет косвенное отношение. Тем не менее если у вас есть какие-то вопросы, предложения или критика, то сформулируйте их, приведите цитаты, напишите как по-вашему, и такой пост не будет удалён. Просто же своё мнение писать не надо — оно, конечно, очень важно для меня, но на самом деле не очень.

Для «просто мнения», действительно, есть Флудилка. Если вам по существу сказать нечего, а сказать что-нибудь очень хочется, сразу туда и пишите.

[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 11:06
У меня по теме нечего говорить. И не надо ничего говорить. Смысл? Мы конечно родились в свободной стране, но мы свободны не только говорить, но и слушать.
[Ответ][Цитата]
Fakir
Сообщений: 228
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 15:57
Изменено: 03 ноя 17 17:25
Синхронно срабатывающие нейроны более "громкие". Более "громкое" обрабатывается в первую очередь... Имеем произвольное внимание. Попытки смоделировать непроизвольное внимание на этом форуме приведут к ОКОЛОфилософскому флуду.

ЗЫ - Ветка интересная. Пока без "попкорна".
ЗЗЫ - Время модификации 03.11.17 23:12 по Киеву (04.11.17 00:12 МСК) Чье время на сайте???
[Ответ][Цитата]
Валентин
Сообщений: 4536
На: Внимание в искусственных нейронных сетях
Добавлено: 05 ноя 17 5:15
Цитата:
Автор: гость Сознание нельзя свести к материи и взаимодействию, оно иное, это другая форма существования, субьективная, та которая воспринимает, а не воспринимается, не возможно из материи сделать сознание, но вероятно сознание может как бы "перейти" в новую материальную оболочку, для этого оболочка должна быть достаточно сложной.

ИМХО: И не надо! Сознание - это явление, состояние, обусловленное движением достаточно высокоорганизованной материи!
[Ответ][Цитата]
 Стр.1 (2): [1]  2След. > >>