GotAI.NET
Форум: Проблемы искусственного интеллекта
Регистрация
|
Вход
Все темы
|
Новая тема
Стр.1 (2)
След. >
>>
Поиск:
Автор
Тема: Внимание в искусственных нейронных сетях
44
Сообщений: 440
Внимание в искусственных нейронных сетях
Добавлено: 01 ноя 17 19:41
Недавно в какой-то ветке речь шла о внимании в нейронных сетях. В конце статьи по ссылке в общих чертах написано как это уже реализовано на практике. В целом роль внимания в ИНС такая же как в сетях биологических (
Внимание. Нейробиология
)
Азбука ИИ: «Рекуррентные нейросети».
[
Ответ
][
Цитата
]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 01 ноя 17 21:21
Идея: когда процессор считывает данные из ячейки памяти, то наверное это и есть проявление того, что мы называем вниманием?..
Чтобы у машины Тьюринга сместить "акцент внимания" надо подать команду перемещения ленты.
[
Ответ
][
Цитата
]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 0:42
Изменено: 02 ноя 17 0:50
Цитата:
Автор: Михайло
когда процессор считывает данные из ячейки памяти, то наверное это и есть проявление того, что мы называем вниманием?..
Чтобы у машины Тьюринга сместить "акцент внимания" надо подать команду перемещения ленты.
Внимание где имеется в виду? Так как вы не уточнили, то есть три варианта ответа — первые два про ИНС, третий про их природный аналог.
1. Совершенно верно, ведь речь об алгоритме.
2. Не совсем верно, так как речь всё же о недетерминированном алгоритме, и мы не знаем куда смотрит машина Тьюринга. Поэтому алгоритм, не алгоритм — а как живая.
3. Неверно. Биологическая сеть в высшей степени не алгоритм, так как в принципе не может быть к нему сведена сколько-нибудь точно.
О третьем варианте подробнее
здесь во вложении
в главе «Главный принцип». И отчасти ещё в главе «Другой уровень мышления».
[
Ответ
][
Цитата
]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 10:24
Изменено: 02 ноя 17 10:25
Недетерминированный алгоритм? Опять?
Божественная нейронная сеть? Это что за ё...?
[
Ответ
][
Цитата
]
гость
154.16.149.*
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 10:30
Сознание нельзя свести к материи и взаимодействию, оно иное, это другая форма существования, субьективная, та которая воспринимает, а не воспринимается, не возможно из материи сделать сознание, но вероятно сознание может как бы "перейти" в новую материальную оболочку, для этого оболочка должна быть достаточно сложной.
[
Ответ
][
Цитата
]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 10:40
Это нельзя свести к тому, то нельзя свести к этому. Детки, вы не похожи на математиков, сводящих одни математические объекты к другим. Давайте доказательства несводимости или сводимости. А то напостулировали, а доказать забыли.
[
Ответ
][
Цитата
]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 11:47
Изменено: 02 ноя 17 11:48
Цитата:
Автор: Михайло
Давайте доказательства несводимости или сводимости. А то напостулировали, а доказать забыли.
Где находятся доказательства «несводимости», я вам объяснил в предыдущем посте. Там же написано про недетерминированные алгоритмы.
[
Ответ
][
Цитата
]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 02 ноя 17 20:08
Изменено: 02 ноя 17 20:09
Извиняйте за критику.
Помните я говорил, что философия - это не наука, она не имеет собственного предмета, научных фактов, что она ворует все это у других наук и коверкает их по-своему. Так вот, это относится и к Вам. Вы понахватались верхушек с научно-популярной литературы и философствуете.
Смысл?
При этом вы еще делаете вредную работу: вы делаете умозаключения и ставите их в заголовки. Не надо делать умозаключения по верхушечным знаниям!
Недетерминированные алгоритмы, как я понял, Вы позаимствовали из области P/NP-полных задач. Типа это вероятностные алгоритмы + эвристические алгоритмы. Зачем придумывать свои термины? Чтобы пугать ими других, в том числе специалистов в этой области? Тем более эвристические алгоритмы не имеют ничего общего с вероятностными. Эвристика не имеет ничего общего с эврикой, процессом неожиданного открытия.
Возьмите пример любого эвристического алгоритма и проанализируйте. Эвристика - это уже открытый закон природы, известный, понятный. Он применяется в алгоритмах, которые потом называются эвристическими. Другими словами, эвристика - это когда у программиста имеются догадки, как можно быстро найти более-менее оптимальный маршрут коммивояжера, не делая
полный
перебор, и он воплощает эту идею в алгоритм... Алгоритм при этом никаких случайных поисков не осуществляет. А значит недетерминированностью тут не пахнет.
Доказательство невычислимости отсутствует. Пустословный заголовок.
[
Ответ
][
Цитата
]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 2:21
Изменено: 03 ноя 17 2:25
Во-первых, «доказательство невычислимости» основано на физических особенностях самоорганизации, которые в общих чертах описаны в главе «Главный принцип», далее в статье показано как эти особенности отразятся в практической плоскости при создании сложных систем и другие связанные с этим обстоятельства. Суть статьи, напомню, в том, что алгоритм, а также и вообще никакая система, созданная человеком, не может быть сложнее мышления человека и даже сколько-нибудь близко приблизиться к нему не получится.
Во-вторых, вероятностные алгоритмы не имеют к недетерминированным прямого отношения, хотя случайный выбор, повторы, эвристика — часть недетерминированного алгоритма. Цитата: «Поэтому на практике недетерминированный алгоритм — это некоторый эвристический метод, подразумевающий пробы и ошибки, повторы и случайный выбор. Как следствие, недетерминированный алгоритм не гарантирует — «не детерминирует» оптимальный результат и не имеет точного математического обоснования, из-за чего иногда выбор оказывается более успешным, иногда менее, если ответ далек от оптимального.»
Учитывая, что собственно по теме статьи вы ничего не написали, а с алгоритмами напридумывали, не читая текста, который критикуете, предлагаю вам попробовать ещё раз.
***
Цитата:
Автор: Михайло
Эвристика - это уже открытый закон природы, известный, понятный. Он применяется в алгоритмах, которые потом называются эвристическими.
Эвристика, эвристический метод — это не закон природы, тем более «понятный и известный», а наоборот, метод, который работает, но непонятно как.
Цитата:
Автор: Михайло
Другими словами, эвристика - это когда у программиста имеются догадки, как можно быстро найти более-менее оптимальный маршрут коммивояжера, не делая полный перебор, и он воплощает эту идею в алгоритм... Алгоритм при этом никаких случайных поисков не осуществляет.
Тут верно. Только догадки, а не точный маршрут, и есть недетерминированность. Например, в нейронных сетях «недетерминированность» воплощена в «догадках» при создании сети и обучении. Подробнее о чём написано в главе «Алгоритм нейронной сети».
[
Ответ
][
Цитата
]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 3:08
rrr3
, ваш комментарий удалён, пишите по существу.
[
Ответ
][
Цитата
]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 9:50
Михайло
, см. выше, по существу.
[
Ответ
][
Цитата
]
44
Сообщений: 440
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 10:48
Михайло
и
rrr3
, тема недетрминированных алгоритмов слишком проста, чтобы там что-то долго обсуждать, понимать или не понимать. К тому же есть интернет, там всё написано, да и к моей статье это имеет косвенное отношение. Тем не менее если у вас есть какие-то вопросы, предложения или критика, то сформулируйте их, приведите цитаты, напишите как по-вашему, и такой пост не будет удалён. Просто же своё мнение писать не надо — оно, конечно, очень важно для меня, но на самом деле не очень.
Для «просто мнения», действительно, есть Флудилка. Если вам по существу сказать нечего, а сказать что-нибудь очень хочется, сразу туда и пишите.
[
Ответ
][
Цитата
]
Михайло
Сообщений: 2366
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 11:06
У меня по теме нечего говорить. И не надо ничего говорить. Смысл? Мы конечно родились в свободной стране, но мы свободны не только говорить, но и слушать.
[
Ответ
][
Цитата
]
Fakir
Сообщений: 228
На: Внимание в искусственных нейронных сетях
Добавлено: 03 ноя 17 15:57
Изменено: 03 ноя 17 17:25
Синхронно срабатывающие нейроны более "громкие". Более "громкое" обрабатывается в первую очередь... Имеем произвольное внимание. Попытки смоделировать непроизвольное внимание на этом форуме приведут к ОКОЛОфилософскому флуду.
ЗЫ - Ветка интересная. Пока без "попкорна".
ЗЗЫ - Время модификации 03.11.17 23:12 по Киеву (04.11.17 00:12 МСК) Чье время на сайте???
[
Ответ
][
Цитата
]
Валентин
Сообщений: 4536
На: Внимание в искусственных нейронных сетях
Добавлено: 05 ноя 17 5:15
Цитата:
Автор: гость
Сознание нельзя свести к материи и взаимодействию, оно иное, это другая форма существования, субьективная, та которая воспринимает, а не воспринимается, не возможно из материи сделать сознание, но вероятно сознание может как бы "перейти" в новую материальную оболочку, для этого оболочка должна быть достаточно сложной.
ИМХО: И не надо! Сознание - это явление, состояние, обусловленное движением достаточно высокоорганизованной материи!
[
Ответ
][
Цитата
]
Стр.1 (2)
: [1]
2
След. >
>>
Главная
|
Материалы
|
Справочник
|
Гостевая книга
|
Форум
|
Ссылки
|
О сайте
Вопросы и замечания направляйте нам по
Copyright © 2001-2022, www.gotai.net