Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (2) След. > >>    Поиск:
Автор	Тема: Нейрон не проводит электричество!
Вася Сообщений: 180	Нейрон не проводит электричество! Добавлено: 17 апр 08 18:20 А я всю жизнь считал, что цитоплазма (солевой раствор) есть проводник электрического тока, и что скорость распространения сигнала в нейросетях ограничивается только диффузией в синапсах, а нейрон проводит сигнал от синапса к синапсу со скоростью света. Ан нет! Потенциал действия (wikipedia) Оказывается, телеграфный способ передачи инфы тут не подходит, ибо электрическое сопротивление солевых растворов на 7-8 порядков выше, чем в металлах. Клетка не может позволить себе такие огромные напряжения. Абсолютно невыгодно. Но природа выкрутилась! Сигнал распространяется по мембране в виде волны возбуждения, по принципу падения костяшек домино. За счёт этого возникает эффект "выключения": нужно время, чтоб снова "поднять костяшки домино" - перезарядить мембрану. Отсюда возникает масса вычислительных особенностей нейросетей. Например, если бы нейрон пассивно пропускал ток при любом напряжении, проходили бы все сигналы, полученные с синапсов других клеток. А благодаря задержке на восстановление, возникает такой замечательный эффект: Допустим, есть нейрон, и на него почти одновременно приходят два сигнала с двух других нейронов. Сигнал, пришедший первым блокирует прохождение второго сигнала! Временная разница между их поступлением может быть ничтожна. И отсюда вытекает гипотетический алгоритм возникновения условных рефлексов. Изменяя концентрацию ионных насосов на мембране, второй нейрон может ускорить пропускание своего сигнала, который теперь придёт первым. То же самое достигается изменением длины аксонов. То есть, ничтожное усиление экспрессии некоторого ансамбля генов, приводит к изменению результатов вычислений. Почему я об этом пишут? Потому что я раньше думал, что влияние на вычисления оказывают лишь изменения связей меж нейронами и изменения концентраций в медиаторах. А оказывается, что существуют ещё и чисто мембранные инструменты работы с информацией. А это может оказать некоторое влияние на теорию ИНС. Впрочем, всё это гипотезы, я пока не читал "От нейрона к мозгу". [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 17 апр 08 19:15 Цитата: Автор: Вася А я всю жизнь считал, что цитоплазма (солевой раствор) есть проводник электрического тока, и что скорость распространения сигнала в нейросетях ограничивается только диффузией в синапсах, а нейрон проводит сигнал от синапса к синапсу со скоростью света. Ан нет! Конечно, это же вам не металлические провода с низким удельным сопротивлением. Электротоническое распространение потенциала по аксону бысто затухает. Это определяется параметром - постоянной длины мембраны. При этом импульсное распространение характеризуется скоростью порядка 120 м/с для миелинизированных волокон, а вовсе не скоростью света А для немиелинизированных - и того меньше. [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 17 апр 08 19:17 Цитата: Автор: Вася Почему я об этом пишут? Потому что я раньше думал, что влияние на вычисления оказывают лишь изменения связей меж нейронами и изменения концентраций в медиаторах. А оказывается, что существуют ещё и чисто мембранные инструменты работы с информацией. А это может оказать некоторое влияние на теорию ИНС. Видете ли, "веса связей" придуманы математиками, которые пока не могут придумать что-то более интересное Кроме "весов" есть еще и "порог", который как правило математики не используют, считая, что он = 0. А порог - это фактически чувствительность мембраны к перезарядке. И эта чувствительность может меняться, причем во времени, причем разных участков мембраны (а не толко аксонного холмика), причем в зависимости от сигналов других нейронов. Это в свою очередь может модифицировать не только пространственные, но и временные параметры нейрона. [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 17 апр 08 19:18 Цитата: Автор: Вася Впрочем, всё это гипотезы, я пока не читал "От нейрона к мозгу". Вам эта книга много не даст, т.к. там очень много нейрохимии, которую вы замучаетесь изучать. А в результате все равно не сможете разработать модель нейрона адекватную реальному. Это имхо, но судя по своему опыту, думаю, что я прав Там есть интересные моменты, но их немного и их еще нужно увидеть. [Ответ][Цитата]
Вася Сообщений: 180	На: Нейрон не проводит электричество! Добавлено: 17 апр 08 23:08 Virtual_Graph >При этом импульсное распространение характеризуется скоростью порядка 120 м/с для миелинизированных волокон, а вовсе не скоростью света А для немиелинизированных - и того меньше. 0.1 – 150 м/с – три с лишним порядка разницы, нормальный такой разброс. Видимо неспроста. Если рассматривать только мозг, нужно отбросить эффект миелинизирования, останется порядка полтора диапазона, в пределах которого каждый нейрон волен управлять скоростью передачи. >И эта чувствительность может меняться, причем во времени, причем разных участков мембраны Ага, причём, как быстро, но временно (химическая стимуляция/блокировка ионных насосов, эффект - порядка секунды, длительность – минуты или часы), так и медленно, но надолго (увеличение количества ионных насосов на единицу площади мембраны, эффект – часы, длительность – почти неограниченная). >причем в зависимости от сигналов других нейронов Кстати, сигналы эти могут приходить не только по синапсам, но и за счёт выброса гормона в межклеточное пространство, влияющего на соседние нейроны. (Бывает такое?) >Вам эта книга много не даст, т.к. там очень много нейрохимии, которую вы замучаетесь изучать. Да я и не спешу её читать, генетика пока интересней. А что касается нейрохимии, то я её не боюсь, ибо она часть биохимии, в которой я, к счастью, уже разбираюсь. Мне в этом смыле повезло: в 11м классе я посещал хим-школу при Менделеевском, куда поступать всё же передумал, но учат там фантастически! Хоть сейчас нарисую какой-нить 3-метилизобутанолпентан-12 натрия, и расскажу о его хим свойствах >А в результате все равно не сможете разработать модель нейрона адекватную реальному. А это и вовсе пустяк, главное принципы ухватить, полный набор эффектов, достаточный для реализации возможностей мозга, а построить по ним приблизительное что-то – это другой этап работы, базовая модель может измениться, нам ведь важней удовлетворить потребностям реальных задач, и копирование принципов не исключает сотворчества и доизобретения. А в целом, я осознал, что ИНС не ближе к нейросетям, чем ГА к генетике. То есть, ИНС и ГА – предельно простые модели, не решающие тех задач, которые решаются природными прототипами. ИНС не умеют думать, ГА не умеют конструировать новое. То есть, я и раньше это знал, но в литературе и в статьях, посвящённым ГА и ИНС, слишком много уделяется внимания формальному их внутреннему усложнению, но мало говорится о снятии с природы альтернативных моделей, эксплуатирующих отличные свойства прототипов. Мне второй путь кажется продуктивней. То есть, если хотя бы половина учёных, ковыряющих классические ИНС и ГА, повернулись бы в поисках нового к природе, как это сделали в своё время Холланд и... (кто там ИНС изобрёл?), то в исследованиях ИИ наступил бы золотой век. [Ответ][Цитата]
shuklin Сообщений: 2053	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 0:09 А теперь примерно оцените при такой скорости функционироания сколько нейронов в состоянии успеть сработать чтобы обеспечить распознавание видеоряда со скоростью до 24 кадра в секунду. [Ответ][Цитата]
Вася Сообщений: 180	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 0:33 Да они там не парятся на этот счёт. Уловила палочка или колбочка фотон, а мембрана её нейрона не успела перезарядиться - значит пропал фотон. Если кадры идут реже, чем 24/сек, - заметно мерцание. Значит, 1/24 секунды - это то время, за которое перезаряжается большинство нейронов сетчатки. А если чаще, вплоть до непрерыного, - в мозг передаётся максимум инфы, нейроны не простаивают. [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 13:32 Цитата: Автор: Вася 0.1 – 150 м/с – три с лишним порядка разницы, нормальный такой разброс. Видимо неспроста. Если рассматривать только мозг, нужно отбросить эффект миелинизирования, останется порядка полтора диапазона, в пределах которого каждый нейрон волен управлять скоростью передачи. Для скорости передачи - это просто физика, которая описывает эти процессы простыми уравнениями. Например, чем больше диаметр волокна, тем больше скорость. Чем хуже диэлектрик (миелин), тем меньше скорость и т.д. У кальмара толщина аксона - 1 мм, поэтому скорость проведения большая. Внутри черепной коробки нет столько места, аксоны тонкие, поэтому миелиновые и т.д. И уж скоростью распространения нейрон никак не управляет - это физика волокна, частотой же своей импульсации может - это верно. [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 13:33 Цитата: Автор: Вася Кстати, сигналы эти могут приходить не только по синапсам, но и за счёт выброса гормона в межклеточное пространство, влияющего на соседние нейроны. (Бывает такое?) Есть что-то подобное, это довольно древний механизм, который не может играть доминирующей роли в ЦНС. Это как обоняние у человека Цитата: Автор: Вася А это и вовсе пустяк, главное принципы ухватить, полный набор эффектов, достаточный для реализации возможностей мозга, а построить по ним приблизительное что-то – это другой этап работы, базовая модель может измениться, нам ведь важней удовлетворить потребностям реальных задач, и копирование принципов не исключает сотворчества и доизобретения. С эти согласен, главное - принципы. Вопрос в том, как их ухватить. А еще - все равно нужен кирпичик - нейрон, из которого можно строить любые здания (как процессоры из И-НЕ, ИЛИ-НЕ). [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 13:34 Цитата: Автор: Вася А в целом, я осознал, что ИНС не ближе к нейросетям, чем ГА к генетике. То есть, ИНС и ГА – предельно простые модели, не решающие тех задач, которые решаются природными прототипами. ИНС не умеют думать, ГА не умеют конструировать новое. То есть, я и раньше это знал, но в литературе и в статьях, посвящённым ГА и ИНС, слишком много уделяется внимания формальному их внутреннему усложнению, но мало говорится о снятии с природы альтернативных моделей, эксплуатирующих отличные свойства прототипов. Мне второй путь кажется продуктивней. То есть, если хотя бы половина учёных, ковыряющих классические ИНС и ГА, повернулись бы в поисках нового к природе, как это сделали в своё время Холланд и... (кто там ИНС изобрёл?), то в исследованиях ИИ наступил бы золотой век. Поддержка и респект [Ответ][Цитата]
daner Сообщений: 4593	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 14:19 Цитата: Автор: Вася если хотя бы половина учёных, ковыряющих классические ИНС и ГА, повернулись бы в поисках нового к природе, как это сделали в своё время Холланд и... (кто там ИНС изобрёл?), то в исследованиях ИИ наступил бы золотой век. Достаточно и того процента, что есть на сегодня. Хотелось бы заметить, что прорывом в нейро-сетях, было не изобретение Перцептрона Розенблаттом (ну т.е. конечно не без этого), а именно способ обучения (а конкретно обратное распространение ошибки) придуманный много позже. И именно с изобретения этого способа (который совершенно не имеет никакого отношения к реальным процессам природы) начался "золотой век" нейронных сетей. Я не устаю приводить пример с авиастроением и птицами. Да, сам принцип крыльев был взят у птиц. Были попытки как можно ближе подойти к природе и создать нечто машущее крыльями, но разве это дало прогресс в авиастроении??? Конечно НЕТ. И заметьте, сейчас никто даже не пытается копировать птиц (хотя думаю что это вполне возможно, так как знания полученные учеными при изучении аэродинамики в авиастроении позволили изучить принципы полетов птиц так, как просто биологи сроду бы не смогли сделать). Зачем нужно сейчас создавать "махолет" если он даже теоретически не сможет развивать таких скоростей или поднимать такие тяжести, которые требуются "на рынке". Зачем изобретать "точную" модель нейрона -- если нет способов его обучения. Я не отрицаю, что возможно когда-нибудь наука придёт именно к этому способу, но сделает она это с пониманием как потребности, так и способов применения. [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 16:30 Цитата: Автор: daner Я не устаю приводить пример с авиастроением и птицами. Да, сам принцип крыльев был взят у птиц. Были попытки как можно ближе подойти к природе и создать нечто машущее крыльями, но разве это дало прогресс в авиастроении??? Конечно НЕТ. И заметьте, сейчас никто даже не пытается копировать птиц (хотя думаю что это вполне возможно, так как знания полученные учеными при изучении аэродинамики в авиастроении позволили изучить принципы полетов птиц так, как просто биологи сроду бы не смогли сделать). Зачем нужно сейчас создавать "махолет" если он даже теоретически не сможет развивать таких скоростей или поднимать такие тяжести, которые требуются "на рынке". Это все верно и пример красивый, но не все так однозначно. Вопрос звучит так: где заканчивается "махание крыльями" в случае моделирования нейрона, при условии, что "крылья" все-таки должны остаться? Где провести эту грань? Похоже, на эти вопросы пока нет ответа. Хотя Ваша "грань", Данер, понятна. Цитата: Автор: daner Зачем изобретать "точную" модель нейрона -- если нет способов его обучения. Я не отрицаю, что возможно когда-нибудь наука придёт именно к этому способу, но сделает она это с пониманием как потребности, так и способов применения. По поводу точности - см. выше. В данном случае "точность" - понятие субъективное. А без способов обучения действительно никак. Но кто говорит, что их быть не должно? Их можно придумать уйму, только конечно Back Prop не имеется виду. [Ответ][Цитата]
daner Сообщений: 4593	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 19:15 QUOTE Автор: Virtual_Graph Цитата: Это все верно и пример красивый, но не все так однозначно. Вопрос звучит так: где заканчивается "махание крыльями" в случае моделирования нейрона, при условии, что "крылья" все-таки должны остаться? Где провести эту грань? Похоже, на эти вопросы пока нет ответа. Хотя Ваша "грань", Данер, понятна. Если вам понятно, так расскажите, а то мне и самому интересно было бы узнать. Только прежде, замечу, что я не говорил, что на природу вообще смотреть не надо, я только сказал, что не надо в нее упираться. Цитата: По поводу точности - см. выше. В данном случае "точность" - понятие субъективное. А без способов обучения действительно никак. Но кто говорит, что их быть не должно? Их можно придумать уйму, только конечно Back Prop не имеется виду. Понятно дело, что не имеется. Вот только совсем не согласен, что "Их можно придумать уйму". т.е. можно, но не так просто как кажется (хотя может у вас какой ноу-хау есть...) [Ответ][Цитата]
Virtual_Graph Сообщений: 594	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 20:03 Цитата: Автор: daner Если вам понятно, так расскажите, а то мне и самому интересно было бы узнать. Только прежде, замечу, что я не говорил, что на природу вообще смотреть не надо, я только сказал, что не надо в нее упираться. Основные точки грани Вашей модели нейрона: - настраиваемые веса связей; - фиксированный порог; - градиентный алгоритм настройки весов типа ВР. Это и есть формальный нейрон (ФН) - всем известный. За кадром остаются: - другие пространственные параметры нейрона; - временные параметры нейрона; - алгоритм настройки параметров порога; - алгоритмы настройки других параметров нейрона; - алгоритмы модификации структуры связей НС. Это подход к моей грани. Большего пока не скажу, ноу-хау знаете [Ответ][Цитата]
daner Сообщений: 4593	На: Нейрон не проводит электричество! Добавлено: 18 апр 08 21:11 QUOTE Автор: Virtual_Graph Цитата: Основные точки грани Вашей модели нейрона... Моей???????? Ну вы даете. Никогда не говорил, что нужно останавливаться на модели Розенблатта. Наоборот, очень даже приветствую разные другие подходы, включая и Temoporal Neuron Model и другие (в прочем, я в них не ах какой спец). Вот только их обсуждение обычно идет, не на основе "А это кто в короткой маечке? Я, Вань, такую же хочу!", а на основе "Добавление Х возможности в модель нейрона позволяет А,Б,В и Г". [Ответ][Цитата]
Стр.1 (2): [1]  2 След. > >>