Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.4 (23) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Я сегдня вот что подумал:
гость 78.25.121.*	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 4:28 Часть 2. Если вернуться на минуту к логике мозга-системы и надсистемы, то кажется перспективным построить изложение 'общих' идей вокруг системной логики соотношения когнитивных-ресурсных-регуляционных (координативных и субординативных) аспектов, чтобы 'треугольник' стимулы-эмоции(маркировка образов)-реакции отражал динамику общесистемного статуса (ресурсы, резервы, риски (расход запаса), напряжение (расход ресурсов)) - особенно с учетом новых этажей логики когда психонервное становится рефлексивным, сознательным, размышляющим и волящим (волютивным, самодетерминирующим). Без общесистемной логики трудно перейти от общих рассуждений о 'цц. рая и ада' и 'цируляциях' (вещах почти самоочевидных) к мал-мальски содержательному описанию того как самоорганизуется система регуляции, мотивационно-потребностная система, как формируется регуляция регуляции, регуляция мотивационных конфликтов, В ЧЕМ СМЫСЛ разнообразных циркуляций (в когнитивной подсистеме, в эмоциогенной подсистеме, в моторной подсистеме, в их кооперациях), как именно формируется состояние адресного регистра для доступа к ассоциативной памяти (ассоциация понятие многоуровневое), как формируются контекстуальные системы памяти, какова структура эмоциональных маркеров, вообще как формируется и функционирует оценочно-активирующая система (особенно кортикальное (старо- и новокортикальный) звено эмоционального анализатора), из чего складывается важность (сила) образа, какова механика принятия решения (в модели ФС, как реально работают анохемы), построения движения и действия. Одна из ваших ключевых идей - это что когда антиципационная схема (модель стимула), схема, ожидающая (предактивированная) ввод насыщается инпутом ('насытилась данными сенсорного регистра'), но если при этом сенсорный регистр содержит 'незахваченное', причем такое, что оно не вызывает включение схемы ориентировочного рефлекса (приводящему к обязательной интерпретации стимула на той или иной схеме (обобщенной или специфической)), то оно, это непроинтерпретированное, переходит в некоторое промежуточное состояние, захватывается некоторой схемой рециркуляции активности (непроинтерпретированной информации), чтобы постфактум, после некоторого времени придать то или иное нейробиологическое значение (+-) этому фрагменту стимульных данных и соотв. образом модифицировать оценки контекстуально связанных с ним объектов (которые были индентифицированы). Это здравое представление некоторого аспекта общей динамики информации, причем этот аспект логики ретроградного распространения значимости имеет известные формализации в нейродинамическом программировании, вообще это стандартная проблема т.н. обучения с подкреплением (отложенным) (как именно менять оценки по цепочке чтобы система вцелом сохранила устойчивость, не возникло некорректных переоценок). Вцелом, сложность механики торможения-возбуждения и позитивной-негативной оценки (эмоции) не подразумевает однозначного соответствия положительное-тормозное и отрицательное-возбудительное, что отражает нейрокибернетика медиаторных систем и сверхсложное устройство лимбико-ретикулярного комплеса (ЛРК). В частности, нужно отчетливо понимать, что эмоциональное состояние только в одном отношении характеризуется знаком, важна еще сила и напряженность эмоции, что эмоция зависит от силы потребности и динамики оценки вероятности-возможности ее удовлетворения. Общая логика эмоциональной регуляции крайне сложна. Cистемных сюжетов тут очень много, пока единой модели нет (вероятно к 'единой' модели можно прийти только путем эволюционного синтеза воплощенной подсистемы оценки-регуляции). Скажем, если негативная эмоция оказывается слабее ожидаемой, то объект получает дополнительный позитивный маркер (можно потерпеть при случае), или, напр., если в мотивационном конфликте сталкиваются два позитивно-валентных объекта, то общая ситуация конфликта получает негативную маркировку, причем ее исход, приведший к недополучению пользы, может ретроградно позитивно откорректировать оценку в смысле необходимости более аккуратного взвешивания альтернатив этого сорта в будущем (ситуация маркируется нейрознаком 'внимание' (активаторный (тонический, стенический) аспект эмоции) (а не избегать выбора из позитивных возможностей). 'Тупиковое' состояние (не приведшее к позитивной разрядке, удовлетворению) в общем случае не обязательно рассматривать как негативное, мозгу 'целесообразнее' иметь возможность сохранять 'нейтральную' память о чем-то, что сопровождало полезное или опасное, но связь чего с ними не была установлена - в общем случае может потребоваться просто большее время для выявления важной связи. Эти следы не обязательно активно деструктуировать, их можно вытормозить, но без негативного фона. если отложенное перегрузить негативной оценкой, то для его активации для когнитивной обработки может потребоваться неадекватно сильная мотивация (при воспроизводстве прежней ситуации память может дать промах - непроинтерпретированное (опять) может не быть проинтерпретированным как-уже-воспринимавшиеся, нарушая логику набора статистики. (есть развязки в кибернетике эмоций - что снимает тормоз, не обязательно снимает негативную оценку, а что может переписать оценку, то требует предварительного растормаживания). (У вас есть неоднозначность - цикл (циклическое состояние) без развития маркируется негативно или цикл гаснет (вытормаживается) без оценки - нужно четко сказать, что возможны оба механизма. Возможно, что след-энграмма как таковой не закрепляется (разрушается). Важно оговорить, что и как регулирует выбор мнемомеханизма в той или иной ситуации.) Ваши соображения о фокусе внимания - как того, 'куда' попадает непроинтерпретированное (с чем связано понимание сознания как обощенного, генерализованного ор.рефлекса, как универсального поглотителя ошибок, пропусков ассоциативной памяти) вполне здраво - это гораздо, правда, 'инженернее' изложил Хокинс в своей нашумевшей модели класса память-прогноз НTM (фокус резидирует в гиппокампе, ясно, что это довольно грубо без рассмотрения интеграций гиппокампа со старой корой (поясом) и ассоциативными фокусами (лоб и темя) неокортекса, при этом 'гиппокампальный алгоритм' отличается от 'кортикального'). У Хокинса многого нет, неадекватно описано как синтезируется мотопрограмма, как контролируется ее исполнение (нейроциклоалгоритмы на базальных ганглиях и мозжечке) (и можно указать на гибрид HTM+SOM) и неадекватно представлен механизм маркировки, который вы сделали попытку представить явно. Про 'эмоциональные' рефлексы у нас недавно писал Редозубов, но вы соединили идеи об эмоциональных механизмах с идеей циркуляции. О глобальной схеме гетероассоциативного соединения двух интегральных автоассоциативных модулей ('полушарий') весьма 'инженерно' писал Радченко. Весьма детальную архитектурную схему дают Раппопорт-Герц, накладывая общесистемную логику открытой компьютерно-информационной системы на морфологию мозга (интересно, что они трактуют базальные ганглии как супервизор моторного программирования). Интересную архитектуру ассоциативной памяти-процессора (АПП) с явным представлением операционого фокуса рабочего пространства и ссылкой на логику эмоций дает Вайнцванг (о 'важности' как маркере образов писал Бонгард (классическая система 'Животное')). (Вы не указали, на каких авторов вы опирались, упомянутые авторы могут представлять для вас интерес.) теперь несколько беглых замечаний. материал о коннектоме вы просто не поняли. Речь идет, в частности, о том, как именно работает нейропиль (мелкая структура фиброархитектуры), особенно если подразумевать некие коллективные процессы (самоорганизация токов, потенциалов и пространственных волн), которые управляют режимами функционирования больших регионов (кортикальных и субкортикальных) и конфигурируют доступ к ассоциативой памяти (зависимость импенданса структуры от частоты). говоря о 'нейронах бабушки' (нашумевшие нейроны Симсонов), нельзя не упомянуть что эти высокоселективные нейроны не единичны (не по нейрону на образ) и что есть предел редукции числа репрезентирующей популяции - это и МОЯ бабушка и ИМЕННО бабушка (имя предмета образа) - всегда есть динамическая связанность образ-имя-смыслозначение. И в этой связи проблему связывания очень имеет смысл понимать и в смысле самоорганизации интракортикальных и межполушарных связей и в смысле самоорганизации системы ядер таламуса (неидентифицированное из гиппокампа постепенно вытесняется и 'кристаллизуется' в таламо-кортикальных микросистемах, особенно в аспекте как многообразие эмоциональных процессов, связанное с данным образом откристаллизовывается в высших центрах эмоциональной интеграции (в поясе и медиобазальной и орбитальной фронтальной коре). Еще раз хочется отметить важность представлений (и ваших в т.ч.) о глобальных циркуляторных (циркуминдуктивных) процесcах - представоение о том, что прогнозы постоянно посылаются в сенсорный поток и именно это является основой 'понимающего' интеллекта-сознания уже давно стали общим местом (Эдельмен, Иваницкий, Сергин, Хокинс и мн.др.). тут речь должна идти уже об архитектурных гарантиях устойчивости полиморфного глобального цикла и структуре его инвариантов. недостатком позиции Кавила является то, что автор не вполне осознает неполноту своих представолений (хотя высказываемое есть довольно важное и существенное) и не обозначает связи своих представлений как с более детальными, так и описывающих предмет на иных языках и в иных аспектах (скажем, весьма важно иметь в виду нейросинергетические представления (включая и представления о самоорганизованной критичности в нейродинамике)). [Ответ][Цитата]
ЭСГТР Сообщений: 8461	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 4:52 Изменено: 23 мар 14 6:44 Цитата: Автор: ковип Блин!!! Вы с понятием адаптация знакомы? Адапта́ция (лат. adapto — приспособляю) — процесс приспособления к изменяющимся условиям внешней среды. В вашем понимании это нечто другое? Тогда не вижу смысла продолжать разговор. Вы видимо имеете в виду организм? Так его не в состоянии приспособить мозг... и в этом вы убедитесь, но надеюсь не скоро . Единственно что есть в организме и приспосабливается это генотип, а точнее набор хромосом. Мозг занят приспособлением генотипа к окружающей среде т.е. его существование (генотипа) является целеполаганием мозга и организма в целом, являющимся плодовым телом генотипа. Хромосомы таким сложным образом себя приспосабливают, и заодно, их разумная форма меняет окружающую среду придавая и ей тоже разумную форму. [Ответ][Цитата]
daner Сообщений: 4602	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 5:16 Цитата: Автор: ковип Разговор с более умным, он знаете ли обогащает. А с дураками пустая трата времени. поэтому, не вижу смысла с вами общаться. [Ответ][Цитата]
ЭСГТР Сообщений: 8461	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 6:38 Изменено: 23 мар 14 6:47 Цитата: Автор: ковип Вот здесь я более чем согласен. Но, в таком случае, не мешало бы уточнить, что т.н. подсознание растёт и развивается, только и только лишь, через сознание. Кстати в моём опусе это описано. Но,боюсь у нас разные определения этих сущностей. Дайте определения, того и другого посмотрим. Могу добавить что процессом переноса информации из сознания в подсознание занято (отведено) 70% КГМ. Сознание - http://egtr.ru/forum/viewforum.php?f=125&sid=a3b5376f51124a4299c686a3a980d2c5 [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 8:11 Цитата: Автор: гость ковил> небольшой комментарий по существу. именно, что ковил являет вцелом мал-мальски важное (дает повод прослушать (лишний раз) и проговорить нечто хоть немного существенное (как кажется)). Часть 1. (после части 2 прокомментируем комментарии.) думается, что вопрос 'Как работает мозг' адекватнее трактовать в духе 'как мозг cтал работоспособным'. Понять сложное по-адекватнее можно на основе рассмотрения истории становления структур и функций. тем более, что есть различие между тем, как работает мозг 'созревший', и как работает мозг в процессе созревания (филогенетического и онтогенетического). Cкажем, можно видеть наглядно, что несформировавшийся мозг работает иначе, чем в зрелом состоянии - как формируются ритмы (с их значением), как формируется система регуляции (внимание, воля). При обучении мозга языку и, скажем, сознанию работа его изменяется. тут речь о понимании тонкостей процесса дифференциации и реинтеграции. На сколько я знаю, принципиально, ни какой мозг не выходит за рамки основных принципов органтзации информации. Конечно растущий и угасающий мозги работаю немного не так. Но, на мой взгляд, это проблема его пластичности. Точнее организация новой системы, в изменяющихся структурах. Различие двух фаз р.и с.отличается только тем, что у растущего информационное поле растёт а у деградирующего убывает. Но,это кажется для ИИ неважно. У него то ,скорее всего, точно меняться ничего не будет. В период начального обучения когда информация усваивается импликационно, соответствующие части можно заполнять параллельно. Но, наверное, это очень короткая фаза и большого выигрыша во времени не даст. Есть 'большая триада' - мозг-интеллект-сознание. Мозг 'без сознания' работает иначе (проявляет иной 'интеллект') чем 'мозг с сознанием'. Понятие 'нестандартная имплементация' (есть и конкретизации этого понятия) обозначает эту самую ситуацию, когда 'установка сознания на мозг' приволит к качественному изменению его работы. Как бы когда программы (напр. использования языка) изменяют работу структур на которые они инсталлируются (новые структуры реорганизуют базис усвоения языка, формируя собственный базис для 'рабочих' проявленний). Т. н. сознание включится когда, будет достаточно информации для построения смыслов.Понятно выразился? По точнее можно понять, по поисковому запросу "монета" Поэтому ваше ЖЕСТКОЕ разведение того что 'есть' на уровне сознания и что есть на уровне мозга кажется неадекватным предмету. Скажем, вы критикуете понятие 'сравнения', сводя его к понятию cуммирования. Но тем самым вы СВЕРХУПРОЩАЕТЕ - нейрореальность не сводится к уровню отдельных нейронов/центров, к пороговой логике и мажорированию центров положительного и отрицательного подкрепления - какой центр выйдет 'победителем', станет доминирующим, погасит (или нейтрализует) активность сопряженных центров. Нейрореальность можно понимать в ФУНКЦИОНАЛЬНЫХ терминах, на функциональномуровне, в терминах нейрооператоров. В частности нейрокомпараторов (операторов сравнения) (очень многое продвинуто можно изложить на языке нейрофильтров (адаптивных, самосогласующихся, самоорганизующихся) - модель грохота-сепаратора слишком груба). Нейрооператоры построены из нейронов, но их логика уже не сводится к логике низкого уровня (а для сложных форм 'нестандартной имплементации' вообще говоря и смысла нет выделять некией уровень в качестве фундаментально базового). Грубо говоря, конструировать 'мозг' можно не набором отдельных нейронов и самоорганизацией каши, а самоорганизацией протоцепей нейрооператорных 'закладок' (и в эволюции мозга не было момента чтобы не было тех или иных закладок - диффузная сеть/агрегат стала ганглием именно на закладках структуры скопления). "Ты не мудри, ты пальцем покажи" Во первых, создание особых структур, на основе генной информации не возможно, принципиально. А если это получается эволюционно во время обучения, то беспокоиться не о чем. Всё само по себе устроится. Cкажем, вам представляется, что 'сравнение' это несобственная операция мозга (мол, это только так кажется сознанию с его упрощенными моделями сравнения по признакам), но с другой стороны, ведь ДОЛЖНО представлять дело так, что мозгу 'имеет смысл' выявлять ФАКТОРЫ несоответсвия, т.е. сравнение можно рассматривать как его собственную задачу (для мозга не 'филогенетически первичного', а уже закрепившего в своей генетике полезность идентификации факторов несовпадения, несответствия, неудовлетворения, неугашения). Чтобы именно нейродескрипторы этих факторов вырабатывали реакцию, модифицировали действующую программу (активность). Опять мудрствуете. Просто представьте суть процесса сравнения. Ивы увидите, что ни каких особых структур не надо. В принципе, сравнение как и выбор, функция сознания. Чтобы мозг КАК СИСТЕМА был погружен не в логику нейронов/центров, а в логику нейрооператоров - чтобы различал состояния что было (А), что стало (В) и что должно было стать (С), - формируя сравнения А/В на компараторе К1, cравнение В/C на компараторе К2, сравнение К1/К2 на компараторе К12, осуществляя прогноз что должно стать из нового состояния что есть (D(B)) и сравнение С/D на компараторе К3 и вырабатывая управление U(К12,К3). Можно говорить о непрерывной коррекции прогноза, текущего состояния и управления, но логика ЦИКЛОВ (циклические нейроалгоритмы), логика РИТМОВ приводит к ФАЗОВОМУ представлению процесса, непрерывность распадается на фазы, что оправдывает логику нейроооператоров не как чистых фикций, а как моментов нейрореальности (т.е. ТОЛЬКО логики нейронов/ центров недостаточно, структура соединений нейронов/центров отражает логику операторов (функций)). Да откуда же логика в автомате? Мозг состоит из идентичных элементов. У них специализации от природы, нет. Вы образно представьте ту галиматью, которую наговорили. Это не компьютер здесь нет программ. Это самоорганизующаяся система. И она, функционально, не может быть сильно усложнена. Бога, нет. Потому, есть только отношение между путями образующими рабочую область. То есть архитектура конектомов. Однако, вы 'превосходите сами себя' - ДОСТОИНСТВО вашего представления в том, что вы видите эту иерархию нейроны/центры - рефлексы - функциональные системы - фазовые последовательности/циклы/циркуляции/циклические коды/коды МЕЖСИСТЕМНЫХ отношений - уровень виртуального контроллера (самоуправления) ((само)сознания). Особенно замечательно, что вы понимаете недостаточность рефлексологических схем, даже расширенных с понятия о дуге на понятие кольца (дуплексной дуги) и динамического стереотипа. Вероятно, вы чувствуете, что в моделях сложных рефлексов и функциональных систем психических деятельностей (т.н. ФСПД) представление того, как же работает мозг-интеллект с сознанием (как работает мыслящий мозг) весьма неадекватно (особенные трудности ФС-модели испытывают при описании формирования рече-мыслительных механизмов). тут важно понимать несводимость (нередуцируемость) этой иерерхии. Напишите ка вы, определения сознания и интеллекта. По моему, мы говорим, совершенно, на разных языках. О структуре мозга можно судить по устройству его у различных животных. А, об уровне интеллекта по их способностям. Вы в курсе что вороны способны к абстрактному счёту? Т.е. читают и понимают знаковую запись. Ваше достоинство в соединении существенных понятий - внутреннего отображения (репрезентации), cвязывания (ассоциации), маркировки (функциональное связывание репрезентации и 'маркирующего' центра), циркуляции активности (циклически организованных процессов-программ). Можно отметить только слабость понятия репрезентации, нейрооператора (в частности нейрокомпаратора) и невыраженность понятия СХЕМА (инвариант). ваше изложение более интересно чем пресловутый 'пакет категорий' мастера солянки (недостаточный в еще большей степени чем ваше представление). [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 8:23 Изменено: 23 мар 14 8:40 Цитата: Автор: гость Часть 2. Если вернуться на минуту к логике мозга-системы и надсистемы, то кажется перспективным построить изложение 'общих' идей вокруг системной логики соотношения когнитивных-ресурсных-регуляционных (координативных и субординативных) аспектов, чтобы 'треугольник' стимулы-эмоции(маркировка образов)-реакции отражал динамику общесистемного статуса (ресурсы, резервы, риски (расход запаса), напряжение (расход ресурсов)) - особенно с учетом новых этажей логики когда психонервное становится рефлексивным, сознательным, размышляющим и волящим (волютивным, самодетерминирующим). Без общесистемной логики трудно перейти от общих рассуждений о 'цц. рая и ада' и 'цируляциях' (вещах почти самоочевидных) к мал-мальски содержательному описанию того как самоорганизуется система регуляции, мотивационно-потребностная система, как формируется регуляция регуляции, регуляция мотивационных конфликтов, В ЧЕМ СМЫСЛ разнообразных циркуляций (в когнитивной подсистеме, в эмоциогенной подсистеме, в моторной подсистеме, в их кооперациях), как именно формируется состояние адресного регистра для доступа к ассоциативной памяти (ассоциация понятие многоуровневое), как формируются контекстуальные системы памяти, какова структура эмоциональных маркеров, вообще как формируется и функционирует оценочно-активирующая система (особенно кортикальное (старо- и новокортикальный) звено эмоционального анализатора), из чего складывается важность (сила) образа, какова механика принятия решения (в модели ФС, как реально работают анохемы), построения движения и действия. Одна из ваших ключевых идей - это что когда антиципационная схема (модель стимула), схема, ожидающая (предактивированная) ввод насыщается инпутом ('насытилась данными сенсорного регистра'), но если при этом сенсорный регистр содержит 'незахваченное', причем такое, что оно не вызывает включение схемы ориентировочного рефлекса (приводящему к обязательной интерпретации стимула на той или иной схеме (обобщенной или специфической)), то оно, это непроинтерпретированное, переходит в некоторое промежуточное состояние, захватывается некоторой схемой рециркуляции активности (непроинтерпретированной информации), чтобы постфактум, после некоторого времени придать то или иное нейробиологическое значение (+-) этому фрагменту стимульных данных и соотв. образом модифицировать оценки контекстуально связанных с ним объектов (которые были индентифицированы). Это здравое представление некоторого аспекта общей динамики информации, причем этот аспект логики ретроградного распространения значимости имеет известные формализации в нейродинамическом программировании, вообще это стандартная проблема т.н. обучения с подкреплением (отложенным) (как именно менять оценки по цепочке чтобы система вцелом сохранила устойчивость, не возникло некорректных переоценок). Вцелом, сложность механики торможения-возбуждения и позитивной-негативной оценки (эмоции) не подразумевает однозначного соответствия положительное-тормозное и отрицательное-возбудительное, что отражает нейрокибернетика медиаторных систем и сверхсложное устройство лимбико-ретикулярного комплеса (ЛРК). В частности, нужно отчетливо понимать, что эмоциональное состояние только в одном отношении характеризуется знаком, важна еще сила и напряженность эмоции, что эмоция зависит от силы потребности и динамики оценки вероятности-возможности ее удовлетворения. Общая логика эмоциональной регуляции крайне сложна. Cистемных сюжетов тут очень много, пока единой модели нет (вероятно к 'единой' модели можно прийти только путем эволюционного синтеза воплощенной подсистемы оценки-регуляции). Скажем, если негативная эмоция оказывается слабее ожидаемой, то объект получает дополнительный позитивный маркер (можно потерпеть при случае), или, напр., если в мотивационном конфликте сталкиваются два позитивно-валентных объекта, то общая ситуация конфликта получает негативную маркировку, причем ее исход, приведший к недополучению пользы, может ретроградно позитивно откорректировать оценку в смысле необходимости более аккуратного взвешивания альтернатив этого сорта в будущем (ситуация маркируется нейрознаком 'внимание' (активаторный (тонический, стенический) аспект эмоции) (а не избегать выбора из позитивных возможностей). 'Тупиковое' состояние (не приведшее к позитивной разрядке, удовлетворению) в общем случае не обязательно рассматривать как негативное, мозгу 'целесообразнее' иметь возможность сохранять 'нейтральную' память о чем-то, что сопровождало полезное или опасное, но связь чего с ними не была установлена - в общем случае может потребоваться просто большее время для выявления важной связи. Эти следы не обязательно активно деструктуировать, их можно вытормозить, но без негативного фона. если отложенное перегрузить негативной оценкой, то для его активации для когнитивной обработки может потребоваться неадекватно сильная мотивация (при воспроизводстве прежней ситуации память может дать промах - непроинтерпретированное (опять) может не быть проинтерпретированным как-уже-воспринимавшиеся, нарушая логику набора статистики. (есть развязки в кибернетике эмоций - что снимает тормоз, не обязательно снимает негативную оценку, а что может переписать оценку, то требует предварительного растормаживания). (У вас есть неоднозначность - цикл (циклическое состояние) без развития маркируется негативно или цикл гаснет (вытормаживается) без оценки - нужно четко сказать, что возможны оба механизма. Возможно, что след-энграмма как таковой не закрепляется (разрушается). Важно оговорить, что и как регулирует выбор мнемомеханизма в той или иной ситуации.) Ваши соображения о фокусе внимания - как того, 'куда' попадает непроинтерпретированное (с чем связано понимание сознания как обощенного, генерализованного ор.рефлекса, как универсального поглотителя ошибок, пропусков ассоциативной памяти) вполне здраво - это гораздо, правда, 'инженернее' изложил Хокинс в своей нашумевшей модели класса память-прогноз НTM (фокус резидирует в гиппокампе, ясно, что это довольно грубо без рассмотрения интеграций гиппокампа со старой корой (поясом) и ассоциативными фокусами (лоб и темя) неокортекса, при этом 'гиппокампальный алгоритм' отличается от 'кортикального'). У Хокинса многого нет, неадекватно описано как синтезируется мотопрограмма, как контролируется ее исполнение (нейроциклоалгоритмы на базальных ганглиях и мозжечке) (и можно указать на гибрид HTM+SOM) и неадекватно представлен механизм маркировки, который вы сделали попытку представить явно. Про 'эмоциональные' рефлексы у нас недавно писал Редозубов, но вы соединили идеи об эмоциональных механизмах с идеей циркуляции. О глобальной схеме гетероассоциативного соединения двух интегральных автоассоциативных модулей ('полушарий') весьма 'инженерно' писал Радченко. Весьма детальную архитектурную схему дают Раппопорт-Герц, накладывая общесистемную логику открытой компьютерно-информационной системы на морфологию мозга (интересно, что они трактуют базальные ганглии как супервизор моторного программирования). Интересную архитектуру ассоциативной памяти-процессора (АПП) с явным представлением операционого фокуса рабочего пространства и ссылкой на логику эмоций дает Вайнцванг (о 'важности' как маркере образов писал Бонгард (классическая система 'Животное')). (Вы не указали, на каких авторов вы опирались, упомянутые авторы могут представлять для вас интерес.) теперь несколько беглых замечаний. материал о коннектоме вы просто не поняли. Речь идет, в частности, о том, как именно работает нейропиль (мелкая структура фиброархитектуры), особенно если подразумевать некие коллективные процессы (самоорганизация токов, потенциалов и пространственных волн), которые управляют режимами функционирования больших регионов (кортикальных и субкортикальных) и конфигурируют доступ к ассоциативой памяти (зависимость импенданса структуры от частоты). говоря о 'нейронах бабушки' (нашумевшие нейроны Симсонов), нельзя не упомянуть что эти высокоселективные нейроны не единичны (не по нейрону на образ) и что есть предел редукции числа репрезентирующей популяции - это и МОЯ бабушка и ИМЕННО бабушка (имя предмета образа) - всегда есть динамическая связанность образ-имя-смыслозначение. И в этой связи проблему связывания очень имеет смысл понимать и в смысле самоорганизации интракортикальных и межполушарных связей и в смысле самоорганизации системы ядер таламуса (неидентифицированное из гиппокампа постепенно вытесняется и 'кристаллизуется' в таламо-кортикальных микросистемах, особенно в аспекте как многообразие эмоциональных процессов, связанное с данным образом откристаллизовывается в высших центрах эмоциональной интеграции (в поясе и медиобазальной и орбитальной фронтальной коре). Еще раз хочется отметить важность представлений (и ваших в т.ч.) о глобальных циркуляторных (циркуминдуктивных) процесcах - представоение о том, что прогнозы постоянно посылаются в сенсорный поток и именно это является основой 'понимающего' интеллекта-сознания уже давно стали общим местом (Эдельмен, Иваницкий, Сергин, Хокинс и мн.др.). тут речь должна идти уже об архитектурных гарантиях устойчивости полиморфного глобального цикла и структуре его инвариантов. недостатком позиции Кавила является то, что автор не вполне осознает неполноту своих представолений (хотя высказываемое есть довольно важное и существенное) и не обозначает связи своих представлений как с более детальными, так и описывающих предмет на иных языках и в иных аспектах (скажем, весьма важно иметь в виду нейросинергетические представления (включая и представления о самоорганизованной критичности в нейродинамике)). Знаете, я, детей учил так: Задачи надо вначале решать образно, а потом оформлять численно. По моему, у вас, та же проблема. Вы на собирали кучу мало связанной информации и пытаетесь её "подогнать под ответ". Ну, и выпедриться желание не пропало. Потому столько наукообразной чуши и специальных терминов. Для ИИ не надо копировать мозг и все его функции, нам нужно не орудие адаптации, а "атодуматель". На фига ИИ гормональная система? Ей, вроде, даже нейромедиаторы не нужны. [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 8:30 Изменено: 23 мар 14 8:34 Цитата: Автор: ЭГТР Могу добавить что процессом переноса информации из сознания в подсознание занято (отведено) 70% КГМ. Сознание - http://egtr.ru/forum/viewforum.php?f=125&sid=a3b5376f51124a4299c686a3a980d2c5 А ссылки на научные исследования а, не на трепотню на форумах есть? Так называемое "подсознание" это мыслительные автоматизмы. Вот, те самые процессы, которые не выходят из области сформированных цепей и потому не фиксируются сознанием. Вы не пробовали проследить всё цепь своего мышления? Вот тут то и есть те самые70% которые обрабатываются в подсознании. Т.е. этот размер не "туда", это уже оттуда. [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 8:46 Изменено: 23 мар 14 8:50 Цитата: Автор: ЭГТР Вы видимо имеете в виду организм? Так его не в состоянии приспособить мозг.. Тогда нафига ему столько связей с ним?. Что до убеждений то я уже хорошо убедился. Не дай вам бог такого опыта и в этом вы убедитесь, но надеюсь не скоро . Единственно что есть в организме и приспосабливается это генотип, а точнее набор хромосом. Мозг занят приспособлением генотипа к окружающей среде т.е. его существование (генотипа) является целеполаганием мозга и организма в целом, являющимся плодовым телом генотипа. Хромосомы таким сложным образом себя приспосабливают, и заодно, их разумная форма меняет окружающую среду придавая и ей тоже разумную форму. Это уже совсем безграмотная чушь. Дома строят и одежду шьют для изменения генотипа? Или, вы думаете, что для этого мозг не нужен? В таком случае, будет значительно лучше, если вы в теме останетесь, только в виде читателя Разговаривать с вами не очем. [Ответ][Цитата]
гость 78.25.121.*	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 9:12 Теперь немного о прочем еще сказанном ковилом (что нельзя оставить без реакции). ковил> такое общение ума не требует, я решил написать ответ сегодня тут более уместной была бы мысль, что даже пикироваться нужно с умом и вкусом.. но нужна ли эта бестолковая пикировка?? наверное не очень честно лишний раз упоминать ваше болезненное состояние ума и тела, поэтому большую часть вашей бессмысленной полемики я оставлю без внимания, чего не сделал бы при прочих обстоятельствах. Попытаемся сконцентрироваться на более-менее интересном. > при малейшей попытке представить меня в невыгодном свете больше вас самого вас никто не в состоянии представить в невыгодном свете, вы столь колоритны в своем темпераменте, что совершенно не понимаете как вы выглядите со стороны.. > Мои понимания подсказывают предела развитию понимания нет.. Наше понимание интеллекта (как и всего прочего) если не интуитивное, то иным кроме как модельным быть не может. Программные модели должны стать столь хорошими, чтобы были неотличимыми от оригинала (насколько это возможно). Понятие программы расширяемо на понятие нейропроцесса. Вообще-то, имеет смысл ЗНАТЬ о чем идет речь в обсуждении и о чем вы сами высказываетесь. > от того, что их представят в символьной форме они знаниями не станут. в ИИ принято знаниями считать специальный формат данных: cтруктура + способ использования (что, как, когда, для чего (!), откуда взять etc). > есть лишь программная интерпретация понятий программиста в общем виде знания (как их понимают в ИИ) могут изменяться автономно: автоформатизироваться, специализироваться, методы их использования также могут изменяться автономно. В систему можно заложить МЕТАЗНАНИЯ - знания о механизмах экстракции, структурирования и функционализации знаний (интерпретированных данных). Система интерпретации данных может развиваться. > лабуда. Знания, это не куча сведений а, увязанные в единую систему комплекс знаний конечно, в ИИ речь идет о СИСТЕМАХ знаний, в частности о фреймовых сетях, функциональных сетях, расширенных семантических сетях с вершинами, нагруженными процедурами оперирования фрагментами той или иной информации. Думаю, gонятно насколько вы неадекватно адресовали упрек в кретинизме.. Хотя, в действительности, в вашей позиции есть то рациональное зерно, что ДЕЙСТВИТЕЛЬНО существует т.ск. логический кретинизм, когда вопросы формы, формальной операционалистики затушевывают проблематику происхождения значения и смысла формальньных операций, формальных структур. Скажем, когда явно злоупотребляют представлениями о пропозициональном формате, распространяя его на 'внутренний' формат мысли.. > По сути это встроенные циклы в разомкнутую цепь. Если граф содержит кольцо, то граф вцелом является циклическим (в смысле, что в цикле можно находится неограниченно долго и выход из цикла на выход из графа 'принудителен'). > Показать или сами разберётесь? пока речь идет о том, насколько вы сами разобрались с материалом на самых первых подступах к предмету (в его РЕАЛЬНОЙ сложности), речь идет о том, насколько вы сами освоили эти упрощенные понятия и способны мыслить и аналитично и синтетично, и насколько вы способны понимать собеседника (с непонятным тоже надо УМЕТЬ работать). > Вы зашли покрасоваться нет, я всегда с интересом отреагирую на нечто важное, сказанное даже слесарем. Я всегда с готовностью попытаюсь разъяснить сказанное мною самим. Это бывает полезным мне самому, что и является главным моим мотивом. > Вы своё раненое самолюбие засуньте в зад мое самолюбие не может пока быть ранено вами из-за недостаточности у вас соображения, наличие некоторых зерен важного не выглядит столь впечатляющим, а ваши реакции не являются столь точными, чтобы задеть мое вполне закаленное самолюбие. Ваше описание 'фокуса внимания' поверхностно, феноменологично и неточно. Внимание (вцелом) это активно управляемая функция (произвольное внимание), хотя есть и подсистема реактивного внимания. Вообще, систем внимания (нейрофизиологически) несколько, эту механику нужно представлять себе в деталях, чтобы не впадать в сверхупрощение. Внимание управляется РАЗНЫМИ факторами - новизной, неожиданностью, важностью, силой (интенсивностью), значением стимула, задачей (произвольно принятой диспозицией, установкой). > Вы знакомы со «скандалом в философии? вы очень неадекватно понимаете вопрос. Cкандал связан с тем, что несмотря на то, что философия породила математику, логику, методологию, мощную науку ТРУДНЫЕ вопросы философии (напр. вопросы онтологии, философии сознания - вопрос о природе вторичных качеств) пока еще не нашли решения. Не говоря уже о вопросах обоснования этики. Скандалом является то, что многие вопросы (о природе сознания, об истине, о возможностях познания, о ценностях, о природе смысла etc) решаются по-разному в разных философских системах, философских парадигмах. > это у вас мышление плоское простите, это вы выдаете ЧАСТЬ за целое, т.е. уплощаете предмет. Cознание это нечто большее, чем 'просто процессы в фокусе внимания', да еще в вашем примитивизированном описании. Грубо говоря, сознание это и то, что 'окружает' фокус, сознание это как структуры в фокусе, так и структуры, cвязывающие фокус с фоновыми структурами, с тем, что делвает возможным сам фокус. Далеко не все функции/процессы сознания сосредоточены в фокусе. (> можете быстренько сообразить какое математически описываемое свойство, однозначно, определит возникновение: > окружности, круга, сферы, шара, и положение их центра? я бы вспомнил об локальной изотропии пространства с одной стороны, и о глобальной замкнутости (положительной кривизне) его с другой..) > понял алгоритм устройства работы мозга, в дейсвительности глобального алгоритма нет, есть архитектурные гарантии возобновления процесса синтеза нейропрограмм (циркуляции активности) (при наличии процесса рекуперации активности, избыточной энергии). Cхема накачка-самоорганизация-разрядка. Есть парциальные (частичные) 'алгоритмы' типа дифференцированных первичных сенсо-моторных кординаций в систему программ сенсорно-обстановочного синтеза, потребностно-мотивационного синтеза, эмоционального синтеза, моторного синеза, синтеза саморегуляции и самодетерминации (воли), синтеза структур мышления и высших метакогнитивных координаций. Возможны разные режимы взаимодействия парциальных программ (групп программ). > я говорю то же самое, только без выпендрёжа нет, многие общие места вчера были новостью, но сегодня УЖЕ это банальности, и суть дела в деталях, в аранжировке деталей. Общих принципов вполне достаточно на любой вкус, нет понимания на реализационном уровне, как заставить общие принципы работать, - как СИНТЕЗИРОВАТЬ то, что, вроде, должно так или иначе получиться на основе этих принципов.. как правило многие начинания проваливаются из-за неполноты, ограничений в исходном (помимо неадекватности самих представлений). А излишне общие постановки никак не перейдут в практическую реализацию. Если вам поздно читать книжки, то это не значит, что их не следует УЖЕ иметь прочитанными или хотя бы просматривать чтобы быть в курсе того, насколько предмет больше ваших представлений. > такая мощность и будет нет, это вы не поняли о чем вам говорят. Речь идет о РАЗРЫВЕ, между технически достижимой информационной мощностью и той информационной мощностью, которую развивает реальный мозг. Разрыв таков, что покрыть его можно только на основе ГЛУБОКОГО понимания явления мыслящего мозга, явления в его полноте, а не на основе сверхупрощенных представлений, да еще без понимания в чем именно упрощения и неполнота знаний.. наивную самоуверенность мы уже многократно проходили, ваша заявка пятьсот первая. ---------------- По поводу разговора с Данером Ковил наглядно показал насколько он не состоянии понять собеседника при том, что и Д. не проявил должного усилия донести.. Данер - квалифицированный спец как раз по программированию многоагентных систем и его мнение о степени 'инженерности' усилий Ковила нужно последнему внимательно принять к сведению.. Далее последует реакция на комментарий Записок частей 1 и 2. Бессмысленную пикировку и болтовню настоятельно Ковилу рекомендуем прекратить, хотя хозяин темы барин, но это очень дружественный совет. [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 10:34 Изменено: 23 мар 14 10:56 [QUOTE]Автор: гость (с непонятным тоже надо УМЕТЬ работать). . Понятие 'нестандартная имплементация', (ИМПЛЕМЕНТАЦИЯ — (англ. implementation) в международном праве фактическая реализация международных обязательств на внутригосударственном уровне; осуществляется путем трансформации международно правовых норм в национальные законы и подзаконные акты) Дополнение словом нестандартная, ре делает это сочетание научным. В гугле всего 3 поста все форумные. И все относятся к программированию. А мозг здесь совершенно не причём. Я же говорил, что нет и не может быть программиста. БОГА НЕТ (есть и конкретизации этого понятия) обозначает эту самую ситуацию, когда 'установка сознания на мозг' приволит к качественному изменению его работы Ага вашу способность работать с непонятным видно. нет, я всегда с интересом отреагирую на нечто важное, сказанное даже слесарем. Я всегда с готовностью попытаюсь разъяснить сказанное мною самим. Это бывает полезным мне самому, что и является главным моим мотивом. Врёте вы милейший. И выше приведённая цитата показывает это очень хорошо текст > Вы своё раненое самолюбие засуньте в зад мое самолюбие не может пока быть ранено вами из-за недостаточности у вас соображения, наличие некоторых зерен важного не выглядит столь впечатляющим, а ваши реакции не являются столь точными, чтобы задеть мое вполне закаленное самолюбие. Ваше описание 'фокуса внимания' поверхностно, феноменологично и неточно. Внимание (вцелом) это активно управляемая функция (произвольное внимание), хотя есть и подсистема реактивного внимания. Вообще, систем внимания (нейрофизиологически) несколько, эту механику нужно представлять себе в деталях, чтобы не впадать в сверхупрощение. Внимание управляется РАЗНЫМИ факторами - новизной, неожиданностью, важностью, силой (интенсивностью), значением стимула, задачей (произвольно принятой диспозицией, установкой). > Вы знакомы со «скандалом в философии? вы очень неадекватно понимаете вопрос. Cкандал связан с тем, что несмотря на то, что философия породила математику, логику, методологию, мощную науку ТРУДНЫЕ вопросы философии (напр. вопросы онтологии, философии сознания - вопрос о природе вторичных качеств) пока еще не нашли решения. Не говоря уже о вопросах обоснования этики. Скандалом является то, что многие вопросы (о природе сознания, об истине, о возможностях познания, о ценностях, о природе смысла etc) решаются по-разному в разных философских системах, философских парадигмах. > это у вас мышление плоское простите, это вы выдаете ЧАСТЬ за целое, т.е. уплощаете предмет. Cознание это нечто большее, чем 'просто процессы в фокусе внимания', да еще в вашем примитивизированном описании. Грубо говоря, сознание это и то, что 'окружает' фокус, сознание это как структуры в фокусе, так и структуры, cвязывающие фокус с фоновыми структурами, с тем, что делвает возможным сам фокус. Далеко не все функции/процессы сознания сосредоточены в фокусе. (> можете быстренько сообразить какое математически описываемое свойство, однозначно, определит возникновение: > окружности, круга, сферы, шара, и положение их центра? я бы вспомнил об локальной изотропии пространства с одной стороны, и о глобальной замкнутости (положительной кривизне) его с другой..) Правильно, конечно. Но, вопрос о глупой начитанности не снимается, ибо надо было быстренько а, не через два дня поиска в интернете. "Интернет у нас есть. У нас ума нету." К. Матроскин. > понял алгоритм устройства работы мозга, в дейсвительности глобального алгоритма нет, есть архитектурные гарантии возобновления процесса синтеза нейропрограмм (циркуляции активности) (при наличии процесса рекуперации активности, избыточной энергии). Cхема накачка-самоорганизация-разрядка. Есть парциальные (частичные) 'алгоритмы' типа дифференцированных первичных сенсо-моторных кординаций в систему программ сенсорно-обстановочного синтеза, потребностно-мотивационного синтеза, эмоционального синтеза, моторного синеза, синтеза саморегуляции и самодетерминации (воли), синтеза структур мышления и высших метакогнитивных координаций. Возможны разные режимы взаимодействия парциальных программ (групп программ). Ну если у вас в работе мозга воля появилась, то это уже полный крах здравого смысла. А он, непременная часть нормального мышления. > я говорю то же самое, только без выпендрёжа нет, многие общие места вчера были новостью, но сегодня УЖЕ это банальности, и суть дела в деталях, в аранжировке деталей. Общих принципов вполне достаточно на любой вкус, нет понимания на реализационном уровне, как заставить общие принципы работать, - как СИНТЕЗИРОВАТЬ то, что, вроде, должно так или иначе получиться на основе этих принципов.. как правило многие начинания проваливаются из-за неполноты, ограничений в исходном (помимо неадекватности самих представлений). А излишне общие постановки никак не перейдут в практическую реализацию. Если вам поздно читать книжки, то это не значит, что их не следует УЖЕ иметь прочитанными или хотя бы просматривать чтобы быть в курсе того, насколько предмет больше ваших представлений. Я просил предоставить список работ, где вся эта "банальность" описана. (БАНАЛЬНОСТЬ — (от французского banal шаблонный), заурядность, пошлость; давно известное, избитое выражение Современная энциклопедия) Следовательно, список должен быть внушительным. Данер - квалифицированный спец как раз по программированию многоагентных систем и его мнениеТак вот почему везде агенты мерещатся!!! но это очень дружественный совет. Вы, с высот своей генальности, конечно не заметили дружественного пожелания склеротичного слесаря. " увы, наукообразное словоплескание должное прикрыть убожество, мышления не помогло «тут блеф не прокатит.» Блин!!!Тут хоть один более менее нормально мыслящий есть? 708 просмотров, и ни единого приличного поста!!! Ну ни где от вас покоя нет!!! [Ответ][Цитата]
Slava Сообщений: 3070	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 11:17 Изменено: 23 мар 14 11:19 Цитата: Автор: ковип Блин!!!Тут хоть один более менее нормально мыслящий есть? 708 просмотров, и ни единого приличного поста!!! Ну ни где от вас покоя нет!!! Проблема в том, что здесь, как, может быть, нигде больше, проявляется тот феномен, что каждый говорит на собственном языке. Отсюда - глобальное непонимание того, что говорит и думает кто-то другой. И никто не виноват, так как предмет интереса таков, что иначе пока по сути иного не дано. И доверять приходится лишь интуиции, которая иногда говорит, что за непонятным может скрываться что-то интересное и по-настоящему глубокое. И, понимая это, приходится запастись терпением в надежде, что интуиция не обманет и со временем ощущения превратятся в понимание. А по большому счету все в этой проблеме упирается в эксперименты, подтверждающие и порождающие новые гипотезы и дающие основу для согласования представлений и языков. И так - на всю видимую перспективу [Ответ][Цитата]
ЭСГТР Сообщений: 8461	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 11:35 Изменено: 23 мар 14 22:04 Цитата: Автор: ковип Это уже совсем безграмотная чушь. Дома строят и одежду шьют для изменения генотипа? Или, вы думаете, что для этого мозг не нужен? В таком случае, будет значительно лучше, если вы в теме останетесь, только в виде читателя Разговаривать с вами не очем. Ок. Разговор прекращаю... Но скажу вам на по следок. Дома, кареты скорой помощи, лекарства и многое, что человек создал есть информационное продолжение его генотипа. Кроме того внешняя материя организованная человеком устраняет и компенсирует очень много генетических ошибок в людях. Т.е. это явления одного порядка. Жить сегодня могут люди с сильно различающимся генотипом... и с абсолютно здоровым и с очень больным благодаря организации внешней среды замещающей утраченную по каким либо причинам генетическую информацию. Так что дома строят и шьют для достраивания и исправления недостатков генотипа в тех условиях среды где он ещё не приспособился для выживания на уровне хромосом. Человек может одеть пальто, а может эволюционировать и обрасти шерстью. Результат один.... генотип выжил, целеполагание достигнуто. ЗЫ. Для того чтобы строить дома мозг нужен. [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 13:54 Цитата: Автор: ЭГТР Результат один.... генотип выжил, целеполагание достигнуто. У генотипа нет и не может быт целеполагания. Это функция сознания. [Ответ][Цитата]
ковип Сообщений: 95	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 14:01 Изменено: 23 мар 14 14:09 Цитата: Автор: Slava Проблема в том, что здесь, как, может быть, нигде больше, проявляется тот феномен, что каждый говорит на собственном языке. Отсюда - глобальное непонимание того, что говорит и думает кто-то другой. И никто не виноват, так как предмет интереса таков, что иначе пока по сути иного не дано. И доверять приходится лишь интуиции, которая иногда говорит, что за непонятным может скрываться что-то интересное и по-настоящему глубокое. И, понимая это, приходится запастись терпением в надежде, что интуиция не обманет и со временем ощущения превратятся в понимание. А по большому счету все в этой проблеме упирается в эксперименты, подтверждающие и порождающие новые гипотезы и дающие основу для согласования представлений и языков. И так - на всю видимую перспективу Нет никаких ощущений. Ощущение, в таких случаях, как раз и базируется на интуиции. Я, когда то даже вывел некий совет или, скорее лозунг. Доверяйте мозгу он знает больше чем вы. Здесь же, реально, не за что уцепиться. Сплошные понты, на фоне дикой алогичности. И кстати о языке. Когда язык базируется на объективной реальности он не может быть в корне непонятным. Не понятным он становится базируясь на субъективной реальности. А, точнее на вере. А с верующим разговаривать бесполезно. Кроме невежества, которое и есть мать всех верований, в добавок идея фикс мозг ломает напрочь. Тех, кого я здесь встретил, все верующие. [Ответ][Цитата]
Slava Сообщений: 3070	На: Я сегдня вот что подумал: Добавлено: 23 мар 14 17:52 Цитата: Автор: ковип И кстати о языке. Когда язык базируется на объективной реальности он не может быть в корне непонятным. Не понятным он становится базируясь на субъективной реальности. А, точнее на вере. А с верующим разговаривать бесполезно. Кроме невежества, которое и есть мать всех верований, в добавок идея фикс мозг ломает напрочь. Тех, кого я здесь встретил, все верующие. Вы тоже верите в то, что говорите. Вопрос лишь в том, чья вера ближе к той самой реальности. И это решат не рассуждения, а эксперименты [Ответ][Цитата]
Стр.4 (23): 1  2  3  [4]  5  6  7  8  ...  23 << < Пред. | След. > >>