Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (18) След. > >>    Поиск:
Автор	Тема: Коллапс сверх-ИИ
NewPoisk Сообщений: 3745	Коллапс сверх-ИИ Добавлено: 16 окт 07 11:50 Чем умнее человек, тем меньше он нуждается в материальных излишествах: ему не надо модной одежды, дорогой машины, престижно-пустого образа жизни. Теоретически упорство в достижении цели не зависит от сложности ИИ, пример человека лишь говорит о изъянах биологической реализации. Но теория теорией, а вдруг сверх-ИИ действительно станет апатичным, осознав вдруг что все его действия и само существование имеют смысл только с точки зрения его же цели? Не окажутся ли в этом случае усилия по его созданию тщетными? Кто как считает? [Ответ][Цитата]
asmer Сообщений: 52	На: Коллапс сверх-ИИ Добавлено: 16 окт 07 13:27 Цитата: Автор: NewPoisk Чем умнее человек, тем меньше он нуждается в материальных излишествах: ему не надо модной одежды, дорогой машины, престижно-пустого образа жизни. Я бы сказал, тем меньше он поддается стереотипам и шаблонам. К примеру, Ульянов В.И., выучившись на адвоката, решил, что ему мало успешного адвокатства. И отхапал власть над шестой частью суши. И в этом его интеллекту (пока он был здоров) не смог противостоять из современных ему ни один интеллект или союз интеллектов. Цитата: Автор: NewPoisk Теоретически упорство в достижении цели не зависит от сложности ИИ, пример человека лишь говорит о изъянах биологической реализации. Но теория теорией, а вдруг сверх-ИИ действительно станет апатичным, осознав вдруг что все его действия и само существование имеют смысл только с точки зрения его же цели? Не окажутся ли в этом случае усилия по его созданию тщетными? Кто как считает? Исторический урок Ульянова В.И. поучителен и для случая с ИИ. Будем мы ничего не подозревающими пешками в руках сильного игрока [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Коллапс сверх-ИИ Добавлено: 16 окт 07 17:33 Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) Чем умнее человек, тем меньше он нуждается в материальных излишествах: ему не надо модной одежды, дорогой машины, престижно-пустого образа жизни. Не думаю, что есть какая-то связь между умом и стремлением к материальным излишествам. Здесь скорее имеет значение личные склонности человека и его жизненная философия. Очень сомневаюсь, что г-н Абрамович с его яхтами по 100 млн. баксов глупее, чем какой-нибудь м.н.с., регулярно посещающий свой НИИ за 200$ в месяц. [Ответ][Цитата]
daner Сообщений: 4593	На: Коллапс сверх-ИИ Добавлено: 16 окт 07 22:16 Согласен с ВК, но "умнее" понятие относительное. Ну уж, что точно, что он умнее средне статистического человека. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 17 окт 07 14:55 Я имею в виду статистику, а не единичные случаи вроде Абрамовича [Ответ][Цитата]
daner Сообщений: 4593	На: Коллапс сверх-ИИ Добавлено: 17 окт 07 15:06 Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) Я имею в виду статистику, а не единичные случаи вроде Абрамовича придуманная у вас статистика. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 17 окт 07 15:45 Ну уж конечно. Вспомните например древних ученых. Архимед, Фалес никогда не стремились к власти, хотя имели для того все возможности. А Диоген вообще жил в бочке. [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 17 окт 07 17:15 Стремление к власти, богатству и истине - благие стремления, одинаково необходимые для выживания общества. Если помните, в Индии существуют 5 каст. Смысловое содежание каст не случайно, они отражают основные направления человеческой самореализации: (точных названий не помню, но смысл такой же) -наука-религия-искусство -власть -торговля -крестьянство -война-спорт Каждая "специализация" скорее всего определяется генетически. Сравнивать "кто умней" - это просто обезьяний инстинкт, вот надо обязательно (обезьятельно) выяснить, кто выше в иерархии. В просторечии - "хуями померяться". Но если уж докапываться, кто круче, то можномыслить следующим путём. Стремление к власти - следствие обезьяньего происхождения. Обезьяны - животное стайное, а в стае тому кусок вкуснее и самка краше, кто выше в иерархии. А стайная организация у обезьян - следствие общей ориентации эволюции на интеграцию компонентов в системы. То есть, стремление к власти - следствие физических свойств реальности, на которых и базируется эволюция. Стремление к познанию - более молодое свойство в животном мире. Оно работает на эволюцию, отвечает за создание низкоэнтропийного продукта, но работает в координатах абстрактного. Поведение - алгоритм, информация. И вот, получается, что обычная эволюция живой природы работала как над материальным обликом своих плодов, так и над абстрактным, связанным с управлением. Материальное создаётся химическим сопряжением процессов повышения энтропии и процессов создания низкоэнтропийного продукта. А познание и возникшая благодаря ему созидательная деятельность позволяет производить низкоэнтропийный продукт без непосредственного химического сопряжения процессов. В общем, познание - свеженькое эволюционное изобретение, и требует, вероятно, более сложных и тонких мыслительных процессов, стремление же к власти архаично, и значит вычислительно проще. Так что, если вы работник умственного труда, можете поднять в связи с этим бокал шампанского. В божественной иерархии вы выше тех, кто выше вас в иерархии обезьяньей. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 19 окт 07 11:54 Цитата: Автор: Вася В общем, познание - свеженькое эволюционное изобретение, и требует, вероятно, более сложных и тонких мыслительных процессов, стремление же к власти архаично, и значит вычислительно проще. Вот я и ставлю вопрос: если экстраполировать стремления для сверх-ИИ, то получиться что для него, возможно, не окажется ни одного по-настоящего сильного стремления. Ведь и власть и богатство и даже познание когда-нибудь приходят к своему ествественному пределу. А дальше что? [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 19 окт 07 12:07 Развитие технических систем предела не имеет. Власть и богатство - категории субъективные и относительные. Познание всегда может обернуться творчеством. Познал свою Вселенную - создай новую. Я бы не стал за сверх-ИИ беспокоиться [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Коллапс сверх-ИИ Добавлено: 19 окт 07 17:51 Цитата: Автор: Вася Если помните, в Индии существуют 5 каст. Смысловое содежание каст не случайно, они отражают основные направления человеческой самореализации: (точных названий не помню, но смысл такой же) -наука-религия-искусство -власть -торговля -крестьянство -война-спорт Вообще-то эти группы людей назывались варнами, а касты – возникшее потом более мелкое деление. Первоначально у индоариев было три варны – жрецы, воины и лица физического труда. По пришествии в Индию аборигенное население образовало четвёртую варну – неприкасаемых, и появились купцы, занявшие почётное третье место в иерархии. Сам термин “самореализация” в условиях кастовой системы сомнителен, поскольку членство в касте предопределено и пожизненно. Даже если потенциально ты великий поэт – если родился купцом, то изволь самореализовываться в бизнесе :-). Власть же не являлась занятием отдельной касты, она делилась на религилзную и светскую и распределялась между жрецами и воинами. Цитата: А стайная организация у обезьян - следствие общей ориентации эволюции на интеграцию компонентов в системы. Не стал бы я говорить об общей ориентации. На свете полно видов-одиночек. Причём в одних и тех же условиях и в пределах одного семейства могут процветать как стадные виды, так и одиночки. Бабуины – стадный вид с чрезвычайно жёсткой иерархией, шимпанзе и гориллы – менее жёсткая иерархия, орангутаны – одиночки. Львы – стадный вид, гепарды и тигры – одиночки. Антилопы африканской саванны – стадные, олени – одиночки. Не могу даже придумать какого-нибудь содержательного критерия, который бы определял, почему одни животные сбиваются в стада, а другие предпочитают индивидуализм. Конкретно же у человека стадные инстинкты возникли, видимо, по той же причине, что и у бабуинов – жизнь на открытой территории при отсутствии естественных укрытий требует противопоставить хищникам организованность и сплочённость. Цитата: Так что, если вы работник умственного труда, можете поднять в связи с этим бокал шампанского. В божественной иерархии вы выше тех, кто выше вас в иерархии обезьяньей. Ага, но очень сильно достаёт обилие откровенных бездельников и имитаторов детельности в этой божественной иерерхии . [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 19 окт 07 19:41 Цитата: Вольфрамовый клапан Сам термин “самореализация” в условиях кастовой системы сомнителен, поскольку членство в касте предопределено и пожизненно. Даже если потенциально ты великий поэт – если родился купцом, то изволь самореализовываться в бизнесе :-). Казалось бы, для отдельных индивидуумов это не очень хорошо, да и для общества в целом. Ан нет. Предзаданность жизненной функции кристаллизует опыт человека в этом направлении. Он уж не мечется в поисках, куда бы себя приложить, а спокойно развивается в известном с пелёнок направлении. Если б мне-младенцу объяснили, что я родился ради научной деятельности, то не Конан Дойля и Стивенсона в детстве читал бы, а Перельмана, а в школе математику бы не прогуливал. Предопределённость, хоть и искусственная, - это упорядоченность жизненной активности, ограничение свободы и неопределённости. Для некоторых типов обществ это может быть эффективным качеством. Хотя, кому-то больше подходит действовать «вопреки». А вообще, жёсткая структура и гибкая адаптивность – два полюса, одинаково любимые эволюцией. Врочем, гибкость - сестра развития, то-то индийская цивилизация отстаёт на современном этапе эволюции обществ. Или противоположный пример – СССР. Централизованное управление до добра не довело. А в эпоху феодальных междоусобиц в Европе наоборот, централизация рулила. Цитата: Не стал бы я говорить об общей ориентации В глобальном масштабе – стали бы. Хим. реакции локализовывались в ансамбли процессов. Всякая первоклеточная мелочёвка объединялась в сложнейшие, полные органелл бактерии. Одноклеточные слагались в многоклеточных и покоряя макро-мир. Конечно, бактерий больше, и по числу и по массе, но кто круче-то? Все виды связаны в единую экосистему и почти все ещё более жёстко связаны со множеством симбионтов. Наличие более-менее обособленных индивидуалистов на разных уровнях биологической организации есть лишь следствие того, что объединение элементов в более сложые системы не обязательно означает элиминацию предшествующей организации и представителей. Ну и вспомним, какой вид в итоге воцарился. В общем стремление к объединению не абсолютно, но оправданно. Цитата: Ага, но очень сильно достаёт обилие откровенных бездельников и имитаторов детельности в этой божественной иерерхии. Ну, люди издавна отличались желанием совмещать противоречащие друг другу желания сладко спать и вкусно есть. Любят обезьяны быть повыше в иерархии поменьше за это платить. Нормально. Это локально разрешается мотивированием. А в современном обществе вообще гарант стабильного развития как раз в том, что 80-90% людей особенно не напрягаются, просто живут, ходят на работы. Если б 100% научных кадров были трудолюбивы, эффективны плодотворны, общество не успевало бы приспосабливаться к новым знаниям и технологиям, и разрушилось бы. Успехи в медицине могли бы вызывать перенаселение и войны. Успехи в физике могли бы привести мир к гибели от ядерного оружия. И т.д. Я полагаю, что наука развивалась достаточно сбалансировано по отношению к прочим составляющим общественного развития. А сегодня, на пороге глобального «фазового перехода», не так уж и важно, кто там что ленится и куда бездельничает. [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Коллапс сверх-ИИ Добавлено: 21 окт 07 19:10 Цитата: Автор: Вася Если б мне-младенцу объяснили, что я родился ради научной деятельности, то не Конан Дойля и Стивенсона в детстве читал бы, а Перельмана, а в школе математику бы не прогуливал. Врочем, гибкость - сестра развития, то-то индийская цивилизация отстаёт на современном этапе эволюции обществ. Или противоположный пример – СССР. Централизованное управление до добра не довело. А в эпоху феодальных междоусобиц в Европе наоборот, централизация рулила. Слабо верится мне, что в шалопайском отрочестве кто-то будет читать Перельмана вместо Конан-Дойля, не имея к тому склонностей. Тупиковость кастовой системы для меня лучше всего символизирует Николай II. Ну воспитывали его с младенчества управлять государством, а он в самый решающий момент отвалил в кусты, занятый семейными проблемами. И потерял – и семью, и страну, и жизнь. В Индии нонче кастовая система весьма условна – кастовые ограничения переместились скорее в область личных предпочтений и предрассудков. Неприкасаемые часто занимают ведущие государственные посты (например, председатель верховного суда - неприкасаемый). А среди высших каст, например – брахманов, полно рабочих, ремесленников, крестьян, мелких чиновников. С СССР – вопрос неоднозначный. В 30-е годы наша плановая система устанавливала мировые рекорды по росту промышленного производства. За 15 лет после окончания гражданской войны порушенная страна превратилась в могучую мировую державу. Не берусь однозначно утверждать, но мне кажется, что наши проблемы были в менталитете – для развития нам нужны большие встряски, иначе народ впадает в спячку, а руководители – в маразм. Феодальные междоусобицы потому и были, что централизация никак не могла вырулить. А Великая хартия вольностей была подписана, между прочим, в 1215 г. Цитата: Автор: Вася Ну и вспомним, какой вид в итоге воцарился. В общем стремление к объединению не абсолютно, но оправданно. Я думаю, что стремеление к усложнению – частично иллюзия. Просто менее сложные организмы возникают легче, чем более сложные, поэтому хронологически они оказываются первыми. Более сложные возникают позднее, но всё же не вытесняют более простых из всех экологических ниш, скорее – заселяют те экологические ниши, которые ранее не были заняты. Т.е. (слегка утрируя) сначала простейшие занимают всё, что могут, а потом сложные – всё, что осталось Насчёт вашего намёка на воцарившийся вид – человек воцарился на достаточно малой территории искусственно созданной им самим среды. На большее он не посягает, поскольку у самого, несмотря на всё его могущество, есть ограничения, сдерживающие его экспансию. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 22 окт 07 7:58 Цитата: Автор: Вольфрамовый клапан например, председатель верховного суда - неприкасаемый Однако! [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 22 окт 07 15:10 Цитата: В.К. Не могу даже придумать какого-нибудь содержательного критерия, который бы определял, почему одни животные сбиваются в стада, а другие предпочитают индивидуализм. Я тут подумал, что существование видов-одиночек связано с существованием в экосистеме вакантных мест, например ресурс, который в одиночку выгодней добывать, чем сообща. Лоси какие-нибудь. Просто узкие специальности видов. Тогда как возникновение взаимодействия, сруктурированных сообществ, - процесс общий, связанный скорее с тем, что среди возможностей упорядочивания есть более энергетически выгодные структуры, а полная неупорядоченность (чисто индивидуальное поведение) – лишь одна из этих возможностей, скорее всего не самая оптимальная. Цитата: наши проблемы были в менталитете – для развития нам нужны большие встряски, иначе народ впадает в спячку, а руководители – в маразм. Да, выход был! Придумали бы в 80-е нашествие инопланетян… но нет, не догадались. Не смогли. Ведь очевидное же решение! Теперь бы Москва была небоскрёбами истыкана как дореволюционная – церквушками. Ладно, я согласен, мотивация нужна была. Только по-моему, вполне хватило бы естественной. Спячка и маразм – это от того что обезьяна чувствует себя не слишком свободной и ответственной. Насчёт централизации управления. Знаете, в каждой самовоиспроизводящей системе всегда есть оптимум скорости развития, и система ограничений (правил, законов) при самоорганизованном развитии, стремятся к оптимальным значениям. Потому что каждая внутренняя функция выполняется множеством сходных образований, участвующих в конкурентной борьбе. Например, доставка грузов – транспортные компании. Выживают сильнейшие, эффективнейшие. С плановой экономикой можно выиграть локально, высокие затраты на конкуренцию пропадут, но развитие будет линейным, взамен экспоненциального, естественного. Потому что затраты на конкуренцию – это затраты на обновление, на интенсивное развитие. Кроме того, чем больше в системе центров принятия решений, тем она гибче. А для развивающихся макросистем, вроде общества, это вопрос скорости развития. А в условиях конкуренции таких систем - вопрос жизни и смерти. Цитата: Насчёт вашего намёка на воцарившийся вид – человек воцарился на достаточно малой территории искусственно созданной им самим среды. На большее он не посягает, поскольку у самого, несмотря на всё его могущество, есть ограничения, сдерживающие его экспансию. Ну да, сколько упорядочил дикой среды, столько и наэкспансировал. Думаете, мало? И процесс идёт. Думаете, медленней, чем у других видов? Вон, ИИ скоро изобретут. Тогда и вовсе, простите господи… Человек уже давно не биологический, а биотехнологический вид. Его существование зависит не от конкуренции с другими видами и не от борьбы со стихией, а от внутренних, системных проблем, от правильности выбора курса развития и моделей управления. [Ответ][Цитата]
Стр.1 (18): [1]  2  3  4  5  ...  18 След. > >>