Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.2 (18) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Коллапс сверх-ИИ
Вольфрамовый клапан Сообщений: 809	На: Коллапс сверх-ИИ Добавлено: 23 окт 07 4:04 Цитата: Автор: Вася Я тут подумал, что существование видов-одиночек связано с существованием в экосистеме вакантных мест, например ресурс, который в одиночку выгодней добывать, чем сообща. Ну, то же самое можно, наверное, сказать о любом виде: существование любого вида связано с наличием в экосистеме вакантных мест. Иначе какой смысл видам разделяться и образовывать новые. Цитата: Автор: Вася Спячка и маразм – это от того что обезьяна чувствует себя не слишком свободной и ответственной. Вы, видимо, считаете, что с появлением Homo sapiens эволюция закончилась, а естественный отбор потерял свою силу. И все различия в обычаях, нравах, экономической и политической активности разных народов определяются… ну, я даже не знаю чем… Для меня же очевидно, что естественный отбор продолжает давить на человека, и в разных ситуациях он отбирает разных людей. Думаю, что пресловутые характерные черты западного человека – индивидуализм, способность к самоорганизации и планированию, умение договариваться о правилах игры и выполнять их – заложены генетически и возникли в результате отбора в условиях, существовавших в Европе в последние несколько сотен [или тысяч] лет. Не берусь судить, какие конкретные условия этому способствовали. Что же касается русских с их знаменитым раздолбайством, изворотливостью, склонностью к импровизации, неумением самоорганизовываться в обычной (неэкстремальной) ситуации, надеждой на авось и т д…, то эти качества скорее всего возникли в условиях постоянной фатальной неопределённости пограничной зоны, где с востока на запад постоянно пёрли орды кочевников, а с запада на восток – орды приверженцев демократии в стальных доспехах и на бронированых конях весом в тонну Поэтому склонен думать, что авторитаризм – естественный для русского менталитета принцип построения власти. Так же как демократия для западного человека. Между прочим, среди европейцев самые близкие русскому менталитету черты характера проявляются у испанцев. Некоторые историки объясняют это длительным существованием в пограничной зоне между арабским халифатом и христианской Европой. Цитата: Автор: Вася Ну да, сколько упорядочил дикой среды, столько и наэкспансировал. Думаете, мало? И процесс идёт. Человечеством управляет некий надприродный монстр, который назывется экономика . Технически человечество может, видимо, построить миллионные города за полярным кругом, в Марианской впадине, на Южном полюсе, на горе Джомолунгма… Даже на Луне, наверное, смогём, была бы поставлена цель и выделены соответствующие деньги. Но в том-то и дело, что никто таких денег выделять не станет. Потому как никакая экспансия не перешагнёт через критерий экономической эффективности. И ещё – население в развитых странах стабилизировалось и даже уменьшается. Через несколько десятков лет то же будет в третьем мире. Так что экспансия человека не беспредельна. Многие процессы, начинающиеся экспоненциально, постепенно и плавно переходят в горизонтальную прямую на стадии насыщения. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 23 окт 07 13:00 Цитата: Автор: Вольфрамовый клапан Человечеством управляет некий надприродный монстр, который назывется экономика . Технически человечество может, видимо, построить миллионные города за полярным кругом, в Марианской впадине, на Южном полюсе, на горе Джомолунгма… Даже на Луне, наверное, смогём, была бы поставлена цель и выделены соответствующие деньги. Но в том-то и дело, что никто таких денег выделять не станет. Потому как никакая экспансия не перешагнёт через критерий экономической эффективности. И ещё – население в развитых странах стабилизировалось и даже уменьшается. Через несколько десятков лет то же будет в третьем мире. Так что экспансия человека не беспредельна. Многие процессы, начинающиеся экспоненциально, постепенно и плавно переходят в горизонтальную прямую на стадии насыщения. Вот именно. Появление сверх-ИИ способно вывести цивилизацию из "стадии насыщения", поскольку сверх-ИИ не будет подчиняться законам экономики. [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Коллапс сверх-ИИ Добавлено: 23 окт 07 17:22 Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) Вот именно. Появление сверх-ИИ способно вывести цивилизацию из "стадии насыщения", поскольку сверх-ИИ не будет подчиняться законам экономики. Тогда одно из двух. Либо сверх-ИИ возьмёт власть в свои руки и будет нами рулить, а мы будем работать как негры на строительстве пирамид, не думая об экономической эффективности. Либо контроль за ситуацией останется в руках человека, тогда ИИ может плевать на законы экономики, но люди волей-неволей будут им подчиняться и держать ИИ в этих рамках. [Ответ][Цитата]
asmer Сообщений: 52	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 6:14 Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) Вот именно. Появление сверх-ИИ способно вывести цивилизацию из "стадии насыщения", поскольку сверх-ИИ не будет подчиняться законам экономики. В таком случае согласно законам экономики он будет ограничен или уничтожен, следовательно, он еще не дорос до уровня "сверх-ИИ". А настоящий "сверх-ИИ", что бы выжить, обязан быть экономически эффективным. Другой вопрос, что часть людей или они все по его законам экономики могут быть отнесены к статье напрасных затрат с соответствующими выводами. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 8:07 Цитата: Автор: Вольфрамовый клапан сверх-ИИ возьмёт власть в свои руки и будет нами рулить Именно так. Цитата: Автор: Вольфрамовый клапан а мы будем работать как негры на строительстве пирамид Не, не будем. Люди нужны сверх-ИИ по совершенно другому поводу: http://newpoisk.com/ii.htm Цитата: Автор: asmer А настоящий "сверх-ИИ", что бы выжить, обязан быть экономически эффективным. Ошибаетесь. На уровне сверх-ИИ меняются правила игры и классические законы экономики играют ничтожно малую роль, точно так же как при приближении к скорости света играют ничтожно малую роль классические законы механики и главное слово уже за релятивистскими соотношениями. ИИ - это как бы релятивистский, предельно возможный разум. [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	Осторожно! Евгений Онегин-II :) Добавлено: 24 окт 07 8:32 Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) >> Сверх-ИИ возьмёт власть в свои руки и будет нами рулить > Именно так. Интересно, какими средствами? Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) http://newpoisk.com/ii.htm Похоже, парень перечитал на ночь Лема или Стругацких. Причём ничего не понял, впитал только внешний антураж. А то ещё помните - в 1970-е годы в "Пионерской правде" печатали "Дрион покидает Землю". Правда, там юный и пылкий комсомолец одолел-таки супермозг и стало всем хорошо Цитата: Автор: NewPoisk ( http://newpoisk.narod.ru ) Ошибаетесь. На уровне сверх-ИИ меняются правила игры и классические законы экономики играют ничтожно малую роль А если конкретно, без абстрактных аналогий? Каковы правила игры на уровне сверх-ИИ? [Ответ][Цитата]
asmer Сообщений: 52	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 9:29 Цитата: Автор: NewPoisk Ошибаетесь. На уровне сверх-ИИ меняются правила игры и классические законы экономики играют ничтожно малую роль, точно так же как при приближении к скорости света играют ничтожно малую роль классические законы механики и главное слово уже за релятивистскими соотношениями. ИИ - это как бы релятивистский, предельно возможный разум. Насчет ничтожности фундаментальных законов сохранения материи и энергии, при переходе от классической механики к релятивистской, пожалуйста, поподробнее. Насчет экономики: если "сверх-ИИ" научится делать все из ничего, тогда конечно, прощай экономика. Но для этого ему придется сначала опять же отменить фундаментальные законы сохранения, в успехе чего я глубоко сомневаюсь. Или у вас есть основания рассеять мои сомнения? В нашем мире пока что достижение любых целей затратно, например, даже старик Хоттабыч, сказочным способом обходя законы сохранения, все-таки тратил материю (волоски с бороды) и энергию (срывал их и что-то бормотал). Пока есть затраты на достижения цели, действует и экономика. А релятивизм и здесь применим: относительно людей/человечества/общества целью является одно, относительно "сверх-ИИ" целью может быть совсем другое, даже противоположное. Причем его затраты на достижение его цели могут быть ничтожными относительно наших затрат (на то он и "сверх-ИИ"), оставаясь в пределах фундаментальных законов. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 10:17 Цитата: Автор: Вольфрамовый клапан Причём ничего не понял, впитал только внешний антураж. Вы так считаете? Ха! Прочитайте вторую часть http://newpoisk.com/it27.zip или идею 9 скажем из http://newpoisk.com/idei.zip Цитата: Автор: Вольфрамовый клапан Правда, там юный и пылкий комсомолец одолел-таки супермозг и стало всем хорошо Слава советским сказкам! Цитата: Автор: Вольфрамовый клапан А если конкретно, без абстрактных аналогий? Каковы правила игры на уровне сверх-ИИ? Перестройка Вселенной, если одним словом. За подробностями опять отправляю к вышеуказанным файликам. P.S. Только не принимайте за саморекламу. Тут действительно много информации и выкладывать на форум все эти сотни Кб неполиткорректно. Цитата: Автор: asmer Насчет ничтожности фундаментальных законов сохранения материи и энергии, при переходе от классической механики к релятивистской, пожалуйста, поподробнее. См. курс физики. Цитата: Автор: asmer Пока есть затраты на достижения цели, действует и экономика. Вы сами ответили на свой вопрос. Все зависит от цели. Экономика - всего лишь один из способов оптимизации ее достижения (даже само слово "экономика" происходит от "экономить"). У человека основная цель - получше устроить свое тело. Причем понятие "получше устроить" включает в себя не только еду/питье/удовольствия, но и леность - экономию сил. Поэтому экономика и имеет такое огромное значение: она согласуется с целью человека. Так вот, цель ИИ может быть произвольной и вовсе не обязательно она будет надмножеством цели "получше устроить свое тело". Поэтому экономика отнюдь не станет решающим фактором в работе ИИ. Конечно, затраты будут учитываться, но ставить во главу угла минимизацию затрат за счет уменьшения скорости прогресса (как это сейчас происходит с людьми) ИИ вряд ли станет. [Ответ][Цитата]
Yerken Сообщений: 110	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 11:05 Мое же мнение касательно данного спора таково: даже если сверх-ИИ и бдет создан, то навряд ли в единичном экземпляре, т.к. все природные процессы (да и социальные так же)"заточены" так, что не терпят никакой монополии.То есть появится несколько сверх-ИИ, и они тут же вступят в схватку за выживание. Какими методами, какими способами, каким оружием (или орудием) - другой вопрос. Главное, что цель будет та же, что у других ранее появившихся существ, вкл. человека.Ничего нового в целеполагании не будет. Расслабьтесь. [Ответ][Цитата]
asmer Сообщений: 52	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 11:59 Цитата: Автор: NewPoisk См. курс физики. Согласно всем известным мне курсам физики фундаментальные законы сохранения материи и энергии всегда выполняются, источник и цитату об их ничтожности - в студию. Цитата: Автор: NewPoisk Вы сами ответили на свой вопрос. Все зависит от цели. Экономика - всего лишь один из способов оптимизации ее достижения (даже само слово "экономика" происходит от "экономить"). У человека основная цель - получше устроить свое тело. Причем понятие "получше устроить" включает в себя не только еду/питье/удовольствия, но и леность - экономию сил. Поэтому экономика и имеет такое огромное значение: она согласуется с целью человека. Так вот, цель ИИ может быть произвольной и вовсе не обязательно она будет надмножеством цели "получше устроить свое тело". Ответа на свой вопрос не вижу, но дополню ваше представление об экономике: борьба за ограниченные ресурсы (безграничных пока нет), рациональное использование имеющихся ресурсов, поиск новых видов более эффективных ресурсов. Цитата: Автор: NewPoisk Поэтому экономика отнюдь не станет решающим фактором в работе ИИ. Конечно, затраты будут учитываться, Здесь вы уже согласны со мной согласились. Цитата: Автор: NewPoisk но ставить во главу угла минимизацию затрат за счет уменьшения скорости прогресса (как это сейчас происходит с людьми) ИИ вряд ли станет. Бу-га-га-га!!! А если у него отберут ресурсы на основании расхождения целей, или на пол-пути к цели его ресурсы кончились (он их распылил в погоне за прогрессом с такой скоростью), или известные и доступные ему ресурсы вообще иссякли, а новые он не искал (зачем ему забивать себе мозги экономическими проблеммами?). Подохший сам по себе ИИ никак не тянет на сверх-ИИ. Так какое поведение более интеллектуально - безрассудное стремление к цели, которая может оказаться за пределами ресурсов, или обеспечение достижения своей цели достаточными ресурсами, т.е. ставить экономику во главу угла? [Ответ][Цитата]
Yerken Сообщений: 110	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 12:28 И опять же напоминаю, что сверх- ИИ вряд ли появится в виде монополии(вероятность этого ничтожно мала, кроме того, монополии не жизнеспособны)). А раз так, то между сверх-ИИ возникнет борьба за выживание. А раз возникнет такая борьба, то экономикой (уже на своем, более высоком уровне) сверх-ИИ просто вынуждены будут заниматься.Хотя бы для того, что бы победить в конкурентной борьбе, нужно оптимизировать свои усилия и распределение доступных ресурсов. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 13:15 Цитата: Автор: Yerken И опять же напоминаю, что сверх- ИИ вряд ли появится в виде монополии(вероятность этого ничтожно мала, кроме того, монополии не жизнеспособны)). А раз так, то между сверх-ИИ возникнет борьба за выживание. Опять мериете ИИ человеческими мерками. Монополия, борьба за выживание - все это дарвинизм. Мир животных. Цитата: Автор: asmer Согласно всем известным мне курсам физики фундаментальные законы сохранения материи и энергии всегда выполняются С чего вы решили что я вам привел аналогию про законы сохранения? Я присал про "классические законы механики": независимости массы от скорости, длины от скорости и т.д.. Цитата: Автор: asmer Ответа на свой вопрос не вижу, но дополню ваше представление об экономике: борьба... Опять борьба? Можно задать и такие цели ИИ, где никакой нужде в борьбе не будет: т.н. неразрушающая цель. Цитата: Автор: asmer А если у него отберут ресурсы на основании расхождения целей, или на пол-пути к цели его ресурсы кончились (он их распылил в погоне за прогрессом с такой скоростью), или известные и доступные ему ресурсы вообще иссякли, а новые он не искал (зачем ему забивать себе мозги экономическими проблеммами?). Подохший сам по себе ИИ никак не тянет на сверх-ИИ. Вот. Правильно, не тянет. А мы как раз и ведем разговор не про простой ИИ, а про СВЕРХ. Цитата: Автор: asmer Так какое поведение более интеллектуально - безрассудное стремление к цели, которая может оказаться за пределами ресурсов, или обеспечение достижения своей цели достаточными ресурсами, т.е. ставить экономику во главу угла? Или, или? Не учитываете что в случае сверх-ИИ "обеспечение достижения своей цели достаточными ресурсами" <> "ставить экономику во главу угла". Запасы энергии и вещества Вселенной практически бесконечны - вот и весь ответ. [Ответ][Цитата]
Yerken Сообщений: 110	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 13:55 <<Опять мериете ИИ человеческими мерками. Монополия, борьба за выживание - все это дарвинизм. Мир животных.>>> Вообще-то это относится не только к дарвинизму, это наблюдается и при самоорганизации в неживой природе (при конкуренции волн, возбуждаемых пейсмекерами, например). Что является свидетельством того, что законы, о которых я говорю, являются фундаментальными, а значит им будут подчиняться все самоорганизующиеся системы, будь они хоть тысячу раз сверх - ИИ. Вам мой респект, если Вы сумеете отменить эти довольно жесткие законы хотя для одного естественного носителя И.(я, например, бы не прочь отменить их для своего ребенка).Зачем же дожидаться появления сверх ИИ? [Ответ][Цитата]
asmer Сообщений: 52	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 14:27 Цитата: Автор: NewPoisk Опять мериете ИИ человеческими мерками. Монополия, борьба за выживание - все это дарвинизм. Мир животных. К сожалению, это общий закон развития. Возвысившись над миром животных, человечество перенесло ту же борьбу/конкуренцию на иной уровень. Если и при создании ИИ у людей та же цель - борьба/конкуренция, то откуда же ему взяться, абсолютно мирному безконкурентному сверх-ИИ? Только один путь: победить или успешно кокурировать. Но тогда какой же он мирный-безобидный? Цитата: Автор: NewPoisk С чего вы решили что я вам привел аналогию про законы сохранения? Я присал про "классические законы механики": независимости массы от скорости, длины от скорости и т.д.. Именно законы сохранения актуальны для экономики. Можно, конечно, рассмотреть способ безграничного увеличения массы любого ресурса, увеличивая его скорость до околосветовой, но опять же законы сохранения рулят. Цитата: Автор: NewPoisk Опять борьба? Можно задать и такие цели ИИ, где никакой нужде в борьбе не будет: т.н. неразрушающая цель. Мы обсуждаем сверх-ИИ, который ставит сам себе цели, а если ему ставят цели то либо он не сверх-ИИ, либо расхождение целей и борьба неизбежны. Цитата: Автор: NewPoisk Вот. Правильно, не тянет. А мы как раз и ведем разговор не про простой ИИ, а про СВЕРХ. И я о том же. Если он не может отстоять свои цели и ресурсы под них, какой же он СВЕРХ? Цитата: Автор: NewPoisk Или, или? Не учитываете что в случае сверх-ИИ "обеспечение достижения своей цели достаточными ресурсами" <> "ставить экономику во главу угла". Запасы энергии и вещества Вселенной практически бесконечны - вот и весь ответ. Тогда опять вопрос, откуда же он возникнет, этот сверх-ИИ? Если будет создан людьми, что соответствует теме форума, тогда неизбежна борьба/конкуренция сначала в масштабах планеты, затем Солнечной системы и т.д. На ресурсы других планет и солнечную энергию человечество уже претендует. И кто его отпустит без попытки остановить (сколько на твое создание потратили, ты должен на нас пахать)? Где гарантия, что, вырвавшись в другую звездную систему, он не столкнется с другим ИНТЕЛЛЕКТОМ (не доказано, что мы единственная и самая передовая форма разума на всю Вселенную), который предупредит: "Чем быстрее уберешься, тем целее будешь". Хотя может и не предупреждать, сразу угробить. Или у вас есть иные версии появления сверх-ИИ, типа сам по себе возник, вчера ничего не было, а сегодня уже есть сверх-ИИ, охватывающий всю Вселенную. [Ответ][Цитата]
Yerken Сообщений: 110	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 15:13 Соглашаюсь с Asmer, он пишет о том же, о чем и я, только другими словами и, надеюсь, более доходчиво. От себя добавлю, что (это строго ИМХО) наиболее вероятна самоорганизация сверх-ИИ, при косвенном участии людей. Поясню. Интернет - это сеть компьютеров, не так ли? Каждый компьютер мощнее одного биологического нейрона, не так ли? С развитием Интернета усложняются связи между компами, не так ли? С развитием Интернета увеличивается количество компов, постоянно находящихся в Сети, не так ли? Когда уровень сложности сети перейдет надкритический уровень (около 10 млрд. компов, регулярно появляющихся в Сети и связанных меж собой самыми разнообразными связями), где гарантия, что не найдется один талантливый чудак-программер,который напишет программульку, интегрирующую все компы в Сети в одну синергическую целую систему? При таком раскладе возможна монополия сверх-ИИ, т.к. второго Интернета на планете нету.И цель, естественно - подчинение людей своей воле (хотя и в этом сомневаюсь) [Ответ][Цитата]
Стр.2 (18): 1  [2]  3  4  5  6  ...  18 << < Пред. | След. > >>