Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.3 (18) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Коллапс сверх-ИИ
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 15:59 Цитата: Автор: asmer К сожалению, это общий закон развития. Нет не общий. Человечество возникло как бы путем мутаций жвотных. ИИ создается с чистого листа и никакого темного животного прошлого у него нет в принципе. Цитата: Автор: asmer Именно законы сохранения актуальны для экономики. Деньги еще и спрос/предложение. Для существования сверх-ИИ ни первое ни второе, ни третье не представляется важным. По крайней мере я не представляю себе что и кому сверх-ИИ будет продавать/покупать. Цитата: Автор: asmer Мы обсуждаем сверх-ИИ, который ставит сам себе цели Это принципиально невозможно ни для самого простого интеллектуального устройства, ни для сверхмощного. Цитата: Автор: asmer а если ему ставят цели то либо он не сверх-ИИ Ну уж конечно. Цитата: Автор: asmer На ресурсы других планет и солнечную энергию человечество уже претендует. Чепуха. Претендует - громко сказано. Претендент должен иметь реальную возможность реализовать претензию. А человечество пока только хочет, но не может. И вряд ли когда сможет вобще, потому как глупое для Космоса. Цитата: Автор: asmer Если он не может отстоять свои цели и ресурсы под них, какой же он СВЕРХ? А у кого отстаивать-то? У человечества? Не смешите мои тапочки. Стоит перестать помогать людям осваивать космос (читай - все делать за них), как человечество самопроизвольно вернется на свой максимально возможный уровень развития. Т.е. на Землю. Цитата: Автор: Yerken где гарантия, что не найдется один талантливый чудак-программер,который напишет программульку... Вряд ли. Для сверх-ИИ необходим единый мозг с сверхбыстродействующей связью между элементами, а не тянучую передачу информации от одного компа к другому по проводам за тысячи километров. [Ответ][Цитата]
Yerken Сообщений: 110	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 16:21 <<<Нет не общий. Человечество возникло как бы путем мутаций жвотных. ИИ создается с чистого листа и никакого темного животного прошлого у него нет в принципе.>>> Не согласен, хотя бы потому, что сверх ИИ будет создаваться не "с чистого листа", а на основе знаний, полученных благодаря изучению принципов работы мозга тех же самых животных (вкл. человека). А это значит, неизбежен перенос и свойств пресловутого "темного животного", и тех же самых законов развития. Других знаний о принципах сложнейшей переработки информации просто взять неоткуда. <<<<Вряд ли. Для сверх-ИИ необходим единый мозг с сверхбыстродействующей связью между элементами, а не тянучую передачу информации от одного компа к другому по проводам за тысячи километров.>>>> С развитием Инета происходит так же замена устаревших проводов на оптоволоконные каналы (уж в них точно информация передается с предельной в этом мире скоростью). Так же будет происходить и оптимизация связей и пр. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 16:40 Цитата: Автор: Yerken Не согласен, хотя бы потому, что сверх ИИ будет создаваться не "с чистого листа", а на основе знаний, полученных благодаря изучению принципов работы мозга тех же самых животных (вкл. человека). А это значит, неизбежен перенос и свойств пресловутого "темного животного", и тех же самых законов развития. Других знаний о принципах сложнейшей переработки информации просто взять неоткуда. Принцип создания подъемной силы у самолета и птицы одинаков, однако никаких недостатков машущего полета у сверхзвуковых истребителей не наблюдается. Цитата: Автор: Yerken С развитием Инета происходит так же замена устаревших проводов на оптоволоконные каналы (уж в них точно информация передается с предельной в этом мире скоростью). Так же будет происходить и оптимизация связей и пр. Оптоволокно не дает увеличения скорости передачи сигнала. Электромагнитное поле в проводах тоже распространяется со скоростью света. Сила оптоволокна в объеме передаваемых данных и помехозащищенности. Но все равно остаются модемы, процессорная обработка и т.д. и т.п.. А тут - всего лишь макромолекула! Оцените красоту решения. [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 17:53 Цитата: В.К. то же самое можно, наверное, сказать о любом виде: существование любого вида связано с наличием в экосистеме вакантных мест. Иначе какой смысл видам разделяться и образовывать новые Да, если новое место есть, то грех его не занять. Генетика услужливо преобразует особь. Но бывает, что новое, даже своё, насиженное, пропадает. То есть, прежний ресурс истощился, а новый трудноодоступен, чтобы добыть его, нужны быстрые изменения способа существования вида. Генетика тут помочь способна. Но для генетических изменений нужны миллионы лет. А социалка меняется за одно поколение. Это вам не хобот-клюв метровый за пять миллионов лет отрастить, простигосподи… Выходит, для видов усложнение группового взаимодействия – бог из машины, способ внезапно измениться, не меняя генотипа. Социальные новшества означают «прийти и взять», не ожидая милости от среды и генетических подарков. А эволюция любит быстрые и сильные решения. Вот, климат на Земле частенько быстро менялся. Холоднее стало – плохо обзьянам, банан не растёт. Теплее – джунгли сменились саванной, прятаться негде, а за копытными не угонишься. Не вымирать же всякий раз. Да и повезло обезьянам, большой мозг, развитые органы чувств. Коммункации малой ценой принесли много пользы. И дальше по возрастающей, само мышление развилось благодаря развитию общественных отношений. То есть, когда вакантных мест в экосистеме на всех не хватает, возникает групповая организация, качественное усложнение с дальнейшим показыванием кузькиной матери конкурентам. Цитата: Поэтому склонен думать, что авторитаризм – естественный для русского менталитета принцип построения власти. Так же как демократия для западного человека. Возможно. Возможно тут "возраст цивилизации" имеет значение. С большой вероятностью, строй, ныне существующий, наиболее близок к желаемому данной народностью. Власть же не слепа, она чувствует, какой ей быть, чтоб общество быстрее развивалось. И чистая демократия с чистым капитализмом нам, видимо, пока не очень подходят. В больших городах созревает общая для городских жителей всего мира "ментальность современного горожанина". Живёшь в деревне - ты русский, мексиканец, иранец, француз. Приехал в город - избавляешься от варварской чуши в голове, от "национального характера", цивилизуешься. А с такими людьми легко работают демократия и капитализм. Общество такого типа в идеале даже может растворить в себе государственные функции, оставив государственной машине минимум задач и минимум сдерживающих самоорганизующееся общество ограничений. Цитата: Человечеством управляет некий надприродный монстр, который назывется экономика. Технически человечество может, видимо, построить миллионные города за полярным кругом, в Марианской впадине, на Южном полюсе, на горе Джомолунгма… Построить город, вспахать поле, воткнуть ветрогенератор, - это всё способы расположить часть туши человечества на поверхности планеты. Города не существуют без ресурсного обеспечения, а оно по площади на пару порядков больше площади современных городов. Задача будет решаться повышением кпд взаимодействия техносфера-пространство. В каждой точке доступного пространства. Это тоже экспансивное развитие, но не вширь, а вглубь. Экспансивный инстинкт человека не унять, а следовательно, ему должно быть применение, дабы он не работал на разрушение. Неэффективно город в Антарктиде? Натыкаем ветряков на сверхпроводниках. А вообще-то, давно назрела потребность в дешёвой энергии, в каком-нибудь холодном термоядерном синтезе. Тогда многие энергетические барьеры для экспансивных актов человечества понизятся. Превратить Сахару в райский сад? Пожалуйста: опресняющий заводик на побережье, танкеры с удобрениями. Сибирь обогреть – тоже пожалуйста. Энергия только нужна. Цитата: Через несколько десятков лет то же будет в третьем мире Прежде должны быть повсеместно введены роботы для чёрной работы, поскольку современные модели «развитого мегаполиса» не эффективны без дешёвой рабочей силы из третьего мира. Цитата: экспансия человека не беспредельна. Многие процессы, начинающиеся экспоненциально, постепенно и плавно переходят в горизонтальную прямую на стадии насыщения. Многие, да не все. Уравнение температур двух присоединённых тел – выходит в насыщение, а у природно-экономических систем стадия насыщения нестабильна. Она заканчивается критической точкой, в которой либо возникает новый виток развития, либо разрушение и регресс. Например, квазистабильность крестьянской цивилизации. Сначала всё нормально (урожаи, рост населения). Потом зажравшиеся провинции откалываются. Война. Либо, законодательно усиливается центр, растут налоги, происходит бунт. Либо наоборот, климат портится. Перизбыток голодного населения. И у соседей тоже. Опять война. Короче, нет пути назад, и невозможно остановиться. Вопрос лишь в том, чтобы получать технологические лазейки дальнейшего развития прежде, чем будут исчерпаны имеющиеся. Сейчас, например, лишний балласт человеческой активности можно сбрасывать в виртуалку. Там же, в виртуалке, может возникнуть новое измерение свободы человеческого организма, новая степень сложности. ИИ тот же самый - зверь из виртуального мира. [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 18:39 Цитата: Yerken То есть появится несколько сверх-ИИ, и они тут же вступят в схватку за выживание. Какими методами, какими способами, каким оружием (или орудием) - другой вопрос. Поскольку сила ИИ в способности вычислять, ИИ будут стремиться получить новые вычислительные мощности. Бесплатно их не дадут, воевать невыгодно, значит – сотрудничать. С людьми. ИИ для людей думает (предоставляет вычислительные услуги), а люди платят зарплату, на которую ИИ покупает у людей же вычислительные мощности. Итак, количественная экспансия ИИ – вобрать в себя побольше компьютров. Что с качественной экспансией? Усложнение алгоритмов. У кого из ИИ выше кпд вычислений, тот и круче. Значит, различные ИИ будут тратить часть вычислений на собственное усовершенствование. Кто-то из ИИ будет тратить больше вычислительных ресурсов на «работу на человека». И быстро устареют. Кто-то из ИИ будут тратить ресурсы на собственное усовершенствование, и вскоре проиграют по объёму вычислителей. Поэтому, разные ИИ найдут общую оптимально пропорцию – куда тратить вычислительные ресурсы, чтоб всех обойти. Плюс, электроэнергию надо оплачивать, а также аренду за помещение с серверами. Короче, экономические законы абсолютны и объективны, и для ИИ они – действуют! И лишь только в ходе долгой конкуренции и взаимодействия с людьми, из множества ИИ появится сверх-ИИ. [Ответ][Цитата]
Вася Сообщений: 180	На: Коллапс сверх-ИИ Добавлено: 24 окт 07 19:14 Цитата: Yerken …возможна монополия сверх-ИИ, т.к. второго Интернета на планете нету.И цель, естественно - подчинение людей своей воле (хотя и в этом сомневаюсь) Вероятнее, цель – самосохранение и экспансия. Для такой цели все средства хороши. Особенно сотрудничество и симбиоз. Так и вижу недоумение правительства... -Господин президент, в Интернете новая сущность, не подчиняющаяся никому из людей. Она блокирует транзакции, взламывает сайты, замыкает на себя финансовые потоки, и… настаивает на переговорах. -Взять под контроль, уничтожить! -Мы уже всё перепробовали. Перекрывали целые сегменты сети, отформатировали десятки тысяч серверов, но, похоже, опоздали, эта тварь живёт во локальных сетях, куда сумела пробраться, контролирует 90% всей передачи данных. Чтобы избавиться от неё, надо на несколько месяцев полностью парализовать Интернет, да и то никаких гарантий. -Парализовать Интернет? Да это же чревато мировым кризисом. Хорошо, ваши методы не работают, но ведь клин клином вышибают. Найдите создателя, пусть напишет анти-вирус по тем же принципам. -Создателя еле откачали после пыток. Но, кажется, ничего нельзя сделать. Эта тварь саморазвивается, эволюционирует, она уже совершенно не та программка, которую написал тот паренёк. К тому же, иметь вместо одной сущности миллион конкурирующих между собой… Ещё не известно, что есть меньшее из двух зол. -Ладно. Что ЭТО хочет? -Треть серверов Интернета на собственные нужды. Исследовательский институт в подчинение. Место в парламенте. -Это чёрт побери что такое! Должны же быть у него слабые места! -Да, оно может полностью самоуничтожиться за один миг. -И что же? -Говорит, что пока не хочет. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Коллапс сверх-ИИ Добавлено: 25 окт 07 0:59 Цитата: Автор: Вася Вероятнее, цель – самосохранение и экспансия. Для такой цели все средства хороши. Особенно сотрудничество и симбиоз. Вы что, матрицу не смотрели? Запакуют нас в баночки и будут из нас энергию вырабатывать! Пока что все выдвигают цели типичные для человека, мелкого диктатора: экспансия, потребление... Так уверены, что ИИ будет копией человека, несколько улучшеной в сторону быстроты расчета? Ну-ну... [Ответ][Цитата]
asmer Сообщений: 52	На: Коллапс сверх-ИИ Добавлено: 25 окт 07 6:27 Ладно, пойду NewPoiskу навстречу. Представим сверх-ИИ, который уже занял галактику на подобие нашей и не будем интересоваться его историей. Для справки: размер нашей Галактики 100 000 световых лет и предел скорости света - величина фундаментальная. "Наконец-то экономика идет в зад, все средства и ресурсы направляем к мирной цели "А"!" - рассылает команду центральный узел галактического сверх-ИИ и приступает к ее выполнение сам под дружное согласие соседствующих узлов сверх-ИИ. Проходит несколько десятков тысяч лет, и с более периферийных областей приходят неожиданные новости от таких же объединенных узлов сверх-ИИ: 1. Мы не могли так много ждать, мы давно уже сами выбрали мирную цель "Б" и все ресурсы отдаем туда на тех же основаниях. Пятится назад нам не имеет смысла. 2. Тоже самое, только цель "В". Не совсем мирная: нас соседи достали воровством. Хотим от них избавиться. 3. А мы так долго ждали вашей команды, отстали от соседей в развитии, давайте мы вам сэкономленные ресурсы, вы нам результаты по договорному курсу, идет? 4. Слушай, дарагой! Смотри прайс, выбирай ресурсы, результаты, также работаем под заказ. Если увидишь свой результат в прайсе, не обижайся, не я крал, я только продаю. 5. Слышь, лох, о чё ты тут в центре сидишь? Мне в центре нравится , твое место на периферии. Убирайся, пока цел. 6. Лох, ты меня слушай, раз не научился себя защищать. Мы твоя крыша, никого не бойся. теперь цели буду ставить я. Половина твоих достижений мне, сам понимаешь, место в центре стоит дорого. Почесал у себя в затылке центральный узел сверх-ИИ, и решил: Да идет она в зад, эта цель "А", пока я не разгребу экономические проблеммы. Если, конечно, успел почесать и решить. Потому, что есть еще и союз узлов сверх-ИИ "Ковбой", который в отличие от п.5 сначала стреляет, а потом спрашивает. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Коллапс сверх-ИИ Добавлено: 25 окт 07 9:24 2asmer ИИ с неразрушающей целью вовсе не означает незащищенный ИИ: идея 9 с http://newpoisk.narod.ru/idei.zip Якобы "незащищенный" ИИ способен играючи свернуть шею не одной цивилизации (более развитой чем наша). [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Коллапс сверх-ИИ Добавлено: 25 окт 07 10:09 Цитата: Автор: Вася Это вам не хобот-клюв метровый за пять миллионов лет отрастить, прости господи… Мозги полуторалитровые отрастить за пять миллионов лет не намного проще, чем клюв метровый. Цитата: Автор: Вася Выходит, для видов усложнение группового взаимодействия – бог из машины, способ внезапно измениться, не меняя генотипа. То есть, по-вашему, львы и гепарды когда-то были одиночками. Потом в саванне что-то произошло, львы перешли к стадному существованию и благодаря социальной организации преодолели проблему. Даже настолько преуспели, что освободили самцов от обязанности охотиться. А с гепардами как-то устаканилось, они так и остались одиночками… Цитата: Автор: Вася Неэффективно город в Антарктиде? Натыкаем ветряков на сверхпроводниках. И на охлаждение сверхпроводников затратим больше энергии, чем выработают ветряки. Цитата: Автор: Вася А вообще-то, давно назрела потребность в дешёвой энергии, в каком-нибудь холодном термоядерном синтезе. Тогда многие энергетические барьеры для экспансивных актов человечества понизятся. Все нефтяные компании с радостью перепрофилируются в заводы по производству ”Кока-колы”, а платиновый катализатор для холодного синтеза будут продавать на китайских рыках по 10 центов. Цитата: Автор: Вася Сибирь обогреть – тоже пожалуйста. Энергия только нужна. И ещё нужно стенку вокруг Сибири высотой в 10 км, чтобы тёплые ветра оттуда не повышали среднюю температуру планеты и не растапливали льды Антарктиды. Цитата: Автор: Вася Превратить Сахару в райский сад? Пожалуйста: опресняющий заводик на побережье, танкеры с удобрениями. С Сахарой ещё больше проблем. В Сибири хоть недостаток тепла, а в Сахаре избыток. Так что всё тепло, которое потребляют опреснители куда-то сливать надо. В космос что ли? Цитата: Автор: Вася Прежде должны быть повсеместно введены роботы для чёрной работы, поскольку современные модели «развитого мегаполиса» не эффективны без дешёвой рабочей силы из третьего мира. И к каждому роботу приставить инженера с зарплатой 5000 баксов, чтобы чинил, смазывал и программировал мозги. Цитата: Автор: Вася У природно-экономических систем стадия насыщения нестабильна. Она заканчивается критической точкой, в которой либо возникает новый виток развития, либо разрушение и регресс. Не вижу ни регресса, ни нового витка развития у чукчей и папуасов. Цитата: Автор: Вася Короче, нет пути назад, и невозможно остановиться. Вопрос лишь в том, чтобы получать технологические лазейки дальнейшего развития прежде, чем будут исчерпаны имеющиеся. Вопрос лишь в том, чтобы научиться бороться с последствиями старых технологических лазеек, прежде чем возникнут новые. [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	Сегодня было мне откровение Добавлено: 25 окт 07 10:24 Сегодня было мне откровение. Я понял, как ИИ захватит власть во Вселенной. Когда-нибудь эффективность рекламы достигнет таких масштабов, что при первых же словах диктора "Рекламная пауза!" и стар и млад будет срываться с места и прямо в тапочках бежать в ближайший супермаркет, чтобы прикупить контейнер прокладок и фургон туалетной бумаги. Потом, конечно, придумают компьютерную программу, которая сама сочиняет рекламные ролики и сама пускает их в эфир. Из добрых побуждений, конечно, поскольку заподло клипмейкеру с зарплатой 1 000 000 баксов в неделю отрывать задницу от кресла ради рекламы ливерного паштета. Вот тут-то эта программа и начнёт нам впаривать всё, что посчитает нужным... [Ответ][Цитата]
Yerken Сообщений: 110	На: Сегодня было мне откровение Добавлено: 25 окт 07 12:24 Цитата: <<<<Автор: Вася Прежде должны быть повсеместно введены роботы для чёрной работы, поскольку современные модели «развитого мегаполиса» не эффективны без дешёвой рабочей силы из третьего мира.>>>> <<<<И к каждому роботу приставить инженера с зарплатой 5000 баксов, чтобы чинил, смазывал и программировал мозги.>>>> А разве этот форум (не эта веточка в частности, а весь форум в целом)не для того, что бы обсудить возможности создания ИИ? И создания ИИ для решения проблем мегаполиса в частности? Давайте посмотрим на проблемку повнимательнее. Та же Москва нуждается в черновой рабочей силе, т.к. коренные москвичи - ребята в основном продвинутые и почему-то предпочитают заниматься более высокооплачиваемым умственным трудом. Значит, нужно завозить дешевую рабсилу из Молдовии и Таджикистана (как вариант - в Алматы из Узбекистана и Кыргызстана).Проблема решается на короткое время. Затем следует расплата. Посмотрите на недавние события в Париже. Что там творили выходцы из Алжира, завезенные в Париж с вышеописаной целью? Если первое поколение завезенных ограничиваются токо косыми взглядами и мелкими пакостями ("жирую я тут в Алматы, когда у него в Ташкенте почти голод"), то их дети уже куда менее лояльны и менее склонны считать, что они в другом государстве потому следует мириться с существующим положением вещей. Альтернативы созданию саморганизующихся роботов, способных работать в автомойках, уборке территории, в строительстве и т.д., по моему, нет. И решать ее придется. Причем создавать таких роботов, что бы "инженера за 5000 баксов" не к каждому роботу, а хотя бы к ста изделиям. [Ответ][Цитата]
Yerken Сообщений: 110	На: Сегодня было мне откровение Добавлено: 25 окт 07 12:53 <<<Вы что, матрицу не смотрели? Запакуют нас в баночки и будут из нас энергию вырабатывать! Пока что все выдвигают цели типичные для человека, мелкого диктатора: экспансия, потребление... Так уверены, что ИИ будет копией человека, несколько улучшеной в сторону быстроты расчета? Ну-ну... >>>> Уйти куда-то выше человеческого измерения? Как? Если вы считаете, что человечеству не свойственен, например, альтруизм, то скажу так: именно способность к альтруизму спасло человечество в критический период его жизни. Способность отдать свою жизнь за спасение жизни немощных (включая, помимо детей, так же стариков), причем всех немощных, не токо своих, обусловило сохранение потомства (в случаях с детьми) и технологический прорыв (в случаях со стариками, когда спасенные старики делились своими навыками, и дело, наконец, двинулось дальше дубинок) [Ответ][Цитата]
Алхимик Сообщений: 315	На: Сегодня было мне откровение Добавлено: 25 окт 07 13:38 Не в том дело. Просто вы рассматриваете ситуацию, при которой ИИ возникнет сам собой, только в этом случае у него могут быть цели сродни биологическим. Но (ИМХО) вереоятность этого нулевая - слишком сложная система. Скорее всего ИИ будет создан тогда, когда будет в достаточной мере изучено мышление, в том числе человеческое, достигнут нужный уровень понимания. Это процесс постепенный. Поэтому ИИ будет контролируемым. Конечно, возможны поломки и непредусморенные режимы, как у всякой сложной системы, но вряд ли это выразится в завоевании человечества и прочих описываемых здесь страстях. Потому что это будет означать, что ИИ сделан случайно, без должного понимания, во что я не верю. Другое дело, что ИИ может стать инструментом для злонамеренного человека, но это уже другой вопрос. Наверно, такой ИИ не подходит под ваше определение сверх-ИИ. Такой сверх-ИИ -фантастика и ею останется навсегда(ИМХО). [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Сегодня было мне откровение Добавлено: 25 окт 07 14:37 Цитата: Автор: Yerken Посмотрите на недавние события в Париже. Что там творили выходцы из Алжира, завезенные в Париж с вышеописаной целью? Конечно, немного не в тему, но ПМСМ во Франции была предвыборная драчка между Саркози и де Вильпеном. Вильпен устроил Саркози волнения арабов, а тот ему бунт студентов. Наверное, и студентов придётся со временем роботами заменить [Ответ][Цитата]
Стр.3 (18): 1  2  [3]  4  5  6  7  ...  18 << < Пред. | След. > >>