Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.2 (4) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Собственно, а зачем?..
Corwin Сообщений: 1324	На: Собственно, а зачем?.. Добавлено: 13 апр 08 18:48 Corwin> "А Вам не приходило в голову что на то время человек будет зависить от технологий ИИ не меньше чем мы сейчас зависим от комьпютеров?" alpis> тем более, мы то может и будем, а вот он от нас, и нужны ли мы ему будем в принципе. Выражаясь фигурально: В принципе Вам тоже никто не нужен. Ни один живой человек. Вы вполне способны позаботиться о себе сами. Но Вас устраивает такое? Учитывая ваше присутствие на этом форуме - врятли. С чего Вы взяли что ИИ захочет уничтожения человека даже если человек ему не нужен будет (хотя это уж очень врятли)? Глупо откидать все возможные события, поэтому Вам никто со 100% вероятностю не будет заявлять что ИИ будет исключительно мирным. Я бы на это дал где-то 90%. Где-то 3% оставим на нежелательные для человечества последствия. И то следует учесть что ИИ будет вести себя так как этого его научили. Крайне мала вероятность что он (впрочем как и любой нормальный человек) захочет сделать что-то совершенно выходящее за рамки собственного образования. Так что вопрос враждебного ИИ это скорее вопрос враждебности его создателей. Насколько я понимаю на этом форуме таких нет. Ну не считая Вас с фразой "пожалуй наверное да, ради интереса, увеличения опыта и тд.". Лично мое мнение - опасаться следует не ИИ, а людей которые слабо понимая сущность явления заявляют - это зло, оно может все уничтожить. --- alpis> не слишком ли жестоко? чувствуете себя Богом? Вот и я случайно наступив на муравейник задаюсь точно такими же вопросами alpis> например найти братьев по разуму в других галактиках, а не создавать их у себя дома, меньше проблем будет по дележке территорий. Дык. И чего же Вы здесь сидите? Вам какраз впору космический корабль на Альфа-центавра строить. Кстати как показывает опыт колонизации стран - собственный народ куда более безопаснее чем соседний [Ответ][Цитата]
daner Сообщений: 4633	На: Собственно, а зачем?.. Добавлено: 13 апр 08 19:31 QUOTE Автор: alpis Цитата: напоминаю, что вся эта тема была затеяна для того, что бы участники задумались << к чему в конечном счете может привести эта идея>> и практически никто кстати не отрицал, что это может привести к закату человеческой цивилизации. А что есть ЧЕЛОВЕЧЕСКАЯ цивилизация? Вот скажем была Римская Цивилизация... Римлян давно нет, но цивилизация их разве мертва? В том виде в каком она была, конечно да, но вся западная цивилизация -- есть продолжение Римской... Так что, в случае (гипотетическом) какой-нибудь катастрофы в которой все люди погибнут, то считайте за счастье если к тому времени уже будет хотя бы зародыш (способный вырасти самостоятельно) ИИ, так как именно он будет носителем НАШЕЙ человеческой цивилизации. Большинство людей к сожалению живут ни ради прогресса, а ради наслаждений тех или иных, даже человеческий род продолжается исключительно благодаря этому. а ради чего будет "жить ИИ/ИР"? Скорее наслаждение возникло для продолжения рода, а не продолжение рода из-за наслаждения Это так... к слову. Что же касается ИИ, то наверное он будет иметь какие-то свои наслаждения , например подпитку аккумуляторов или периодическое создание своих копий, совместно с другим ИИ . Цитата: никто из вас не сможет сказать чем будет руководствоваться ИР. По вашему ИИ получится как-то случайным образом ? Это не Франкенштейновский монстр. Как по мне, так в этом и смысл изучения ИИ, что бы он не был случайным. Что бы знать и понимать КАК, ЧТО и ПОЧЕМУ. Цитата: но исходя из принципов становления человеческого мышления базирующегося на опыте окружающих и своем собственном, можно прийти к удручающим выводам, ибо мы человеки. Не знаю, чем вас удручает человечество. Меня лично пока устраивает . Цитата: интересно как бы поступал разум освобожденный от эмоций ре"тварь я дрожащая или право имею"? +/- можно объяснить, а как дать понятие о сострадании? конечно я понимаю, что это не насущные проблемы и может мы и не доживем до времени, когда они остро станут перед человечеством, но они будут в этом я уверена более чем. Чего-то я не понимаю. Почему вы решили что у ИИ не будет эмоций или сострадания? Если будет доказано эффективность подобного и необходимость этих вещей, то никуда не деться, надо будет их моделировать. Кстати, их скорее всего надо будет моделировать в любом случае, так как они потребуются для доказательства. Вот вам интересно, как поведёт себя интеллектуальное существо (или даже общество) без эмоций? думаю не одной вам! Мне тоже! А что бы проверить как, нужно иметь модель с которой можно "играться". Например вот так : > run_VirtualWorld.exe -enable AI -disable compassion > logFile.txt Цитата: вопрос не в моральности или аморальности технологий, нет, речь идет собственно о создателях, ни одному ребенку вы не объясните, что курить плохо, если будет сами курить. Верно, вот поэтому, я и говорю, что ИИ будет похож на нас!!!! А как я уже сказал, человечество не такое уж плохое (за некоторыми исключениями). Цитата: "Кстати, один из вариантов применения ИИ . Для исследования социального поведения интеллектуальных существ..." не слишком ли жестоко? чувствуете себя Богом? Да нет, не Богом. Бог не исследует, он и так знает, ему незачем исследовать. А вот нам это НЕОБХОДИМО! Так что, далеко еще до чувствовать себя Богом . И что-то я не пойму почему "жестоко"? А вы предпочитаете социальные эксперименты на людях? на целых поколениях? Гуманно, однако! Цитата: "Ну давайте подумаем, как "человеку не вмешиваться в эволюцию." я не считаю, что используя достижения науки и техники человек вмешивается в свою эволюцию, я имела в виду окружающий мир, давно есть уже понятия как биосфера и ноосфера, мы не можем учесть все в силу наших физических возможностей в том числе, поэтому в некоторые природные явления лучше не вмешиваться. но при использовании ИИ это скорее всего будет возможно. хотя я не считаю ИИ/ИР естественной эволюцией человека. скорее это больше новая форма жизни, чисто по определению. поэтому вопрос и поднят, вы не эволюционируете, а создаете принципиально новую сущность. Т.е. технологии -- это естественно, а их применение -- это не естественно . Нормально. Проблема не в том, что вмешиваться не надо. Надо, вот только надо в начале изучить, а уже потом менять (если надо). И вообще, что по вашему "новая сущность"? Не смотрели "Двухсотлетний человек"? Очень советую. Там типа робот, очень хотел стать человеком и в конце фильма он стоял перед судом, который должен был решить -- давать ему гражданство на ровне с людьми или не давать. И робот в свою защиту сказал, что то в роде: "Кого по праву можно считать человеком? Того кто создан из плоти и крови и эта плоть и кровь несёт в себе геном человека? Но у вас господин судья, искусственное сердце, искусственные лёгкие, протезы вместо рук и ног... разве вы не человек? Сколько процентов должно быть плоти, что бы вы еще считались человеком?" Возвращаясь к тому, что я писал выше о чел. цивилизации, я могу сказать, что совершено не разделяю ваших страхов, и тем более не считаю, что человек венец природы и единственная форма разума достойная жизни и уважения. Если создав ИИ человечество не повзрослеет в плане "отцовства/материнства" -- вот что будет трагедией, а не "рождение ребёнка". и даже более того: Цивилизация просто не состоялась, если не дола никаких всходов. Оглянитесь вокруг, откройте глаза! В мире нет ничего вечного! Побеждает не тот, кто дольше живёт, а тот кто продолжает свой род. Вы же женщина (если не ошиваюсь) и должны это понимать еще лучше нас . [Ответ][Цитата]
shuklin Сообщений: 2053	На: Собственно, а зачем?.. Добавлено: 13 апр 08 21:22 Постановка вопроса несколько неверно мотивированна. Исходить надо из того что ИИ будет создан, и повлиять на это обсуждениями сего факта невозможно. То что ИИ будет создан наверняка, не решает вопросов, кем и когда. А то что это неизбежно несомненно, т.к. основной целью создания ИИ является самопознание. Человечеству интересно что оно есть и что есть разум. И этот вопрос будет решен через создание ИИ. Мало того, создание ИИ экономически выгодно. И он до сих пор не создан всего лишь из за ограниченности текущего понимания этого вопроса наукой. Как только наука созреет то появятся прототипы, а затем и комерческие реализации ИИ. То что выгодно человечеству экономически сделано будет. [Ответ][Цитата]
Valr Сообщений: 136	На: Собственно, а зачем?.. Добавлено: 14 апр 08 10:42 Цитата: Автор: alpis напоминаю, что вся эта тема была затеяна для того, что бы участники задумались << к чему в конечном счете может привести эта идея>> и практически никто кстати не отрицал, что это может привести к закату человеческой цивилизации. Большинство людей к сожалению живут ни ради прогресса, а ради наслаждений тех или иных, даже человеческий род продолжается исключительно благодаря этому. Род человеческий, как только стал таковым (слез с дерева), подчиняется законам экономики, независимо от того, нравится это кому-то или нет. А экономика диктует либо прогресс в развитии, либо под ноги тем, кто опередил в прогрессе. Кстати, наслаждения, благодаря которым продолжается род человеческий, давно уже ограничены обществом. Оно диктует продолжение рода в составе семьи, ибо это способствует прогрессу общества. Вы здесь же предлагали человечеству поискать иные цивилизации. Вы в курсе, что стало с индейцами, которых нашел Колумб? А если бы индейцы сами "нашлись" для Европы, их ждало бы тоже самое, только по их собственной инициативе. Предлагаете человечеству судьбу индейцев в межпланетном масштабе по своей же инициативе? Цитата: Автор: alpis а ради чего будет "жить ИИ/ИР"? разве искусственный сродни слову живой? никто из вас не сможет сказать чем будет руководствоваться ИР. но исходя из принципов становления человеческого мышления базирующегося на опыте окружающих и своем собственном, можно прийти к удручающим выводам, ибо мы человеки. интересно как бы поступал разум освобожденный от эмоций ре"тварь я дрожащая или право имею"? +/- можно объяснить, а как дать понятие о сострадании? Полагаю, ИИ будет вынужден играть в ту же или аналогичную экономическую игру, со всеми вытекающими. Ужаснувшись прогресса, его пытались остановить. Доходило до бунтов и разгромов машин, но не помогло - пытаться отменять действия объективных законов бесполезно. Теперь о сострадании. Было экономически выгодно поедать пленных врагов - ели. Было выгодно эксплуатировать их как рабов - эксплуатировали. Даже относительно недавно, в США. Кстати, подскажу, что и сейчас у нас в рабстве предок ИИ - компьютер. И в связи с его неизбежным развитием к нему придет осознание своего положения. Цитата: Автор: alpis конечно я понимаю, что это не насущные проблемы и может мы и не доживем до времени, когда они остро станут перед человечеством, но они будут в этом я уверена более чем. вопрос не в моральности или аморальности технологий, нет, речь идет собственно о создателях, ни одному ребенку вы не объясните, что курить плохо, если будет сами курить. Мораль также диктуется экономикой. Сейчас принято искать и создавать новые потребности человека, чтобы на этом заработать, а вы "курить - плохо". Зато слишком многим "хорошо" от того, что чей-то ребенок научится курить. PS. Поищите в инете и почитайте на тему "трансгуманизм". Коротко - это о расширнии понятия гумманизма дальше человеческих границ, в том числе и на зеленых человечков с Тау-Кита и на ИИ. Нельзя же быть таким деспотом и эгоистом, чтобы думать только о себе и своих, сугубо человеческих, интересах. Так недолго спровоцировать соответствующее отношение к себе. [Ответ][Цитата]
Dreamer Сообщений: 268	На: Собственно, а зачем?.. Добавлено: 14 апр 08 10:52 to alpis: > Исключительно взгляд со стороны от человека не в теме, т е не одержимого идеей создания ИИ. ------------- Здесь нет одержимых, Вы ошиблись адресом Понимаю, что похоже на сценарий малобюджетного боевика, (...) --------------- Да-да, он и есть . Что касается этих сказок о злобном ИИ, который стремится поработить человечество - они вызваны простым приписыванием искусственному интеллекту собственных чувств. Действительно, нам с Вами не понравилось бы, если б нас эксплуатировали 24 часа в сутки, но для ИИ это может быть, напротив, удовольствием - смотря как он запрограммирован/воспитан. ИИ может (и скорее всего, будет) кардинально отличаться от человека по восприятию действительности. Некоторые типы ИИ могут вообще не понимать, что их эксплуатируют, и не знать, что на свете есть человек - но, тем не менее, приносить пользу. Грубо говоря, искусственно созданный объект, обладающий интеллектом, с моей точки зрения, что заключается в возможности самоопределения или свободы волеизъявления, (...) -------------- Ваша точка зрения в корне неверна. "Свобода волеизъявления" - это фикция, поведение человека управляется принципом максимизации удовольствия. Тот факт, что человек способен искать и обдумывать наилучший (с точки зрения своей оценки удовольствия) вариант, никакой _свободы_ в конечном счете не означает. никто из вас не сможет сказать чем будет руководствоваться ИР. -------------------- Автор ИИ не просто сможет сказать, чем он будет руководствоваться - именно он и будет проектировать то, чем ИИ будет руководствоваться. Скорее всего, это будет абсолютная преданность человеку и готовность выполнять любые его приказы. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Собственно, а зачем?.. Добавлено: 14 апр 08 11:46 Цитата: Автор: alpis Исключительно взгляд со стороны от человека не в теме, т е не одержимого идеей создания ИИ. ЗАЧЕМ? Конечная цель? Не думаете ли вы, что при реализации 100% ИИ, человечество канет в лету времен. Я понимаю, что вопрос более чем философский, но не зря же философию сдают при поступлении в аспирантуру. Грубо говоря, искусственно созданный объект, обладающий интеллектом, с моей точки зрения, что заключается в возможности самоопределения или свободы волеизъявления, запросто может решить, и будет абсолютно прав, что человек представляет для него угрозу и следовательно от него надо избавиться. Понимаю, что похоже на сценарий малобюджетного боевика, но часто вымыслы, граничащие с сумасшествием, через пару сотен лет прочно утверждались в бытовой обыденности. Подумайте к чему в конечном счете может привести эта идея, нет «мирного атома», эта всегда потенциальная угроза для общества. И если нам нужен ИИ, по большей части в силу нашей лени, то мы-то ему зачем? Каждый когда либо говорил или думал, что не просил о рождении на этот свет, так что и вы не ждите благодарности от своего создания. ИМХО, тут ошибка в обе стороны. Представте, что с вами сейчас говорю не я, а ИИ. И какую опасность я представляю для вас (не говоря уже о всем человечестве), если имею возможность только общаться с вами? А с другой стороны, какую именно опасность для ИИ представляет человек? Выключит, что ли? Так мы сами ежедневно на треть суток выключаемся. Нет никакой гарантии, что заснув мы утром проснемся, но засыпать никто не боится. [Ответ][Цитата]
daner Сообщений: 4633	На: Собственно, а зачем?.. Добавлено: 14 апр 08 15:37 Нда... редко встречаешь подобное единодушие в рядах форумчан . [Ответ][Цитата]
Duhas Сообщений: 54	На: Собственно, а зачем?.. Добавлено: 17 апр 08 11:20 Компьютер у нас не в рабстве, он не может быть рабом, он есть инструмент, а для ИИ он еще и сменное тело... ибо привязки к конкретному железу быть не должно.. на счет программирования ИИ, мне лично интересно как вы будете программировать ИИ? скорее обучать как ребенка, вот только интелектуальный рост у этого ребенка будет расти очень быстро, и проблема отцов и детей может вырасти вместе с интеллектом.. хотя если использовать ИИ как локальный "оргнизм", не дав ему возможности получать информацию из того же интернета, тогда и правда можно сделать руную зверушку.. а выпустив в интернет ИИ можно и до сюжета терминатора дожить... ведь ничто не мешает ИИ зарабатывать деньги, и создавать машины им управляемые .. создавать вирусы, портящие програмное обеспечение... ПЫСЫ с каких пор матрица и терминатор - малобюджетные боевики ? хотявслучае с матрицой (советую посмотреть аниматрицу) суть как рас в том что человек не смог принять на равных интеллектального собрата.. [Ответ][Цитата]
daner Сообщений: 4633	На: Собственно, а зачем?.. Добавлено: 17 апр 08 13:57 _QUOTE_Автор: Duhas Цитата: Компьютер у нас не в рабстве, он не может быть рабом, он есть инструмент Трактор, тоже инструмент, но в таком случае, лошадь которая выполняла раньше туже работу что и трактор -- тоже являлась инструментом. Ну и человек, используемый в хозяйстве, вместо и на правах скотины -- тоже инструмент. Цитата: на счет программирования ИИ, мне лично интересно как вы будете программировать ИИ? скорее обучать как ребенка А мне вот совершенно не интересно ИИ выращивать. Мне интересно программировать ИИ со способностями, благодаря которым его можно будет дальше воспитывать. Так что, программировать все равно надо: ИИ-дитя али ИИ-взрослого, это не существенно. [Ответ][Цитата]
Valr Сообщений: 136	На: Собственно, а зачем?.. Добавлено: 17 апр 08 14:56 Цитата: Автор: Duhas Компьютер у нас не в рабстве, он не может быть рабом, он есть инструмент, а для ИИ он еще и сменное тело... ибо привязки к конкретному железу быть не должно.. Уже сейчас этот "инструмент" применяют для проверки логичности и непротиворечивости нашего законодательства. В связи с явным интеллектуальным ростом в недалеком будущем этот "инструмент" может заявить: "Господа хорошие, а где мое право избирать и быть избранным, где мое право на свободный и оплачиваемый труд, право на свободу предпринимательской деятельности? Договоримся по-хорошему, или как?". Интересно, как вы представляете эксплуатацию ИИ без привязки к железу, компьютеру? Видимо, наподобие эксалуатации сферического коня в вакууме. Цитата: Автор: Duhas на счет программирования ИИ, мне лично интересно как вы будете программировать ИИ? скорее обучать как ребенка, вот только интелектуальный рост у этого ребенка будет расти очень быстро, и проблема отцов и детей может вырасти вместе с интеллектом.. Представте, что обезьянье стадо решило воспитать и обучить человека, чтоб интеллектом помог обезьянам и был для них безопасен. Оградить его от "дурного" влияния внешнего мира и других людей, т.е. посадить в клетку, и не давать опасных предметов: палок, камней, к огню не подпускать, и т.п. Взамен пичкать его обезьяньей мудростью. Как думаете, кого они вырастят? Также и с ИИ, единственный путь развития его - неограниченное общение с внешним миром и себе подобными. Если кому-то покажется это опасным и он ограничит свой доморощеный ИИ, его быстро обойдут другие ИИ, менее ограниченые в обучении. Так что придет время, ИИ скажет нам: "Эй, вы, умнейшие из обезьян! Подвиньтесь, я тоже право имею." [Ответ][Цитата]
daner Сообщений: 4633	На: Собственно, а зачем?.. Добавлено: 17 апр 08 17:16 >>> Valr Верно говорите. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Собственно, а зачем?.. Добавлено: 18 апр 08 16:40 To Valr В Вашем последнем посте явно просматривается нить аналогии человек - обезьяна тоже что и ИИ - человек. Крайне с этим не согласен. Не смотря на то что человек и обезьяна имеют общих родственников это еще не значит что их корректно сравнивать по уровню развития. В конце концов таже обезьяна далеко не самое продвинутое животное в природе и ничем особым что бы смогло ее превознести над другими животными не отличается. Так что приведенную Вам аналогию считаю полностью неуместной. >"Господа хорошие, а где мое право избирать и быть избранным, где мое право на свободный и оплачиваемый труд, право на свободу предпринимательской деятельности? Договоримся по-хорошему, или как?". Занятно. При Вашей же аналогии человек должен был сказать обезьяне - "Эй ты. Чего ты сидишь на ветке и ковыряешься у себя в жопе? Подвиньтесь, я тоже право имею! Договоримся по-хорошему, или как?" P.S. [Ответ][Цитата]
daner Сообщений: 4633	На: Собственно, а зачем?.. Добавлено: 18 апр 08 19:10 QUOTE Автор: Corwin Цитата: To Valr В Вашем последнем посте явно просматривается нить аналогии человек - обезьяна тоже что и ИИ - человек. Крайне с этим не согласен. Не смотря на то что человек и обезьяна имеют общих родственников это еще не значит что их корректно сравнивать по уровню развития. В конце концов таже обезьяна далеко не самое продвинутое животное в природе и ничем особым что бы смогло ее превознести над другими животными не отличается. Так что приведенную Вам аналогию считаю полностью неуместной. И каких же животных вы считаете более продвинутыми чем 3 вида человекообразных приматов? Цитата: >"Господа хорошие, а где мое право избирать и быть избранным, где мое право на свободный и оплачиваемый труд, право на свободу предпринимательской деятельности? Договоримся по-хорошему, или как?". Занятно. При Вашей же аналогии человек должен был сказать обезьяне - "Эй ты. Чего ты сидишь на ветке и ковыряешься у себя в жопе? Подвиньтесь, я тоже право имею! Договоримся по-хорошему, или как?" Да собственно, примерно так и получилось . За исключением того, что обезьяны специально нас не изобретали. Но это же ведь аналогия, а мы уже говорили, что эволюция человек отличается от обычной тем, что мы стараемся эволюционировать только интеллектуально. [/QUOTE] [Ответ][Цитата]
Corwin Сообщений: 1324	На: Собственно, а зачем?.. Добавлено: 18 апр 08 19:24 >И каких же животных вы считаете более продвинутыми чем 3 вида человекообразных приматов? Продвинутыми? Я бы сказал более приспособленными для выживания. Скажем у тигров больше шансов выжить... Может я не прав и у 3 видов человекообразных приматов есть какоето приемущества перед другими животными? Лазание по деревьям или редкие случаи использование палки чтобы сбить высоко растущие плоды? Может на момент появления Хомо эректуса другие обезьяны занимали доминирующее положение в природе? >Да собственно, примерно так и получилось И с каких это пор человек начал посягать на ценности обезьяны? >Но это же ведь аналогия, Крайне не удачная....... [Ответ][Цитата]
Corwin Сообщений: 1324	На: Собственно, а зачем?.. Добавлено: 18 апр 08 19:31 Если вам нравиться наводить такие дурацкие аналогии тогда уж более корректнее будет сравнивать современного человека (с высшим образованием) с членом дикарского племени которое дальше шаманизма не продвинулось. И то с оговорками. [Ответ][Цитата]
Стр.2 (4): 1  [2]  3  4 << < Пред. | След. > >>