Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.17 (22) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Должен ли AI уметь врать?
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 24 май 09 14:36 Цитата: Автор: tac А детектор лжи - есть разработка монопольной фирмы - которая по определению не врет только владельцу. И приводите и там в зависимости от ситуации - вам то врут, то нет ... для выгоды создателя детекторов лжи ... Просто замечательная концепция Может и так. А может это мой личный "детектор лжи". Да мало ли. Человеку живущему в обществе приходится доверять другим его членам. Вы доверяете свои деньги банкам, вы доверяете свою жизнь полицейским, водителям и т.д. И что же? у них нет возможности вам солгать? Есть -- элементарно. Но они этого не делают, так как им это НЕ ВЫГОДНО. Поэтому, наделение ИИ способностью лгать -- не означает, что он будет это делать на право и налево. Про законы, еще раз повторю: У меня нет желания, что бы МОЙ ИИ относился ко всем так же, как ко мне. Поэтому, я не хотел бы, что бы он врал МНЕ, но другим, если это нужно... Что касается Биржи и бизнеса. Биржа всего-лишь способ аукциона. Своеобразный способ. Советую вообще хоть что-нибудь почитать об аукционах. И таких способов огромное множество. Каждый новый аукцион диктует свои правила от которых меняется эффективность той или иной стратегии игроков. Где-то выгодно сообщать все по максимаму, где-то же, это совершенно не выгодно. В конце концов, популяция игроков сходится в каком-то балансе (и не думайте, что Наш Баланс -- это единственный), ну например в Хик Балансе (который по совместительству еще и паретто оптимум) и это более чем справедливо, гуманно (можете добавить любое из эпитетов благородства) и совершенно не важно, применялось для этого сокрытие информации или еще что-то там такое (что на ВАШ взгляд плохо и не нужно). и по поводу капитализма... Я разве говорил, что все современное общество живет в капитализме, даже без намеков на социализм? Я такого не говорил. Более того, есть очень четкие исследования, где отлично видно, в каких условиях выгодна та или иная социальная СТРАТЕГИЯ! Социализм -- стратегия застоя. Она устойчивая к внешним потрясениям, но совершенно не подходит для развития и прогресса. Это две крайности -- а крайности всегда ПЛОХО! Поэтому общество как и полагается, балансирует между этими полюсами. И правильно делает. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 24 май 09 14:41 Цитата: Автор: tac Блин, ребята классический пример юрисприденции, открываете закон и там написано, прав сосед В, более того он еще может обратится в суд и выйграть дело, за то, что сосед А не обрезает ветви свисающие на территорию соседа В. Может сам срубить эти ветви с дерева соседа А, единственно не может подрезать корни этого дерева, но может потребовать компенсацию за это с соседа А в виде денежного вознаграждения. Свет и листья по барабану ... Свет относится только к постройкам около границ определенной высоты ... Вы вообще гражданское право когда нибудь изучали ? Поэтому если не хотите ИИ учить морали - то научите его хотя бы, безприкословно выполнять законы ... Причем тут юриспруденция и гражданское право????? Мы обсуждали модели мира агентов, а не ставили перед собой цель рассудить кто из них прав. Мы говорили о мотивации, а не о конечном решении проблемы. Смотрите внимательнее на суть беседы, а не просто вырывайте цитаты из контекста. И я не утверждал, что ИИ морали учить не надо. Мораль есть свод социальных норм, а нормы -- есть очень эффективное средства координации общества (и искусственного в том числе). Другое дело, что Нормы -- инструмент очень domain-но зависимый и поэтому, делать его без возможности изменения, не есть хорошая идея. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 24 май 09 14:47 Цитата: Автор: tac Это Вы приступность имеете введу ? Тогда именно так - я не хотел бы использовать ИИ в этой сфере человеческой деятельности, более того, жестко ограничил бы машину с ИИ, чтобы ее как минимум было бы сложно использовать в этих целях. Хотя отчетливо понимаю, что машину с ИИ, даже с такими условиями можно будет использовать для преступлений, но на порядок сложнее, а не в массовом проявлении ! Других областей деятельности человека, где необходима ложь - я не вижу !!! нет, я не преступность имею ввиду. Преступностью я не занимаюсь. Я говорю о гражданских сферах деятельности ИИ. Я например не хочу, что бы в случае, неполадок в самолете, летчики сообщали бы мне, что у них чего-то там выключилось, если конечно я ничем помочь не могу. И дело тут не в ответственности, так как ответственность по любому ложится на экипаж, и ДА я хотел бы после приземления узнать, что все прошло не так гладко. НО ВО ВРЕМЯ ПОЛЕТА, я не хочу получить инфаркт не долетев до аэропорта или еще хуже, в панике мешая пилотом справится с ситуацией. Поговорите с людьми, которые занимаются важными и ответственными делами, вы услышите о большом кол-ве ситуаций, в который нет никакого смысла быть совершенно искреннем. Перестаньте быть максималистов. Это пойдет вам на пользу во многих областях деятельности. [Ответ][Цитата]
3d6 Сообщений: 325	На: Должен ли AI уметь врать? Добавлено: 24 май 09 16:13 Цитата: Автор: tac А нам ни в коем случае не нужен свободномыслящий разум - хватает классического способа размножения ... нам нужен именно усилитель НАШЕГО интеллекта, а не свободный от нашего ... Вам - может быть. Мне же нужен ИИ, который заставит человечество шевелиться, чтобы не отстать в эволюционном смысле, и не превратиться в бесполезного паразита. Человек не имеет никакого преимущества "по умолчанию" перед ИИ, и в случае отставания в развитии должен быть ограничен в средствах влияния на эволюцию ИИ. [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 0:19 Цитата: Автор: daner Вы пытаетесь доказать мне, что ложь не всегда полезна? Я с этим и не спорил. Так что вы пытаетесь доказать? Хотите резюме, прошу: Ложь в том смысле как определил Корвин - есть классическое понятие обмана. В основе любого обмана лежит преступление. В основе самообмана лежит понижение умственного уровня. Ни то, ни другое для ИИ неприемлемо и бесполезно. Только для человека это может иметь смысл при недостаточно совершенно законадательстве и при наличии человеческих эмоций. Но в тех областях где будет применяться ИИ недопустимо, чтобы он нарушал законадательство и сам себя обманывал, в результате чего нельзя разобраться о чем говорит его модель ... Поэтому нету таких случаев для ИИ - где ложь необходима (для человека есть, но не для ИИ). Что же касается - "временная" ... то это уже не ложь, это отсутствие свединий, и в этом случае нужно не лгать и не обманывать - а сообщать две гипотезы ... даже в том, самолете который терпит бествие - НУЖНО сообщать о неполадках, но не так как "Мы обязательно разобьемся" ... а так что "В данный момент есть опасность крушения - оставайтесь на своих местах и пристигнитесь" ... и не надо сказок про инфаркты и панику ... [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 0:23 Цитата: Автор: daner Причем тут юриспруденция и гражданское право????? А очень при чем ... если Вы взялись рассуждать, что должен или не должен уметь ИИ - то вначале Вам нужно согласовать это с правом, потом с моралью ... и только потом делать выводы - об возможности наделения ИИ той или иной возможностью ! [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 0:26 Цитата: Автор: daner вы услышите о большом кол-ве ситуаций, в который нет никакого смысла быть совершенно искреннем. А вот здесь вы меняете смысл по ходу дискусии - быть совершенно искреннем и лгать - это не одно и тоже. Корвин спрашивал о возможности лгать (врать) ! [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 0:29 Цитата: Автор: 3d6 заставит человечество шевелиться, чтобы не отстать в эволюционном смысле, и не превратиться в бесполезного паразита. А без Вас человечество получается не шевелится и превращается в паразитов ? Не думали ли Вы, что именно из-за этого деградирующего влияния на вас, Вы тут нам предлагаете создать для себя камеру пыток, чтобы мы там шевелились ? [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 0:32 Цитата: Автор: tac А вот здесь вы меняете смысл по ходу дискусии - быть совершенно искреннем и лгать - это не одно и тоже. Корвин спрашивал о возможности лгать (врать) ! Поясню еще: фразу для ИИ "Не могу сообщить Вам эту информацию" - никто еще не отменял !!! Но это не ложь ! А истиная правда - он не может этого сообщить, согласно тому же законодательству или морали. Но он своим поведением не вводит в заблуждение человека ! [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 25 май 09 1:18 >если Вы взялись рассуждать, что должен или не должен уметь ИИ - то вначале Вам нужно согласовать это с правом, потом с моралью ... Ой, йой. Это же надо, как только у ИИ возникнут проблемы с соседскими яблоками, он управляясь гражданским правом будет подавать на соседа в суд. Или рекомендовать своему обладателю подать на соседа в суд... Хотя я наверное опять чего-то не понимаю и просто развожу флуд... [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 1:31 Цитата: Автор: Corwin >если Вы взялись рассуждать, что должен или не должен уметь ИИ - то вначале Вам нужно согласовать это с правом, потом с моралью ... Ой, йой. Это же надо, как только у ИИ возникнут проблемы с соседскими яблоками, он управляясь гражданским правом будет подавать на соседа в суд. Или рекомендовать своему обладателю подать на соседа в суд... Хотя я наверное опять чего-то не понимаю и просто развожу флуд... А что лучше соврать своему обладателю, что сосед прав вот как раз для этого ИИ и нужен, чтобы мог посоветоваться обратится в суд ... Заодно он и аналог тесту Тьюринга пройдет без необходимости врать ... [Ответ][Цитата]
3d6 Сообщений: 325	На: Должен ли AI уметь врать? Добавлено: 25 май 09 1:38 Цитата: Автор: tac А без Вас человечество получается не шевелится и превращается в паразитов ? Не думали ли Вы, что именно из-за этого деградирующего влияния на вас, Вы тут нам предлагаете создать для себя камеру пыток, чтобы мы там шевелились ? Слабовато шевелится, честно говоря. Такими темпами можно еще лет 300 до нормального общественного строя идти, и не факт что дойдем. И - не вам предлагаю, а сам этим делом занимаюсь. И - не камеру пыток, а рай на земле (нет лучшего способа заставить людей не мешать ИИ, чем удовлетворить все потребности (включая потребность в удовлетворении агрессии, и подобные) тех, кто мог бы хотеть помешать). [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 1:41 Цитата: Автор: 3d6 Слабовато шевелится, честно говоря. Такими темпами можно еще лет 300 до нормального общественного строя идти, и не факт что дойдем. И - не вам предлагаю, а сам этим делом занимаюсь. И - не камеру пыток, а рай на земле (нет лучшего способа заставить людей не мешать ИИ, чем удовлетворить все потребности (включая потребность в удовлетворении агрессии, и подобные) тех, кто мог бы хотеть помешать). Вы просто коммунист нового толка (решили уже за всех, что нам нужен ваш "рай") [Ответ][Цитата]
3d6 Сообщений: 325	На: Должен ли AI уметь врать? Добавлено: 25 май 09 1:46 Цитата: Автор: tac Вы просто коммунист нового толка А это плохо? Или раз тоталитарные режимы любят называть себя "коммунистическими", то теперь это слово - плохое? [Ответ][Цитата]
tac Сообщений: 2601	На: Должен ли AI уметь врать? Добавлено: 25 май 09 1:51 Цитата: Автор: 3d6 А это плохо? Или раз тоталитарные режимы любят называть себя "коммунистическими", то теперь это слово - плохое? Так Вы как раз и предлагаете тоталитарный режим с ИИ [Ответ][Цитата]
Стр.17 (22): 1  ...  13  14  15  16  [17]  18  19  20  21  22 << < Пред. | След. > >>