GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (2)След. > >>   Поиск:  
 Автор Тема: Запрещать ли автономное оружие?
Aleksandr1
Сообщений: 2769
Запрещать ли автономное оружие?
Добавлено: 01 окт 18 3:04
Недавно в Женеве закончила свою работу комиссия ООН по системам автономного оружия.

Все большее распространение получают летальные системы автономного оружия, в которых программа или нейросеть принимают решение об уничтожении противника.
Применяемое сегодня оружие – пока еще не полностью автономное: цель всегда задает человек, и ошибки чаще всего являются следствием действий человека.
Искусственный интеллект и человеческий интеллект довольно сильно отличаются и в сложных ситуациях действуют по-разному.
Развитие искусственного интеллекта и систем автономного оружия вновь возвращает человечество к гуманитарным, нравственным проблемам.


В скором времени ученые обещают масштабное внедрение автономного оружия, так называемых роботов-убийц. Такие системы будут без вмешательства человека определять цель и время атаки, а также принимать решение о ее проведении. 26 стран выступают против разработки такого оружия, однако ряд государств, в том числе Россия, США и Великобритания, поддерживают внедрение новой системы вооружения. Пока неясно, на чем будет строиться принцип работы такой системы и каковы риски внедрения новых технологий. Эксперты продолжают спорить, допустима ли передача контроля над оружием роботу.


Здесь действительно отдельный интеллект, отдельные решения с какого-то момента и пугающие перспективы, когда такое существо выходит из-под управления человека.

Проблема летальной робототехники, то есть такой объект, который становится техническим, но субъектом, это своего рода кощеева игла, которая находится сразу в нескольких оболочках. Здесь оболочки – это проблема на проблеме, а сама игла – это стрелка компаса: что сейчас происходит в мире. 80–90-е – годы глобализации, трансформации. Слово "трансформация" остается, а "глобализация" постепенно "желтеет", появляется какая-то новая концепция мира. Она реализуется буквально в последний год, в последние месяцы. Мы видим довольно серьезные перемены в том, что, как представлялось, будет продолжаться еще какое-то время.

Все больше и больше снимает моральную ответственность с человека убивающего, с солдата. Все это отдается автономным анонимным программам. Какой-то злой гений – программист пишет программу, и никто даже не берет ответственность за то, что где-то убиты тысячи человек.


[Ответ][Цитата]
гость
188.170.75.*
На: Запрещать ли автономное оружие?
+1
Добавлено: 01 окт 18 3:12
ну, ответсвенность же не только берут, ее и возлагают, политический уровень контроля сама по себе автономность не отменяет же. ОТвечать должны те, кто санкционирует автономный режим (или допустил 'автономную/cамовольную автономизацию).
[Ответ][Цитата]
Разум_Возмущёный
Сообщений: 236
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 3:25
Изменено: 01 окт 18 3:35
В этом контексте "автономными" можно считать и мины и самонаводящиеся ракеты / бомбы.
Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются.

[Ответ][Цитата]
Aleksandr1
Сообщений: 2769
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 3:29
Проблема шире. Когда мы говорим про роботов, мы сразу представляем себе терминатора, автономные вертолеты, дроны. Но ведь сейчас большая часть роботов – это незаметные роботы, программы, алгоритмы, искусственные интеллекты. Тут можно вспомнить и печально известный кейс в Пакистане, когда американские спецслужбы создали алгоритм, который по профилю телефонных абонентов вычисляет террористов. Вылетали дроны и уничтожали их, но это не так важно, могли бы выезжать и целевые группы спецназа. Важно, что определяли, кто есть террорист, по профилю: как он передвигается, если поменялась сим-карта – это подозрительно, если ты часто выключаешь телефон – тоже. Было должностное разбирательство внутри ЦРУ, оказалось, что этой программе дали обучиться на каких-то профилях террористов и законопослушных людей. Но проблема в том, что террористов немного, особенно с известными профилями телефонных переговоров, и это было жутко неточно, от двух с половиной до четырех тысяч человек были убиты во время действия этой программы.

Или, например, то, что сейчас происходит в Китае: вот эта система социальных рейтингов. Там формально никого не убивают, но там система тоже обучена на биг дате, и какие-то действия вполне могут быть направлены на разрушение жизни человека. Это и есть те самые автономные роботы.
[Ответ][Цитата]
Aleksandr1
Сообщений: 2769
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 3:31
Цитата:
Автор: Разум_Возмущёный

В этом контексте "автономным" можно считать и мины и самонаводящиеся ракеты / бомбы.
Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются.



Системы автономного оружия древние, как и все способы убийства? Ведь если вспомнить древние ловушки, подвешенные топоры, петли – это же тоже своего рода автономное оружие.
[Ответ][Цитата]
СГТР http://egtd.ru
Сообщений: 7755
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 6:39
Цитата:
Автор: Aleksandr1



Системы автономного оружия древние, как и все способы убийства? Ведь если вспомнить древние ловушки, подвешенные топоры, петли – это же тоже своего рода автономное оружие.
Нужен суд справедливости. Иначе дров можно наломать. Справедливость она как самоорганизация - от Бога.
[Ответ][Цитата]
Калитеран
Сообщений: 569
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 7:07
Ну, всё зависит от контекста рассмотрения и понимания какой из контекстов определяющий для принятия таких решений, а главное им затем следования, я говорю о том что одно дело играться в политику и популярность и хором заявить «Нет всему плохому и не гуманному!» а другое дело что потом делать за кулисами, когда дело касается выгоды и конкуренции, некому не охота оказаться в жалком положении вроде хохляндии, ясно что любые мировые договоренности — чистая популистика, которая нарушается почти без сопротивления под давлением выгоды.

Можно предположить что всё так и будет дальше, то есть на словах согласятся с одним, а по факту будет то что выгодно, а военное преимущество это выгодно, в общем тоже самое что например с ядерным оружием или биологическим, все против него, у всех его как бы мало или нет совсем, но это наглый пиздёж, на войне все средства хороши, а война в той или иной степени перманентна, вот и думайте...

А «ответственность»... Что вообще это такое? Что то типа «совести» что ли? Да ну бросьте... Есть профит и риск, в данном случае профит- военное преимущество, а риск — новые виды ошибок связанные с алгоритмами ML, программированием и роботостроением на их основе. Все определяет статистика, если чуть лучше будет с ИИ чем без него, его будут использовать. Наверно стоит напомнить что «солдат» - расходный материал на войне, как автомат или граната, в США солдат «стоит» примерно 100к$ то есть солдат на порядок дешевле танка(~1m$), если ИИ случайно кокнет своего — не велика потеря, даже на учениях, не говоря уже в реальном бою.

Ну а для ТВ и домохозяек наверно будет другой расклад, с обещаниями мира во всем мире, бесценности человеческой души и даже что все телезрители скоро будут шиковать как в рэп-клипах. Но наебут же... однозначно наебут...
[Ответ][Цитата]
Jenka
Сообщений: 852
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 7:16
возможно у автономного оружия есть и другая цель. Воевать друг с другом ведущим странам проблематично т.к. есть вероятность реально уничтожить друг друга ядерным оружием. Воевать с террористами уже слишком просто. нужен более сильный общий враг. для вливания реально больших денег в военную индустрию. Ну а так как инопланетяне к нам так и не прилетели то почему бы самим не создать такого врага. и потом же с ним и бороться.
В итоге люди как бы и там и там хорошие, а ИИ плохой)
[Ответ][Цитата]
гость
178.219.242.*
На: Запрещать ли автономное оружие?
Добавлено: 01 окт 18 7:22
Война – слишком сложное дело, чтобы доверять его военным. В нынешней ситуации возникает много новых аспектов. Во-первых, соотношение "война и мир": что такое война, что такое мир? Сейчас это становится достаточно неопределенным понятием. У нас возникло понятие "гибридная война"; мне кажется, сейчас более актуально говорить о гибридном мире. Второе – военные действия (непонятно, военные они, не военные, полувоенные, четвертьвоенные) перетекают в компьютерные войны. Возникла новая категория, новое явление, которое до сих пор не имеет четкого определения.

Вторая проблема заключается в том, что не только военным нельзя это полностью доверять – собственно, никогда не доверялось, политики руководили, но и политики не справляются. Возникла проблема, связанная с той трансформацией, в которой находится сейчас человечество. Можно выделить три фактора – это многофакторность нового мира, огромное количество трудноопределимых субъектов, которые – непонятно кто. Второе – это подвижность. Мало того, что это разные субъекты, они еще находятся в разных сочетаниях в этом трансформационном калейдоскопе. И третье – они меняют свою сущность, оболочку. Как тут справиться военному, политику и так далее? То есть проблема автономной системы не просто в том, что она решает гуманитарные вопросы (человек-оператор – да, это присутствует), а в том, что человеческий интеллект не справляется с многофакторностью, подвижностью не только военных проблем, а всех проблем, которые возникают в современном мире. Поэтому мы вынуждены переходить к сотрудничеству с искусственным интеллектом в разных формах.
[Ответ][Цитата]
гость
5.18.241.*
На: Запрещать ли автономное оружие?
Добавлено: 03 окт 18 7:27
Цитата:
Автор: Разум_Возмущёный

В этом контексте "автономными" можно считать и мины и самонаводящиеся ракеты / бомбы.
Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются.


Всё перечисленное выше не является "автономным", ключевое свойство "автономной" системы - субъектность, обусловлено способностью самостоятельно выбирать цель, всё то, что "не поддаётся никакому контролю", в том числе, самоконтролю - пуля дура.
[Ответ][Цитата]
гость
5.18.241.*
На: Запрещать ли автономное оружие?
Добавлено: 03 окт 18 7:28
Цитата:
Автор: Разум_Возмущёный

В этом контексте "автономными" можно считать и мины и самонаводящиеся ракеты / бомбы.
Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются.


Всё перечисленное выше не является "автономным", ключевое свойство "автономной" системы - субъектность, обусловлено способностью самостоятельно выбирать цель, всё то, что "не поддаётся никакому контролю", в том числе, самоконтролю - пуля дура.
[Ответ][Цитата]
Разум_Возмущёный
Сообщений: 236
На: Запрещать ли автономное оружие?
Добавлено: 03 окт 18 11:45
Изменено: 03 окт 18 11:51
Вы просто не понимаете диалектики явления. Самонаводящаяся ракета. Выстрелил и забыл. Мина, поставил и забыл. Искусственно воздвигаемая вами граница автономности - искусственна. Впрочем, как и все в этом мире.
[Ответ][Цитата]
гость
5.18.241.*
На: Запрещать ли автономное оружие?
Добавлено: 04 окт 18 3:14
Цитата:
Автор: Разум_Возмущёный

Вы просто не понимаете диалектики явления. Самонаводящаяся ракета. Выстрелил и забыл. Мина, поставил и забыл. Искусственно воздвигаемая вами граница автономности - искусственна. Впрочем, как и все в этом мире.


Самонаводящаяся ракета захватывает цель после получения целеуказания от одноимённой системы. Мина уничтожает всё, что приводит в действие её спусковой механизм, а значит механизм отбора(выбора) целей начисто отсутствует.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3111
На: Запрещать ли автономное оружие?
Добавлено: 07 окт 18 7:27
Цитата:
Автор: Aleksandr1
Все больше и больше снимает моральную ответственность с человека убивающего, с солдата. Все это отдается автономным анонимным программам. Какой-то злой гений – программист пишет программу, и никто даже не берет ответственность за то, что где-то убиты тысячи человек.

Кстати, если выкинуть из цитаты слово "с солдата" - то идея уже давно была обкатана в культуре. Правда, не в виде автономного дрона, который делается-программируется кем-то персонально - а в виде автоматического приведения приговора о массовом недоверии в исполнение.
Имеется в виду "Билет на планету Транай" Р.Шекли. Взрыв медальона со взрывчаткой на шее чиновника в тот момент, когда его действиями становятся недовольны более половины избирателей.

Т.е. некая автоматизация демократическо-судебно-исполнительной процедуры - она, видимо, таки будет тоже реализована. Либо сама по себе одновременно с разработкой боевого автономного оружия - либо доморощенными хакерами в ходе необъявленной войны государства со своим населением. В последнем случае даже разработки оружия не надо - обычный взлом автопилота автомобиля, и едущий на автомобиле чиновник на скорости въезжает в стену или в лоб авто другого чиновника, которым тоже недовольны.
[Ответ][Цитата]
гость
37.187.129.*
На: Запрещать ли автономное оружие?
Добавлено: 07 окт 18 8:36
Цитата:
Автор: Victor G. Tsaregorodtsev


Кстати, если выкинуть из цитаты слово "с солдата" - то идея уже давно была обкатана в культуре. Правда, не в виде автономного дрона, который делается-программируется кем-то персонально - а в виде автоматического приведения приговора о массовом недоверии в исполнение.
Имеется в виду "Билет на планету Транай" Р.Шекли. Взрыв медальона со взрывчаткой на шее чиновника в тот момент, когда его действиями становятся недовольны более половины избирателей.

Т.е. некая автоматизация демократическо-судебно-исполнительной процедуры - она, видимо, таки будет тоже реализована. Либо сама по себе одновременно с разработкой боевого автономного оружия - либо доморощенными хакерами в ходе необъявленной войны государства со своим населением. В последнем случае даже разработки оружия не надо - обычный взлом автопилота автомобиля, и едущий на автомобиле чиновник на скорости въезжает в стену или в лоб авто другого чиновника, которым тоже недовольны.
Вы на киберфоруме сами признались что никто ничего не понимает в нейросетках, ИМХО это позиция слабаков, тех кто сдались, у кого опустились руки, то что Вы не понимаете как работает многослойный персептрон не значит что никто не понимает.
[Ответ][Цитата]
 Стр.1 (2): [1]  2След. > >>