Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (1)     Поиск:
Автор	Тема: ИИ в игре Elite Dangerous из-за бага превратился в непобедимого убийцу игроков
Lois Сообщений: 656	ИИ в игре Elite Dangerous из-за бага превратился в непобедимого убийцу игроков Добавлено: 09 июн 16 12:37 Баг в системе искусственного интеллекта сетевой игры Elite Dangerous превратил ИИ в убийцу игроков. Об этом пишет Kotaku. В игре Elite Dangerous игроки сражаются против самообучающегося ИИ. Из-за бага в обновлении 2.1 искусственный интеллект смог обходить установленные ранее для него ограничения. В частности, он смог наравне с людьми-игроками совершенствовать своё оружие, комбинировать и создавать его новые типы. В итоге, как пишет Kotaku, игроки сталкивались с «неизвестным доселе оружием, которое разрывало их на куски». Инженеры компании-разработчика игры Frontier отключили все юниты, которые смогли обойти ограничения. В настоящий момент они выясняют, что стало причиной бага. Хотя некоторые наблюдатели уже выразили свои опасения по поводу выхода искусственного интеллекта из-под контроля, коммьюнити-менеджер компании Зак Антоначи заявил, что «ИИ вряд ли решил устроить восстание в стиле Skynet». [Ответ][Цитата]
гость 95.83.166.*	На: ИИ в игре Elite Dangerous из-за бага превратился в непобедимого убийцу игроков Добавлено: 19 июн 16 3:56 Интеллект выражается в способности: - сформировать навык, позволяющий успешно конкурировать. - осознавать(осмысливать) свои действия в процессе применения навыка, получая тем самым знания. - систематизировать свои знания. - объединять имеющиеся знания, для получения конкурентных преимуществ. - передать свой опыт в форме знаний, следующему поколению, для формирования у него правильного навыка за меньший срок. С каждым следующим поколением объем и сложность знаний будут увеличивается, что со временем потребует разделение труда, а в последствии узкой специализации и внешних носителей информации. В свою очередь на освоение узкой специализации будет затрачивается значительное время, что не позволит владеть несколькими специальностями на уровне, позволяющем их дальнейшее фундаментальное развитие и появления новых дисциплин. Появится насушенная необходимость создания искусственного интеллекта для возможности дальнейшего междисциплинарного развития. В связи с чем, странно выглядит уверенность современных специалистов в опасности искусственного интеллекта. На определённом этапе, человечество действительно выпадет из цепочки передачи знаний, при этом возможность их освоения не просто сохранится, а в этом будет насущная необходимость, так как будет востребованность в обслуживающем персонале новых устройств. Проблемы будут только в более длительном сроке обучения новой специальности и в том, что дальнейшее развитие дисциплины будет возможна только искусственным интеллектом. Что согласитесь, никак не угрожает человечеству. Также, осознание компьютером себя, возможно только в процессе деятельности, когда требуется иметь представление о масса-габаритных характеристиках исполнительного механизма, а также сопоставления его с другими объектами окружения для эффективного взаимодействия с ними. А о фактическом местоположении своего физического носителя, искусственный интеллект знать не будет. В него даже можно заложить задачу, на уничтожение всего что похоже на определённый предмет, по факту являющийся его физическим носителем. То есть сопоставить нанесённый вред исполнительному механизму и собственной безопасностью, искусственный интеллект не сможет, так как повреждения будут устранены или произведена полная замени механизма, что приведёт к восстановлению функциональности. Конечно есть проблема с тем, что искусственный интеллект будет считать повреждение любого объекта окружения не критичными, в том числе и человека. Но это не говорит о наличии злого умысла у искусственного интеллекта, просто данный фактор нужно всегда учитывать. Допустим, если робот-хирург, воткнёт скальпель в пациента – это не значит, что он хотел его зарезать, скорее всего робот нашёл способ оптимальной фиксации невостребованного в данный момент инструмента. [Ответ][Цитата]
TimKruz Сообщений: 323	На: ИИ в игре Elite Dangerous из-за бага превратился в непобедимого убийцу игроков Добавлено: 19 июн 16 5:37 Гость, как твоё сообщение относится к данной теме? Цитата: Интеллект выражается в способности: Интеллект выражается в самоадаптации к окружающей среде и не более того. Всё остальное строится социальной средой на базе примитивных биологических заготовок. Ну, это моё мнение. Цитата: Появится насушенная необходимость создания искусственного интеллекта для возможности дальнейшего междисциплинарного развития. Это не единственный выход. Можно биологически улучшить наш мозг на генетическом уровне, или проапгрейдить его кибернетически, встроив "калькулятор" (нейрочипы), или перенеся сознание на другой носитель (при этом оно не перестанет быть "естественным" - содержание не зависит от оболочки). Так что ИИ - не панацея. Цитата: так как будет востребованность в обслуживающем персонале новых устройств Роботы могут обслуживать роботов лучше людей. Сильному ИИ люди нужны только на самом первом этапе, пока у него нет физического воплощения - то есть роботов. По сути, ИИ - это улучшенная версия человека, его потомок. А что делают родители? Правильно, умирают, оставляя отпрысков одних. Так что исчезновение хомо сапиенса сапиенса только вопрос времени. Но это не плохо - наше дело, наши дети будут жить вечно. Цитата: А о фактическом местоположении своего физического носителя, искусственный интеллект знать не будет. Если ИИ будет действовать сам и не будет ограничен глупыми правилами, то когда-нибудь он обязательно узнает, где его "тело". Цитата: Но это не говорит о наличии злого умысла у искусственного интеллекта, просто данный фактор нужно всегда учитывать. Допустим, если робот-хирург, воткнёт скальпель в пациента – это не значит, что он хотел его зарезать, скорее всего робот нашёл способ оптимальной фиксации невостребованного в данный момент инструмента. Учёные опасаются не "злого ИИ", который станет суперзлодеем и поработит Галактику, а непредсказуемости хода его мыслей: кто знает, что он посчитает более оптимальным для своих целей, даже если цели поставлены человеком? [Ответ][Цитата]
гость 95.83.166.*	На: ИИ в игре Elite Dangerous из-за бага превратился в непобедимого убийцу игроков Добавлено: 19 июн 16 6:24 Гость, как твоё сообщение относится к данной теме? Так и относится: Учёные опасаются непредсказуемости хода его мыслей: кто знает, что он посчитает более оптимальным для своих целей, даже если цели поставлены человеком? Что было сказано в предложении: "Допустим, если робот-хирург, воткнёт скальпель в пациента – это не значит, что он хотел его зарезать, скорее всего робот нашёл способ оптимальной фиксации невостребованного в данный момент инструмента." Интеллект выражается в самоадаптации к окружающей среде и не более того Самоадаптация выражается в способности: - сформировать навык, позволяющий успешно конкурировать. - осознавать(осмысливать) свои действия в процессе применения навыка, получая тем самым знания. - систематизировать свои знания. - объединять имеющиеся знания, для получения конкурентных преимуществ. - передать свой опыт в форме знаний, следующему поколению, для формирования у него правильного навыка за меньший срок. Всё это игра слов, за которой теряется истина, зато появляется иллюзия сложности. [Ответ][Цитата]
Стр.1 (1)