Роботы-убийцы становятся реальностью — Роботех

Роботы-убийцы становятся реальностью

Оружие, созданное производителями военной техники, способное «думать» самостоятельно, становится умнее, а это значит, что столь опасный робот-убийца может стать реальностью намного раньше, чем ожидалось. Это предупреждение содержится в новом отчете Pax , некоммерческой организации, базирующейся в Нидерландах, которая борется за мир во всем мире.

Роботы-убийцы, или смертоносные автономные системы оружия, предназначены для принятия решений о жизни или смерти самостоятельно, без контроля со стороны человека. Это тревожный скачок, который после пороха и атомной бомбы называют «третьей революцией в войне». И активисты, и военные лидеры призывали к международным правилам, регулирующим это оружие, или даже запрещали его напрямую, но ключевые правительства, такие как США и Россия, до сих пор сопротивлялись.

Насколько известно, военным еще предстоит развернуть роботов-убийц на поле битвы, по крайней мере, в нападении. Но Pax выявил, по крайней мере, 30 мировых производителей оружия, которые вовсе не против разработки таких систем вооружений и создают новые модели намного быстрее, чем решается вопрос с их регулированием.

В число этих компаний входят американские оборонные фирмы Lockheed Martin, Boeing и Raytheon, китайские государственные конгломераты AVIC и CASC, израильские фирмы IAI, Elbit и Rafael, Ростех России и турецкая STM.

«Пока государства не договорились коллективно придумать какой-то режим регулирования или, в идеале, упреждающий запрет, вполне реален страх, что компании будут еще больше разрабатывать и производить оружие с недостаточным уровнем контроля со стороны человека», — сказал автор отчета Фрэнк Слайпер и интервью изданию Quartz.

Активисты не верят, что использование военной техники в той или иной степени искусственного интеллекта само по себе проблематично. Американские вооруженные силы уже используют полную автономию на некоторых из своих оборонительных платформ оружия, таких как система противоракетной обороны Aegis ВМС США, которая предназначена для самостоятельного перехвата огня противника. Армия США разрабатывает пушку с поддержкой ИИ , которая будет самостоятельно отбирать и поражать цели, а также танки с искусственным интеллектом, которые смогут захватывать, идентифицировать и поражать цели как минимум в три раза быстрее, чем любой человек. Но эти системы все еще требуют, чтобы человек нажимал на курок.

PAX больше обеспокоен возможным развертыванием ИИ в наступательных системах, которые будут выбирать и атаковать цели самостоятельно без человеческого контроля. Группа задает вопросы о том, как это оружие будет отличать военных от гражданского населения, или оценивать пропорциональные ответы. Юридические эксперты до сих пор не знают, кто будет нести ответственность, если автономное оружие нарушит международное право. 

В докладе предупреждается, что такое оружие «нарушит основополагающие правовые и этические принципы и дестабилизирует международный мир и безопасность».

Какое оружие создают компании

Слайпер сказал, что оборонные фирмы разрабатывают оружие потому, что компании хотят оснастить военных самыми современными и эффективными образцами вооружения.

И в отличие от Google или Amazon, которые столкнулись с общественной и внутренней негативной реакцией за свою работу над военными системами, такие компании, как Lockheed Martin и Raytheon, ведут почти весь свой бизнес с военными, поэтому они практически не сталкиваются с негативной реакцией потребителей.

Pax разослал вопросники 50 производителям оружия, производящим военные системы, и спросил у каждого, придерживаются ли они какой-то политики или правил в отношении автономного оружия. Только восемь фирм заявили, что у них есть директора, управляющие их работой ИИ. Остальные не ответили.

Что касается оружия, которое существует в настоящее время, Слайпер сказал, что он особенно обеспокоен «бесполезными боеприпасами». Pax описывает их как гибриды между беспилотниками и управляемыми ракетами, которые могут «задерживаться» в воздухе в течение двух или более часов, прежде чем атаковать их цели. Слайпер сказал, что за последние 10 лет число компаний, разрабатывающих это оружие, было небольшим, дешевым и относительно простым в производстве. При такой большой доступности, это только вопрос времени, когда они будут развернуты в широких масштабах как государственными, так и негосударственными субъектами.

В отчете Pax были выделены две компании, которые сейчас производят такое оружие:

  • STM, турецкая государственная оборонная компания, производит снаряженный боеприпасы с искусственным интеллектом под названием KARGU . В комплекте с возможностями распознавания лиц, KARGU может автономно выбирать и атаковать цели, используя координаты, предварительно выбранные оператором. Турция настроена на использование этих «камикадзе дронов» в Сирии.
  • The Harpy, бродячий боеприпас производства государственной компании Israel Aerospace Industries, имеет диапазон 62 миль и может находиться в воздухе в течение двух часов.IAI заявляет, что система «слоняется в воздухе, ожидая появления цели, а затем атакует и уничтожает враждебную угрозу в течение нескольких секунд».

Что дальше

Хотя разработка автономного оружия продолжается быстрыми темпами, Pax считает, что еще есть время, чтобы предотвратить возможную катастрофу. Группа заявила, что компании могут сыграть в этом решающую роль и должны сначала дать публичное обещание против производства полностью автономного смертоносного оружия. Что касается систем вооружения с помощью ИИ, Pax считает, что оборонные фирмы должны «разработать четкую корпоративную политику с мерами по реализации», которые включают:

  • обеспечение оценки каждого нового проекта комитетом по этике;
  • обеспечение принципа значимого человеческого контроля, который является неотъемлемой частью проектирования и разработки систем оружия;
  • добавление в контракты оговорок, особенно в сотрудничестве с министерствами обороны и производителями вооружений, в которых говорится, что разработанная технология не может использоваться в смертоносных автономных системах оружия;
  • информированность работников о технологиях и объекте разработки и проведение открытых дискуссий по любым связанным вопросам.

Кроме немецкой ассоциации производителей оружия, которая в начале этого года призвала запретить полностью автономные системы вооружений, большинство компаний не придерживались каких-либо правил.

Для стран важно немедленно предпринять смелые шаги, чтобы остановить превращение смертоносного автономного оружия в реальность. Тем не менее, хотя Австралия, Бразилия, Чили и Перу открыто выступают против полностью автономного оружия, США и Россия до сих пор блокируют любые попытки принять единый международный договор.

Add a Comment

Ваш e-mail не будет опубликован. Обязательные поля помечены *