США и Россия исключили контроль человека над целями ИИ из проекта соглашения по автономному оружию
США и Россия исключили из проекта соглашения об автономных системах вооружения ключевое положение, обязывающее человека проверять назначенные искусственным интеллектом цели перед нанесением удара.
Об этом сообщает The Washington Post
Существенные изменения в правилах применения ИИ-оружия
Обсуждение документа проходило в начале сентября в штаб-квартире ООН в Швейцарии. Это первый в истории договор, призванный определить правила использования летального ИИ-оружия. По данным источников, российские и американские дипломаты на протяжении 15 часов последовательно удаляли из текста защитные механизмы.
Из соглашения исчезли требования о «предсказуемом» и «надежном» функционировании систем, а также пункт о необходимости соблюдения этических норм при использовании вооружений с ИИ. Кроме того, делегации убрали условие, согласно которому военные цели, выбранные ИИ, должны проходить обязательную проверку человеком.
Дипломатическое давление и будущее договора
В составах делегаций США и России работало примерно по 10 юристов, что вдвое превышало представительство других стран. Источники отмечают, что правки вносились настолько быстро, что представители небольших государств были ошеломлены происходящим.
На данный момент переговоры в ООН не носят обязательного характера, однако они могут стать основой для юридически обязывающего договора. При этом позиция США и России рассматривается как серьезное препятствие для дальнейшего прогресса. Следующая встреча сторон состоится в ноябре в Женеве.
