WP: США и Россия добились смягчения проекта международных правил по использованию оружия с искусственным интеллектом
Американские и российские дипломаты добились исключения ряда ограничений из проекта международных правил применения оружия с искусственным интеллектом, пишет The Washington Post со ссылкой на источники и документы.
🔵 Что изменили. Из текста убрали требование, чтобы человек проверял выбранные ИИ военные цели перед ударом. Также были исключены положения о предсказуемой и надежной работе таких систем и необходимости учитывать этические соображения при их применении.
Изменения внесли в последний день переговоров в Женеве в начале сентября. Обсуждение проходило за закрытыми дверями, без камер и наблюдателей от гражданского общества. По словам собеседников, США и Россия привлекли примерно по десять юристов (вдвое больше других делегаций), а поправки поступали настолько быстро, что небольшим делегациям было трудно за ними следить.
🔵 Что дальше. Переговоры пока не создают юридически обязательных правил, но могут привести к заключению международного договора. В ноябре страны вновь соберутся в Женеве, чтобы обсудить дальнейший формат работы. По словам исполнительного директора коалиции Stop Killer Robots, Вашингтон и Москва выступают против обязательных ограничений, а требование консенсуса позволяет им блокировать продвижение соглашения.
🔵 К чему это может привести. Представительница Human Rights Watch предупредила, что слабое регулирование может позволить машинам принимать решения о жизни и смерти без контроля человека. Это увеличит риски для мирных жителей и затруднит привлечение виновных к ответственности.
🔵 Контекст. Параллельно Пентагон пересматривает собственную директиву об автономном оружии, принятую в 2023 году. Она предусматривает участие человека в контроле таких систем и соблюдение законов войны. В июне Дональд Трамп поручил обновить документ в течение 90 дней, однако к концу сентября новая версия опубликована не была.Н
есколько дней назад президент Украины Владимир Зеленский, выступая на Генассамблее ООН, предупредил о скором массовом внедрении ИИ в ход войны:
«Нам нужно замедлить стремительное развитие оружия до того, как мы перейдем к следующему этапу. Ведь уже в следующем году вполне реально, что решения о происходящем на поле боя начнут принимать не только люди, но и искусственный интеллект. И нам нужен мир до того, как мы достигнем этой точки».