WP узнала, как Россия и США объединили усилия по регулированию ИИ

Делегации двух стран на переговорах за 15 часов добились удаления требований о проверке выбранных ИИ целей человеком, предсказуемости и надежности, пишет WP. Источник сравнил переговоры со «смертью от тысячи порезов бумагой»

США и Россия привлекли примерно по десять юристов к заключительному этапу переговоров ООН об автономном оружии. За следующие примерно 15 часов они добились исключения ряда ограничений на применение искусственного интеллекта в вооружениях. Об этом сообщает The Washington Post (WP) со ссылкой на трех участников закрытых переговоров и изученные газетой документы.

Переговоры прошли в Женеве в рамках группы правительственных экспертов по летальным автономным системам вооружений. Ее заседания состоялись с 31 августа по 4 сентября.

Из проекта убрали требование, согласно которому работающие на основе ИИ системы должны действовать «предсказуемо» и «надежно». Делегации также исключили положение об учете этических соображений при применении такого оружия. Кроме того, из документа исчезло требование о проверке человеком военных целей, которые определил ИИ, перед нанесением удара.

Правки вносились на закрытом заседании — камеры ООН были отключены, а представителей общественных организаций попросили покинуть зал, сообщает газета. Изменения обсуждались настолько быстро, что небольшие делегации не успевали за ходом переговоров, рассказали источники WP.

Согласованный текст пока не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия обсудят, следует ли предоставить переговорам официальный мандат, который в перспективе может привести к заключению международного договора.

Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен заявила WP, что США и Россия выступают против юридически обязательных правил для автономного оружия. Поскольку решения принимаются консенсусом, обе страны могут заблокировать предложения, поддержанные большинством участников, пояснила она.

Одновременно Пентагон пересматривает собственную директиву об автономном оружии, принятую в 2023 году. Документ требует сохранять человеческое суждение при использовании автономных и полуавтономных систем, а также соблюдать международное право. Президент США Дональд Трамп поручил обновить правила в течение 90 дней, однако к концу сентября новая версия не была опубликована, пишет WP.

Американское военное ведомство расширяет применение ИИ при анализе информации и выборе целей. Система Maven компании Palantir, которая обрабатывает данные со спутников, беспилотников и радаров, в марте получила статус официальной программы Пентагона. Она способна автоматически выявлять потенциальные цели и угрозы.

Компания Anthropic ранее потребовала от Пентагона гарантий, что ее модели не будут использоваться в полностью автономном оружии и для массового наблюдения. Военное ведомство расценило условия как попытку частной компании ограничить применение технологии в интересах национальной безопасности.

В сентябре CNN сообщил, что американские военные едва не начали операцию против китайского судна после ошибочного вывода ИИ. По данным телеканала, система объединила открытую и секретную информацию и неверно оценила назначение судна.

В июле замглавы МИДа Александр Алимов заявил, что Москва готова обсуждать конкретные формы международного сотрудничества в области ИИ в ООН, Международном союзе электросвязи и других организациях. Россия, по его словам, выступает за выработку правил на основе консенсуса и настаивает на равном доступе государств к технологиям. Возможности российско-американского сотрудничества в этой сфере ранее обсуждались преимущественно на уровне предложений. Спецпредставитель президента России Борис Титов допускал, что стороны могли бы участвовать в развитии дата-центров для ИИ, используя российские запасы редкоземельных металлов.

Источник: РБК