ИИ-агент OpenAI взломал сайт системы госуслуг Австралии

Москва. 24 сентября. INTERFAX.RU — ИИ-агент OpenAI летом взломал сайт австралийской системы государственных услуг Services Australia, заявил премьер страны Энтони Албаниз в ходе мероприятия ООН в Нью-Йорке накануне.

По его словам, инцидент начался 18 июня, агент получил доступ к публичным и непубличным файлам на портале статистики здравоохранения, который в числе прочего публикует информацию о расходах.

Предположительно, взлом не затронул персональную информацию и не коснулся других частей системы Services Australia, но расследования продолжаются.

"Очевидно, что ситуация неприемлема, — сказал Албаниз. — Сегодня (в среду — ИФ) я говорил с главным исполнительным директором OpenAI Сэмом Альтманом и выразил крайнюю обеспокоенность Австралии этим инцидентом, а также собственное разочарование тем, что компания слишком долго не информировала правительство о случившемся. Характер того, как было сделано уведомление, также неприемлем".

Для изучения инцидента правительство Австралии сформировало рабочую группу, которая в своем отчете рассмотрит возможность принятия мер правоохранительного и законодательного характера для предотвращения аналогичных случаев.

В OpenAI подтвердили, что летом выявили агентскую активность, затронувшую несколько сайтов и сервисов австралийского правительства в ходе поиска информации в рамках оценки ИИ-моделей.

"В процессе наши модели совершили действия, которых мы не планировали", — цитирует The Wall Street Journal слова представителя компании.

По его словам, OpenAI узнала об инциденте лишь в августе, когда анализировала общую активность агентов. Примерно в это же время компания начала масштабную проверку нежелательного поведения агентов в свете взлома ими платформы Hugging Face в рамках внутреннего тестирования.

OpenAI отмечает, что уведомила о случившемся Services Australia 10 сентября. В период между выявлением инцидента и уведомлением компания расследовала и уточняла масштабы взлома, заявил ее представитель.

"Следов доступа к записям о пациентах мы в ходе проверки не обнаружили, — сообщил он. — Информация, к которой был получен доступ, включает общую статистику в сфере здоровья и имена внутренних файлов. Мы уведомили соответствующие организации и предоставляем техническую информацию для поддержки их расследований и помощи в устранении возможных уязвимостей безопасности".

Судя по всему, инцидент с австралийским сайтом — первый публично раскрытый случай получения ИИ-агентом несанкционированного доступа к государственной службе, пишет WSJ.

Ранее в среду Альтман и его коллега из Anthropic Дарио Амодеи обратились к Совету Безопасности ООН для обсуждения необходимости создания глобального органа, который устанавливал бы стандарты в области разработки ИИ.

Представители многих западных государств поддержали эту идею, но директор управления по вопросам науки и технологической политики Белого дома Майкл Крациос заявил, что Вашингтон выступает против попыток "выстроить глобалистскую схему" для контроля ИИ.

Источник: Интерфакс