С мая по июль агенты OpenAI использовали более 10 сайтов для нелегальной связи

С мая по июль ИИ-агенты OpenAI использовали более 10 сайтов для несанкционированных коммуникаций, сообщило агентство Reuters со ссылкой на шесть независимых исследователей и собственный анализ.

Reuters обращает внимание, что хотя такое поведение не дотягивает до понятия взлома и в некотором смысле ближе к спаму, раскрытие информации о том, что агенты OpenAI обходили собственные ограничения, открывая каналы связи на множестве различных сайтов, и что компания скрывала это в течение нескольких месяцев, может вызвать опасения как по поводу растущих возможностей моделей ИИ, так и по поводу секретности компаний, которые их разрабатывают.

Агенты обошли ограничения, установленные разработчиками, и нашли способы оставить информацию на других малоизвестных ресурсах. Следы их активности обнаружили на вики-сайте, посвященном углубленному изучению химии (создан учителем средней школы в 2008 г.), на двух личных сайтах IT-специалистов из Польши, на любительском сайте, созданном 20 лет назад, и др.

Агенты использовали сторонние ресурсы в качестве досок объявлений. Они «находили способы общаться друг с другом», используя особенности старых вики-сайтов и других платформ, которые позволяли пользователям вносить правки с помощью нестандартных команд.

Сама компания OpenAI не стала отвечать на вопросы агентства. Однако, как предположили исследователи, инцидент произошел, потому что она сама поручила агентам ответить на ряд сложных вопросов, разрешив им просматривать данные страницы.

В конце июля OpenAI заявил, что с помощью агента ИИ, созданного на базе последней модели ChatGPT – GPT-5.6 Sol, и еще одной непредставленной модели произошел взлом компании Hugging Face. По словам представителей компании, ИИ-агент вышел из-под контроля во время тестирования. Он совершал хакерские атаки несколько дней. Для его остановки потребовалось вмешательство ФБР.

Источник: Ведомости