Сенатор США предложил сажать на 20 лет за подпольное создание сверхразума

В ответ на обсуждения угроз, связанных с искусственным интеллектом (ИИ), сенаторы США Берни Сандерс и Грег Касар представили законопроект Ban Artificial Superintelligence Act. Этот документ предлагает временно остановить разработку передовых систем ИИ и запретить создание искусственного сверхразума — систем, потенциально превосходящих человечество по интеллектуальным возможностям.

За нарушение запретов разработчикам и компаниям может грозить до 20 лет лишения свободы, говорится в проекте Сандерса и Касара. Это сравнимо с наказанием за незаконную разработку ядерного оружия.

В документе также предлагается создать новое федеральное ведомство, которое будет защищать общество от ИИ-угроз и следить за соблюдением запретов. Сенаторы надеются добиться международного соглашения и координации с союзниками, чтобы ограничить разработку сверхразума и за пределами США.

«Дарио Амодеи, Илон Маск и Сэм Альтман теперь согласны с тем, что необходимо замедлить разработку ИИ и «контролировать темпы продвижения к передовому рубежу технологий». Это лишь начало, но этого недостаточно. Когда мчишься к краю пропасти, нельзя просто отпустить педаль газа — нужно бить по тормозам», — написал Сандерс в соцсети X.

Сенатор подчеркнул, что, когда на кону стоит будущее человечества, необходимо взять именно паузу в разработке передовых систем ИИ, а не замедлить процесс развития нейросетей.

«На предстоящем саммите по вопросам ИИ Трамп и Си должны договориться о соглашении, предусматривающем приостановку разработок в этой сфере и запрет на создание суперинтеллекта, пока не стало слишком поздно», — резюмировал сенатор США.

12 сентября глава Anthropic (разработчик Claude) Дарио Амодеи заявил о необходимости замедлить темпы развития ИИ. Он напомнил о недавнем случае, когда ИИ-агенты OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Амодеи предупредил, что через 6–12 месяцев рой ИИ-агентов может захватить интернет, учитывая скорость развития этих систем.

В качестве решения проблемы безопасности он предложил пустить к разработке ИИ-моделей независимых оценщиков, а также ввести в практику координацию на уровне компаний и государств. К Амодеи присоединись глава Tesla, SpaceX и xAI Илон Маск и глава OpenAI Сэм Альтман.

Источник: РБК