Папа римский увидел противоречие в словах главы NVIDIA об ограничении ИИ

В заявлениях гендиректора Nvidia Дженсена Хуанга о необходимости защитных механизмов для ИИ и одновременно об отсутствии необходимости ограничивать технологию есть противоречие, заявил папа римский Лев XIV.

Он отметил, что глава корпорации, с одной стороны, говорит о возможности встроить в системы искусственного интеллекта специальные защитные механизмы, которые не позволят им выходить за заданные рамки и причинять вред, а с другой — выступает против ограничений со стороны государства.

Папа римский призвал продолжать обсуждение рисков и регулирования ИИ с участием политических лидеров, руководителей технологических компаний, общественных организаций и профильных ассоциаций.

«Просто сказать: «О, этого не случится» и закрыть на это глаза, на мой взгляд, вероятно, не самый ответственный подход. <…> Мы должны продолжать работать. Нельзя просто сидеть сложа руки и делать вид, что ничего не произойдет», — сказал он.

Также Лев XIV заявил, что не считает опасения по поводу угроз со стороны ИИ «фейковыми новостями», распространяемыми ради финансовой или какой-либо другой выгоды.

Ранее так высказался американский президент Дональд Трамп. 14 сентября он заявил, что любые попытки ограничить технологию являются частью «больного заговора», и предположил, что призывы к ограничению ИИ озвучивают те же, кто говорит об изменении климата.

Также он отверг призывы руководителей технологических компаний замедлить развитие ИИ, чтобы не отдать первенство Китаю.

«Послушайте, мы опережаем Китай в сфере искусственного интеллекта… и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом», — сказал он.

Ранее о необходимости ограничивать искусственный интеллект и замедлить его развитие заявил глава Anthropic Дарио Амодеи. Это предложение он связал с действием ИИ-агентов компании OpenAI, которые вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face.

«Я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов) и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным, без необходимых мер защиты», — сказал он.

Инициативу Амодеи поддержали конкуренты — глава OpenAI Сэм Альтман и руководитель xAi Илон Маск.

При этом гендиректор Nvidia ранее заявил, что не верит в уничтожение человечества к 2030 году из-за нейросети. Позднее его компания разработала платформу для защиты от вышедших из-под контроля ИИ-агентов.

Источник: РБК