Ученые предупредили о риске вымирания человечества из-за ИИ к 2100 году

Эксперты заявили, что ИИ может быть использован для создания биологических угроз, нанести вред критически важной инфраструктуре, «лишить человечество власти или привести к его уничтожению»

Человечество может вымереть к 2100 году из-за злонамеренного использования ИИ или ядерного конфликта, считают ученые из комиссии журнала Lancet по глобальным угрозам здоровью XXI века.

«Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет», — сказано в докладе.

При этом ученые отмечают, что подобные сценарии развития будущего «несут в себе высокую степень неопределенности», однако обширные политические дискуссии и их потенциальная масштабность требуют их включения в анализ.

Всего эксперты выделяют три основных направления рисков, когда ИИ может угрожать человечеству — первым является случай, когда ИИ используется для разработки биологического оружия. Вторым они называют интеграцию ИИ в критически важную социальную инфраструктуру, что может привести к созданию массовых «политических дипфейков», использованию ИИ в качестве инструмента для шантажа, автономного ядерного оружия и другим проблемам. Последним направлением специалисты называют потерю контроля в результате появления общего ИИ-интеллекта, что может лишить человечество контроля или привести к его вымиранию.

Для составления списка угроз комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности или преждевременной смерти по каждой угрозе, исходя из текущих тенденций.

Эксперты отмечают, что все эти угрозы взаимосвязаны между собой, а это значит, что решать их нужно вместе.

Ранее Axios со ссылкой на источники сообщил, что ведущие ИИ-компании опасаются «крупного инцидента», который может произойти в ближайшие 6-12 месяцев. Главы ИИ-гигантов опасаются возможной кибератаки которая приведет к прекращению доступа к финансовым услугам, интернету или даже электро- и водоснабжению.

В сентябре глава компании Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.

Президент США Дональд Трамп, в свою очередь, отверг призывы руководителей технологических компаний замедлить развитие ИИ. «Послушайте, мы опережаем Китай в сфере искусственного интеллекта… и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом», — сказал он.

Источник: РБК