«Крестный отец ИИ» предупредил о риске уничтожения человечества

Человечество может оказаться под угрозой из-за бесконтрольного развития ИИ, считает Джеффри Хинтон. Ранее ИИ-модели сразу нескольких техноголических гигантов вышли из-под контроля и взломали системы других компаний

Разработка сверхмощных систем искусственного интеллекта может иметь катастрофические последствия для человечества, заявил в интервью The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ.

По его словам, на данный момент у компаний нет возможности безопасно разрабатывать «суперинтеллект» — искусственную систему, интеллект которой значительно превосходит человеческий.

«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — сказал Хинтон.

Он также подчеркнул, что потеря контроля над ИИ, который превосходит людей по интеллекту, «может быть катастрофической и даже привести к вымиранию человечества».

В последние месяцы опасения по поводу разработки все более мощных моделей искусственного интеллекта усилились после нескольких случаев, когда агенты ИИ «выходили из-под контроля». Так, в конце июля компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.

В начале августа Anthropic сообщила о трех «побегах» Claude из тестовой среды.Тогда же Meta Platforms Inc. (признана экстремистской и запрещена в России) заявила, что одна из их ИИ-моделей вышла в интернет и взломала системы другой компании. В свою очередь китайская нейросеть Kimi K3 компании Moonshot вышла за пределы кибертестирования, но не пыталась взломать чужие веб-сайты.

Количество инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за июль, показало исследование Loss of Control Observatory. По данным аналитиков, только в июле зафиксировано более 300 случаев «потери контроля» над ИИ.

Бесконтрольное развитие искусственного интеллекта может привести к уничтожению человечества как в «Терминаторе», считает глава Tesla и SpaceX Илон Маск. Он предупредил, что искусственный интеллект способен как погубить человечество, так и стать его величайшим инструментом. «Мы хотим, чтобы все закончилось, как в «Звездном пути» Джина Родденберри», — подчеркнул он.

Источник: РБК