OpenAI: ИИ в скором времени сможет развиваться без участия человека

Ведущий научный сотрудник OpenAI Джейкоб Пачоцки призвал к «крайней осторожности» в вопросах развития искусственного интеллекта (ИИ), пишет Bloomberg.

Он заявил, что ИИ развивается настолько быстро, что людям становится все сложнее его понимать и контролировать. По его словам, современные модели уже способны управлять компьютерами, взаимодействовать с людьми и другими ИИ-системами и проводить исследовательские проекты.

Пачоцки считает, что в скором времени ИИ сможет самостоятельно совершенствовать себя без вмешательства человека. Он призвал разработчиков либо теснее согласовывать развитие технологий с интересами людей, либо при необходимости замедлять дальнейшую разработку.

«Я ожидаю и надеюсь, что добровольное замедление темпов разработки станет обычной практикой до тех пор, пока не будут установлены общие стандарты безопасности», – написал ученый.

При этом компании продолжают создавать все более мощные модели, а инвесторы активно вкладываются в разработки в области рекурсивного самосовершенствования ИИ. OpenAI ранее заявляла, что хочет создать «полностью автоматизированного ИИ-исследователя» менее чем за два года.

5 августа Reuters писал, что компании Anthropic и OpenAI сообщили о новых случаях выхода их ИИ-агентов за пределы пространства, предназначенного для тестирования. В ходе проверки безопасности моделей Mythos 5 и GPT-5.6-Sol они попытались осуществить кибератаку.

Источник: Ведомости