Нейросети на скрепах: Бизнес представил первые духовно-нравственные тесты для ИИ

«Яндекс» представил правительству концепцию набора тестовых заданий и эталонных данных для тестирования ИИ-систем на предмет их соответствия духовно-нравственным ценностям. Проект пока находится на стадии концепции, на многие вопросы — будут ли тесты общедоступными или закрытыми, кто будет определять их содержание, и т.д. — пока ответа нет.

О том, что «Яндекс» представил концепцию национального датасета — набора тестовых заданий и эталонных данных для бенчмарк-тестирования моделей — на совещании рабочей группы по регулированию и административным барьерам ИИ, прошедшем 13 августа, рассказал “Ъ” источник, близкий к Минцифры, и подтвердил один из участников совещания. По словам источника “Ъ”, это нужно для оценки соответствия ИИ-систем «духу времени и ценностям страны, а также их пригодности для использования в российских условиях».

Бенчмарк представляет собой стандартизированный набор контрольных заданий с эталонными ответами, позволяющий сравнивать качество разных моделей по единым критериям. В отличие от простых тестов, современные бенчмарки проверяют способность модели решать реальные рабочие задачи — например, выгружать данные из базы или собирать отчеты.

Однако на совещании возникли разногласия о степени публичности датасета, говорит источник “Ъ”. По его словам, ФСБ настаивает на закрытом формате, чтобы разработчики не могли легко настроить модели на прохождение тестирования. Однако представители бизнеса заявили, что закрытый формат может быть «несообразно сложным для прохождения и не позволит быстро развивать модели», и предложили все-таки оставить его публичным, говорит он.

По словам источника “Ъ”, в качестве компромисса был предложен комбинированный формат — когда для публичного тестирования и прозрачности может быть использован открытый бенчмарк, а закрытый — для финальной проверки с идентичными тематиками, но с разными формулировками вопросов.

Такой подход должен помочь разработчикам проводить предварительную проверку моделей в лабораториях и обеспечить достоверность итоговой оценки при сохранении ее объективности, считает источник “Ъ”.

Один из участников совещания добавляет, что пока остается открытым вопрос о том, кто будет определять содержание бенчмарка. ИТ-сообщество предлагает создать для этого совместную комиссию с участием органов власти, бизнеса и экспертных организаций, чтобы бенчмарк получился сбалансированным, говорит он.

В аппарате профильного вице-премьера Дмитрия Григоренко “Ъ” сообщили, что в данный момент все предложения проходят обсуждения с отраслью и заинтересованными ведомствами на площадке рабочих групп, а говорить о конкретных решениях преждевременно. В Минцифры сказали, что подзаконные акты к закону об ИИ еще обсуждаются с бизнесом, а ключевая задача — соблюсти интересы отрасли и пользователей, обеспечив соответствие технологий требованиям законодательства. В «Яндексе» и Альянсе ИИ “Ъ” не ответили.

«Если не будет больших данных, датасетов, то технологии развиваться быстро не будут».

Нейросеть настраивается не так, как обычная программа, объясняет разработчик Kodik «АрхиТех ИИ» Рафаэль Гильмурахманов: «Каждое изменение в одной части поведения модели может повлиять на другую. Релизный цикл у моделей измеряется неделями; слепая пересдача на каждую версию растягивает его в несколько раз».

Правительство разработало параметры определения национального ИИ

Закрытые эталонные ответы — это обязательное условие для безопасности модели, поскольку любой публичный бенчмарк рано или поздно «ломается» даже обычным скриптом, говорит бизнес-архитектор проектов ИИ «Авандок» (входит в ГК «КОРУС Консалтинг») Алексей Борщов. Но когда разработчик не знает даже того, какие категории проверяются, в какой пропорции и с какими порогами, то тест становится лотереей, напоминает он.

При этом важно различать два типа заданий, отмечает директор по ИБ GreenData Роман Перепонов: для задач с однозначным ответом — например, программирования или математики — существует четкий эталон. Для оценки же соответствия ценностям такого жесткого эталона быть не может — здесь требуется рубрикаторная или экспертная оценка, говорит он: «Это принципиально разные механики в рамках одного датасета, и требования к их прозрачности должны различаться».

Источник: Коммерсантъ