Расширение браузера может менять запрос для нейросети, сообщила эксперт

МОСКВА, 29 сен — РИА Новости. Расширение браузера может изменить запрос пользователя для нейросети еще до того, как он попадет к модели, рассказала специалист по информационной безопасности компании "Киберпротект" Екатерина Киприянова.

"Диалог с нейросетью может измениться еще до того, как запрос попадет к модели. Расширение браузера, имеющее доступ к содержимому страницы, может прочитать введенный текст, изменить его или добавить скрытую инструкцию", — пишет "Газета.Ru" со ссылкой на Киприянову.

По словам эксперта, пользователь при этом находится на настоящем сайте ИИ-сервиса, и признаков поддельной страницы нет, однако модель получает измененный текст и может предложить подставленную ссылку или включить сведения, о которых пользователь не спрашивал. Взламывать сервис для этого не нужно, пояснила Киприянова.

Она также предупредила, что есть и риск утечки: расширение с широкими правами может получить доступ к фрагментам документов, переписке или коду, которые человек вставил в запрос.

"Если измененный ответ использовать без проверки, неверная инструкция может попасть в рабочий документ, ссылка — в переписку, а небезопасный код — в программный продукт", — отметила Киприянова.

Специалист подчеркнула, что особенно серьезные последствия возможны при использовании ИИ-агента: он может работать с файлами, почтой и другими сервисами, а иногда выполнять действия от имени пользователя. Подмененная инструкция в такой ситуации влияет уже не только на текст ответа, добавила Киприянова.

Эксперт посоветовала проверить расширения в рабочем браузере, удалить ненужные и посмотреть, какие разрешения запрашивают оставшиеся. Если простому дополнению нужен доступ ко всем сайтам, стоит выяснить, зачем, заключила Киприянова.

Источник: РИА Новости