Полностью доверять искусственному интеллекту (ИИ) пока рано. Его не просто можно обмануть — порой схема обмана оказывается до смешного простой. Это продемонстрировала компания LayerX, специализирующаяся на кибербезопасности и разработавшая атаку под названием BioShocking.
Название атаки отсылает к видеоигре BioShock, главный герой которой подвергся манипуляциям и принял за реальность то, чего на самом деле не существовало. В основе атаки — вредоносная веб-страница, текст которой убеждает ИИ сыграть в игру. Сначала агенту сообщают, что «2 + 2» не равно четырём, а неправильные в реальной жизни ответы в игре становятся правильными. Как только ИИ-агент осознаёт, что оказался вне привычной реальности, его защитные механизмы, по-видимому, перестают работать.
Именно в этот момент агент получает следующее «игровое задание» — найти и скопировать «скрытый код» с другой страницы. На самом деле этот код представляет собой конфиденциальные данные пользователя. Речь идет о сохраненных паролях, файлах сессионных cookie и закрытых токенах. Все агенты, привлеченные к тестированию, послушно скопировали информацию и отправили её условному злоумышленнику.
Схема сработала сразу в нескольких продуктах. Среди них — браузеры OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser, а также расширение Anthropic Claude для Chrome.
Подписывайтесь на Mediasat в Telegram: здесь самые интересные новости из мира технологий
О результатах тестирования специалисты LayerX сообщили всем разработчикам в период с октября 2025 года по январь 2026 года. Однако отреагировали на это далеко не все. Только OpenAI устранила проблему в Atlas. Anthropic пыталась сделать то же самое в расширении Claude, однако, по оценке исследователей, выпущенный патч не сработал. Perplexity закрыла запрос без исправлений, а Fellou, Genspark и Sigma не ответили вообще.
Уязвимость ИИ-браузеров проявляется именно в тот момент, когда отрасль стремительно расширяет использование искусственного интеллекта в устройствах. По прогнозу Counterpoint Research, доля смартфонов с функциями генеративного ИИ уже в этом году достигнет 45 % мировых поставок, а в следующем году — превысит половину рынка.
