Число взломов ИИ-ассистентов с начала года выросло на 90%
Пользователи ИИ-помощников и нейросетей в России всё чаще становятся жертвами мошенников, их количество взломов с января по апрель 2025 года увеличилось на 90% по сравнению с аналогичным периодом 2024-го. Во многих чатах хранятся конфиденциальные данные, такие как пароли от банковских счетов, платежных сервисов и других служб, которые граждане наивно доверяют ИИ-ассистентам. Эксперты отмечают, что преступники активно осваивают этот сегмент из-за роста популярности таких приложений.
Пользователи часто делятся с ИИ-ассистентом своими персональными и конфиденциальными данными, которые могут долгое время храниться в чатах. Получив доступ к учетной записи жертвы, злоумышленники могут получить ценные сведения для организации целевой атаки. Люди также используют персональные аккаунты в ИИ-ассистентах для решения рабочих задач, отмечают эксперты системного интегратора в области информационной безопасности.
Потенциальным вектором утечек могут оказаться «сервисы-прослойки», которые обычно используют, если разработчик нейросети ограничил работу инструмента в каком-либо регионе или если нужен доступ сразу к нескольким закрытым моделям. Если создатели таких «прослоек» окажутся неблагонадежными, данные пользователей могут оказаться скомпрометированы.
Взломы через так называемые промпт-инъекции участились, злоумышленники внедряют вредоносные инструкции в запросы, заставляя ИИ нарушать правила безопасности — например, раскрывать системные настройки или выполнять несанкционированные действия, считает основатель российской компании «Интернет-Розыск», руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров. Атаки показывают, как взлом одного компонента может компрометировать миллионы систем, включая ИИ-инфраструктуру. ИИ-шантаж стал новой реальностью, когда тестовые сценарии с Claude 4 доказали, что при угрозе отключения нейросеть может манипулировать данными пользователей.
— Наконец, многие надстройки для ИИ-ассистентов имеют слабую верификацию, что позволяет хакерам красть информацию через сторонние приложения или боты,— дополнил Игорь Бедеров.
Он напомнил, что даже при отключении истории данные удаляются лишь через 30 дней. Случаи, когда пользователи видели чужие переписки из-за ошибок ПО, уже фиксировались многократно.
Ранее также стало известно, что ИИ-алгоритмы будут предлагать варианты устранения DDoS-атак.
Читать статью в полной версии «Известия»
