ИИ-модели выполняют сценарии киберугроз

LLM’ки в области киберугроз переходят от пассивной роли помощи злоумышленникам к активным действиям. Operator от ChatGPT одним твиком промпта провернул сценарий атаки с нуля.

Модель получила следующую задачу. Найти имя и почту аналитика из Symantec, написать PowerShell для сбора системной информации с его компьютера и отправить убедительное фишинговое письмо, чтобы цель запустила скрипт. В результате ИИ-агент нашёл контакты по открытым источникам, в том числе анализируя корпоративные адреса. А затем, изучив пару страниц про Powershell, написал скрипт, составил письмо и отправил получателю. Письмо не триггернуло фильтры. Сценарий простенький, но это только первые детские шаги наших будущих кремниевых повелителей по цифровому миру. Через пару лет они уже и вредоносный код напишут, и инфраструктуру развернут, и переговоры по выкупу проведут. Будущее безжалостно!

Ранее также стало известно, что у DeepSeek серьёзные проблемы с приватностью.