Новый ИИ-червь ворует данные и рассылает спам

Создан новый червь, заточенный под приложения на основе генеративного ИИ.

Исследователи из США и Израиля провели эксперимент и натравили червя, названного Morris II, на умного имейл-помощника собственной разработки, пишет Anti-malware.ru. Эксперимент помог убедиться в наличии рисков для связанных GenAI-экосистем. Автономно работающий имейл-агент передавал входящие письма для обработки на сервис, построенный на базе ИИ-модели (в ходе исследования были опробованы ChatGPT 4.0, Google Gemini Pro и opensource-проект LLaVA).

Авторы Morris II ожидают атак с использованием аналогов их лабораторного образца в ближайшие два-три года.

«Уже сейчас, многие программные продукты имеют умных помощников – это разные ассистенты, виртуальные продавцы и консультанты. Нужно идти в ногу со временем и применять актуальные средства защиты – такие как умный анализатор поведения. Как только начнется атака, то сразу станет понятно, что модель поведения объекта защиты изменилась. Например, программный продукт Ankey ASAP оснащен модулем UEBA, который позволяет определять атаки нулевого дня с помощью поведенческой аналитики. Подобный класс программ, позволяет успешно детектировать атаки в самом начале их проведения, выявлять бэкдоры. Но этим функционал подобных программ не ограничивается – они позволяют расследовать киберинциденты, обладают разнообразными информационными дашбордами и позволяют выполнять бизнес-аналитику», – говорит главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.