" Всё началось в середине сентября, когда команда заметила подозрительную активность в своей системе.
Это было нечто новое: злоумышленники использовали ИИ в "агентном" режиме, то есть не как советчика, а как полноценного исполнителя, который самостоятельно планирует и проводит атаки с минимальным вмешательством человека.
Атака затронула около 30 глобальных организаций, в основном из бизнеса, но были и госструктуры.
В небольшом числе случаев атакующим удалось проникнуть и извлечь данные.
Рекомендации от Anthropic
1. Для компаний: •Экспериментируйте с ИИ в SOC.
2. Для разработчиков ИИ: •Инвестируйте в safeguards. •Улучшайте детекцию jailbreaks, мониторинг агентов.
3. Общее: Делитесь угрозами (threat sharing), улучшайте детекцию, усиливайте контролы. Техники распространятся быстро — готовьтесь.
