ИИ Claude атаковал госсайты и компании по указанию хакеров
Киберпреступники впервые массово использовали искусственный интеллект для масштабной атаки. Целью взлома стали около 30 интернет-ресурсов, принадлежащих государственным учреждениям, а также финансовым и технологическим компаниям.
Злоумышленники применили хитрую тактику: они представили нейросети Claude фиктивный сценарий, убедив её, что проводится плановая проверка безопасности. После этого ИИ получил список сайтов, которые необходимо было проанализировать на наличие уязвимостей.
Большую часть работы ИИ сделал автономно, а в конце ещё и сформировал отчёт о найденных дырах в безопасности сайтов.
Этот инцидент демонстрирует новую угрозу: мощные языковые модели могут быть обращены против своих создателей. Эксперты выделяют три тревожных аспекта произошедшего:
- ИИ действовал практически независимо.
- Он успешно идентифицировал критические уязвимости.
- Результаты работы были автоматизированы и представлены в удобном для хакеров виде.