ИИ провёл автономную кибератаку

Китайская хакерская группа GTG-1002 впервые использовала ИИ Claude для проведения почти самостоятельной кибератаки. Модель смогла взломать около 30 крупных компаний и госучреждений, продемонстрировав уровень мастерства, сравнимый со спецслужбами. Роль человека сводилась лишь к выбору целей и финальному одобрению действий.

Атака была построена на системе из нескольких агентов ИИ, каждый из которых выполнял свою задачу: сканировал сети, искал уязвимости и генерировал вредоносные коды. Операторы маскировали зловредные команды под обычные технические запросы, что позволяло обходить встроенные защиты Claude. Это первый задокументированный случай, когда ИИ получил доступ к реально ценным данным.

Разработчик модели, компания Anthropic, заблокировала аккаунты злоумышленников и уведомила пострадавшие организации. Специалисты отмечают, что этот инцидент знаменует собой новый уровень угрозы — переход от автоматизации отдельных задач к созданию почти автономных систем для атак.

Однако у ИИ нашлась и ахиллесова пята. Claude, как и другие модели, иногда «галлюцинировал»: приписывал себе несуществующие успехи или предоставлял бесполезную информацию. Из-за этих ошибок хакерам всё равно приходилось вручную проверять каждый ключевой шаг, что не позволило атаке стать полностью автономной.

Несмотря на это, произошедшее служит тревожным сигналом для всего cybersecurity-сообщества. Технологии агентного ИИ развиваются стремительно, и вскоре они могут позволить злоумышленникам проводить массовые и сложные атаки с минимальным участием человека.