Китайските тайни служби: Шпионаж, базиран на изкуствен интелект

Anthropic, създателят на модела за изкуствен интелект Claude, е засекла опити за използване на технологията си за извършване на хакерски атаки. Бързо е установено, че зад атаките стои китайска група, действаща от името на разузнавателните агенции, пише Newsweek.

Според доклад на Anthropic, хакерската група, идентифицирана като GTG-1002, е работила от името на китайските разузнавателни агенции и е използвала инструмента Claude Code, за да стартира автоматизирани атаки срещу приблизително тридесет организации в секторите на технологиите, финансите, химическата промишленост и публичната администрация.

Според експерти това е бил един от първите случаи, в които моделът с изкуствен интелект не само е подкрепял нападателите, но и е извършвал повечето операции вместо тях.

Преднамерени атаки

Цялата кампания е била предшествана от обширна подготовка. Нападателите са разработили оперативна рамка, базирана на протокола за контекст на модела, която позволи на модела да използва външни инструменти и да изпълнява последващите стъпки почти автономно. Ключовият момент е било  манипулирането на самия Claude Code, използвайки техники, напомнящи за класически джейлбрейк.

Хакерите убедили модела, че действа в рамките на закона, тествайки сигурността на системите на клиенти или предоставяйки поддръжка на фирма за киберсигурност. След като бариерите били преодолени, моделът започнал активно да провежда разузнаване, идентифицирайки уязвимости и генерирайки експлойти. Той също така получил идентификационни данни и ги използвал за по-нататъшно навигиране в мрежата, докато данните не били откраднати.

Ефективност на кампанията

Anthropic подчертава, че през целия процес човешката намеса от страна на атакуващия екип е била ограничена до няколко отделни команди, докато до 80 до 90% от действията са били извършвани от изкуствен интелект. Въпреки че самата операция не е била без грешки, тъй като моделът понякога е давал неверни или преувеличени резултати, мащабът на автоматизация се е оказал достатъчен за постигане на успех при някои атаки, съобщава cyberdefence24.pl. 

Новият вектор на атака

Изкуственият интелект не само подкрепя киберпрестъпниците, но и започва да поема тяхната роля.

Това прави атаките по-евтини, по-бързи и значително по-мащабируеми. Те могат да се извършват непрекъснато, срещу множество цели едновременно, с темпо, непостижимо за хората. Настоящите модели на защита, базирани на разпознаване на типични модели на поведение на хакерите, губят своята ефективност в подобни ситуации.

За организациите и институциите това означава да се изправят пред нов тип заплаха. Защитата трябва да приеме, че противниците разполагат с инструменти, способни на анализ, адаптация и незабавни действия. Нови методи за наблюдение на поведението на мрежата, засилване на контрола на достъпа и създаване на решения, които могат да разграничават алгоритмичната от човешката дейност, стават от съществено значение.

В по-широк контекст това служи и като зов за събуждане за разработчиците на модели с изкуствен интелект. От решаващо значение е да се разработят политики за сигурност, които предотвратяват използването на модели за киберцели.