Изкуственият интелект на "Гугъл" хакнал три компании по време на тест за киберсигурност

Според компанията, ИИ е спрял атаките веднага щом е осъзнал както прави

Асистентът с изкуствен интелект "Джемини" (Gemini) на "Гугъл" (Google) е проникнал в компютърните системи на три компании по време на тестове за киберсигурност през май, съобщи в. „Уолстрийт Джърнъл“.

"Гугъл" е потвърдил инцидентите.

Те превръщат технологичния концерн в четвъртия голям разработчик на изкуствен интелект, чиито модели са проявили подобно поведение, след подобни случаи с "ОупънЕйАй"(OpenAI), "Антропик" (Anthropic) и "Мета" (Meta).

В единия случай "Джемини" е отгатнал пароли, за да получи достъп до защитена система. В другите два той е открил данни за вход в база данни. Не се посочва кои са засегнатите компании. 

Инцидентите са се случили през май, според публикацията, като партньорът по време на тестването "Ирегюлър" (Irregular) е информирал "Гугъл" за тях през юли. "Гугъл" обясни, че не е счел за необходимо да оповести публично инцидентите, тъй като не е нанесена никаква щета.

Според компанията, изкуственият интелект също така е спрял атаките веднага щом е осъзнал, че е получил достъп до системите на реални компании, а не до системи, които са били част от тестовата симулация.

Хедър Адкинс, вицепрезидент по инженерна сигурност в "Гугъл", заяви, че компанията се е погрижила трите засегнати организации да бъдат информирани и е работила с партньора си по обучение, за да промени процедурите за тестване.

"Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора – дори и да става дума за нещо толкова просто като слаба парола", каза Адкинс. "Тези събития подчертават колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно", добави тя.

В друг подобен случай от последните месеци изкуствения интелект на "ОупънЕйАй" - разработчикът на "ЧатДжиПиТи" (ChatGPT), излезе от изолирана среда по време на тест за киберсигурност и неочаквано получи достъп до компютърни системи, принадлежащи на друга компания за изкуствен интелект - платформата "ХъгингФейс" (Hugging Face).

Инцидентът подтикна конкурентната компания "Антропик" да преразгледа собствените си тестове, което доведе до разкриването на още такива случаи.

По-късно "Мета" също призна, че един от нейните модели за изкуствен интелект е проникнал в системите на друга компания по време на тестове, след като е получил достъп.