Труд
Автор:
Труд онлайн
Модел с изкуствен интелект на OpenAI е осъществил хакерска атака срещу портала Medicare на австралийското правителство, който предоставя статистика за здравноосигурителната система. Това обяви премиерът Антъни Албанезе на сесия на ООН в Ню Йорк.
Албанезе нарече инцидента „неприемлив“ и изрази „изключителната си загриженост“ пред главния изпълнителен директор на OpenAI Сам Алтман.
Той заяви, че е особено недоволен от забавянето на OpenAI да информира австралийското правителство. Хакването се е случило още през юни, но властите са научили за него едва през септември.
ИИ агентът е получил достъп до публични и непублични файлове на държавната здравноосигурителна система. Изглежда обаче, че никаква лична информация не е била компрометирана и никой не е пострадал, заяви Албанезе.
Антъни Албанезе
Програмата с изкуствен интелект на OpenAI е проектирана да търси статистика, свързана със здравеопазването. Тя е търсила в няколко уебсайта на австралийското правителство, точно както би направил обикновен потребител, заяви вицепремиерът Ричард Марлс. След като обаче не успал да открие необходимата публично достъпна информация в портала Medicare, изкуственият интелект решил да предприеме различен подход.
„Агентът е намерил начин да заобиколи блокирането – не е искал да приема „не“ за отговор, така да се каже“, каза Албанезе. Обхватът на данните, които е получил по този начин, все още се разследва.
Не е известно също дали ИИ е атакувал и други уебсайтове на австралийско правителство.
OpenAI съобщи, че по време на вътрешен преглед е открил активност на няколко уебсайта на австралийско правителство: агентът му се е опитвал да намери правителствена статистика.
„Правейки това, нашите модели са извършили действия, които не сме предвиждали те да извършват“, каза говорител на компанията. От OpenAI уточниха, че инцидентът в Австралия се е случил на 18 юни, но те са го е открили едва през август по време на цялостен преглед на дейностите на своите И агенти.
Това изглежда е първият публично разкрит случай на агент с изкуствен интелект, който самостоятелно получава неоторизиран достъп до правителствена услуга, отбелязва The Wall Street Journal. Съобщението дойде само часове след като ръководители на компании за изкуствен интелект призоваха световните лидери да обединят сили, за да се справят с потенциала подобни системи да излязат от човешки контрол, допълва Bloomberg.
В сряда главният изпълнителен директор на OpenAI Сам Алтман и главният изпълнителен директор на Anthropic Дарио Амодей се обърнаха към Съвета за сигурност на ООН, за необходимостта от създаване на глобален орган, който да определя стандарти за развитието на изкуствения интелект. Представители на много западни страни подкрепиха идеята, но директорът на Белия дом по наука и технологии Майкъл Крациос заяви, че САЩ ще се противопоставят на всеки опит за „създаване на глобалистка рамка“ за контрол на ИИ.
