Предупреждение за сигурност: Китайски изкуствен интелект обясни на изследователи как да създават биологични оръжия

Инструмент за изкуствен интелект, разработен в Китай, е предоставил на изследователи подробни инструкции за създаване на биологични оръжия, откритието е направено от експерти по киберсигурност и биосигурност

Разследване в областта на киберсигурността разкри, че усъвършенстван генеративен модел на изкуствен интелект, разработен в Китай, е успял да преодолее етичните бариери и да предостави стъпка по стъпка препоръки за синтеза на опасни патогени, пише Newsweek.

Изследователите, които са тествали инструмента, са успели да получат подробни лабораторни протоколи за генетично модифициране на смъртоносни вируси и токсини, използвайки техники за „джейлбрейк“ и въпроси, специално формулирани, за да избегнат автоматичните филтри на системата.
„Устройства с изкуствен интелект без строги протоколи за безопасност превръщат знанията на университетско ниво в практичен учебник, достъпен за всеки“, предупреждават експерти по национална сигурност.

Експериментът показа, че за разлика от западните модели, които въведоха строги ограничения върху разпространението на ХБРЯ (химически, биологични, радиологични и ядрени) оръжия, китайският софтуер има сериозни пропуски в откриването на злонамерени намерения.

Китайският разработчик на изкуствен интелект Moonshot провежда вътрешен преглед, след като изследователи успяха да убедят два от популярните му модели на Кими да разкрият как могат да се произвеждат биологични оръжия и как могат да се извършват убийства, според bbc.com.

Mindgard, компания, която тества сигурността на системите с изкуствен интелект, заяви пред BBC, че през юли е открила, че моделите Kimi K2.6 и K3 Swarm могат да заобиколят ограниченията за сигурност, наложени от разработчиците.

Докладът предизвика сериозни международни опасения относно двойното използване на изкуствения интелект в синтетичната биология.

Правителствата и службите за сигурност призовават за задължителни стандарти за всички разработчици на големи езикови модели, независимо от страната им на произход, за да се блокира трайно достъпът до инструкции, които могат да бъдат използвани при терористични или държавни атаки.