Създават биологични оръжия с помощта на ИИ?

Шефовете на технологични компании отново предупредиха за рисковете, свързани с бързото развитие на ИИ

Пред Съвета за сигурност на ООН шефът на OpenAI Сам Алтман се опита да обясни колко бързо се развива изкуственият интелект (ИИ), връщайки се назад във времето. Пред три години ИИ бил „доста добър“ в решаването на задачи по математика от началното училище. Година по-късно той вече можел да се мери с ученици от горните класове. Миналото лято ИИ на OpenAI вече достигнал нивото на златен медал в престижно състезание по математика. А днес изкуственият интелект дори е в състояние да решава така наречените „проблеми на хилядолетието“.

Рискът, който Сам Алтман вижда, е следният: „ИИ може да продължи да се развива толкова бързо, че никой вече няма да може да го следва или да се намеси, ако е необходимо“. Шефът на OpenAI съзира и друга опасност - от концентрация на власт в ръцете на няколко компании или държави.

И Дарио Амодей, шеф на компанията за изкуствен интелект Anthropic, споделя тези притеснения. Той предупреждава освен това и за възможна злоупотреба от страна на терористи, които с помощта на изкуствения интелект биха могли да създадат биологични оръжия. „При неправилно боравене изкуственият интелект може да се превърне в риск за цялото човечество“, предупреждава още Амодей.

Според експерта Том Форд е важно, че големите компании в областта на ИИ сами предупреждават за опасностите, свързани с тяхната технология. Но той смята, че зад това се крият и техни лични интереси.

Предложенията за регулиране на шефовете в областта на ИИ си приличат. Шефът на Anthropic призовава за изработване на международни стандарти, с които да се тества рискът от загуба на контрол и злоупотреба с модели на ИИ. „Освен това трябва да има система за докладване на инциденти с изкуствен интелект, които са от значение за глобалната сигурност“, изисква още Амодей.

Въпреки че компаниите в сферата на ИИ вече са въвели свои собствени мерки за сигурност, те са готови да си сътрудничат с държавите от ООН за още по-строги регулации, както и да забавят темпото на развитие на изкуствения интелект, ако се наложи, подчертават Алтман и Амодей.
При повечето държави членки на ООН призивът за глобално регулиране на ИИ намира широк отзвук. Още в понеделник държавните глави на повече от 20 държави, сред които и Германия, се обявиха в подкрепа на по-строго регулиране и създаването на международен регулаторен орган под егидата на ООН.

(От Дойче веле, със съкращения)