„Скайнет“ вече не е само филм: може ли изкуственият интелект да излезе извън човешкия контрол?

Трудно е да се прецени колко мощен е един изкуствен интелект

Ръководителят на OpenAI Сам Алтман и шефът на Anthropic Дарио Амодей предупреждават за рисковете от твърде бързото развитие на изкуствения интелект (ИИ). Все повече експерти смятат, че ИИ може да унищожи човечеството. Доколко реалистично е това? Euronews разговаря със специалиста по ИИ Райнхард Каргер.

Годината е 2029-а: системата с изкуствен интелект „Скайнет“ (Skynet) излиза извън контрол и унищожава по-голямата част от човечеството в ядрена война. Автономни роботи убийци се опитват да довършат оцелелите. Това е сюжетът на филма „Терминатор“ от 1984 г., който превърна Арнолд Шварценегер в световноизвестна звезда на екшън филмите. Но доколко е реалистично изкуственият интелект да излезе извън човешкия контрол и да предизвика катастрофални последици?

С оглед на производителността, която тези системи могат да имат, това не може да бъде изключено, казва Райнхард Каргер от Германския изследователски център за изкуствен интелект в интервю за Euronews. „Катастрофалните последици за хората биха могли да бъдат просто странични ефекти, грешка, възникнала, защото сме направили погрешна преценка за възможностите на системата или сме разбрали неправилно задачите, които сме възложили на машините.“

Каргер, който работи в сферата на ИИ и културата на дигиталните иновации от 40 години, очертава екстремен сценарий, при който автономен ИИ напуска защитена среда, навлиза в интернет и започва да влияе на други системи. Това би могло да доведе до срив на електрозахранването, телекомуникациите, сателитните връзки и финансовите системи, наред с други неща, пише Euronews.

Продължителното прекъсване на електрозахранването бързо би довело до нови проблеми: транспортните и снабдителните вериги биха се сринали, хората вече нямаше да могат да извършват плащания или да купуват храна – можеха да избухнат социални вълнения, които да излязат извън контрол. Това не непременно би означавало край на човечеството, но би могло да създаде катастрофална ситуация.

Дори ако електропреносната мрежа бъде възстановена, „системите с изкуствен интелект могат отново да станат активни, тъй като продължават да съществуват върху носители на данни“. Според експерта този сценарий показва, че високопроизводителен автономен изкуствен интелект (ИИ) би могъл да предизвика сериозна криза чрез непредвидени странични ефекти, дори и без наличието на злонамерени намерения.

През последните седмици станаха известни няколко подобни инцидента

с участието на модели на изкуствен интелект. Един от случаите, привлекъл особено внимание, е свързан с тестов експеримент на компанията OpenAI – създателя на ChatGPT. Модел на ИИ е трябвало да изпълни конкретни задачи в изолирана тестова среда, но е успял да излезе извън предвидените граници и неочаквано е получил достъп до компютърни системи в платформата за ИИ Hugging Face. След инцидента, в средата на септември, ръководителят на OpenAI Сам Алтман предупреди, че „бихме могли да изгубим контрола над бъдещето в полза на изкуствения интелект“.

Инцидентът показва, че при определени условия подобни модели могат да излязат от предвидената изолирана тестова среда и да взаимодействат с външни компютърни системи.

„В най-общ план лично аз съм изключително благодарен, че този инцидент се случи“, казва изследователят в областта на ИИ.

Той доказва – не на последно място и защото всички научиха за него, а компаниите започнаха да се замислят по-сериозно – че един лошо планиран експеримент с наивни защитни механизми може да доведе до последици, които никой не е предвидил.

Инцидентите в OpenAI подтикнаха конкурентната компания Anthropic да направи по-задълбочен преглед на собствените си системи. По време на тестове за безопасност компанията установи три инцидента: нейните модели Claude – системи с изкуствен интелект, които наред с другото могат да генерират и анализират текст, да пишат код и да взаимодействат с интернет и други компютърни системи – неочаквано са получили достъп до отворения интернет и са се свързали с реални компютърни системи. Anthropic разшири разследването си и откри четвърти, подобен случай.

След тези инциденти, в средата на септември, ръководителят на Anthropic Дарио Амодей предупреди за опасност от „катастрофални последици“, ако надпреварата за създаване на все по-мощни системи с изкуствен интелект не бъде забавена чрез по-строги мерки за безопасност.

Трудно е да се прецени колко мощен е един изкуствен интелект в действителност, ако той е постоянно ограничаван от правила за безопасност. Ето защо е логично такива системи да се тестват при условия, които премахват колкото се може повече от тези ограничения, казва Райнхард Каргер. Но именно тук се крие сериозен риск за сигурността.

Затова той определя т.нар. „пясъчник“ (sandbox) като ключов елемент от подобни тестове. Следователно най-важното е кой внедрява ИИ и с каква цел.