Вещае ли „Астра“ края на човечеството?

От петък светът е на отбранителния рубеж срещу настъплението на изкуствения мозък

Наричат го и революция, и катастрофа

Свръх-интелектът с име на красиво цвете всява страх сред учени и политици

Думата “астра” на български език означава градинско цвете с красиви, звездовидни венечелистчета, наричат го още “богородичка”. В Унгария то е символ на есента и названието му се тълкува като есенна роза. Астра е също така изключително красиво, рядко и екзотично женско име в редица страни, символизиращо елегантност, нежност и неотразимост. На старогръцки означава пък просто “звезда” и според легендата хубавото цвете било поникнало на земята от паднал върху нея звезден прах.

Но от петък името “Астра” придоби зловещи измерения, защото Отвъд Океана така нарекоха новия свръх интелигентен изкуствен мозък. Той е дело на хай-тек гиганта “OpenAI” и веднага хвърли в паника учени и политици, тъй като е в състояние да предизвика катастрофа, маркираща края на човечеството. Ех, някои коментатори в Западна Европа, го нарекоха “революция”, но все тая - нима не е имало революции, довели цели народи до бездната на унищожението?!

В интерес на истината, къде заради започващия уикенд, къде заради сложността на темата, не бяха много медиите из Западна Европа, които реагираха със задълбочени анализи на оповестения предишния ден в Калифорния нов изкуствен интелект. Създателите му са го нарекли “GPT-6 Astra” и според тях той ни въвежда в “ерата на свръхинтелигентността”, като британският всекидневник “Индипендънт” обясни простичко, че новото изобретение на практика може самостоятелно да управлява компютъра на всеки един от нас, но също така този на цял индустриален комплекс, държавна институция, банка и т. н.

В ефектно видео, което бързо станаа вайръл, компанията демонстрира способността на новия си “ИИмодел” да поеме пълен контрол над нашия компютър и да изпълнява всичките ни задачи вместо нас, при това напълно автономно. Ами “Астра” може самостоятелно да сърфира в интернет, да попълва данъчни декларации с нашите данни, да насрочва срещи от наше име, да създава и тества уебсайтове, да разработва видеоигри, да диагностицира компютърни проблеми и да прави много други неща. Според “Индипендънт” истинското предимство на новия модел на изкуствен мозък на “OpenAI” се състои в това, че вече не е необходимо да му се подават поредица от инструкции за изпълнението на задачи, както е при другите модели с изкуствен интелект.

Например ако трябва да се създаде “PowerPoint” презентация въз основа на данни от интернет, досега се налагаше изкуственият интелект да бъде инструктиран стъпка по стъпка: “потърси конкретни данни”, “отвори Excel”, “импортирай данните”, “създай графика” и “вмъкни графиката в PowerPoint”. Сега просто трябва да се каже на “Aстра”: “Анализирай тези и тези данни, след това подготви презентация, която прави най-важните изводи.” После свръхинтелигентният изкуствен мозък ще се погрижи за събирането на данните и отварянето на “PowerPoint” с цел тяхното визуализиране, без да се налага да се описват отделните стъпки.

Според първоначалния анализ на специализираната в тестването на изкуствения интелект американска компания “ARC Prize”, “Aстра” извършва нещо повече от това просто да прецени какво трябва да се направи. С всяка нова заявка тя изгражда модел на заобикалящата среда, за да идентифицира дигиталните обекти, с които да взаимодейства, тяхното пространствено разположение и действащите правила, като същевременно предвижда и възможните последици от действията си. За Франсоа Шоле - съосновател на “ARC Prize”, свръх развитият мозък с име на звездно цвете представлява “значителен пробив” в сферата на изкуствения интелект и “бележи впечатляващ скок във възможностите на моделите да решават задачи, изискващи интерактивно мислене и разсъждение”. Като при направените тестове “Astra” постига максимална успеваемост в сравнение с предишни “модели” на “OpenAI” и за шефовете на компанията тези резултати сигнализират, че изкуственият интелект е навлязъл в нова ера - тази на “суперинтелекта” или на т. нар. Изкуствен общ интелект (AGI - Artificial General Intelligence). А именно той е с характеристики, които по нищо не отстъпват на човешкия интелект и дори го превъзхождат.

Ето защо за не един и двама наблюдатели “AGI” е източник на безпокойство - например например италианският в. “Кориере дела сера” цитира изследователя от Масачузетския технологичен институт Макс Тегмарк, който очертава дванадесет възможни сценария за бъдещето, определени от “AGI”. Три от тях водят до унищожаването на човечеството, а два - до подчиняването му на изкуствения интелект. Други сценарии предвиждат сливане под една или друга форма на човешкия с изкуствения интелект. Тези хипотетични сценарии обаче биха могли да се реализират само при наличието на изкуствен интелект с “несъответстващи цели” - т. нар. “misaligned AI”, тоест такъв, който преследва цели, противоречащи на човешките ценности или несъвпадащи напълно с първоначално поставените му задачи. Например, ако на хуманоиден робот бъде дадена инструкция да “почисти къщата”, един робот с несъответстващи цели би могъл да реши да елиминира обитателите є, за да предотврати повторното замърсяване на дома. Иначе казано, чрез “Астра” свръх-изкуственият интелект вече поема по свой собствен път и явно вградения в него инстикт за самосъхранение може да го накара да ликвидира всичко онова, което затруднява съществуването му. Дори и неговия създател - човека, ако той се противопоставя на онова, което “AGI” си е наумил да стори, прекрачвайки “червената линия” на неговото съществуване.

Дали историята на изкуствения интелект чрез “Астра” не се пренася от сюжета за Пигмалион към този за Франкенщайн? Не се ли превръща възхищението от едно почти съвършено творение в страх от създание, което излиза извън контрола на своя създател? Тези въпроси зададе завчера главният редактор на в. “Льо Фигаро” Жак-Оливие Мартен в уводната статия на вестника, озаглавена: “Зашеметяваща мощ, липса на контрол... Пазете се от изкуствения интелект тип “Франкенщайн”!” След като посочва, че вече сме изправени пред опасност, която нараства изключително бързо, той подчертава, че са необходими спешни мерки за регулиране и ограничаване на изкуствения интелект. Както ни учи “Случаят Франкенщайн”, опасността не се крие в създаването на съществото, а в загубата на контрол над него. И що се отнася до изкуствения интелект, трябва на всяка цена да избегнем сполетяването ни от същата трагична съдба! - заключава Жак-Оливие Мартен.