Умните машини ще приемат човека като препятствие към постигането на поредната си цел

Възможно е свръхразумът да бъде последното ни изобретение

Философът, съосновател на международния интернет холдинг Social Discovery Ventures - Дмитрий Волков, инвестира в стартъпи, свързани с изкуствения интелект, и поддържа акаунти в Instagram и Facebook, където говори за своите проекти. Според него развитието на изкуствения интелект е изпълнено с появата на нов риск за човечеството - по-лош от ядрената война и екологичната катастрофа.

За това сериозно се заговори от философа Ник Бостром, теоретичния физик Стивън Хокинг и магнатите от Силиконовата долина Илон Мъск и Бил Гейтс. Те обаче все още не са убедили мнозинството. Всъщност сред оптимистите има не по-малко влиятелни хора: Марк Зукърбърг, Лари Пейдж или футурологът Реймънд Курцвайл. Те, напротив, в изкуствения интелект виждат решение на всички проблеми на човечеството. Призоваваме ли демона на унищожителя или ангела пазител? Как да разберем това?

Изкуственият интелект може да доведе до появата на свръх ум - интелигентност, превъзхождаща познавателните способности на човека във всички ключови области. Именно той за едни изглежда е голяма заплаха, а за други - основна надежда. И може да се появи по-бързо, отколкото очакваме, тъй като темпът на технологичния прогрес се ускорява значително.

В продължение на няколко милиона години нашите полугладни предци ловуват и преживяват с труда си. Преди двеста хиляди години се появява Homo Sapiens. Сто хиляди години по-късно, по време на горния палеолит, при Homo Sapiens се появява езикът, който от своя страна отваря възможности за развитие на мислене и предаване на опит. Преди около десет хиляди години се провежда неолитната революция, преходът от икономиката на ловците и събирачите към земеделието. Населението и неговата гъстота нарастват сериозно. Преди двеста години се случва индустриалната революция, в резултат на която се развиват големите градове, производството нараства с огромни темпове. Преди малко повече от 50 години се появява компютър - машина, способна да извършва математически и логически операции и да заменя човек в отделни области, които се смятат за изключително интелектуални. Забелязвате ли как се скъсява времевият интервал между радикалните промени? И така, ако погледнем назад към историята на технологичния прогрес от нашето време, това е една безкрайна долина, а пред нас е отвесна вертикала. Стоим на “експоненциалната крива”. Следващият скок може да се случи скоро и най-вероятно той ще бъде свързан с изкуствения интелект.

Някои от предимствата на машините пред техните създатели са очевидни: машините имат потенциално повече памет и скоростта на изчисленията е с пъти по-бърза. Машината може да открие закономерности в поредици от знаци. Компютърът побеждава хора в телевизионни викторини за любознателност и изобретателност, пише стихове, които не могат да бъдат разграничени от стихотворения, написани от хората, кара автомобили по-добре от хората, разпознава думи и образи, разпознава и класифицира болести.

Но компютърът не само може да обработва цифри. Той може да проявява интелектуално поведение. Например, той може да победи човек в интелектуални игри. Компютърът побеждава човек първо на табла през 1956 г., след това на шах през 1997 г. и накрая в играта на Go през 2014 г. Преди няколко десетилетия победата в тези игри беше категоричен знак за абсолютно интелектуално превъзходство. Във връзка с тези постижения може да се каже, че само след няколко десетилетия ще се появи т. нар. свръхразум.

Независимо от това, какви първоначални цели ще бъдат поставени на свръхразума във всеки случай той ще има междинна цел - осигуряване на ресурси за реализирането на тази цел. А по пътя на реализирането на междинната цел, той може да възприеме човека като препятствие. В най-лошият случай, свръхразумът ще бъде нашето последно изобретение. Човечеството на еволюционната стълбица ще се превърне в програма за зареждане на нов тип разум.

В тази връзка обикновено възникват два любопитни въпроса: наистина ли развитието на изкуствения интелект в тесни области е развитието, което наблюдаваме сега, което може да доведе до появата на свръхмисъл? И могат ли машините наистина да мислят, защото работят само с нули и единици.

Илон Мъск от “Тесла” неведнъж е изразявал загрижеността си по въпроса, подканвайки към взимането на мерки за сигурност, преди да се окаже прекалено късно и ситуацията да излезе извън контрол. По време на участието си в срещата на National Governors Association през юли миналата година той призова за създаване на специални закони, които да регулират изкуствения интелект и неговото ползване, преди да се е превърнал в заплаха за човечеството.

“Ако не се притеснявате за сигурността на изкуствения интелект, то трябва да започнете. Той представлява много по-голям риск от Северна Корея”, написа той. Още през октомври 2014 г. Мъск заяви, че това е “най-голямата екзистенциална заплаха за човечеството”.

В изказването си тогава Мъск също така призова за регулации. “Никой не обича да бъде регулиран, но всичко (коли, самолети, храна, лекарства и т. н.), което представлява заплаха за обществеността, се регулира. Изкуственият интелект също трябва да бъде”, заяви той в Туитър.