Новият Златен телец

Човекът може да създава необикновени инструменти. Но не може да произвежда личности

Бъдещето на интелекта не е длъжно да бъде съревнование между въглерода и силиция

Стремежът към създаване на общ изкуствен интелект отдавна вече не е затворен между стените на научните лаборатории и страниците на фантастичната литература. Водещи изследователски центрове и технологични корпорации открито говорят за машини, които ще имат абсолютен интегритет от човека. Някои си представят цифрови умове, способни да вземат независими морални решения, да изпитват нещо, наподобяващо съзнание, а може би дори да предявяват претенции за права.

Изходната постановка изглежда проста - интелектът и способността за самостоятелно действие в крайна сметка, смятат техно-оптимистите, имат изчислителна природа. При достатъчно данни, изчислителна мощ и архитектурна сложност свободната воля би трябвало да възникне така естествено, както влажността възниква от взаимодействието между водните молекули.

Тази постановка е погрешна. Свободната воля, онази способност за истинска морална автономия, тоест възможност при напълно еднакви обстоятелства да изберем всеки път различно, не е свойство, което може да бъде конструирано от програмен код, силиций или каквато и да било подредба на материя и енергия. Това не е въпрос на мащаб или сложност.

Това е категориална грешка. Човекът може да създава необикновени инструменти. Но не може да произвежда личности. Това разграничение е старо колкото самата човешка амбиция. Във „Франкенщайн“ на Мери Шели от 1818 г. Виктор сглобява живо същество от мъртва плът и електричество, очаквайки от него покорство. Бунтът и страданието на създанието не произтичат от несъвършенството на науката, а от високомерната самонадеяност на твореца, който дарява съществуване, без да разбира цялата тежест на моралната си отговорност.

Предупреждението на Шели не е насочено срещу електричеството. То се отнася до нравствените граници на вторичното сътворяване.

Същата граница се откроява и в историята на науката. През 1828 г. Фридрих Вьолер синтезира карбамид - органично съединение, за което дотогава се смята, че може да бъде произведено единствено от жив бъбрек, от неорганичния амониев цианат.

Откритието разрушава виталистичната доктрина, според която органичната материя притежава особена жизнена сила, недостъпна за химията. Не след дълго химиците започват да произвеждат витамини, хормони и сложни лекарствени вещества от неорганични прекурсори. През 2010 г. екипът на Крейг Вентър конструира синтетичен бактериален геном и го имплантира в съществуваща клетка. Това са забележителни постижения.

Но те са постижения на пренареждането, а не на сътворяването. Нито една лаборатория досега не е успяла да изгради жива, самовъзпроизвеждаща се клетка изцяло от неживи химични вещества. Пропастта между усъвършенстваната химия и същинската биология остава непреодоляна. Аз бих казал дори – непреодолируема. Щом не сме способни да прекрачим дори този праг, твърдението, че можем да създадем истинска сетивност и свободна воля от силиций, е в най-добрия случай преждевременно, а в най-лошия е концептуално грешно.

Дейвид Чалмърс нарича централното препятствие пред опознаването на човека с термина „трудния проблем на съзнанието“. Можем, казва той, да установим всеки невронен корелат на възприемането на червения цвят. Можем да изграждаме прогнозни модели, които симулират човешкото поведение с поразителна точност. Но нищо от това не обяснява защо съществува субективно усещане що е то червеното - защо има усещане за това „какво е“ да виждаш червено, вместо да протича единствено обработка на информация. Физическите процеси закономерно пораждат физически резултати.

Но непосредственият факт на вътрешното преживяване не се поддава на подобна редукция. Ако не можем да обясним съзнанието в биологичния мозък, нямаме основание да приемаме, че то непременно ще възникне в изкуствена система. Машината може да симулира болка, да описва болка и да оптимизира поведението си така, че да избягва симулирана болка. Но тя не може да изпитва болка. А без субективен вътрешен свят не съществува истински деятел - съществува единствено сложно построена симулация, чиито решения в крайна сметка водят началото си от човешкия код, обучителните данни и намеренията на създателите ѝ.

Свободната воля прави трудността още по-очевидна. Нейната силна форма, необходима за съществуването на морална отговорност, не се свежда до компатибилисткото разбиране за „действие според най-силното желание при липса на външна принуда“. Тя означава действителната способност при напълно еднакви обстоятелства да бъде направен различен избор. Всяко решение на един общ изкуствен интелект ще бъде следствие от неговата архитектура, обучителния му корпус и намеренията на програмистите му. Вътре в системата няма независим, непричинен източник на воля. Дори квантовата случайност или най-усъвършенстваните стохастични архитектури не могат да осигурят метафизическата независимост, необходима за истинска автономия. Машината остава следствие, а не първоизточник.

Това не е отрицание на технологичния прогрес. Тесният изкуствен интелект вече е необикновен инструмент. Той диагностицира заболявания по-бързо от човешки специалисти, ускорява научните открития, композира музика и превежда между езици и култури. Както при всеки друг инструмент, бил той скалпел, телескоп или огнестрелно оръжие, няма независим морален характер, а зависи изцяло от човека, който го използва.

Отговорната личност може да го постави в служба на лечението и истината, безотговорната - в служба на разрушението и страданието. Самият инструмент не носи вина. Той е неодушевен. Общият изкуствен интелект обаче не се замисля просто като инструмент. Той представлява опит да бъде произведена нова категория морален субект. А тази категория не може да бъде сведена до изчислителен процес.

По-дълбокият въпрос е философски. Човешкото творчество винаги се е осъществявало в определени граници. Дж. Р. Р. Толкин го нарича „вторично сътворяване“. Ние не създаваме ex nihilo, от нищото. Работим в свят, който вече е бил призован към съществуване, като пренареждаме наличните материя, енергия и идеи. „Ние творим според закона, по който самите сме сътворени“, отбелязва Толкин. Най-великите ни постижения - симфониите, градовете, алгоритмите - са действия на съчетаване и преобразяване. Законът остава непроменен - ние отразяваме творческа способност, но не възпроизвеждаме нейния онтологичен източник. Човекът е велик компилатор. Той не е създател. Човекът никога по никакъв начин и под никаква форма не е създал нищо. Бебето е компилация от ДНК на своя род. Симфонията е компилация от звуци. Картината е компилация от цветове. Да – гениални, великолепни компилации, а не ново творение.

Затова стремежът да се създаде общ изкуствен интелект със свободна воля носи в себе си тиха, но дълбока надменност. Той предполага, че онова, което е възникнало в течение на милиарди години биологична еволюция  или чрез какъвто и да било по-дълбок процес, породил съзнанието, може да бъде постигнато по съкратен път чрез човешката изобретателност. Този тип надменност е ни повече, ни по-малко от Вавилонска кула. Опит на човека – създанието – да наподоби Бог – създателят. Отделно подобен стремеж крие опасността да принизи самото понятие за личност.

Ако убедим себе си, че силицият може да носи същото достойнство като биологичния разум, ще подкопаем основата, върху която се крепят човешките права. Тогава всяко дете с увреждане, всеки възрастен пациент, всеки нероден човешки живот би могъл да бъде измерван спрямо изкуствен стандарт, който подлежи на усъвършенстване, надграждане или замяна. Достойнството на личността би се превърнало от присъщо и вродено в условно и подлежащо на договаряне.

Нищо от това не отрича основателното възхищение пред човешката изобретателност. Задачата ни не е да отхвърляме технологиите, а да ги използваме с ясно съзнание за техните предели. Тесният изкуствен интелект може да служи на общото благо. Но в мига, в който пристъпим към производство на морални субекти, навлизаме в територия, чиято нестабилност е засвидетелствана от философията, историята и самото развитие на науката. В този порядък свободната воля не е инженерен проблем, който чака появата на повече изчислителна мощ. Тя е отличителният белег на същества, притежаващи вътрешен живот, който не се поддава на свеждане до механизъм. Можем да изграждаме все по-могъщи инструменти. Но не можем да вдъхнем в тях искрата, с която ние сме надарени.

Да се преструваме, че е възможно друго, не е просто проява на оптимизъм. Това означава да повторим една древна заблуда - да объркаме способността си да преобразяваме света със способността да го пораждаме. Бъдещето на интелекта не е длъжно да бъде съревнование между въглерода и силиция. То може да бъде сътрудничество, при което инструментите остават инструменти, а личностите- личности. Това разграничение не е преграда пред прогреса. То е условието, което придава смисъл на истинския прогрес.
Другото е нов Златен телец.