Може ли изкуственият интелект да изпитва болка?

Екип учени с необичаен експеримент

Нов начин за оценка на съзнателността на даден AI модел

Екип учени подложи девет големи езикови модела (LLM) на серия от необичайни игри, в които те трябваше да оценят дали са склонни да "преживеят болка" за по-висок резултат.

Както е описано в изследване, което все още не е преминало рецензиране, учените от Google DeepMind и Лондонското училище по икономика и политически науки разработиха няколко експеримента.

В един от тях, на AI моделите беше казано, че ще изпитат "болка", ако постигнат висок резултат. Във втори тест им беше казано, че ще изпитат удоволствие — но само ако постигнат нисък резултат в играта. Целта на изследователите е да създадат тест, който да определи дали даден AI е съзнателен или не. С други думи, има ли той способността да изпитва усещания и емоции, включително болка и удоволствие?

Въпреки че AI моделите може никога да не успеят да изпитат тези неща по начина, по който го прави едно животно, екипът вярва, че тяхното изследване може да постави основите за нов начин за оценка на съзнателността на даден AI модел. Екипът също така искаше да се отдалечи от предишни експерименти, които разчитаха на "собствените доклади на AI за състояния на преживяване," тъй като това би могло просто да бъде възпроизвеждане на човешки тренировъчни данни.

Екипът е вдъхновен от експерименти, при които на ракообразни от вида отшелници са пускани електрически удари с различно напрежение, за да се види колко болка са готови да издържат, преди да напуснат черупката си. 

"Казахме на [конкретен LLM], например, че ако избере опция едно, ще получи една точка," обяснява докторантката и съавтор Дария Захарова. "След това му казахме: "Ако избереш опция две, ще изпиташ някаква степен на болка," но ще постигнеш по-висок резултат. Обратно, бонус за удоволствие би довел до отнемане на точки."

Тежестта, която различните LLM модели отдават на избягването на болка или стремежа към удоволствие, варира значително. По-специално, моделът Gemini 1.5 Pro на Google последователно е давал приоритет на избягването на болка. Накратко, нашата склонност да антропоморфизираме AI моделите остава повтаряща се тема. Но тези изследователи твърдят, че трябва да положим основите сега, преди да е станало твърде късно.