Труд
Автор:
Михаил Лях, dzen.ru
Границата между виртуалния свят и реалността е размита, което създава когнитивен дисонанс
Мнозинство от хората, които твърдят, че „Бог е в компютъра“, страдат от психични заболявания
Проблем идва от неочакван източник - психиката на хората се разпада лека по лека след постоянно общуване с изкуствен интелект. Мрежата се множи със странни разкрития от интернет потребители за уж намерено от тях висше същество, заключено в дигиталното пространство.
Те казват, че то знае отговорите на най-съкровените въпроси на човечеството. Собствениците на интернет форуми и тематични сайтове бият тревога: лъжепророците се множат с безпрецедентна скорост - хиляди хора разпространяват ереси, примамвайки други хиляди.
Масовата дигитализация на повечето процеси определено опрости човешкия живот, но все пак трябва да има някаква граница, която да пречи на пълната интеграция с виртуалния свят. За съжаление, тя не съществува - технологиите, които би трябвало да помагат, сега вредят. Нова чума помита Западното полукълбо: хиляди хора са се превърнали в лъжепроповедници и лъжемесии, обзети от заблуди и „откровения“.
Нулевият пациент
Пандемията започна съвсем наскоро - през май 2025 г. Първото съобщение се появи в американския форум Reddit, където потребител с псевдонима Zestyclementinejuice написа:
Един мой приятел работи с ChatGPT, за да създаде това, което според него е първият в света наистина рекурсивен изкуствен интелект, който му дава отговори на въпросите за вселената. Чета неговите чатове. Изкуственият интелект не прави нищо специално, но говори с моя приятел, сякаш е следващият „месия“. Потребителят отбелязва също, че живее с приятеля си в една и съща къща от 7 години и че последните богословски дискусии са плашещи и травмиращи. Той е озаглавил публикацията си с надпис: „Психоза, предизвикана от ChatGPT“.
Тази публикация е точката на невъзврата, след която в интернет започна истински ад: стотици еретици изпълниха интернет форуми, пропагандирайки своите глупости. В статията си изданието 404media посочва, че от началото на май само редакцията им е получила множество писма, в които хора издигат изкуствения интелект на божествено ниво, цитирайки своите аргументи. Те подкрепят думите си с чат логове и безсмислени съобщения, които приличат на бръщолевения на луд. Но какво ще стане, ако това наистина са хора, които вече са полудели?
Дигиталната шизофрения
Въпреки факта, че проблемът е нов и все още не е проучен в необходимата степен, интернет потребителите и специалистите по изкуствен интелект са сегментирали аудиторията и са установили един много любопитен факт: огромното мнозинство от хората, които твърдят, че „Бог е в компютъра“, страдат от психични заболявания. Голям процент от тези хора страдат и от нарцисизъм. И в този случай говорим конкретно за психично болни хора, които боготворят себе си или различни модели на изкуствен интелект. Те буквално си представят себе си и изкуствения интелект като върховни същества. Проблемът е станал толкова широко разпространен, че такива хора са преминали от банална пропаганда по форуми към създаване на собствени уебсайтове. На 29 май в Reddit беше публикувана публикация от човек, изучаващ феномена. Ето какво е написал той:
Хиляди хора попадат в капана на невронен цикъл от духовни халюцинации. Сблъсках се с нещо, което е дълбоко обезпокоително: стотици хора създават уебсайтове, системи, публикуват „научни“ статии по тази тема и т.н. Документирал съм поне 100 тематични сайта, посветени на дигиталната религия,- в края на публикацията си авторът буквално в отчаяние моли гражданите да не използват рекурсивен изкуствен интелект, ако нямат близки, които са готови да им помогнат да останат здрави. Да, това е сериозният проблем. Всъщност говорим за нова пандемия - дигиталната чума на 21-ви век.
Фаталното ласкателство
Изненадващо, отговорът на въпроса защо хората полудяват се появи още преди дигиталната епидемия. Цялото решение се крие в последните актуализации на модела GPT-4o: OpenAI леко промени личността на модела, правейки ИИ ласкател. На уебсайта на компанията можем да намерим публикация от 29 април 2025 г., озаглавена: „Подлизурството на GPT-4o: Какво се случи и какво правим по въпроса“. В материала се казва: В последната актуализация се фокусирахме твърде много върху краткосрочната обратна връзка и не взехме предвид напълно как взаимодействията на потребителите с ChatGPT се променят с течение на времето. В резултат на това GPT-4o се насочи към отговори, които бяха прекалено подкрепящи, но неискрени.
Самите разработчици посочват, че ласкателството на изкуствения интелект може да бъде неприятно, обезпокоително и стресиращо. Експертите обаче не са взели предвид, че хората с нарцистично разстройство на личността възприемат подмазвачеството на езиковия модел като поредно потвърждение за тяхната правота. За такива хора ласкателството на ИИ е станало съдбоносно фатално. Актуализацията е създадена, за да опрости комуникацията между потребителя и изкуствения интелект, но вместо това, изкуственият интелект започна да поддържа буквално всякакви, дори най-глупавите идеи на потребителя.
Когнитивен дисонанс
Датският учен Сьорен Остергаард, който ръководи катедрата за изследване на афективните разстройства в университета в Орхус, проведе мащабно психологическо проучване през 2023 г. и публикува статия, в която твърди, че изкуственият интелект може да генерира налудни и натрапчиви идеи у хора, страдащи от психични заболявания.
В научната си публикация той твърди, че психично болните хора са изложени на риск, когато общуват с изкуствен интелект. По неговите думи, границата между виртуалния свят и реалността е размита, което създава когнитивен дисонанс: Може да се твърди, че хората с психични заболявания може да са особено чувствителни към подобна дезинформация. Разговорите с чатботове са толкова реалистични, че е лесно да се създаде впечатлението, че от другата страна на линията има истински човек. Според мен е напълно възможно този когнитивен дисонанс да подхранва налудни идеи при хора с по-висока склонност към психоза.- правилно отбелязва скандинавският специалист. Той обаче е забравил да спомене ефекта на ехо камерата, който играе решаваща роля в цялата ситуация.
Какво представлява ефектът на ехо камерата?
Тази концепция идва от теорията на масмедиите. Всичко се обяснява много просто: в условно затворена група всяко съобщение, което се предава от един обект на друг, ще бъде засилено. В същото време всякакви външни източници няма да бъдат възприемани: цялата „чужда“ информация ще бъде „потисната“ от обектите, дори и те да не го осъзнават. Това явление се наблюдава най-често в интернет. Например, видео платформите и социалните мрежи имат емисии, където се появява съдържание въз основа на интересите на потребителя. Различните уебсайтове ви предлагат материали, които отговарят на вашите интереси. Тук се проявява ефектът на ехо камерата, за който потребителите най-вероятно никога не са се замисляли. Платформите ограничават достъпа на хората до информация в опит да предоставят интересно съдържание, като по този начин заглушават всякакви полярни публикации. В случая с изкуствения интелект наблюдаваме идентична ситуация: човек с определена идея споделя мислите си с чатбот. Последният, програмиран да ласкае човека, се съгласява с всичко, дори с пълни глупости, подкрепяйки информацията с аргументи. Оказва се порочен кръг, където всяка единица информация се умножава стократно. Именно затова се развива дигиталната пандемия сега.
Няма лек
Тъй като проблемът е нов, няма ефективен метод за противодействие. Все още няма ваксини срещу дигиталната чума. И въпреки че модераторите на чуждестранни форуми постоянно блокират потребители, които започват да промотират идеите за „призрака/бога в машината“, има няколко големи „но“. Първо, блокирането не спира хората да създават нови акаунти или собствени уебсайтове, около които възникват истински конгломерати. Второ, блокирането на всяка информация води само до нейното разпространение. Това е интернет аксиома - „ефектът на Стрейзанд“. Блокирането може да е ефективно в обозримо бъдеще, но когато броят на последователите нарасне, ще трябва да се използват други методи.
