ChatGPT прави психологически профили на потребителите

Хората споделят лични преживявания, страхове и убеждения

Поражда нови рискове за поверителността

ChatGPT изгражда подробни дигитални профили на потребителите си въз основа на информацията, която те споделят в разговорите си с изкуствения интелект. Това предупреждава международен екип от изследователи, които са проучили как функцията за памет на чатбота съхранява и обобщава лични данни.

Проучването, цитирано от Дир. бг, е представено на конференцията ACM Web Conference 2026. Учените са анализирали разговори на 80 реални потребители на ChatGPT, които са получили архивите си чрез европейските механизми за защита на личните данни. В тях изследователите са открили 2050 записа в паметта, свързани с разговорите на 65 от потребителите.

Според резултатите 96% от запазените спомени са създадени от самия чатбот, без потребителите изрично да са избирали да съхранят конкретната информация. Около 28% от записите съдържат лични данни според определенията на Общия регламент за защита на данните (GDPR) на ЕС, а 52% включват психологически изводи за потребителите.

Изследователите посочват, че понякога тези изводи се основават на предположения, а не на изрично заявена информация. Като пример те дават потребител, който поискал от ChatGPT да му препоръча групи, подобни на Nirvana. Чатботът запазил заключението, че човекът харесва Nirvana, въпреки че той не го е казал директно. В записа предположението било отбелязано като слабо подкрепено.

„Преди платформите имаха една основна цел - да ви показват реклами и да посредничат във взаимодействието между вас и рекламодателя. Сега те разговарят директно с вас и може да искат да знаят повече за вас, за да водят по-ефективен разговор“, коментира водещият автор на изследването Абхисек Даш пред Gizmodo.
Авторите предупреждават, че тази форма на персонализация поражда нови рискове за поверителността. За разлика от традиционните алгоритми за препоръки, които анализират поведението на потребителите в различни платформи, чатботовете получават информация чрез разговори, в които хората могат да споделят лични преживявания, страхове и убеждения.

Според Даш проблемът е, че потребителите все по-често възприемат изкуствения интелект не просто като инструмент, а като съветник, колега или приятел. Така те могат да разкриват подробности, които иначе биха запазили за себе си. „Вече няма граница - системата действа като ваш съветник, приятел, лекар и адвокат и затова разполага с информация за всичко“, предупреждава Даш.