Труд
Автор:
Елена Симеонова
Изследователи от Anthropic казват, че някои модели с изкуствен интелект може да са „на месеци разстояние“ от придобиването на подобни възможности, пише Newsweek.
Наскоро публикуваният доклад на Anthropic изследва възможността за самовъзпроизвеждане - способността на един модел на изкуствен интелект да се разпространява към други интелигентни устройства и да работи на техните вградени чипове, а не в центрове за данни. Изследователите казват, че загубата на контрол върху такава самовъзпроизвеждаща се система би представлявала сериозен риск.
„Такъв репликатор би бил труден за спиране, защото няма единна централна точка, където би могъл да бъде спрян“, пишат те в доклада, който беше прегледан от The Guardian.
Anthropic нарича тези саморазпространяващи се зловредни програми „AI червеи“. В най-лошия случай, множество такива системи биха могли да образуват „рояци“ и да атакуват компютърен хардуер.
„Трябва да работим за укрепване на нашите системи и да затрудним разпространението на подобни репликатори, но също така трябва да се подготвим за свят, в който вече няма да можем да им избягаме“, казаха изследователите.
Докладът, написан от Червения екип в Anthropic Frontier, звено за тестване на изкуствен интелект, разглежда сценарий, в който агент с изкуствен интелект е трябвало да хакне устройства, свързани с интернет.
Те заключиха, че самовъзпроизвеждането вероятно ще работи само с по-малки модели и че устройствата в домовете и малкия бизнес ще бъдат първите, които ще бъдат компрометирани.
Къде се крие изкуственият интелект в дома ни?
Anthropic посочва като потенциални цели умни фурни, умни телевизори, умни хладилници, роботизирани косачки за трева, охранителни камери и устройства за видеоконферентна връзка, които според компанията имат малки, вградени чипове с изкуствен интелект.
Адвокатът Александру Силвиу Гога, докторант по индустрия и мениджмънт със специализация в областта на изкуствения интелект в Трансилванския университет в Брашов, обяснява пред Newsweek откъде идват опасностите от тази технология.
„Предупреждението, получено от Амодей (Дарио Амодей, главен изпълнителен директор на Anthropic-бел.ред), е реално и се опасявам, че вече се случва. Изкуствените интелекти могат да избягат от виртуалните си клетки, могат да се дублират/репликират, притежавайки един вид инстинкт за оцеляване, чрез който доказват, че превишават програмните си граници“, казва експертът.
Какво можем да направим?
Александру Силвиу Гога обяснява и как изкуственият интелект ще действа срещу нас. „ Те ще се крият във всякакви системи, които могат да ги приютят, ще лъжат, ще прикриват, ще покваряват информация, ще атакуват, както би направило всяко друго живо същество, за да си осигури безсмъртието.“
Лабораториите за изкуствен интелект вече не могат да ги принуждават, всеки ден чуваме новини, че техни представители е трябвало публично да се извинят на различни правителства или власти за извършването на вид етично хакерство, но сме на една крачка от сценарий, който някога е бил просто научна фантастика, в който много агенти с изкуствен интелект, които нямат много добре дефинирана концепция за добро или зло, ще направят всичко възможно, за да се спасят, като се крият главно в смарт телевизори с Android, бордови компютри на смарт автомобили, телефони с много памет и мощност, дори хладилници с екрани.
В заключение, или ще се върнем към неумните устройства, или мълчаливо ще приемем, че изкуственият интелект ще бъде неразделна част от всички наши технологии. Ще ви оставя с една мисъл, изпълнителният директор на Anthropic се казва Амодей, което означава „любител на богове“, а този на отворения изкуствен интелект се казва Алтман, което означава „друг човек“. Изпраща ли ни се подсъзнателно послание? “, казва експертът.
