Труд
Автор:
Труд news
Олег Розанов, fondsk.ru
Новите инструменти с изкуствен интелект позволиха на нападателите да “сексуализират и унижават млади жени с едно щракване на бутон
Повече от 700 учени, религиозни лидери и политици искат забрана за разработването на свръхинтелигентен изкуствен интелект
На 22 октомври 2025 г. беше публикувано отворено писмо, призоваващо за забрана на разработването на свръхинтелигентен изкуствен интелект, подписано от повече от 700 учени, религиозни лидери и политици в областта на изкуствения интелект.
Сред подписалите са петима Нобелови лауреати; двама “кръстници на изкуствения интелект” - Джефри Хинтън и Йошуа Бенджио; съоснователят на Apple Стив Возняк; бившият съветник на Доналд Тръмп Стив Банън; съветникът на папа Франциск Паоло Бенанти; и дори Хари и Меган, херцогът и херцогинята на Съсекс.
В отвореното писмо се казва: “Призоваваме за забрана върху развитието на свръхинтелигентност, която не бива да бъде отменена, докато не се постигне широк научен консенсус, че това може да се направи безопасно и по контролиран начин, и не се постигне широка обществена подкрепа за това.”
Писмото е подготвено и публикувано от американската неправителствена организация Future Life Institute, която през 2023 г. публикува друго отворено писмо, призоваващо за шестмесечна пауза в разработването на мощни системи за изкуствен интелект. Въпреки широкото разпространение, това писмо не успя да постигне целта си.
Нов призив за поемане на контрол над надпреварата в областта на изкуствения интелект беше отправен преди открития дебат на Съвета за сигурност на ООН на тема “Изкуствен интелект и международен мир и сигурност”.
В продължение на три часа всяка държава се редуваше да повтаря приблизително едно и също послание: изкуственият интелект може да бъде едновременно полезен и вреден. Представителите многократно заявяваха, че изкуственият интелект не е научна фантастика, а реалност на съвременния живот и че е спешно необходима международна регулаторна рамка, особено по отношение на автономните оръжия и ядрените оръжия.
Една от най-интересните перспективи дойде от Беларус, която насочи вниманието към нарастващото глобално неравенство в развитието на изкуствения интелект. “Издига се нова завеса, този път не идеологическа, а технологична... за да раздели Запада от останалия свят и да потопи страните с доминиращо мнозинство в света в ера на неоколониализъм”, заяви представител [на Беларус]. “Това води до задънена улица и пропаст.
Изкуственият интелект трябва да бъде достъпен за всички страни без изключение “, пише списание Time.
“Развитието на изкуствения интелект е неудържимо, но може да бъде контролирано”, оптимистично заяви испанският премиер Педро Санчес.
“За първи път всяка държава ще има място на масата за преговори по въпросите на изкуствения интелект”, заяви генералният секретар на ООН Антонио Гутериш. Той също така обяви откриването на кандидатури за нов Международен независим научен панел по въпросите на изкуствения интелект, предназначен да предостави безпристрастни научни доказателства за въздействието на тази технология.
“Скоро ще започна консултации с държавите членки, потенциални донори и партньори относно създаването на Глобален фонд за развитие на капацитета в областта на изкуствения интелект”, добави генералният секретар на ООН.
Припомняме, че на 26 август 2025 г. Общото събрание на ООН единодушно прие Резолюция A/RES/79/325, известна като “Резолюция относно модалностите на ИИ”. Този документ установява два нови механизма за глобално управление на изкуствения интелект: Независимия международен научен панел по ИИ и Глобалния диалог за управлението на ИИ.
Международният научен панел се състои от 40 експерти и ще представя ежегодно научни обзори и оценки относно развитието на изкуствения интелект по света.
Глобалният диалог за управление на изкуствения интелект ще бъде отворена дискусионна платформа, която ще обедини правителства, технологични компании, гражданското общество и други заинтересовани страни, за да обсъдят въпроси, свързани със сигурността, прозрачността, намаляването на цифровото разделение и отворения код.
Ако усилията на Организацията на обединените нации са успешни, компаниите за изкуствен интелект както в медицината, така и в ядрената енергетика ще трябва да докажат безопасността на своята технология, преди да я пуснат на пазара.
В САЩ вече се правят опити за регулиране на изследванията в областта на изкуствения интелект. На 1 юли 2025 г. Сенатът на САЩ гласува за премахване на мораториума върху правителственото регулиране на изкуствения интелект от “Един голям красив законопроект” на президента Тръмп, което е голямо поражение за технологичната индустрия, която лобираше усилено да го запази в огромния пакет от данъци и разходи, както отбелязва списание Time.
“Законодателите гласуваха с 99 гласа срещу 1 на едночасово заседание за отмяна на разпоредбата, приемайки изменението, внесено от Марша Блекбърн, републиканка от Тенеси, която преди това се раздели с партията си по въпроса”, пише изданието. Компании като OpenAI и Google вече са се застъпвали за забрана на правителственото регулиране на изкуствения интелект, за да се избегне това, което според тях е разпространението на регулации, които биха могли да възпрепятстват иновациите.
По-голямата част от сенаторите от Демократическата партия, както и редица сенатори от Републиканската партия, като сенаторът от Мисури Джош Хоули, сенаторът от Кентъки Пол Ранд и инициаторката за отмяната на мораториума Марша Блекбърн, се изказаха в подкрепа на отмяната на мораториума. В тази ситуация, ръководството на републиканците, заплашено от загуба на редица членове на партията си, реши да гласува за отмяна на мораториума, който беше в сила през последните десет години. Съпротивата на лобито на американската технологична мафия беше пречупена благодарение на активния натиск върху законодателите от страна на организации за правата на човека, предимно леви.
Група от 140 организации за застъпничество публикува отворено писмо, в което твърди, че поддържането на мораториума защитава технологичните компании от правителствено регулиране. “Неясните стандарти, посочени в мораториума, ще предоставят на технологичните гиганти ясен път за оспорване на почти всеки щатски закон в съда”, се казва в писмото Стивън Банън разкри в подкаста си WarRoom, че лично се е обадил на Марша Блекбърн относно отмяната на мораториума, който според него заплашва правата на щатите. Анджела Пакстън, сенатор от Тексас и влиятелен член на движението MAGA, “яростно се противопостави на мораториума, както и адвокат Майк Дейвис, основател на консервативната застъпническа група Article III Project”.
Въпреки това, премахването на мораториума върху държавното регулиране на изкуствения интелект не означава, че изследванията в тази област в Америка ще бъдат под надзора на ООН. Законодателното регулиране на държавната индустрия с изкуствен интелект означава, че както съобщава Time, Конгресът на САЩ ще се съсредоточи върху борбата със “специфични вреди”, като например “разпространението на неконсенсуална дийпфейк порнография”. Новите инструменти с изкуствен интелект позволиха на нападателите да “сексуализират и унижават млади жени с едно щракване на бутон. Тези изображения се разпространиха бързо онлайн и в някои случаи бяха използвани като инструменти за изнудване”. Но внедряването на изкуствен интелект в оръжията и военната техника само ще се ускори и подобри.
