Напредъкът в изкуствения интелект се използва от педофилите за създаване на генерирани от AI видеоклипове на сексуално насилие над деца, чиито обем може да се увеличи с подобряването на технологията, алармират наблюдатели.
Повечето от случаите, наблюдавани от Internet Watch Foundation, включват манипулиране на съществуващ материал за сексуално малтретиране на деца (CSAM) или порнография за възрастни, като на кадрите се показва лице на дете, пише The Guardian.
Някои примери включват видеоклипове, направени изцяло от изкуствен интелект, с продължителност около 20 секунди, каза (Internet Watch Foundation) IWF.
Организацията, която наблюдава CSAM (материалите със сексуално насилие над деца) в световен мащаб, заяви, че е загрижена, че могат да се появят повече видеоклипове с CSAM, направени от AI, тъй като инструментите зад тях стават все по-разпространени и по-лесни за използване.
Дан Секстън, главен технологичен директор във фондацията споделя, че ако използването на AI видео инструменти следва същата тенденция като направените от AI неподвижни изображения, които са се увеличили по обем, тъй като технологията се е подобрила и е станала по-достъпна, може да има повече CSAM видеоклипове.
"Бих казал, че ако следва същите тенденции, тогава ще видим повече видеоклипове", каза той, добавяйки, че бъдещите видеоклипове също могат да бъдат с "по-високо качество и реализъм".
Анализаторите на IWF казаха, че повечето от видеоклиповете, видени от организацията във форум на тъмната мрежа, използван от педофили, са частични дълбоки фалшиви изображения, в които AI модели, свободно достъпни онлайн, се използват за "налагане отгоре" на лице на дете.
От фондацията добавиха, че CSAM изображенията (материалите със сексуално насилие над деца), направени от AI, са станали по-фотореалистични тази година в сравнение с 2023 г., когато за първи път започнали да виждат такова съдържание.