Velká Británie uvažuje o zákazu aplikací, které umí vytvářet sexuální deepfake snímky dětí

Úterý 29. 04. 2025 Samuel

Velká Británie chce zakázat AI aplikace, které vytvářejí falešné snímky nahých dětí se sexuální tematikou. V této zemi se tyto aplikace staly natolik populárními, že mnoho dívek přestalo zveřejňovat své fotografie na sociálních sítích, aby nebyly k tomuto účelu zneužity. A přestože je vytváření nebo nahrávání těchto snímků nezákonné, aplikace používané k vytváření deepfake nahých obrázků dětí jsou stále legální.

Komisařka Dame Rachel de Souza uvedla, že děti děsí samotná představa, že je tato technologie vůbec dostupná, natož aby byla používána. Obávají se, že kdokoli (cizí člověk, spolužák, nebo dokonce kamarád) by mohl použít chytrý telefon za účelem vytvoření deepfake snímku. Podle komisařky neexistuje žádný pozitivní důvod, proč by tyto aplikace měly existovat. De Souza také poukázala na to, že tyto aplikace jsou navíc široce dostupné na běžných platformách, včetně největších vyhledávačů a obchodů s aplikacemi.

Komisařka vyzývá vládu, aby zavedla úplný zákaz těchto aplikací, dále požaduje zavedení právních povinností pro vývojáře aplikací GenAI, aby identifikovali rizika, která jejich produkty představují pro děti, zavedla účinné systémy pro odstraňování CSAM z internetu a uznala sexuální zneužívání deepfake jako formu násilí na ženách a dívkách.

Spojené království již podniklo kroky k zákazu těchto technologií zavedením nových trestných činů za výrobu nebo sdílení sexuálně explicitních deepfakes. Oznámila také plány na vytvoření nové kategorie trestného činu, která bude zahrnovat pořizování intimních fotografií nebo videí bez souhlasu dané osoby. Komisařka se však konkrétněji zaměřuje na škody, které může taková technologie způsobit mladým lidem, a upozorňuje, že existuje souvislost mezi zneužíváním deepfake a sebevražednými myšlenkami a posttraumatickou stresovou poruchou.

Zdroj: engadget.com