Të popullarizuara për herë të parë në vitin 2017, aplikacionet që krijojnë imazhe të rreme me IA janë zhvilluar me një shpejtësi shqetësuese.
Ato përdorin inteligjencë artificiale gjeneruese për të analizuar trupin e një personi. Përmes modeleve të avancuara ato mund të krijojnë imazhe shumë reale,brenda pak sekondash.
Që nga viti 2026, aplikacionet deepfake me përmbajtje +18 janë shkarkuar më shumë se 705 milionë herë në mbarë botën.
Raportet tregojnë një rritje prej 118% vetëm në vitin 2024, si dhe një rritje dhjetëfish me inteligjencë artificiale deri në fillim të vitit 2026, ku 99% e rasteve përfshijnë gra.
Një pjesë e kësaj rritjeje lidhet edhe me chatbot-in Grok të Elon Musk, i cili thuhet se ka gjeneruar miliona imazhe seksuale pa pëlqim të grave dhe fëmijëve.
Më 7 maj, ligjvënësit e Bashkimit Evropian arritën një marrëveshje për të ndaluar qartë aplikacionet e aplikacionet për modifikim të imazheve me IA , duke e cilësuar këtë si një vijë të kuqe morale dhe ligjore. Marrëveshja ndalon sistemet e inteligjencës artificiale që kanë për qëllim zhveshjen e personave në imazhe pa pëlqimin e individëve.
Sipas këtij vendimi, këto shërbime duhet të hiqen nga tregu i BE-së deri në dhjetor 2026. Zhvilluesit dhe platformat që nuk e zbatojnë rregullin do të përballen me gjoba të rënda.