Mbikëqyrësi i mediave në Mbretërinë e Bashkuar, Ofcom, ka hapur një hetim ndaj platformës së rrjeteve sociale X, në pronësi të Elon Musk, për shkak të përdorimit të chatbot-it të inteligjencës artificiale Grok në krijimin e përmbajtjes seksualisht eksplicite pa pëlqim.
Në një deklaratë zyrtare, Ofcom bëri të ditur se ka pranuar “raporte thellësisht shqetësuese” lidhur me përdorimin e Grok për gjenerimin dhe shpërndarjen e imazheve nudo të personave pa miratimin e tyre, si dhe për krijimin e imazheve të seksualizuara që përfshijnë fëmijë.
Chatbot-i Grok është i disponueshëm falas në platformën X që nga viti 2023, ndërsa gjatë verës së kaluar kompania prezantoi funksionin Grok Imagine, i cili përfshin edhe një të ashtuquajtur “modalitet pikant”, i aftë të prodhojë përmbajtje për të rritur.
Platforma X është përballur tashmë me masa ndëshkuese në disa shtete të Azisë Juglindore, përfshirë Malajzinë dhe Indonezinë, ku është bllokuar përkohësisht pasi autoritetet lokale konstatuan se po përdorej për prodhimin e deepfake-ve seksuale pa konsensus.
Ofcom ka paralajmëruar se nëse platforma nuk përmbush kërkesat ligjore dhe rregullatore, rregullatori mund t’i drejtohet gjykatës për të kërkuar bllokimin e plotë të aksesit në X në territorin e Mbretërisë së Bashkuar.
Në rast se konstatohet shkelje e ligjit, Ofcom ka të drejtë të shqiptojë gjoba deri në 10 për qind të të ardhurave globale të kompanisë ose deri në 18 milionë paund, që përkthehen në rreth 20 milionë euro.
Hetimi zhvillohet në një kontekst më të gjerë shqetësimesh ndërkombëtare mbi keqpërdorimin e inteligjencës artificiale për prodhimin dhe përhapjen e përmbajtjes seksuale pa pëlqim, një fenomen që po rritet ndjeshëm në nivel global.