Ndërsa Kina përballet me pasojat e Tajfunit Noul që goditi tokën gjatë fundjavës, zyrtarët do të jenë shumë të vetëdijshëm se me shumë gjasa do të përballen me një sfidë shtesë: video rrezikshëm mashtruese të krijuara me Inteligjencë Artificiale (AI).
Stuhi të fuqishme dhe incidente përmbytjesh gjatë muajve të fundit kanë sjellë video të rreme që mbushin platformat e mediave sociale – këto përfshijnë imazhe të trupave të vdekur që notojnë në ujërat e përmbytjes, paraqitje të rreme të përmbytjeve të rënda në zona që në fakt nuk janë prekur dhe të tjera me detaje të rreme të përpjekjeve të reagimit emergjent.
Në disa zona, videot që përmbanin informacione të rreme për ndërprerjet e energjisë bënë që banorët të panikoseshin për të blerë furnizime emergjente.
Video të tjera shfrytëzojnë ngjarje reale.
Përmbytjet në qytetin Hengzhou, Guangxi në fillim të korrikut shkaktuan që qindra gjarpërinj të arratiseshin nga një fermë shumimi. Më pas u publikuan edhe imazhe false që tregonin krokodilë duke u liruar në një lumë.
Në një situatë tashmë të tensionuar dhe të rrezikshme që përfshin evakuime masive dhe operacione të ndërlikuara shpëtimi, autoritetet duan të shmangin panikun. Tani ata frikësohen se teknologjia e IA-së – në të cilën Kina po investon miliarda dollarë – po ofron mjete të thjeshta dhe të aksesueshme që mund të përdoren për të mashtruar publikun.
“Shumë nga këta krijues përmbajtjesh përdorin lajmet katastrofike për të fituar ndjekës, duke ditur se përmbajtje më sensacionale ose e ekzagjeruar do të marrë më shumë pëlqime dhe më shumë shikime. Ata po fabrikojnë qëllimisht informacione për të tërhequr vëmendjen e njerëzve,” tha Huang Zhihua, Zëvendës Shefi përgjegjës për sigurinë publike online në Departamentin e Policisë së Zhejiang, për mediat shtetërore kineze.
Në javët e fundit, ka pasur arrestime dhe ndëshkime – që variojnë nga paraburgimi në pritje të ndjekjes penale deri te gjobat – për krijimin e raporteve të rreme dhe përmbajtjeve video. Por ekspertët paralajmërojnë se një krizë e paprecedentë e dezinformimit mund të jetë afër.
Në një artikull të botuar nga gazeta e Shkollës Qendrore të Partisë Komuniste, profesori Chen Bin tha: “AI ul ndjeshëm barrierat teknike për prodhimin e informacionit të rremë. Individët nuk kanë më nevojë për aftësi teknike të sofistikuara. Duke përdorur thjesht mjete AI, ata mund të gjenerojnë shpejt tekst, imazhe, audio dhe video bindëse… që është shumë realiste, por përmbajtje tërësisht e fabrikuar, e prodhuar në shkallë të madhe.”
Profesori Gao Fuping, nga Universiteti i Shkencave Politike dhe Ligjit të Kinës Lindore, i tha BBC-së se motivimi për publikimin e përmbajtjes së tillë të rreme varion nga ata që e bëjnë “për të krijuar diçka argëtuese pa menduar për pasojat”, deri te ata që duan të “gjenerojnë trafik për përfitim personal” ose ata që duan qëllimisht të “shkaktojnë panik ose trazira shoqërore”.
“Disa përdorues mendojnë se bota online është anonime dhe e parregulluar ose se nuk mund të gjurmohen,” tha ai.
Ka pasur thirrje që e gjithë përmbajtja e gjeneruar nga AI të jetë e vulosur qartë, por përdorues të tjerë mund të rieditojnë materialin duke hequr shënimet. Profesori Xu Xiaoke nga Universiteti Normal i Pekinit i tha BBC-së se nevojiten përpjekje më të mëdha për të verifikuar vendndodhjet gjeografike me shënime kohore dhe për të kontrolluar burimet e imazheve.
“Megjithatë, do të theksoja gjithashtu se teknologjia e zbulimit ende mbetet prapa teknologjisë së gjeneratave. Jemi në një lojë të vazhdueshme mace-me-mi. Prandaj nuk duhet të supozojmë se vetëm teknologjia mund të identifikojë përmbajtjen e gjeneruar nga AI me një klikim të vetëm,” paralajmëroi ai.
Qeveria kineze po përqafon AI-në në përpjekjen e saj për t’u bërë superfuqia kryesore teknologjike. Në vitin 2017, u njoftua se IA do të ishte “forca kryesore shtytëse” e përparimit të vendit.
Shuma të mëdha parash po derdhen në bizneset e IA-së që kërkojnë më shumë kapital, duke nxitur konkurrencën vendase. Shërbimi shtetëror i lajmeve Xinhua raporton se vendi ka mbi 6,000 “kompani AI”.
Në këtë klimë, Prof. Xu beson se Kina duhet të ndërtojë “infrastrukturë të besueshme informacioni”. Kjo mund të përfshijë sisteme zyrtare qeveritare të paralajmërimit të hershëm dhe ndërfaqe për katastrofa që organizatat e lajmeve mund t’i aksesojnë.
Por ka pasur raste kur burime zyrtare, përfshirë mediat e kontrolluara nga qeveria, kanë minimizuar qëllimisht katastrofat, gjë që ka çuar në mosbesim publik në këtë fushë. Më herët në korrik, gazetarëve lokalë iu kërkua të “zbutin” gjuhën e tyre për të përshkruar një çarje të madhe në murin e digës Liulan pranë Naning si një “hapje” ose “hapësirë”.
Zyrtarët dukeshin se po përpiqeshin ta bënin shkeljen të tingëllonte më pak shqetësuese, por pasojat ishin vdekjeprurëse. Uji që shpërtheu përmes digës së thyer shkaktoi të paktën 26 vdekje poshtë lumit.
Dhe kjo nuk është një ngjarje e izoluar.
Në vitin 2021, zyrtarët lokalë u arrestuan, të akuzuar për fshehje ose nënraportim të 139 vdekjeve në provincën Henan. Incidente të tilla kanë krijuar një vakum besimi që e ka bërë shumë më të lehtë për aktorët e këqij të përhapin përmbajtje të rreme. Por policia po i lutet njerëzve të besojnë burimet e akredituara gjatë emergjencave.
“Kur hasni informacione të lidhura me katastrofa nga një burim i panjohur, qasuni me skepticizëm dhe mbështetuni te njoftimet zyrtare,” tha Gao Kai nga Byroja e Sigurisë Publike të Ningbo-s.
Ai gjithashtu u përpoq të qetësonte publikun se krijuesit e informacionit të rremë do të kapeshin, duke thënë se “interneti nuk është një zonë pa ligj. Autoritetet e sigurisë publike do të vazhdojnë të intensifikojnë përpjekjet për të goditur aktivitetin e paligjshëm online”.
“Kemi krijuar një grup pune të specializuar për të monitoruar nga afër rrjetet sociale, veçanërisht platformat e videove të shkurtra. Ata do të hetojnë dhe trajtojnë këto raste shpejt, duke goditur në mënyrë shumë të rreptë”.
Dënimi mund të variojë nga një gjobë deri në shtatë vjet burg nëse pasojat e dezinformimit janë mjaft serioze.
Më 23 korrik, Administrata Kibernetike e Kinës njoftoi gjithashtu një goditje kombëtare ndaj përmbajtjes së rreme në internet që lidhet me përmbytjet dhe katastrofat e tjera, duke urdhëruar degët lokale të përqendrohen në zbulimin e të dhënave të fabrikuara, redaktimeve keqdashëse, skenave të inskenuara, ngjarjeve historike të atribuuara gabimisht dhe atyre që imitojnë zyrtarë. Për më tepër, u bëri thirrje platformave të mediave sociale të forcojnë rishikimin e përmbajtjes që publikojnë.
Prof. Gao beson se “përgjigjja është edukimi publik i kombinuar me zbatimin e ligjit”, duke thënë se kishte “nevojë për të publikuar raste reale ku njerëzit janë ndëshkuar.” Ai shtoi se “dëmi i shkaktuar nga përmbajtja e rreme e gjeneruar nga AI është në fund të fundit rezultat i mënyrës se si njerëzit zgjedhin të përdorin teknologjinë – jo vetë teknologjia”, duke shtuar se ligjet ekzistuese janë të mjaftueshme për ta trajtuar atë.
Megjithatë, të tjerët nuk janë aq të sigurt. Profesori Chen theksoi se “Teknologjia e IA-së vazhdon të evoluojë shumë më shpejt se kuadrot ligjore. Ndërsa lindin pyetje të reja ligjore, dezinformimi i AI-së mbetet një sfidë e konsiderueshme.”
Avokati me bazë në Shanghai dhe Uashington, Peter Pang, thotë se avokatët në mbarë botën po shohin një shpërthim në numrin e rasteve që trajtojnë këto çështje. Ai beson se kompanitë që krijojnë aplikacione AI dhe platformat që përdoren për të publikuar video dhe materiale të rreme duhet të mbahen ligjërisht përgjegjëse së bashku me njerëzit që krijojnë dezinformata.
“Rreshti i parë do të ishin platformat, sepse ato janë ato që mundësojnë. Ata janë ata që lejojnë që kjo të dalë në dritë,” i tha BBC-së.
Ai përdori një shembull hipotetik të një personi që përplas një këmbësor pas panikut të shkaktuar nga një postim i rremë në rrjetet sociale.
“Krijuesi i videos mund të thotë ‘ke përplasur dikë. Ky është problemi yt. Nuk e bëra unë.’ Por le ta mendojmë mirë. Ju krijuat themelin nga i cili njerëzit reaguan. Nëse ti krijove atë panik, duhet të marrësh përgjegjësi për pasojat që ndodhin.”
Dhe Profesori Xu paralajmëron se “dezinformimi i gjeneruar nga AI ka gjasa të rritet jo vetëm në vëllim, por edhe në shpejtësinë me të cilën përhapet.”
“Duke parë përpara, zgjedhjet politike, emergjencat e shëndetit publik, konfliktet e armatosura, katastrofat natyrore dhe çështjet që prekin jetesën e njerëzve ka gjasa të bëhen zona me rrezik të lartë për dezinformimin e gjeneruar nga AI.
“Në vend që të presin që informacioni i rremë të bëhet viral para se të përpiqet ta përmbajë, qeveritë dhe platformat tani duhet të përgatiten paraprakisht.” /BBC