_ Conținutul terorist pândește pe tot internetul— reglementarea doar a șase platforme majore nu va fi suficientă

Comisarul eSafety din Australia a trimis notificări legale către Google, Meta, Telegram, WhatsApp, Reddit și X (fostul Twitter) solicitându-le să arate ce fac pentru a proteja australienii de extremismul online. Cele șase companii au la dispoziție 49 de zile pentru a răspunde.

Notificarea vine într-un moment în care guvernele reprimă din ce în ce mai mult marile companii de tehnologie pentru a aborda daunele online, cum ar fi materialele de abuz sexual asupra copiilor sau hărțuirea.

Combaterea extremismului online prezintă provocări unice diferite de alte probleme de moderare a conținutului. Autoritățile de reglementare care doresc să stabilească o schimbare eficientă și semnificativă trebuie să țină cont de ceea ce ne-au arătat cercetările despre extremism și terorism.

Extremismul online și terorismul sunt îngrijorări presante de ceva timp. Un exemplu remarcabil a fost atacul terorist de la Christchurch din 2019 asupra a două moschei din Aotearoa Noua Zeelandă, care a fost transmis în direct pe Facebook. A dus la „Christchurch Call” la acțiune, care vizează contracararea extremismului prin colaborări între țări și companii de tehnologie.

Dar, în ciuda acestor eforturi, extremiștii încă folosesc platforme online pentru crearea de rețele și coordonare, recrutare și radicalizare, cunoaștere. transfer, finanțare și mobilizare la acțiune.

De fapt, extremiștii folosesc aceeași infrastructură online ca utilizatorii obișnuiți: piețe, platforme de întâlniri, site-uri de jocuri, site-uri de streaming de muzică și rețele sociale. Prin urmare, toate reglementările de combatere a extremismului trebuie să ia în considerare și drepturile utilizatorilor obișnuiți.

Companiile de tehnologie au răspuns cu inițiative precum Forumul global de Internet pentru combaterea terorismului. Împărtășește informații despre conținutul online terorist între membrii săi (cum ar fi Facebook, Microsoft, YouTube, X și alții), astfel încât aceștia să le poată elimina pe platformele lor. Aceste abordări urmăresc identificarea și eliminarea automată a conținutului terorist sau extremist.

Cu toate acestea, o politică de moderare axată pe elemente individuale de conținut pe platforme individuale nu reușește să surprindă mare parte din ceea ce există acolo.

Grupurile teroriste folosesc în mod obișnuit o abordare multiplatformă „swarmcasting”, utilizând 700 de platforme sau mai multe pentru a-și distribui conținutul.

Swarmcasting implică utilizarea „beacons” pe platforme majore precum Facebook, Twitter și Telegram pentru a direcționa oamenii către locații cu material terorist. Acest far poate fi un hyperlink către o postare de blog pe un site web precum Wordpress sau Tumblr, care conține apoi link-uri suplimentare către conținut, poate găzduit pe Google Drive, JustPaste.It, BitChute și alte locuri de unde utilizatorii îl pot descărca.

Așadar, deși conținutul extremist poate fi semnalat și eliminat de pe rețelele sociale, acesta rămâne accesibil online datorită swarmcasting-ului.

Procesul de identificare și eliminare a conținutului extremist este departe de a fi simplu. De exemplu, la o audiere recentă a Curții Supreme din SUA privind reglementările internetului, un avocat a susținut că platformele ar putea modera conținutul terorist prin eliminarea pur și simplu a oricărui lucru care menționa „al Qaeda”.

Cu toate acestea, organizațiile teroriste recunoscute internațional, membrii acestora și susținătorii nu distribuie exclusiv conținut extremist care încalcă politicile. Unii pot discuta despre activități non-teroriste, cum ar fi cei care se angajează în eforturi umanitare.

Alteori, conținutul lor este limită (îngrozitor, dar legal), cum ar fi fluierele de câini misogini sau chiar „ascuns” într-un format diferit, cum ar fi meme-urile.

În consecință, platformele nu pot cita întotdeauna încălcări ale politicii și sunt obligate să folosească alte metode pentru a contracara un astfel de conținut. Ei raportează că folosesc diverse tehnici de moderare a conținutului, cum ar fi redirecționarea utilizatorilor, pre-bunking dezinformarea, promovarea contravorbirii și oferirea de avertismente sau implementarea interdicțiilor umbre. În ciuda acestor eforturi, extremismul online continuă să persistă.

Toate aceste probleme sunt agravate și de faptul că ne lipsește o definiție general acceptată pentru terorism sau extremism. Toate definițiile existente în prezent sunt controversate.

Academicienii încearcă să caute claritate folosind definiții relativiste, cum ar fi

„extremismul în sine este dependent de context, în sensul că este în mod inerent relativ termen care descrie o abatere de la ceva care este (mai mult) „obișnuit”, „mainstream” sau „normal”.”

Totuși, ce este ceva ce putem accepta ca un normal universal? Democrația nu este norma globală, nici drepturi egale. Nici măcar înțelegerea noastră cu privire la principiile centrale ale drepturilor omului nu este stabilită la nivel global.

În timp ce comisarul eSafety încearcă să facă lumină asupra modului în care platformele majore luptă împotriva terorismului, oferim câteva recomandări pe care comisarul să le ia în considerare.

1. Extremiștii se bazează pe mai mult decât pe platformele majore pentru a difuza informații. Acest lucru evidențiază importanța extinderii cererilor actuale dincolo de jucătorii majori din tehnologie.

2. Autoritățile de reglementare trebuie să ia în considerare diferențele dintre platformele care rezistă conformității, cele care se conformează cu jumătate de inimă și cele care se luptă să se conformeze, cum ar fi furnizorii mici de stocare de conținut. Fiecare tip de platformă necesită abordări sau asistență de reglementare diferite.

3. Viitoarele reglementări ar trebui să încurajeze platformele să colaboreze în mod transparent cu mediul academic. Comunitatea globală de cercetare este bine poziționată pentru a aborda aceste provocări, cum ar fi prin dezvoltarea unor definiții acționabile ale extremismului și noi contramăsuri.

Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.

(Fluierul)