Sociālo mediju uzņēmumiem ir nepieciešami labāki ārkārtas protokoli

Tiešsaistes vitriols, īpaši plaši sekotu, ietekmīgu un labi resursētu politiķu un valdību rokās, var radīt nopietnas un pat nāvējošas sekas. 2020. gada 6. janvārī prezidents Tramps tviterī ievietoja nepatiesus apgalvojumus par vēlēšanu krāpšanu un šķietami attaisnoja vardarbības izmantošanu gadā, kad viņa atbalstītāji iebruka ASV Kapitolija teritorijā. Lai gan runa klātienē šķiet, ka tas vistiešāk iedarbina vardarbība, Trampa klātbūtne sociālajos tīklos spēlēja lielu lomu pūļa darbībās. Nedēļas pēc zaudējuma 2020. gada vēlēšanās prezidents Tramps tviterī ievietoja nepatiesus apgalvojumus par vēlēšanu krāpšanu un mudināja atbalstītājus 6. janvārī nolaisties Vašingtonā, D.C , atsakās ņem vairs, un esi stiprs. Uzbrukuma dienā sekoja tvīts, ka viceprezidentam Maikam Pensam nebija drosmes darīt to, kas bija jādara. Trampa atbalstītāju vēstījumi sociālo tīklu platformā Gab aicinot Kapitolija iedzīvotājus atrast viceprezidentu, kā arī klātienē skandējot Kur ir Pens? Pirms vardarbības uzliesmojuma un tā laikā dažādas sociālo mediju platformas palīdzēja pūlim pulcēties īstajā vietā un laikā, koordinēt savas darbības un saņemt norādījumus no prezidenta un cita cita.





Kā mēs strīdējāmies nesenā rakstā žurnālam Survival sociālo mediju ļaunprātīga izmantošana neaprobežojas tikai ar tādām teroristu grupām kā Islāma valsts. Sociālo mediju uzņēmumiem būtu arī jāizstrādā ārkārtas protokoli, lai cīnītos pret ļaunprātīgu aģentu un valstu ekspluatāciju, kas cenšas veicināt vardarbību.



Vispasaules problēma

Lai arī cik šausmīgs bija uzbrukums Kapitolijam, Trampa ļaunprātīgā sociālo mediju izmantošana nav unikāla. 2020. gadā, ņemot vērā pastāvošo reliģisko spriedzi un kopienu vardarbības vēsturi, Indijas Bharatiya Janata partijas (BJP) politiķi publicēja aizdedzinošu saturu attiecībā uz musulmaņiem, daži pat piedraudot ar modrīgu vardarbību . Vismaz četras amatpersonas uzturēja savus Facebook kontus, neraugoties uz iespējamiem platformas naida runas noteikumu pārkāpumiem, un tikai dažas ziņas tika noņemtas pēc tam, kad Wall Street Journal jautāja par viņiem. Facebook satura regulēšanas komanda nerīkojās saistībā ar politiķu apgalvojumiem, ka musulmaņi tīši izplata koronavīrusu, un, lai gan bijušā BJP likumdevēja Kapila Mišras video, kurā tika draudēts ar modrību vardarbību, galu galā tika noņemts, drīz pēc tā augšupielādes notika nemieri un slepkavības, kas nesamērīgi ietekmēja musulmaņus.



Ļaunprātīgi valsts dalībnieki jau sen ir izmantojuši sakaru tehnoloģijas, lai sasniegtu vardarbīgus vai naidīgus mērķus. Piemēram, Ruandas genocīda laikā hutu ekstrēmisti izmantoja Radio Télévision Libre des Mille Collines raidījumus, lai izraisītu naidu pret tutsi un mērenajiem hutiem, kā arī norādiet vārdus, adreses un pat numura zīmju numurus no tiem, kurus viņi gribēja nogalināt. Mūsdienās valsts vadītāji var izmantot sociālo mediju platformas dažādos veidos, sākot no skaidriem aicinājumiem uz vardarbību līdz saturam, kas mānīgi veicina naidu, līdz līdzīgi saasināt spriedzi un kūdināt uz vardarbību.



vai vakar bija aptumsums

Jauni riski un iespējas uzņēmumiem

Lai gan komunikāciju tehnoloģiju izmantošana valstīs nav nekas jauns, sociālie mediji rada jaunas briesmas un riskus. Ņemot vērā platformu sasniedzamību, štatiem var būt milzīga ietekme uz to iedzīvotājiem, ja tie dominē stāstījumā tādās populārās platformās kā Facebook un Twitter. Turklāt sociālie mediji veicina atbalss kameras, kurās plūsmas tiek personalizētas, pamatojoties uz lietotāju datiem, un lietotāju iepriekšējie viedokļi tiek pastiprināti (iespējams, līdz pat pamudināšanai uz darbību), nevis apstrīdēti. Visbeidzot, lielākajai daļai sociālo mediju platformu nav vārtsargu, un tām trūkst laikrakstu vai televīzijas raidījumu redakcionālās lomas, lai gan parasti tām ir minimālie kopienas standarti. Parasti nav lielas atbildības, un neliels skaits personu vai valsts nolīgtu troļļu fermu var pastiprināt noteiktu vēstījumu un likt ārzemju viedokļiem izskatīties vispārīgāk. Plaši sekojušie politiķi, piemēram, pats prezidents Tramps, var tieši sazināties ar milzīgām iedzīvotāju grupām. Atkārtoti saskaroties ar baumām, kas pastiprina to ticamību un iespējamību, ka tās tiks atsauktas, baumas sociālajos medijos kļūst ārkārtīgi spēcīgas.



ķīniešu jaunais gads Ķīnā

Tajā pašā laikā vārtsargu trūkums un informācijas vides dominēšana sniedz jaunu iespēju. Sociālie mediji var nodrošināt alternatīvas naidīgam valdības kontrolētam stāstījumam tradicionālajos plašsaziņas līdzekļos, savienot kopienas krīzes situācijās un sniegt informāciju pilsoniskās sabiedrības locekļiem, ārvalstu valdībām un citiem iesaistītajiem dalībniekiem. Tāpēc sociālo mediju uzņēmumiem ir jāatzīst sava unikālā vara attiecībā uz valstīm un jārīkojas pret iespējamo vardarbību.



Vītņu ievilkšana adatā

Lai gan sociālo mediju uzņēmumi joprojām ir nepilnīgi, tie ir guvuši panākumus, risinot džihādistu un citu vardarbīgu apakšvalstu grupu nežēlīgās tiešsaistes aktivitātes. Tomēr, runājot par valsts satura regulēšanu, sociālo mediju uzņēmumi cīnās ar sarežģītākiem jautājumiem par to, kā saglabāt savu rezultātu, precīzi izmantot tehnoloģiskos rīkus un sekot saviem apgalvotajiem runas brīvības ideāliem, vienlaikus šķērsojot šos ietekmīgos dalībniekus. Trampa un BJP amatpersonu gadījumā viņi ir arī demokrātiski ievēlēti, piešķirot viņiem leģitimitāti un izvirzot jautājumu par to, vai sociālo mediju uzņēmumu standarti ir svarīgāki par vēlēšanām, lai noteiktu, kam ir tiesības uz priviliģētu piekļuvi šīm svarīgajām platformām.

Dažādi sociālo mediju lielinieki ir dažādos veidos līdzsvarojuši šīs dažādās motivācijas un bažas. Piemēram, Twitter un Facebook uz to reaģēja atšķirīgi Trampa kūdīšana uz vardarbību 6. janvārī kā arī BJP politiķu pret musulmaņiem vērsta retorika . Šīs dažādās politikas liecina, ka ir grūti atbildēt uz pamatjautājumu: kā sociālo mediju uzņēmumi var un kā tiem vajadzētu izturēties pret politiķiem un valdībām, kas veicina naidu tiešsaistē?



Lai gan Facebook un citi uzņēmumi ir veltījuši ievērojamus resursus slikta satura problēmai, tehniskie rīki un pieejamie moderatori bieži vien nespēj atrisināt problēmu. Cilvēki ir nepieciešami, lai apmācītu un pilnveidotu tehnoloģiskos rīkus, apstrādātu apelācijas un apstrādātu niansētu saturu, kam nepieciešams sociālais, kultūras un politiskais konteksts. Piemēram, automātiskās satura moderācijas izmantošanas palielināšanās COVID-19 pandēmijas laikā izraisīja būtiskas informācijas, piemēram, Sīrijas žurnālista Mohammeda Asakras ierakstu Facebook, kas dokumentē netaisnību valstī un dalās tajā ar citiem aktīvistiem, izņemšanu. Pat Mjanmā, kas ir bijis centrālais punkts pēc sociālo mediju organizētajām masu slepkavībām 2018. gadā, cilvēku satura moderatori bieži nevar dzīvot pašā valstī, un viņu profilos ir vairākas valstis.



kādas zvaigznes šovakar var redzēt

Papildus šiem resursu ierobežojumiem valdību ignorēšana vai rīcība pret tām var kaitēt sociālo mediju uzņēmumu komerciālajām interesēm. Lai piekļūtu galvenajiem tirgiem, sociālo mediju uzņēmumi paļaujas uz valdības apstiprinājumu, licencēm un labvēlīgu normatīvo vidi. Tāpēc sociālo mediju uzņēmumi var būt vairāk gatavi pakļauties valdības gribai un novērst pretreakciju.

Saskaroties ar šīm grūtībām, viens vienkāršāks risinājums var būt rupjāka pieeja satura regulēšanai, padarot noteiktu saturu nepieejamu vai plaši ierobežojot piekļuvi platformām. Tomēr pārmērīgiem ierobežojumiem var būt tikpat postošas ​​sekas. Represīvie režīmi bieži vien drošības vārdā slēdz internetu, vienlaikus izmantojot klusumu, lai kaitētu citādi domājošiem vai minoritāšu kopienām. Turklāt jebkura satura, īpaši valdības satura, ierobežošana var būt pretrunā ar ASV bāzēto tehnoloģiju uzņēmumu domājamajiem principiem. Daudzi uzņēmumi apgalvo, ka ir apņēmušies nodrošināt vārda brīvību visiem saviem lietotājiem un neuzskata sevi par piemērota vai nepiemērota satura šķīrējtiesnešiem. Izdarot šos spriedumus, sociālo mediju uzņēmumi tiek nostādīti tādā lomā, kādā tiem nevajadzētu un nevēlas būt. Tomēr, ņemot vērā šo platformu sniegto spēku, sociālo mediju uzņēmumiem ir jāatrod veidi, kā sagatavoties šai lomai un novērst spriedzes eskalāciju krīzes apstākļos.



Lai līdzsvarotu dažādas saistības un atbilstoši reaģētu uz valsts atbalstītu naidu tiešsaistē, sociālo mediju uzņēmumiem jāspēj novērtēt dažādas situācijas un vajadzības gadījumā ieviest ārkārtas protokolus. Naidīga retorika un robežu saturs kļūst visbīstamākais, ja spriedze sabiedrībā jau tā ir augsta. Uzņēmumi var izmantot pētnieku un iestāžu rādītājus, lai atpazītu, ka ārkārtas situācija var būt tuvu. Iekšējā bīstamā satura pieaugums, ko uztver mākslīgā intelekta sistēmas vai cilvēku analītiķi, var izraisīt pastiprinātu pārbaudi. Turklāt uzņēmumiem ir jāatzīst, kad ārkārtas situācija ir beigusies, lai nodrošinātu, ka sociālo mediju ierobežojumi nerada pārmērīgu slogu. Īslaicīgas uzvaras, piemēram, vairākas dienas bez vardarbības, vai lielāku notikumu paziņošana, piemēram, miera sarunas vai bēgļu atgriešanās, varētu liecināt par krīzes beigām. Kad tas ir noteikts, uzņēmumiem ir jāizlemj, kā rīkoties šajos ārkārtas periodos.



Uzņēmumu rīcībā ir daudz rīku, lai ierobežotu bīstama satura izplatību krīzes apstākļos. Platformas var piemērot brīdinājuma etiķetes pretrunīgi vērtētajām ziņām, lai lietotāji nekavējoties apšaubītu saturu un meklētu papildu informāciju. Twitter izmantoja šādu apzīmējumu attiecībā uz Trampu, kad sākas laupīšana, apšaude sākas 2020. gada Black Lives Matter protestu laikā. Sociālo mediju uzņēmumi var arī pastiprināt esošos centienus ierobežot bīstama satura redzamību krīzes situācijā. Jau tagad Facebook pazemina ziņas, kas identificētas kā nepatiesas, YouTube un Facebook piemēro stingrākas vadlīnijas, lemjot par satura ieteikšanu vai neieteikšanu, un Twitter apgalvo, ka noņem populārākās tēmas, ja tās ir maldinošs vai traucējošs publiskai sarunai . Apšaubāmās ziņas dažkārt tiek ierobežotas ar komentāriem, atzīmēm Patīk, kopīgošanu, pārsūtīšanu un monetizāciju, izmantojot reklāmas, kas ir izslēgtas vai ierobežotas. Šie centieni būtu jāpastiprina krīzes laikā un jāpaplašina, lai uz laiku tos attiecinātu uz saturu, kas ir robežās. Krīzes kulminācijā uzņēmumi pat varētu piemērot šo ierobežoto valsts noteikumu ziņām, kurās ir noteikti atslēgvārdi.

Turklāt vairāk resursu būtu jāvelta robežu satura noņemšanai no platformas un bīstamu kontu darbības apturēšanai krīzes situācijās. Gan Twitter, gan Facebook, kas jau sen bija parakstījuši ideju par publisku personu satura uzturēšanu sabiedrības interešu vārdā , apzinājās briesmas, kas saistītas ar šī satura turpināšanu, kad 6. janvāra protesti Vašingtonā kļuva virsū. Twitter vispirms apzīmēja Trampa aizdedzinošos tvītus ar brīdinājumiem, pēc tam uz laiku bloķēja prezidentu no viņa konta, līdz beidzot to neatgriezeniski apturēja. Tikmēr Facebook apturēja Trampa kontu vismaz līdz ievēlētajam prezidentam Džo Baidenam inaugurācija . Acīmredzot apzinoties, ka vainīgo noņemšana pie avota galu galā var aizsargāt sabiedrisko drošību, sociālo mediju uzņēmumi samazināja iepriekšējos noteikumus par kontu apturēšanu un ziņu dzēšanu kontiem, kuriem piešķirta preferenciāla attieksme. Šo sliekšņu pazemināšana regulārajiem kontiem, kas krīzes laikā izplata baumas, var arī palēnināt rosinošas retorikas izplatību.



Tajā pašā laikā sociālie mediji var sniegt nepieciešamo informāciju arī no apolitiskiem valdības priekšposteņiem, pilsoniskās sabiedrības, pirmās palīdzības sniedzējiem un tuviniekiem. Tāpēc ir jāizceļ pozitīvais saturs. Sadarbojoties ar vietējām pilsoniskās sabiedrības organizācijām un cienījamām starptautiskām organizācijām, ziņu plūsmās ir jānosaka un jāpalielina uzticami avoti. Uzņēmumi var sekot YouTube modelim, izveidojot populārāko ziņu vai jaunāko ziņu cilni mājaslapu augšdaļā, kas padara šo avotu kolekciju viegli pieejamu. Noteiktās situācijās uzņēmumi varētu pat iekļaut baltajā sarakstā noteiktus avotus un atļaut piekļuvi šiem iepriekš apstiprinātajiem avotiem, vienlaikus liedzot piekļuvi citiem.



Satura ierobežošana sociālajos medijos, īpaši valsts saturā, ietver riskus krīzes upuriem, kā arī pašiem uzņēmumiem. Mainot platformas veiktspēju un mērķi, rūpīgi jāizvērtē veikto darbību intensitāte un ilgums. Tomēr bezdarbības risks ir lielāks. Lai gan šeit izklāstītie pasākumi nevar atrisināt pamatā esošās plaisas sabiedrībā, tie var samazināt spēcīgo ietekmi, ko rada sociālo mediju izmantošana naida un vardarbības izplatīšanai.

kāpēc 1493. gadā šis atklājums būtu bijis liels jaunums