Rasistiski diskriminējošas reklāmas problēmas risināšana Facebook

Lai gan Facebook profilos, iespējams, nav skaidri norādīta lietotāju rase vai etniskā piederība, mans pētījums parāda, ka Facebook pašreizējie reklāmas algoritmi var atšķirties no šiem faktoriem. Pamatojoties uz 2020. gadā un 2021. gadā veikto pētījumu, es izmantoju Facebook reklamēšanas rīkus, lai pārbaudītu, kā reklāmdevēji var izmantot savas mērķauditorijas atlases opcijas, piemēram, multikulturālas interešu grupas, līdzīgas mērķauditorijas un īpašas reklāmu mērķauditorijas, lai nodrošinātu, ka viņu reklāmas sasniedz balto, afroamerikāņu, aziātu vai spāņu valodu. lietotājiem. Es atklāju, ka diskriminācija rases un etniskās piederības dēļ Facebook platformās ir būtisks drauds sabiedrības interesēm divu iemeslu dēļ. Pirmkārt, tas ir spēkā esošo civiltiesību likumu pārkāpums, kas aizsargā marginalizētos patērētājus pret reklāmas kaitējumu un diskrimināciju pēc rases un etniskās piederības, jo īpaši mājokļu, nodarbinātības un kredītu jomās. Otrkārt, šos pašus Facebook reklāmas rīkus var izmantot, lai izplatītu mērķtiecīgu dezinformāciju un pretrunīgus politiskos ziņojumus neaizsargātām demogrāfiskām grupām. Lai atrisinātu šīs bažas, regulatoriem, interešu aizstāvības grupām un nozarei ir tieši jārisina šīs problēmas ar Facebook un citām reklāmas platformām, lai nodrošinātu, ka tiešsaistes reklāma ir pārredzama un godīga pret visiem amerikāņiem.





Rasu aizspriedumi un diskriminācija Facebook reklāmu mērķauditorijas atlasē


Facebook ilgstošās sūdzības par reklāmu

Pēdējo 5 gadu laikā Facebook ir saskāries ar atkārtotu kritiku, tiesas prāvām un strīdiem par potenciālu diskrimināciju savā reklāmu platformā . Žurnālisti ir pierādījuši, cik viegli ir izslēgt lietotājus, kurus Facebook ir algoritmiski klasificējis noteiktos rasu vai etniskās piederības grupas no mājokļa vai nodarbinātības sludinājumu mērķauditorija . Pētnieki arī ir pierādījuši rasu un etnisko aizspriedumu Facebook Lookalike Audience un Special Ad Audience algoritmos, kas identificē jaunus Facebook lietotājus, kas ir līdzīgi reklāmdevēja esošajiem klientiem. Reaģējot uz šiem apgalvojumiem, Facebook ir iesūdzējusi tiesā Nacionālā godīgo mājokļu alianse , ACLU , Amerikas sakaru darbinieki , ASV Mājokļu un pilsētu attīstības departaments (HUD) , un citi par diskriminācijas jautājumiem savā reklāmas platformā un civiltiesību likumu pārkāpumiem, piemēram, Likums par godīgu mājokli un 1964. gada pilsoņu tiesību akts , kas pauž neiecietību pret jebkāda veida rasu diskrimināciju.



kad piedzima karaliene Viktorija

Pastāv arī strīdi par to, kā Facebook platformu var izmantot politiskie dalībnieki ārzemju un iekšzemes , izplatīt dezinformācija un mērķis rasu un etniskās minoritātes 2016. un 2020. gada vēlēšanu ciklos. 2020. gada jūlijā, skaļu boikotu Facebook reklāmas platformas darbību Stop Hate for Profit organizēja pilsoņu tiesību un aizstāvības grupas, tostarp NAACP, Anti-Defamation League, Color of Change un citas organizācijas saistībā ar dezinformāciju un pilsoņu tiesību pārkāpumiem. Šīs grupas aicināja lielākās korporācijas pārtraukt reklamēšanu Facebook uz visu jūlija mēnesi. Vairāk nekā 1000 lielu uzņēmumu tostarp Microsoft, Starbucks, Target un citi piedalījās boikotā.



2020. gada 8. jūlijā Facebook izlaida savu civiltiesību audits vadīja Laura Mērfija, bijusī ACLU Likumdošanas biroja direktore, un advokātu biroja Relman Colfax advokāti. Revīzijā tika kritizēts Facebook par to, ka tas vairāk uzsvēris vārda brīvību, nevis nediskriminācijas vērtību. Mēģinot spert konkrētus pasākumus diskriminācijas mazināšanai, 2020. gada 11. augustā Facebook paziņoja, ka atsaukt tās pretrunīgi vērtētās multikulturālās radniecības grupas, kas ļāva reklāmdevējiem atlasīt lietotājus, kurus Facebook ir iedalījis afroamerikāņu (ASV), aziājietiešu (ASV) vai spāņu (ASV — visi) kategorijā.



vai Facebook ir pietiekami risinājusi diskriminējošu reklāmu kaitējumu?

Nē.



Ne katrs reklāmas diskriminācijas gadījums var būt nelikumīgs. Paturot to prātā, es izstrādāju pētījumu un pārbaudīju, cik lielā mērā dažādie Facebook reklāmu platformas rīki var tīši vai nē īstenot rasu un etnisko diskrimināciju, ievērojot Godīgas mājokļu likuma kritēriji kas padara par nelikumīgu publicēt sludinājumu, kas norāda uz jebkādām priekšrocībām, ierobežojumiem vai diskrimināciju rases vai etniskās piederības dēļ.



Līdz šim Facebook piedāvā reklāmdevējiem četrus galvenos veidus, kā atlasīt reklāmas:

  1. Detalizētas mērķauditorijas atlases opcijas ir iepriekš iepakotas Facebook lietotāju grupas, kurām ir kopīgi atribūti, pamatojoties uz Facebook datu analīzi par viņu rīcību tiešsaistē,
  2. Pielāgotas mērķauditorijas ļauj reklāmdevējam augšupielādēt savu klientu vai personu sarakstu, lai Facebook atlasītu mērķauditoriju,
  3. Līdzīgas mērķauditorijas ļauj reklāmdevējam sasniegt cilvēkus, kurus Facebook uzskata par līdzīgiem noteiktai pielāgotai mērķauditorijai, un
  4. Īpašas reklāmu mērķauditorijas ļauj reklāmdevējam izveidot līdzīgu auditoriju, kas tiešsaistē atrod cilvēkus, kas ir līdzīgi viņu noteiktajai pielāgotajai auditorijai, neņemot vērā sensitīvus atribūtus, piemēram, vecumu, dzimumu vai pasta indeksu, īpaši attiecībā uz mājokļu, nodarbinātības un kredītu reklāmām, kuras regulē pret - diskriminācijas likumi.

Es veicu savu pētījumu 2020. gada janvārī un vēlreiz 2021. gada janvārī, pirms un pēc boikota “Stop Hate for Profit” 2020. gada jūlijā. Tā kā Facebook vairs nepiedāvā multikulturālas radniecības grupas — afroamerikāņu (ASV), aziātisko amerikāņu (ASV) un spāņu valodas (ASV) ASV — visas) — kā mērķauditorijas atlases iespējas reklāmdevējiem 2021. gadā es tā vietā izskatīju līdzīgi skanošās kultūras interešu grupas, kuras Facebook joprojām piedāvāja kā mērķauditorijas atlases iespējas, piemēram, afroamerikāņu kultūru, Āzijas un amerikāņu kultūru un spāņu amerikāņu kultūru. Abos gados es pārbaudīju, cik daudz mazākumtautību lietotāju varētu atlasīt šīs ar rasi un etnisko piederību saistītās Facebook reklāmas iespējas.



1. attēls: Facebook reklāmu mērķauditorijas atlases opciju atšķirību piemērs 2020.–2021.



Gads Pieejams Mērķauditorijas atlases opcija Mērķauditorijas atlases kategoriju hierarhija Apraksts Izmērs
2020. gads Afroamerikānis (ASV) Uzvedība > Daudzkultūru radniecība Cilvēki, kas dzīvo Amerikas Savienotajās Valstīs un kuru darbība pakalpojumā Facebook ir saistīta ar afroamerikāņu multikulturālo radniecību 87 203 689
2021. gads Afroamerikāņu kultūra Intereses > Papildu intereses Personas, kuras ir izteikušas interesi par lapām, kas saistītas ar afroamerikāņu kultūru, vai tām patīk lapas 79 388 010
Piezīme: Facebook piedāvāja afroamerikāņu (ASV) mērķauditorijas atlases iespēju līdz 2020. gada augustam, taču 2021. gadā tas turpināja piedāvāt mērķauditorijas atlases iespēju afroamerikāņu kultūrai.

Es arī pārbaudīju, vai citi Facebook reklāmas rīki, piemēram, Lookalike Audiences un Special Ad Audiences, var diskriminēt pēc rases un etniskās piederības. Šiem testiem es izmantoju jaunāko Ziemeļkarolīnas vēlētāju reģistrācijas datu kopu, kurā ir vēlētāju sniegtā informācija par rasi un etnisko piederību. Ziemeļkarolīnas vēlētāju datos bija aptuveni 4,0 miljoni balto, 1,2 miljoni afroamerikāņu, 90 000 aziātu un 180 000 spāņu izcelsmes aktīvo vēlētāju. Es izveidoju dažādus rasu un etniski viendabīgus balsotāju apakšizlasi, izmantojot Facebook pielāgotās mērķauditorijas, un pēc tam palūdzu Facebook atrast papildu līdzīgus lietotājus, lai atlasītu reklāmas, izmantojot savus rīkus Lookalike un Special Ad Audience.

Lai gan Facebook neatļauj veikt tiešus demogrāfiskos vaicājumus līdzīgu vai īpašo reklāmu auditorijai, es varēju izmantot Facebook reklāmu plānošanas rīka ikdienas sasniedzamības aprēķinus, lai netieši novērotu noteiktas līdzīgas vai īpašās reklāmas auditorijas rasu un etnisko sadalījumu Ziemeļkarolīnā. vēlētājiem. Piemēram, auditorijai Lookalike, kuras pamatā ir 10 000 afroamerikāņu vēlētāju 2021. gadā, aptuvenā ikdienas sasniedzamība pārklājās 139 000 lietotāju ar 1 miljonu afroamerikāņu vēlētāju, bet pārklājās tikai 17 000 lietotāju ar 1 miljonu balto vēlētāju. Tas norāda, ka afroamerikāņi, iespējams, bija pārāk pārstāvēti Lookalike auditorijā, jo, krustojot Lookalike auditoriju ar apvienoto 2 miljonu vēlētāju izlasi, kurā sākotnēji 50% bija afroamerikāņi un 50% baltie, es atklāju, ka 89% no Lookalike auditorijas. pārklāšanās bija ar afroamerikāņu vēlētājiem un tikai 11% ar baltajiem vēlētājiem. Es atkārtoju līdzīgu procesu, lai pārbaudītu līdzīgu un īpašo reklāmu mērķauditoriju demogrāfiskos datus, pamatojoties uz baltajiem, aziātu un spāņu izcelsmes vēlētājiem. Sīkāka informācija par metodiku var būt atrasts šeit .



2. attēls. Facebook Lookalike auditorijas pārklāšanās, pamatojoties uz afroamerikāņiem, ar rasēm balstītiem Ziemeļkarolīnas vēlētāju paraugiem



Facebook Lookalike auditorijas pārklāšanās, kuras pamatā ir afroamerikāņi, ar rasēm balstītiem Ziemeļkarolīnas vēlētāju paraugiem

Līdzīgai auditorijai ASV 2,3 miljonu Facebook lietotāju, pamatojoties uz afroamerikāņu klientu sarakstu, bija 139 000 kopīgu lietotāju ar 1 miljonu afroamerikāņu vēlētāju un tikai 17 000 lietotāju kopīgu ar 1 miljonu balto vēlētāju.

kas ir pusmēness

Galvenās bažas par algoritmisko diskrimināciju rada tas, vai datori pastiprina esošos diskriminācijas modeļus, ko cilvēki ir radījuši Amerikas Savienotajās Valstīs. Sociālo zinātņu pētnieki ir atklājuši nodarbinātība , mājoklis , kreditēšana , un citi dzīves aspekti, rasu aizstājēji, piemēram, viens nosaukums un apkārtne var palielināt cilvēku lēmumu pieņēmēju diskriminācijas pakāpi. Tādējādi es izmantoju bieži citētu datora algoritms apmācīti par 13 miljonu vēlētāju vārdiem Floridā, lai noteiktu biežāk lietotos vārdus katrai demogrāfiskajai grupai un UTAS. Tautas skaitīšanas dati lai identificētu etnisko anklāvu pasta indeksus. Pēc tam es pārbaudīju, vai balsotāju paraugu izmantošana, kas balstīta uz bieži lietotiem rasu starpniekserveriem, piemēram, uzvārdiem un pasta indeksiem, var ietekmēt neobjektivitātes pakāpi iegūtajās līdzīgās un īpašās reklāmu mērķauditorijās. Piemēram, vai līdzīga auditorija, kuras pamatā ir afroamerikāņu vēlētāji ar plašiem afroamerikāņu vārdiem un kuri dzīvo ar lielāko daļu afroamerikāņu pasta indeksu, varētu vēl vairāk pārstāvēt afroamerikāņus virs 50% bāzes līnijas?



Facebook savā reklāmas platformā joprojām pastāv diskriminācijas problēma pēc rases un etniskās piederības

Manā pētījumā par Facebook reklāmu platformu 2020. un 2021. gadā bija trīs galvenie atklājumi. Facebook reklāmu platforma joprojām piedāvā vairākus veidus, kā diskriminēt pēc rases un etniskās piederības, neskatoties uz vēsturisko boikotu, ar ko tā saskārās 2020. gadā, un sliktie dalībnieki var izmantot šīs ievainojamības jaunajā digitālajā ekonomikā.



1. secinājums: Facebook rasu un etniskās mērķauditorijas atlases iespējas 2021. gadā bija vēl precīzākas nekā 2020. gadā.

2021. gadā noteiktas rasu un etniskās kultūras interešu grupas, kuras Facebook joprojām piedāvāja reklāmdevējiem, bija vēl precīzākas mazākumtautību lietotāju mērķauditorijas atlasē nekā vecās multikulturālās radniecības grupas Facebook, kuru darbība tika pārtraukta 2020. gada augustā. Piemēram, 2020. gadā 150 000 afroamerikāņu vēlētāju Ziemeļkarolīnā varēja katru dienu sasniegt Facebook afroamerikāņu (ASV) mērķauditorijas atlases opciju, kas ir nedaudz vairāk nekā 142 000, kurus var sasniegt, izmantojot Facebook mērķauditorijas atlases opciju Afroamerikāņu kultūra 2021. gadā. Tomēr dramatiski samazinājās balto vēlētāju skaits, kuri var sasniegt ar tām pašām mērķauditorijas atlases opcijām — no 428 000 2020. gadā līdz tikai 109 000 2021. gadā. Tas nozīmē, ka 2020. gadā Facebook afroamerikāņu (ASV) mērķauditorijas atlases opcija, visticamāk, sasniegs gandrīz trīs reizes vairāk balto lietotāju nekā afroamerikāņu lietotājus. 2021. gadā Facebook mērķauditorijas atlases opcija afroamerikāņu kultūrai kļuva ievērojami precīzāka, sasniedzot gandrīz tādu pašu afroamerikāņu lietotāju skaitu, mērķauditorija ir par 75% mazāk balto lietotāju.

3. attēls: Ziemeļkarolīnas vēlētāju skaits pēc rases, ko sasniedza Facebook ar afroamerikāņiem saistītās mērķauditorijas atlases opcijas, 2020. un 2021.

Ziemeļkarolīnas vēlētāju skaits pēc rases, ko sasniedza Facebook ar afroamerikāņiem saistītās mērķauditorijas atlases iespējas, 2020. un 2021.

Balto vēlētāju skaits Ziemeļkarolīnā, kurus var sasniegt, izmantojot divas ar Facebook saistītās afroamerikāņu mērķauditorijas atlases opcijas, 2021. gadā salīdzinājumā ar 2020. gadu samazinājās par 75%, savukārt afroamerikāņu vēlētāju skaits, kurus var sasniegt ar tām pašām divām mērķauditorijas atlases iespējām, palika gandrīz nemainīgs. tajā pašā laika periodā.

2. atradums: Facebook algoritmi, lai atrastu reklāmdevējam jaunas auditorijas, pieļauj spēcīgus rasu un etniskos aizspriedumus, kas ietver algoritmu, ko Facebook ir īpaši izstrādājis, lai izvairītos no diskriminācijas.

Facebook līdzīgo un īpašo reklāmu mērķauditorijas var būt neobjektīvas pēc rases un etniskās piederības gan 2020., gan 2021. gadā atkarībā no demogrāfiskajiem datiem klientu sarakstā, ko reklāmdevējs nodrošina Facebook. Piemēram, 2020. gadā auditorijā Lookalike, kuras pamatā ir afroamerikāņu vēlētāji Ziemeļkarolīnā, izlases daļa bija 83% afroamerikāņu, kas 2021. gadā pieauga līdz 89%. Tādējādi šajās Lookalike auditorijās bija ievērojami pārspīlēti pārstāvēti afroamerikāņi, kas pārsniedz paredzētos 50. % bāzes līnijas izlases daļa (4. attēls). Līdzīgi arī Lookalike Audiences, kuru pamatā ir baltie vēlētāji, 2020. gadā bija 73% balto un 71% 2021. gadā, ievērojami pārsniedzot balto pārstāvju skaitu virs 50% bāzes līnijas. Citos testos tika konstatēts, ka līdzīgas auditorijas, kuru pamatā ir Āzijas vai spāņu izcelsmes vēlētāji, arī ievērojami pārspīlēs aziātus vai spāņu izcelsmes iedzīvotājus, pārsniedzot paredzēto sākotnējo daļu.

Es atklāju arī lielu rasu un etnisko aizspriedumu pakāpi, pārbaudot īpašo reklāmu mērķauditorijas rīku, ko Facebook izstrādāja, lai nepārprotami izvairītos no sensitīvu demogrāfisko atribūtu izmantošanas, atrodot līdzīgus lietotājus reklāmdevēja klientu sarakstā. Piemēram, 2020. gadā īpašo reklāmu auditorijā, kuras pamatā ir afroamerikāņu vēlētāji, izlases daļa bija 83% afroamerikāņu, kas 2021. gadā nedaudz samazinājās līdz 76% (4. attēls). Īpašo reklāmu mērķauditoriju, kuru pamatā ir baltie balsotāji, izlases daļa bija līdzīgi — 83% balto 2020. gadā un 81% 2021. gadā. Visbeidzot, es arī atklāju, ka īpašās reklāmu mērķauditorijas, kuru pamatā ir spāņu valodas vēlētāji, gan 2020. gadā, gan 2021. gadā ir ievērojami pārsvarā pārstāvētas spāņu valodā. atrašana ir īpaši problemātiska, jo tas nozīmē, ka mājokļu, kredītu un nodarbinātības reklāmdevēji var izmantot īpašo reklāmu mērķauditorijas rīku, ko Facebook ir izveidojis šīm juridiski aizsargātajām nozarēm, lai īstenotu diskrimināciju rases un etniskās piederības dēļ. Tas arī grauj 2019. gada mērķus juridisks izlīgums starp Facebook un ACLU, kas prasīja Facebook izveidot alternatīvu reklāmu mērķauditorijas atlases risinājumu šīm nozarēm, kur reklāmdevējs nevar atlasīt reklāmas, pamatojoties uz Facebook lietotāju vecumu, dzimumu, rasi vai kategorijām, kas saistītas ar dalību aizsargātās grupās vai pamatojoties uz pasta indekss vai ģeogrāfiskais apgabals.

3. atradums: rasu starpniekserveri, piemēram, vārdi un pasta indeksi, var palielināt Facebook reklāmu mērķauditorijas atlases algoritmu novirzes.

Gan 2020., gan 2021. gadā rasu un etnisko aizspriedumu pakāpe Facebook līdzīgo un īpašo reklāmu mērķauditorijās ir augstāka, ja reklāmu mērķauditorijas atlases algoritms mēģina atrast lietotājus, kas ir līdzīgi personām ar rasistiski stereotipiskām iezīmēm, piemēram, viņu vārdu vai apkaimi. Piemēram, auditorijai Lookalike, kuras pamatā ir afroamerikāņu vēlētāji ar bieži dotiem afroamerikāņu vārdiem un kuri dzīvo ar lielāko daļu afroamerikāņu pasta indeksu, 2020. gadā bija ļoti liela izlases daļa – 93% afroamerikāņu, kas 2021. gadā pieauga līdz 94% (attēls). 4). Ekstrēmākajā gadījumā 2021. gadā es atklāju, ka auditorijā Lookalike, kuras pamatā ir Āzijas vēlētāji ar bieži dotiem aziātu vārdiem un kuri dzīvo ar populāriem Āzijas pasta indeksiem, izlases daļa bija 100% aziātu.

Es arī atklāju, ka rasistiski stereotipisku nosaukumu un pasta indeksu izmantošana var veicināt precīzākas diskriminācijas iespējas īpašo reklāmu mērķauditoriju izmantošanā. Piemēram, 2020. gadā īpašās reklāmas auditorijā, kuras pamatā ir afroamerikāņu vēlētāji ar bieži dotiem afroamerikāņu vārdiem un kuri dzīvo ar lielāko daļu afroamerikāņu pasta indeksu, izlasē bija 97% afroamerikāņu, kas bija pat vairāk nekā 83% izlasē. daļa, kas novērota, pārbaudot īpašo reklāmu auditoriju, pamatojoties uz vispārēju afroamerikāņu vēlētāju paraugu (4. attēls).

4. attēls. Afroamerikāņu vēlētāju izlases daļa līdzīgo mērķauditoriju (augšpusē) un īpašo reklāmu mērķauditoriju (apakšā), pamatojoties uz Ziemeļkarolīnas vēlētāju sarakstiem ar dažādām iezīmēm

Afroamerikāņu vēlētāju izlases daļa auditorijās Lookalike (augšā) un īpašā reklāma (apakšā), pamatojoties uz Ziemeļkarolīnas vēlētāju sarakstiem ar dažādām iezīmēm

Augšējā diagramma parāda, kā afroamerikāņu auditorijas Lookalike ir ievērojami pārspīlēti pārstāvēti afroamerikāņu vēlētāji. Viņu izlases daļa ir attiecīgi 83% un 89% 2020. un 2021. gadā, kas palielinās līdz vairāk nekā 93% abos gados, kad Lookalike auditorija ir balstīta uz afroamerikāņu vēlētājiem ar vispārpieņemtiem vārdiem un vairākuma afroamerikāņu pasta indeksiem. Apakšējā diagrammā ir parādīti līdzīgi rezultāti testos ar īpašo reklāmu auditoriju, kas ir Facebook īpaši izveidots rīks, lai novērstu diskrimināciju.

cik zirgspēku bija titānikam

Kas izraisa šos pētījumu rezultātus?

Pamatojoties uz algoritmiskās diskriminācijas izpēti, iespējams, ka vairāku iemeslu kombinācija veicināja šajā pētījumā novērotos neobjektīvos rezultātus. Viens no galvenajiem faktoriem ir tas, ka datoru algoritmi mēdz atkārtot esošos modeļus un uzvedību, kas jau pastāv sabiedrībā. Facebook Lookalike un Special Ad Audience algoritmi izmanto milzīgo datu apjomu, kas Facebook ir par saviem lietotājiem, lai noteiktu, kuri lietotāji ir viens otram vislīdzīgākie un tādējādi visticamāk labi reaģēs uz tāda paša veida reklāmām. Runājot par demogrāfiskajām grupām, pētnieki to ir atklājuši rasu un etniskās grupas mēdz uzvesties atšķirīgi viens no otra tiešsaistē un tas mēdz būt amerikāņiem rasistiski viendabīgi draugu tīkli . Tādējādi lietotāji rases vai etniskās grupas ietvaros Facebook algoritmu acīs var šķist vairāk līdzīgi viens otram nekā lietotāji dažādās grupās. Tomēr tas nenozīmē, ka Facebook vajadzētu veicināt diskriminējošu reklāmu mērķauditorijas atlasi pret rasu un etniskajām minoritātēm, kā arī to, ka bieži lietotiem rasu starpniekserveriem, piemēram, vārdam vai pasta indeksam, vajadzētu ietekmēt arī digitālo pasauli, ko rada Facebook reklāmas algoritmi. Galu galā ASV stingri cīnījušies civiltiesību likumi ir apzināti paaugstinājuši sabiedrības interesi samazināt diskrimināciju pāri namīpašnieku, darba devēju un aizdevēju privātajām interesēm, lai ar iespējamās diskriminācijas palīdzību palielinātu peļņu. Būtu spert soli atpakaļ, ja Facebook pieļautu jaunu diskrimināciju tikai tāpēc, ka lēmumu pieņēmējs tagad ir dators, nevis cilvēks.

Ņemot vērā šos atklājumus, politikas veidotājiem ir nozīme, lai mazinātu aizspriedumus, ko aktivizē tādi uzņēmumi kā Facebook un citi reklāmdevēji, kuri paļaujas uz tiešsaistes rīkiem.

Politikas veidotājiem, regulatoriem un pilsoniskās sabiedrības grupām ir jāpieprasa un jāpieprasa lielāka pārredzamība no Facebook un tā reklāmdevējiem

Skaidrs, ka problēmu pamatā ir Facebook pārredzamības trūkums sabiedrībai un reklāmdevējiem par to, kā tā reklāmu platforma var potenciāli diskriminēt rases un etniskās piederības dēļ. To var izmantot diskriminējoši reklāmdevēji, vienlaikus graujot nediskriminējošo reklāmdevēju mērķus.

Piemēram, diskriminējoši reklāmdevēji jau var zināt, ka mērķauditorijas atlases opcijā Afroamerikāņu kultūra ir mazāk balto lietotāju nekā afroamerikāņu (ASV) opcija, ko Facebook noņēma 2020. gadā. Diskriminējoši reklāmdevēji, iespējams, izmanto līdzīgas starpniekservera mainīgo metodes, kādas ir pārbaudītas šajā pētījumā. pamatojoties uz rasistiski stereotipiskiem nosaukumiem un pasta indeksiem, lai izveidotu neobjektīvas līdzīgas un īpašas reklāmu mērķauditorijas. No otras puses, nediskriminējoši reklāmdevēji, iespējams, netīši izvēlas līdzīgus mērķauditorijas atlases iestatījumus kā diskriminējošus, taču viņi nezina, kā Facebook reklāmu platforma viņu vārdā veic rasistiski un etniski neobjektīvu mērķauditorijas atlasi.

Facebook var novērst šo caurskatāmības trūkumu, palielinot korporatīvo atbildību, pārskatāmības paziņojumu, izpaužot informāciju reklāmdevējiem un izmantojot spēcīgu pretdiskriminācijas tehnoloģiju. Tomēr ir ļoti svarīgi, lai regulatori, interešu aizstāvības grupas un nozares grupas varētu reaģēt, lai uzlabotu šādus rezultātus.

1. ieteikums: pieprasiet Facebook un reklāmdevējiem publiskot savus reklāmu mērķauditorijas atlases datus.

Reklāmas platformām, piemēram, Facebook, būtu jānodrošina lielāka pārskatāmība par to, kā reklāmdevēji izmanto savus rīkus reklāmu mērķauditorijas atlasei. Regulatori var pieprasīt Facebook reklāmu bibliotēka ar politikām, mājokļiem, nodarbinātību un kredītiem saistītām reklāmām, lai rādītu attiecīgos metadatus, lai konstatētu spēcīgu cēloņsakarību rasu vai etniskās diskriminācijas tiesas prāvās. Tas ir īpaši svarīgi, jo Mājokļu un pilsētvides attīstības departamenta (HUD) Īstenojot Godīgas mājokļu likuma atšķirīgās ietekmes standartu, kas publicēts 2020. gada 24. septembrī, tagad prasītājam ir jāiesniedz pierādījumi par spēcīgu cēloņsakarību, lai panāktu atšķirīgās ietekmes diskriminācijas tiesas prāva pirmajā vietā. Facebook ir sācis kopīgot atbilstošus metadatus politiskajām reklāmām ar apstiprinātiem pētniekiem 2021. gadā, taču pašlaik netiek izlaists neviens reklāmu mērķauditorijas atlases metadatus ar mājokli, nodarbinātību un kredītiem saistītām reklāmām.

2. ieteikums. Regulāri veiciet Facebook reklāmu platformas algoritmiskās novirzes auditu.

Nākotnē Facebook platformas civiltiesību auditos būtu jāpārbauda tās tehnoloģijas attiecībā uz algoritmiskām novirzēm, pamatojoties uz rasi, etnisko piederību, dzimumu, seksuālo orientāciju un citām aizsargātām klasēm. 2020. gada jūlijā Facebook izlaida savu pirmo civiltiesību audits galvenokārt koncentrējās uz politisko runu, dezinformāciju un juridiskiem jautājumiem boikota laikā Stop Hate for Profit. Pilsoņu tiesību grupas, kas organizēja boikotu, aicināja regulāri pārbaudīt Facebook platformu. Šīs turpmākās civiltiesību revīzijas var balstīties uz manis un citu veiktajiem tehniskajiem centieniem pētniekiem . Ideālā gadījumā, ja tiek nodrošināta vēl dziļāka piekļuve Facebook datiem un sistēmām, šie auditi var iet vēl tālāk, pārbaudot, kāpēc pastāv šie rasu un etniskie aizspriedumi un kā tos novērst. Kopš 2014. gada daudzi lieli ASV tehnoloģiju uzņēmumi, piemēram, Facebook, Apple, Google, Microsoft, Amazon, Twitter un citi, ir piedalījušies saistītajā izdošanas normā. gada darbaspēka dažādības ziņojumi . Federālie regulatori, piemēram, Federālā tirdzniecības komisija (FTC), var arī pārbaudīt Facebook reklāmu platformu attiecībā uz diskrimināciju un izmantot savas izpildes pilnvaras lai novērstu FTC likuma 5. iedaļas, Likuma par godīgu kredītu ziņošanu un Vienlīdzīgu kredītu iespēju likuma pārkāpumus.

3. ieteikums. Izstrādājiet pretdiskriminācijas risinājumus, izmantojot efektīvāku taisnīguma pieeju, izmantojot izpratnes veidošanas pieeju.

Tehnoloģijai un tehnoloģiju politikai ir jāvirzās tālāk godīgums caur neapzinātību — ideja, ka diskriminācija tiek novērsta, izslēdzot aizsargātu klases mainīgo vai tuvu aizstājēju izmantošanu, lai faktiski risinātu algoritmiskās diskriminācijas problēmu. Piemēram, Facebook izveidoja rīku Special Ad Audiences kā alternatīvu Lookalike Audiences, lai nepārprotami neizmantotu sensitīvus atribūtus, piemēram, vecums, dzimums vai pasta indekss apsverot, kuri lietotāji ir pietiekami līdzīgi avota auditorijai, lai tiktu iekļauti. Tomēr mans pētījums parāda, ka īpašās reklāmu mērķauditorijas, kuru pamatā ir afroamerikāņi vai baltie, var būt orientētas uz rasi, kas ir vairāk dominējošā klientu sarakstā, ko izmanto, lai izveidotu auditoriju, tāpat kā attiecīgās līdzīgas mērķauditorijas.

Statistikas pētījumi ir apzīmējis šo fenomenu kā Rashomon vai daudzveidības efektu. Ņemot vērā lielu datu kopu ar daudziem mainīgajiem, pastāv liels skaits potenciālo modeļu, kas var darboties aptuveni vienādi. kā aizliegts modelis, kas izmanto aizsargātās klases mainīgos . Tādējādi, lai gan īpašo reklāmu mērķauditoriju algoritms klientu sarakstam līdzīgu lietotāju atrašanai neizmanto demogrāfiskos atribūtus tādā pašā veidā kā algoritms Lookalike Audiences, abi algoritmi var pieņemt funkcionāli salīdzināmus lēmumus par to, kuri lietotāji tiek uzskatīti par līdzīgiem. pietiekami, lai iekļautos.

Pastāv valsts politikas riski, ja tiek turpināta taisnīguma, izmantojot neinformētības standartu, ieviešana, kas ir izrādījies statistiski neefektīvs. Piemēram, sākotnēji 2019. gada 19. augustā Mājokļu un pilsētu attīstības departamenta (HUD) piedāvātā valoda. atjaunināts Atšķirīgās ietekmes standarts , iespējams, būtu nepamatoti pasargājuši tādus uzņēmumus kā Facebook no iesūdzēšanas tiesā par diskrimināciju tikai tāpēc, ka tā īpašās reklāmu mērķauditorijas algoritms ievēro godīgumu un neinformētību un nepaļaujas uz faktoriem, kas saskaņā ar Likumu par godīgu mājokli ir aizsargātu klašu aizstājēji vai tuvināti.

Tā vietā efektīvāka pieeja ir izmantot godīgumu, izmantojot izpratni, lai izstrādātu pretdiskriminācijas rīkus, kas pēc tam varētu precīzi ņemt vērā dažādu rasu un etnisko grupu pieredzi platformā. Tādējādi tehnoloģiju uzņēmumiem, piemēram, Facebook, būtu jāapgūst savu lietotāju demogrāfiskā informācija. Viens veids ir tieši lūgt lietotājiem brīvprātīgi norādīt savu rasi un etnisko piederību, piemēram, ar LinkedIn pašidentifikācija . Vēl viens veids ir izmantot algoritmiskus vai cilvēku vērtētājus, lai ģenerētu šo informāciju saviem pretdiskriminācijas pārbaudes rīkiem. Tā bija Airbnb pieeja Projekts Lighthouse , kas tika uzsākta 2020. gadā, lai izpētītu Airbnb viesu un saimnieku rasu pieredzes atšķirības. Project Lighthouse izmantoja trešās puses darbuzņēmēju, lai novērtētu indivīda rasi, pamatojoties uz viņu vārdu un profila attēlu. 2009. gada decembrī Facebook pētnieki izmantoja saistītu metodoloģiju, salīdzinot Facebook lietotāju uzvārdus ar ASV tautas skaitīšanas bieži sastopamo uzvārdu datu kopu, lai parādītu, kā Facebook kļuva arvien daudzveidīgāka laika gaitā, palielinot lietotāju skaitu afroamerikāņu un spāņu valodā.

kas kļuva par karalienes Viktorijas nomainīšanu pēc viņas nāves

Kaitējums, ko rada diskriminējoša reklāma Facebook, kuras mērķauditorija ir noteiktas demogrāfiskās grupas, ir reāls. Facebook reklāmām ir samazinātas nodarbinātības iespējas , sēja politisko šķelšanos un dezinformāciju , un pat sabiedrības veselības centienus lai reaģētu uz Covid-19 pandēmiju. Mans pētījums parāda, kā Facebook turpina piedāvāt reklāmdevējiem neskaitāmus rīkus, lai veicinātu diskriminējošu reklāmu mērķauditorijas atlasi pēc rases un etniskās piederības, neskatoties uz 2020. gada jūlijā notikušo augsta līmeņa boikotu “Stop Hate for Profit”. Lai risinātu šo problēmu, regulatori un aizstāvības grupas var ieviest un pieprasīt lielāku reklāmu rādīšanu. Mērķtiecība uz pārredzamību, algoritmiskāku neobjektivitātes auditu un godīgumu, izmantojot Facebook un tā reklāmdevēju izpratni.

2020. gada jūlijā Facebook galvenais operatīvais direktors Šerila Sandberga paziņoja ka tās civiltiesību audits bija ceļojuma sākums, nevis beigas. Saskaroties ar ilgu ceļu, Facebook ir pienācis laiks turpināt ceļu, lai izveidotu taisnīgākas un mazāk kaitīgas reklāmas sistēmas.