Algoritmi un sodu noteikšana: kas nepieciešams pienācīgam procesam?

Uz datiem balstīta riska novērtējuma izmantošana kriminālsodu noteikšanā sniedz ievērojamus iespējamos ieguvumus. Piemēram, riska novērtējumi ir pamatoti apstiprināti kā mehānisms, kas ļauj tiesām samazināt vai atcelt cietumsodu likumpārkāpējiem, kuri, visticamāk, neatkārtosies. Vairākas valstis nesen ir pieņēmušas likumus, kas pieprasa izmantot riska novērtēšanas instrumentus. Un 2017. gadā Amerikas tiesību institūts , ļoti cienījama organizācija, kas daudzus gadu desmitus ir strādājusi, lai precizētu, modernizētu un citādi uzlabotu likumus, apstiprināts ierosinātais Sodu paraugkodeksa galīgais projekts: Soda noteikšana. Dokumentā īpaši atzīta uz pierādījumiem balstīta sodīšanas vērtība, izmantojot aktuāra instrumentus, kas aplēš relatīvos riskus, ko atsevišķi likumpārkāpēji rada sabiedrības drošībai ar savu turpmāko noziedzīgo rīcību.





Tomēr līdztekus ieguvumiem uz algoritmiem balstītu riska novērtēšanas rīku pieaugošā izmantošana rada svarīgas bažas par pienācīgu procesu. Pienācīgs process ir konstitucionālās pamattiesības, ko nodrošina gan piektais, gan četrpadsmitais grozījums, kuri abi aizsargā cilvēkus no dzīvības, brīvības vai īpašuma atņemšanas bez pienācīga procesa. Galvenā pienācīga procesa apakškategorija ir procesuālais pienācīgs process, kura mērķis ir nodrošināt taisnīgumu tiesvedībā, kurā tiek apdraudēta dzīvība, brīvība vai īpašums.



Ja kriminālprocesā tiek izmantoti uz algoritmiem balstīti riska novērtēšanas rīki, var rasties pienācīgas procesa problēmas saistībā ar likumpārkāpēju tiesībām apstrīdēt soda noteikšanā izmantotās informācijas precizitāti un atbilstību. Mēs izceļam divus no šiem izaicinājumiem. Pirmā attiecas uz likumpārkāpēja tiesībām uz informāciju par algoritmu, ko izmanto riska punktu skaita aprēķināšanai, un otrā attiecas uz likumpārkāpēja tiesībām zināt, kādi ir šie rādītāji.



Bažas par īpašumtiesību riska novērtējumiem

2013. gada maijā Ēriks Lūmiss Viskonsinas štata Lakrosas apgabala apgabaltiesā atzina savu vainu apsūdzībās par mēģinājumu aizbēgt no satiksmes darbinieka un transportlīdzekļa vadīšanu bez īpašnieka piekrišanas. Pirms Loomisa 2013. gada augusta notiesāšanas uzklausīšanas dati par viņu tika ievadīti riska novērtēšanas rīkā, kas pazīstams kā COMPAS (Correctional Offender Management Profiling for Alternative Sanction). Lai gan COMPAS algoritms, ko izmanto riska rādītāju iegūšanai, ir patentēts, rezultāts nav. Loomisa COMPAS ziņojums norādīja uz augstu recidīva risku.



mums uz Lielbritānijas laiku

2013. gada augusta tiesas sēdē Loomisam tika piespriests vairāku gadu cietumsods. Savā lēmumā atsaucoties uz COMPAS, tiesnesis sacīja:



Izmantojot COMPAS novērtējumu, jūs esat identificēts kā indivīds, kas ir pakļauts lielam riskam sabiedrībai. Runājot par dažādu faktoru izsvēršanu, es izslēdzu probācijas iespēju nozieguma smaguma dēļ un tāpēc, ka jūsu vēsture, jūsu uzraudzības vēsture un izmantotie riska novērtēšanas rīki liecina, ka jums ir ārkārtīgi augsts risks atkārtoti apvainot.



Pēc neveiksmīgas notiesāšanas lūguma grāfistes tiesā Loomis iesniedza apelāciju Viskonsinas Augstākajā tiesā, apgalvojot, ka paļaušanās uz COMPAS ir viņa pienācīgo procesa tiesību pārkāpums, jo COMPAS īpašumtiesības neļauj apsūdzētajam apstrīdēt novērtējuma zinātnisko pamatotību. .

vai asiņainā Mērija ir īsta vai nē

2016. gadā Viskonsinas Augstākā tiesa lēma pret Loomisu, atrašana ka, ja to lieto pareizi, apzinoties ierobežojumus un piesardzības pasākumus. . . COMPAS riska novērtējuma apsvēršana notiesāšanas laikā nepārkāpj apsūdzētā tiesības uz pienācīgu procesu. Un tiesa rakstīja, ka, lai gan tiesnesis sprieduma sēdē bija pieminējis COMPAS riska novērtējumu, tas nebija noteicošais, lemjot par to, vai Loomisam vajadzētu būt ieslodzījumā, par soda smagumu vai to, vai viņu varētu droši un efektīvi uzraudzīt sabiedrībā. . Pēc tam Loomis iesniedza apelāciju ASV Augstākajā tiesā, kas 2017. gada jūnijā atteicās izskatīt viņa lietu.



Ja riska novērtējuma veikšanai tiek izmantots patentēts algoritms, pienācīgas procedūras jautājumam vajadzētu būt nevis jautājumam par to, vai riska novērtējums bija noteicošais (izmantojot terminu Viskonsinas Augstākās tiesas spriedumā), bet gan par to, vai un kā tas tika izmantots. Attiecībā uz Loomis COMPAS izvadi it kā izmantoja tikai, lai pastiprinātu citu apsvērto faktoru novērtējumu. Viskonsinas Augstākā tiesa paziņoja, ka sprieduma tiesa bez tā būtu piespriedusi tieši tādu pašu sodu. Attiecīgi mēs secinām, ka apgabaltiesas izskatīšana COMPAS šajā lietā nepārkāpa Loomis tiesības uz procesu.



Šī loģika noved pie satraucoša paradoksa. No vienas puses, ja patentēta riska novērtēšanas instrumenta izmantošana soda noteikšanā ir piemērota tikai tad, ja bez tā tiktu pieņemts tāds pats lēmums par notiesāšanu, tas liecina, ka riska novērtējumam nav nekādas nozīmes probācijas vai notiesāšanas lēmumos. Ja tas tā ir, tad kāpēc to vispār izmantot? No otras puses, ja tam var būt potenciāla ietekme, neskatoties uz to, ka Viskonsinas tiesa apgalvo pretējo, tad pienācīgas procedūras jautājumu nevar atstumt.

Pārkāpēju tiesības zināt savus riska rādītājus

Vēl viens svarīgs pienācīgas procesa jautājums attiecas uz to, kāda informācija likumpārkāpējiem tiek sniegta vai netiek sniegta par viņu riska rādītājiem. Nesenā lietu Kanzasā Džons Volss neapsūdzēja apsūdzību par draudiem. Pēc tam viņš tika novērtēts, izmantojot riska novērtēšanas rīku LSI-R (Pakalpojumu inventāra pārskatītais līmenis). Kad viņš lūdza redzēt rezultātus, viņam tika dota piekļuve tikai titullapai, kurā apkopoti viņa vispārīgie rādītāji; viņa lūgums redzēt konkrētos jautājumus un atbildes, kā arī ar šiem jautājumiem saistītos punktus tika noraidīts.



Pēc tam, kad apgabaltiesa viņam piesprieda ļoti uzraudzītu probācijas veidu, ko parasti izmanto vidēja vai augstāka riska likumpārkāpējiem, viņš apstrīdēja sodu Kanzasas apelācijas tiesā, apgalvojot, ka atteikums izpaust viņa LSI-R informāciju. novērtējums pārkāpa viņa tiesības uz pienācīgu procesu. Apelācijas tiesa lēma par labu Volsam, norādot, ka, liedzot Walls piekļuvi viņa pilnīgajam LSI-R novērtējumam, viņš nevarēja apstrīdēt tās informācijas precizitāti, kas izmantota, nosakot viņa pārbaudes laika nosacījumus. Sākotnējais spriedums tika atcelts, un lieta tika nodota atkārtotai notiesāšanai.



Politikas jautājumi

ASV Tieslietu ministrijai ir atzina ka sprieduma tiesa, izmantojot aktuāra riska novērtējumus, rada jaunus konstitucionālus jautājumus. Un jautājumi nav tikai konstitucionāli — ir arī būtiski politikas un tehnoloģiju jautājumi. Kā liecina divi iepriekš minētie piemēri, var rasties pārredzamības trūkums gan attiecībā uz to, kā tiek aprēķināti riska rādītāji, gan par to, vai likumpārkāpējs var tiem piekļūt. Papildu sarežģīts faktors ir komercnoslēpuma tiesības, kuras izmantos uzņēmumi, kas ražo riska novērtēšanas rīkus, apgalvojot, ka viņu algoritmu detaļas nevar izpaust.

senā jūrnieka atskaņa

Jautājumi, kas turpmākajos gados radīsies arvien biežāk, ir šādi: Kādam detalizācijas līmenim par riska novērtēšanas algoritmu un tā rezultātiem likumpārkāpējam ir tiesības piekļūt? Vai ir nepieciešami jauni likumi, lai atvieglotu šo piekļuvi? Kā būtu jārisina to uzņēmumu komercnoslēpuma tiesības, kas ražo riska novērtēšanas rīkus? Un nākotnē, kad uz mākslīgo intelektu balstīti riska novērtējumi kļūs izplatīti, kā AI algoritmu dinamiskais raksturs vēl vairāk sarežģīs šos jautājumus?



Tāpat kā daudzām problēmām, kas krustojas tiesību, politikas un tehnoloģiju jomā, nav vienkāršu atbilžu. Taču dialoga pamatpieņēmumam būs jābūt tādam, ka tiesības uz pienācīgu procesu nevar būt papildu kaitējums arvien sarežģītāku algoritmiskā riska novērtēšanas tehnoloģiju ieviešanai.