Technologie  Právo 

Etické aspekty využití umělé inteligence v soudních systémech

Využití umělé inteligence (AI) v soudních systémech má zlepšit efektivitu a kvalitu soudnictví. Aby však mohla sloužit občanům i soudům, je třeba ji využívat zodpovědně, respektovat základní práva jedinců a přitom mít na paměti některé základní zásady jako transparentnost, nediskriminace, kvalita a bezpečnost. Jak velká je pravděpodobnost, že naše práva budou v soudních síních svěřena algoritmům?

Nedávné zkušenosti, jako je chatovací robot na bázi AI, který se naučil pronášet nenávistné výroky, nebo HR nástroj diskriminující uchazeče o zaměstnání na základě pohlaví, ukazují, že tato technologie má k využití v soudní síni ještě daleko. Zavedení AI do soudních systémů jistě představuje výzvu, jelikož práce soudců zahrnuje víc než jen dodržování pravidel. Proces rozhodování je založen na morálních zásadách, které jsou svojí podstatou spojené s naší společností a které je obtížné vyjádřit vzorci nebo algoritmy.

Stejně jako každá nová „převratná“ technologie i AI slibuje velký krok vpřed. Spolu s novými možnostmi však využití umělé inteligence v soudních systémech vytváří i velmi komplexní výzvy a vzbuzuje řadu otázek z hlediska práva i etiky. Co je spravedlivé a co je správné? Kdo posoudí, co je skutečně spravedlivé? Bude soudce v podobě umělé inteligence dosahovat stejných, nebo lepších výsledků?

Sci-fi, nebo možná budoucnost?

Badatelé již představili počítač na bázi AI, který dokáže předpovídat výsledky soudních řízení lépe než člověk. Zatímco jeho konstruktéři doufali, že by přístroj mohl být brzy v soudních síních využíván, odborníci varují, že využívání AI například pro souzení zločinců je nebezpečný nápad. Zároveň však policejní oddělení v USA využívají prediktivní algoritmy pro přijímání strategických rozhodnutí, kam vyslat hlídky, a systémy umožňující rozpoznávání obličejů jsou běžně užívány jako pomůcka při identifikaci podezřelých ze známých databází. Co když jsou však takovéto prediktivní algoritmy používány k identifikaci potenciálních pachatelů? Vidíte-li zde nějakou podobnost se Spielbergovým snímkem Minority Report, kde byl Tom Cruise falešně obviněn na základě manipulace s prediktivním systémem, není možná takováto budoucnost příliš daleko.

Byla vedena také řada diskuzí o algoritmech vyhodnocujících riziko kriminality, které měly být využity v pozdějších fázích trestních řízení, aby předpovídaly potenciální recidivu obviněného. Základní myšlenka zní jednoduše: Algoritmus se aplikuje na podrobnosti profilu obviněného a vypočítá bilanci recidivity odhadující její pravděpodobnost. Soudce toto automaticky vypočítané skóre zohlední ve svém rozhodnutí, přičemž je mu nicméně ponecháno právo vlastního uvážení. Co kdyby však strojům mohl být celý proces přijímání rozhodnutí přenechán? Ačkoli dokážeme naučit stroje učit se, nemůžeme plně pochopit, jak rozvíjejí své chování, tudíž nemůžeme předvídat výsledky. Dokážeme se dříve či později vyvarovat chyb nebo manipulace, i kdyby chybu nebylo možné přičíst lidskému omylu?

Klíč k poznání nepoznaného

Strach z neznámého je zřejmý a vnímání rizik, která s sebou AI přináší, se může napříč různými kulturami výrazně lišit. V Evropě například nařízení o ochraně osobních údajů (GDPR) zakazuje ryze automatizované rozhodování o zpracovávání osobních údajů s právními následky ovlivňujícími jednotlivce. Zdá se, že chuť riskovat související s přijetím plně automatizovaných nástrojů, které mohou ovlivňovat naše životy, je ve srovnání s přijímáním například prediktivních analytických nástrojů zefektivňujících podnikové procesy spíše malá. Široké přijetí AI do soudních systémů tak souvisí s tím, jak technologii vnímá společnost. Součástí procesu zavedení AI by tedy měla být komunikace s veřejností a aktivní naslouchání jejím obavám. Pro dosažení hlubokého pochopení systémů strojového učení a jejich účinné přijetí musejí právníci spolupracovat se softwarovými inženýry a sociology, což může rovněž představovat určitou výzvu.

Po celém světě byly nedávno spuštěny iniciativy, jejichž cílem je zabývat se otázkami etiky a práva při používání AI a zajistit, aby základní lidská práva byla umělou inteligencí respektována. Komise Rady Evropy pro hodnocení efektivity justice (CEPEJ) přijala v prosinci 2018 první evropský text stanovující etické zásady týkající se využití umělé inteligence v soudních systémech („Charta“). Tato charta mimo jiné navrhuje, aby etika, respektování lidských práv a zásady nezávislosti soudů byly součástí vývoje veškerých systémů založených na využití umělé inteligence již od samého začátku.

Robot soudcem

Co by AI mohla znamenat pro budoucí roli soudce? V soudní síni budoucnosti by teoreticky mohly nastat tři základní scénáře:

  1. nic se nezmění a my se nadále budeme muset spokojit s „nedokonalými“ lidskými bytostmi,
  2. lidé-soudci budou s nástroji umělé inteligence pracovat bok po boku,
  3. lidé-soudci budou nahrazeni „dokonalými“ systémy umělé inteligence.

Koho byste nejraději nechali rozhodovat váš případ? My jsme se ještě nerozhodli, ale jak kdysi řekl generál armády Spojených států Omar Bradley: „Budeme-li nadále rozvíjet technologii bez moudrosti nebo obezřetnosti, může se náš sluha stát naším popravčím.“ Toto tvrzení je pravdivé, zejména snažíme-li se naučit počítače myslet jako lidé.

Právo a technologie Umělá inteligence Singularity University
Právo 

Budoucí výzvy startupových společností: Co se může stát, pokud nevěnujete pozornost red flagům?

Když do vyhledávače zadáte slovo „compliance“, okamžitě se vám objeví více než 1 miliarda výsledků. V posledních letech se na veřejnosti propíralo nemalé množství podnikových skandálů, což odbornou i laickou veřejnost přimělo zamyslet se nad tématem compliance víc než kdy předtím. Compliance by vaší pozornosti nemělo ujít zejména, pokud vaše společnost patří na trhu k těm rychle rostoucím. Jak předejít komplikacím, které mohou vést k trestnímu stíhání, obrovským finančním ztrátám či dokonce zániku společnosti? 

14. 6. 2019
Technologie 

Software Asset Management sníží náklady na informační technologie a omezí podnikatelské rizika. Jak na něj?

„SAM“ je správa softwarových licencí, která se zabývá životním cyklem softwarových aplikací v organizacích. Jeho součástí je kompletní IT infrastruktura, která je nezbytná k efektivnímu řízení, kontrole a optimalizaci softwaru během všech fází jeho životních cyklů. Cílem SAM je snížit náklady na informační technologie a omezit podnikatelská rizika spojená s vlastnictvím a užíváním softwaru. Poměrně velké množství organizací však stále ještě nepřijalo koncept SAM strategie, což je zásadní pro realizaci těchto hmatatelných výhod. 

12. 6. 2019
Technologie 

Český automobilový průmysl: Jak se vypořádá s příchodem elektromobilů a autonomního řízení?

Potřebujete jet do práce, ale vaše auto je v servisu? Musíte se dostat rychle na přednášku, ale hromadná doprava kolabuje? Nemáte řidičský průkaz, ale chtěli byste jet s rodinou na víkend z města? Není nic jednoduššího, než si zavolat automaticky řízený elektromobil, který vás sám zaveze, kam jen budete chtít. Že to zní jako sci-fi? Podle studie Deloitte jde o reálnou a možná i nedalekou budoucnost automobilového průmyslu. 

5. 6. 2019