Já, soudce-robot

Před 65 lety napsal Isaac Asimov slavnou povídku Volební den. Budoucnost (myšlen je tím svět v roce 2008) je plná robotů, umělé inteligence a „elektronické demokracie“. Volby ve Spojených státech se i nadále konají každé čtyři roky, ale je to spíš jen hra na volby. Počítač Multivac – měří půl míle v průměru a tři patra do výšky – vybere krátce před hlasováním klíčový stát, v něm klíčový okrsek a v něm jednoho jediného klíčového voliče. Tomu pak položí spoustu otázek (typu – „Co si myslíte o ceně vajec?“), zkombinuje to se skoro nekonečným množstvím jiných dat a vybere vítěze voleb.

Tak daleko naštěstí ještě nejsme. V „nejdigitálnější“ zemi na světě – Estonsku – se však chystá něco jiného, skoro stejně pozoruhodného. Estonské ministerstvo spravedlnosti si u státního úřadu pro digitalizaci – vedeného teprve osmadvacetiletým Ottem Velsbergem – objednalo vývoj „robotického“ soudce.

O plánu, který chce vpustit do zatím čistě lidského hájemství umělou inteligencí, informoval web týdeníku Euro. Projekt se sotva rozběhl, a tak jsou zatím známé jen jeho hrubé kontury. Podle časopisu Wired by robotický soudce mohl rozhodovat bagatelní spory, ve kterých by šlo maximálně o 7 000 euro neboli o zhruba 180 tisíc korun (což tedy popravdě pro Estonce ani pro Čecha úplně bagatelní částka není).

Pilotní fáze by mohla být spuštěna již v průběhu letošního roku a týkala by se nejspíš smluvních sporů. Vypadat by to mohlo následovně: Obě strany by do digitálního sudiště „uploadovaly“ příslušné dokumenty a umělá inteligence by poté vydala rozhodnutí, proti kterému by se dalo odvolat k lidskému soudci. Definitivní podoba systému má být dle Velsberga doladěna v průběhu následných debat se soudci a advokáty.

Auta & Rakety

Zní to jako sci-fi, ale není. Umělá inteligence je něčeho podobného perfektně schopná. Velké advokátní kanceláře a společnosti používají již dnes umělou inteligenci k predikci výsledků jednodušších sporů, přičemž výsledky bývají statisticky o něco přesnější než odhady „živých“ právníků. Skutečné „robotické“ rozhodování je však mnohem zásadnější proměnou zvyklostí než pouhé „razení“ a člověka napadá hned několik možných sporných bodů.

Představa robotického služebníka z filmu Mechanický muž (1921), autor: André Deed

Například jakou autoritou se bude robotický soudce honosit a nebude absolutní většina jeho „klientů“ nakonec stejně vyžadovat lidského soudce? Nedokáže někdo algoritmy robotického soudce ošálit účelovým a pro něj matoucím řazením informací? Pochybovat o principiální nestrannosti umělé inteligence sice nedává příliš smysl, ale umíme její paměť naplnit skutečně nestrannými modelovými případy? Rozvody a spory o děti sice nikdo počítačům svěřovat nechce, ale napsat se to stejně musí – nebude takovému souzení chybět „lidský rozměr“?

Obtíže, které provázejí zavádění autonomně řízených aut do skutečně ostré praxe, přitom ukazují, že překonat lidskou nedůvěru k umělé inteligenci není v žádném případě snadné. Ta nedůvěra má celou řadu aspektů – morálních (Je přijatelnější, když stroj přejede kněze, doktora, dítě, důchodce, pět zločinců, nebo 17 koček?), právních (Kdo zaplatí za chybu a kolik?) a nakonec i finančních (Pokud by řídící systém měl být skutečně dokonalý, potřeboval by spoustu informací, jenže senzory něco stojí a příliš drahé auto si nikdo nekoupí.).

Nezbývá než si připomenout jinou Asimovovu povídku. Je z daleké budoucnost, ve které proti sobě válčí dvě civilizace pomocí počítačem řízených automatických raket. Pak, ale jedna strana přijde s revoluční myšlenkou a do raket začne cpát živé lidi. Nejsou tak pitomí, aby je nedokázali pilotovat, ale zároveň stojí mnohem míň než počítače.

Václav Drchal