Když umělá inteligence způsobí škodu: Kdo platí a co dělat

Nezapomínejte, že odpovědnost za AI se neomezuje jen na občanskoprávní rovinu. Pokud AI zasáhne do ochrany osobních údajů, můžete čelit sankcím podle nařízení o ochraně osobních údajů (GDPR). V extrémních případech, kdy by AI způsobila újmu na zdraví nebo životě, by mohla přijít na řadu i trestněprávní odpovědnost. Proto je dobré mít při nasazení AI vždy na paměti etické zásady a právní limity, a to nejen kvůli prevenci, ale i kvůli tomu, abyste měli připravené argumenty pro obhajobu.

Nejčastější chyba při zavádění je snaha o automatizaci všeho najednou. Začněte s jedním procesem, který je snadno měřitelný – třeba s automatickým rozesíláním nabídky po první schůzce. Týden vše sledujte a pak přidejte další scénář. Stejně důležité je určit odpovědnou osobu, která bude systém spravovat a řešit chyby. Pokud tuto roli nikdo nedostane, automatizace skončí v šuplíku.

Pokud už ke škodě dojde, nepanikařte a nesnažte se situaci utajit. Průběh jednání s poškozeným i s pojišťovnou zdokumentujte. Zvažte, zda nepřizvat právníka, který se specializuje na nové technologie – v mnoha případech se vyplatí konzultace ještě před tím, než přijde první výzva k náhradě škody. Nezapomeňte, že i když AI funguje správně, může vzniknout škoda v důsledku vašeho nesprávného nastavení nebo nedostatečného proškolení obsluhy. V takovém případě ponesete odpovědnost vy, a to i bez ohledu na to, že systém sám o sobě nebyl vadný.

Než začnete stavět vlastního chatbota, rozhodněte se, co má přesně umět. Chatbot pro objednávání pizzy se chová jinak než ten, který odpovídá na dotazy k vašemu e-shopu. Sepište si seznam nejčastějších otázek, které vám lidé pokládají, a k nim připravte jasné odpovědi. Tím získáte základní scénář, podle kterého budete botovi nastavovat logiku. Vyhnete se tak situaci, kdy bot odpovídá sice vesele, ale k ničemu.

Úspora času se liší podle typu agendy. Pokud máte převážně opakující se faktury od stálých dodavatelů, AI zvládne 80 % práce automaticky. Pokud ale pracujete s nestandardními doklady, ručními zápisy nebo cizími měnami, budete muset počítat s častějšími zásahy. Dobrý postup je začít s pilotním provozem na jednom měsíci, kdy si změříte, kolik času skutečně ušetříte, a teprve poté se rozhodnout o plném nasazení. Tím se vyhnete situaci, kdy zaplatíte za funkce, které nakonec nevyužijete.

Na co si dát pozor při výběru a zavedení Při porovnávání jednotlivých řešení se dívejte nejen na cenu, ale především na to, jak asistent komunikuje s vaším bankovním účtem a daňovým portálem. Některé nástroje vyžadují ruční export výpisů, jiné mají přímé napojení – to je zásadní rozdíl, který ovlivní časovou náročnost. Dalším kritériem je zabezpečení dat. Účetní data jsou citlivá, proto si ověřte, kde se ukládají a kdo k nim má přístup. Vyhněte se řešením, která nemají jasně popsané šifrování nebo ukládají data mimo EU bez smluvního ošetření.

Další častou chybou je ignorování kontextu. Pokud se uživatel nejprve zeptá na otevírací dobu a poté na adresu, bot by si měl pamatovat, že předchozí tematika souvisí s provozovnou. Když odpoví na každou otázku bez ohledu na předchozí výměnu, působí to nepřirozeně. Využijte proto možnost ukládat si proměnné, třeba poslední téma nebo zadané údaje. Díky tomu můžete konverzaci plynule navázat a vyhnout se opakovanému vyptávání na to, co už zákazník jednou zadal.

Při provozu AI se vyplatí zavést interní procesy, které riziko škody minimalizují. Mějte písemně stanoveno, kdo má oprávnění rozhodovat o nasazení nových funkcí, a provádějte pravidelné audity výstupů. U systémů, které pracují s osobními údaji, si ověřte, že zpracování probíhá v souladu s nařízením o ochraně osobních údajů – porušení v této oblasti může vést nejen k sankcím, ale i k nárokům na náhradu nemajetkové újmy. Důležité je také zajistit, aby měl systém jasně definované hranice, kdy se má zastavit a vyžádat lidský zásah, a aby tato pravidla byla testována v reálných scénářích.

Klíčové je určit, kdo je tzv. provozovatelem systému. Pokud používáte AI jako nástroj pro své rozhodování (např. při schvalování úvěrů, třídění e-mailů nebo generování obsahu), jste to vy, kdo za výsledek odpovídá. Jestliže AI dodává externí poskytovatel, pak se odpovědnost může přesunout na něj, ale pouze za předpokladu, že škoda byla způsobena vadou systému, kterou jste nemohli zjistit ani ovlivnit. Proto je nezbytné mít s dodavatelem jasně nastavenou smlouvu o odpovědnosti a záruce.

Závěrem: odpovědnost za škodu způsobenou AI není černá skříňka, ale oblast, kterou můžete aktivně řídit. Klíčem je prevence — kvalitní smlouvy s dodavateli, interní procesy, dokumentace a pojištění. Pokud se ale už něco stane, jednejte rychle, vše zdokumentujte a obraťte se na odborníka. Jedině tak předejdete tomu, aby se jedna chyba algoritmu změnila v právní noční můru.