Foto: Magnific

Tohle není další historka o tom, že si někdo nechal od umělé inteligence napsat špatný e-mail. V Británii se řeší mnohem vážnější věc. Policista z Derbyshire měl podle podezření použít AI k vytvoření důkazního materiálu v několika trestních případech. A to už není drobný omyl v kanceláři, ale zásah do něčeho, na čem stojí celý soudní systém.

Derbyshire Constabulary potvrdila, že policista čelí trestnímu vyšetřování kvůli podezření z maření spravedlnosti. Jeho jméno zatím venku není. Ví se ale, že byl stažen z přímé služby. Do věci vstoupila také Crown Prosecution Service, tedy britská prokuratura. Ta má řešit, kterých případů se problém mohl týkat a jaký dopad to může mít na obhájce i soudy.

Právě tady začíná být celá věc opravdu nepříjemná. U běžného policejního dokumentu se dá dohledat, kdo ho napsal, z čeho vycházel a kdo za něj odpovídá. U výstupu z AI je to ošidnější. Text může vypadat úředně, jistě a věrohodně. Může mít správná slova, správný tón a působit, jako by do spisu patřil. Jenže vzhled dokumentu není důkaz.

Nejhorší je, že takový text může působit naprosto normálně

Umělá inteligence má jednu vlastnost, která je v takovém prostředí nebezpečná. Neumí se stydět za nesmysl. Když se splete, často se splete velmi přesvědčivě. A pokud se podobný výstup dostane do trestního spisu, má problém každý. Obviněný, protože proti němu může stát něco, co nikdy nemělo vzniknout. Obhájce, protože musí rozplétat původ materiálu. Soud, protože se má opírat o ověřené informace. A nakonec i policie, protože důvěra se obnovuje těžko.

Británie už podobné varování jednou zažila. West Midlands Police dříve pracovala s materiálem, ve kterém se objevila smyšlená informace o utkání Maccabi Tel Aviv s West Hamem. Jenže takový zápas se nehrál. Chybný údaj se podle pozdějších zjištění dostal do podkladů přes Microsoft Copilot. Tehdy šlo o bezpečnostní podklady kolem zápasu Aston Villy. I to bylo vážné. Současné podezření z Derbyshire je ale ještě citlivější, protože se mluví přímo o důkazním materiálu v trestních kauzách.

Na celé debatě není podstatné, jestli je AI dobrá, nebo špatná. To je příliš jednoduché. Policie ji samozřejmě může používat. U přepisů, třídění dat nebo hledání souvislostí může ušetřit spoustu práce. Jenže jakmile se přiblíží k důkazům, musí platit úplně jiný režim. Každý výstup musí být označený. Každý údaj musí jít ověřit. A za každý dokument musí nést odpovědnost konkrétní člověk, ne anonymní nástroj v počítači.

Zdroj: News.slashdot.org