AI v práci: kde pomáhá a kde musí zůstat kontrola

Jedna aplikace, velmi rozdílná rizika

Návrh pozvánky na poradu a doporučení zásahu do výrobního zařízení mohou vzniknout ve stejném rozhraní. Důsledky chyby jsou přesto nesrovnatelné. Debata o zavádění generativní AI proto potřebuje menší jednotku než celé povolání nebo oddělení: konkrétní úkol. U něj lze určit, jaké informace systém dostane, co má vytvořit, kdo výsledek zkontroluje a jak drahé bude případné selhání. Otázka nezní pouze, zda nástroj něco dokáže. Podstatné je, zda to dokáže dostatečně spolehlivě v podmínkách, ve kterých jej organizace skutečně použije.

FAKT — Plynulost není ověření

Generativní jazykové modely mohou vytvářet věrohodně působící text, který obsahuje nesprávné údaje nebo neexistující odkazy. Styl odpovědi sám neprokazuje její pravdivost. Připojení vyhledávání nebo interních dokumentů může některé problémy omezit, ale nezaručuje správný výběr podkladů ani správnou interpretaci. Pro uživatele je proto zásadní rozlišovat mezi vytvořením návrhu a ověřením tvrzení. Odpověď doplněná odkazy vyžaduje kontrolu, zda podklady skutečně existují, odpovídají otázce a podporují přesně to, co výsledný text tvrdí.

Začínat u úkolů s dostupnou kontrolou

Vhodným kandidátem na první využití může být činnost, jejíž výstup lze poměrně snadno prověřit: úprava struktury textu, návrh variant formulace nebo předběžné třídění dokumentů. Ani zde ale vhodnost není automatická. Dokumenty mohou obsahovat citlivá data a chybná klasifikace může způsobit ztrátu důležitého případu. Organizace potřebuje znát nejen průměrný přínos, ale i typické způsoby selhání. Dobrou zkouškou je otázka, zda by pracovník dokázal chybu rozpoznat bez toho, aby celý úkol musel znovu provést od začátku.

Hypotetický příklad: pomoc zákaznické podpoře

Představme si čistě hypotetickou firmu, která dodává účetní software. AI navrhuje pracovníkům podpory odpovědi podle schválené znalostní databáze. Návrh obsahuje odkazy na použité interní články a před odesláním jej kontroluje člověk. Firma zakáže automatické odpovědi u změn platebních údajů a složitých daňových dotazů. Takové omezení není technickou porážkou. Odděluje situace, v nichž lze chybu snadno napravit, od případů s vysokými důsledky. Pilot přitom musí zahrnout i neúplné, nejasné a neobvykle formulované dotazy, nejen ukázkové případy.

INTERPRETACE — Počítat celý pracovní postup

Pokud návrh odpovědi vznikne rychleji, ještě to neznamená úsporu celkové práce. Přibývá kontrola podkladů, opravy, řešení výjimek i správa znalostní databáze. U hypotetické podpory proto nestačí měřit čas do prvního návrhu. Důležitá je doba do správného vyřešení požadavku, počet opakovaných kontaktů, závažnost chyb a zatížení zkušených pracovníků. Přínos může být skutečný, ale musí přežít započtení těchto nákladů. Stejně tak je vhodné sledovat, zda se práce pouze nepřesouvá z viditelné odpovědi do méně viditelného dohledu.

Lidská kontrola musí mít podmínky

Pokyn, že výstup vždy zkontroluje člověk, může poskytovat falešné uklidnění. Kontrolor potřebuje odborné znalosti, čas, přístup k podkladům a pravomoc návrh odmítnout. Pokud má během krátké směny schválit velký objem odpovědí, snadno se z něj stane pouze potvrzující článek. Pomoci může rozdělení případů podle závažnosti, povinné ověření vybraných údajů a možnost předat nejasný případ specialistovi. Odpovědnost zároveň musí být přiřazena konkrétní roli. Nelze ji rozpustit mezi dodavatele nástroje, autora zadání a pracovníka, který výstup naposledy otevřel.

Data nejsou jen palivo

Před vložením interních materiálů je nutné prověřit pravidla služby, přístupová oprávnění, uchovávání dat a smluvní podmínky. Samotné označení firemní verze neříká vše o konkrétní konfiguraci. Zvláštní pozornost zaslouží osobní údaje, obchodní tajemství a dokumenty získané od zákazníků. Riziko vzniká také při propojení nástroje s interními systémy: uživatel by neměl prostřednictvím asistenta získat informace, k nimž běžně nemá přístup. Bezpečnostní posouzení proto patří k návrhu použití, nikoli až k řešení incidentu po spuštění.

Protiargument: přílišná opatrnost může zablokovat učení

Firma, která čeká na bezchybný systém, může promarnit příležitost získat zkušenosti. Tato námitka má váhu, zejména u úkolů s malými následky chyby. Řešením však není nerozlišující nasazení. Smysl dává omezený experiment se stanoveným rozpočtem, reprezentativním souborem úloh a možností návratu k původnímu postupu. Výsledky je vhodné porovnat s prací bez nástroje. Test má zahrnovat i náklady na školení a dohled. Rychlost učení pak nezávisí na počtu aktivovaných účtů, ale na tom, zda experiment poskytuje důvěryhodnou odpověď na konkrétní otázku.

NEJISTOTA — Co zůstává otevřené

Výkon nástroje se může lišit podle jazyka, složitosti zadání, dostupnosti kontextu i zkušenosti pracovníka. Zlepšení na jedné skupině úkolů nelze automaticky přenést na jinou. Změna modelu nebo interní databáze navíc může posunout dříve naměřené výsledky. Nejasný bývá také dlouhodobý dopad na odbornost: pomoc může urychlovat učení, ale při nevhodném použití také omezovat samostatné procvičování. Bez sledování konkrétního provozu nelze spolehlivě určit, který efekt převáží. Organizace proto potřebuje průběžné hodnocení, ne jednorázový certifikát úspěšného pilotu.

Závěr: automatizovat s hranicemi

Rozumné zavádění AI nezačíná slibem nahradit celé oddělení. Začíná vymezeným úkolem, přijatelnou chybovostí a jasným postupem pro výjimky. Dobrý systém umí nejen vytvořit odpověď, ale také předat případ člověku, zachovat dohledatelnost a umožnit opravu. Vedení by mělo požadovat důkaz celkového přínosu, nikoli jen působivou demonstraci. Tam, kde nelze správnost snadno ověřit a následky jsou vysoké, mají být hranice přísnější. Hodnota technologie spočívá v lepším výsledku práce, ne v co největším počtu činností označených za automatizované.

Doporučené primární zdroje — k redakční kontrole

Pro rámec řízení rizik doporučujeme dokument NIST Artificial Intelligence Risk Management Framework a jeho profil pro generativní AI. K empirickému zkoumání podpory pracovníků lze prověřit studii Erika Brynjolfssona, Danielle Li a Lindsey R. Raymond Generative AI at Work. K rozdílům výkonu napříč úkoly je relevantní práce Fabrizia Dell’Acquy a spoluautorů Navigating the Jagged Technological Frontier. Zdroje nebyly při přípravě článku ověřeny. Redakce má dohledat odpovídající verze, prověřit metody a nepřenášet výsledky z konkrétních experimentů automaticky na všechny pracovní role.