Kontrolní seznam před nasazením AI agenta pro firmy

AI agent je program, který nejen odpovídá na dotazy, ale sám provádí kroky: čte dokumenty, vyhledává v systémech, připravuje e-maily nebo zakázky. Zacházejte s ním proto spíš jako s novým zaměstnancem než jako s aplikací.

Tento seznam si vytiskněte a projděte s vedoucím financí, vedoucím IT (nebo externím správcem) a s člověkem, který bude agenta používat. U každé položky zapište jméno odpovědného člověka a datum. Dokud je u některé položky prázdno, agenta k datům nepouštějte.

1. Data

• Víme, na jakých datech má agent pracovat. Zapsáno konkrétně, například „nabídky a poptávky za poslední dva roky“, ne „firemní data“.
• Víme, kde ta data leží. Který systém, která složka, který sdílený disk.
• Víme, která data agent vidět nesmí. Obvykle mzdy, osobní údaje zaměstnanců, smlouvy s důvěrnou doložkou, data zákazníků, která nemáte právo použít pro tento účel.
• Každá sada dat má vlastníka. Jméno člověka, který rozhodne, zda ji agent smí číst.
• Data jsou roztříděná aspoň na aktuální a zastaralá. Agent neumí poznat, že stará verze už neplatí.
• Víme, kde jsou osobní údaje. Pokud je agent bude zpracovávat, máme to zapsané v evidenci zpracování podle GDPR.
• Víme, kam data putují. Zda zůstávají u nás, nebo je zpracovává služba třetí strany, a za jakých smluvních podmínek.

2. Přístupy

• Agent má vlastní účet. Nepoužívá přihlášení konkrétního zaměstnance, aby bylo vidět, co udělal agent a co člověk.
• Práva jsou nejmenší možná. Agent má jen přístup, který potřebuje pro zadaný úkol. Ve výchozím stavu jen čte, zapisovat smí jen tam, kde je to nutné.
• Přístup je časově i věcně omezený. Víme, ke kterým systémům smí, a vše ostatní je zavřené.
• Hesla a klíče nejsou v textu zadání ani v e-mailech. Jsou uložena ve správci hesel.
• Zapisuje se, co agent dělal. Každé přečtení, změna a odeslání má záznam s časem. Záznamy si umíme přečíst.
• Umíme agenta vypnout. Víme, kdo a jak mu okamžitě odebere přístup, i mimo pracovní dobu.
• Máme oddělené zkušební prostředí. První týdny běží agent na kopii nebo omezené části dat, ne na ostrém systému.

3. Pravidla

• Existuje jednostránkové pravidlo používání AI. Co smí zaměstnanci agentovi zadávat a co ne.
• Je určeno, co smí agent dělat sám. Například třídit poštu nebo shrnout dokument.
• Je určeno, co smí jen připravit. Například návrh nabídky nebo odpovědi zákazníkovi, který pak odešle člověk.
• Je určeno, co agent nesmí nikdy. Například platit faktury, mazat data, měnit ceny, komunikovat s úřady.
• Zaměstnanci vědí, že odpovědnost zůstává na nich. Výstup agenta kontrolují, než se dostane ke zákazníkovi nebo do účetnictví.
• Víme, jak ohlásit chybu. Je jasné, komu a kudy zaměstnanec oznámí, že agent pochybil.
• Smlouvy s dodavatelem jsou prověřené. Víme, zda dodavatel využívá naše data k dalšímu učení a jak dlouho je uchovává.

4. Kdo schvaluje

• Je jmenován vlastník agenta. Jeden člověk, který odpovídá za jeho provoz a výsledky.
• Nasazení schvaluje jednatel nebo ředitel. Podpis a datum zapsané na tomto listu.
• Přístup k datům schvaluje vlastník dat. Ne IT, ale ten, komu data patří.
• Rizikové kroky schvaluje člověk před provedením. Seznam kroků je hotový a agent se bez schválení nedostane dál.
• Je určen zástupce. Při dovolené nebo nemoci vlastníka agenta ví někdo další, co dělat.
• Změny se schvalují stejně jako nasazení. Nová data, nový systém nebo nové oprávnění znamenají nové schválení.

5. Jak se měří výsledek

• Víme, co chceme zlepšit. Jedna konkrétní věc, například čas přípravy nabídky nebo počet vrácených dokladů.
• Máme výchozí stav. Před spuštěním jsme změřili, jak dlouho úkol trvá a kolik chyb vzniká dnes.
• Víme, kdy je výsledek dobrý. Cíl zapsaný předem, aby se nedal po třech měsících „přizpůsobit“.
• Chyby se počítají. Někdo namátkou kontroluje vzorek výstupů a zapisuje, kolik bylo špatných.
• Měříme i práci navíc. Kolik času zabere kontrola a opravy po agentovi.
• Je stanoveno datum vyhodnocení. Například po osmi týdnech. Vlastník agenta přinese výsledky a ředitel rozhodne: pokračovat, upravit, nebo skončit.

Podpisový list

Nasazení schválil: ______________________ Datum: ______________

Příklady využití AI agentů ve firmách podle oboruBezpečnost dat při nasazení AI ve firmě

Materiál připravila AI. Před použitím ho upravte podle své firmy. Nejde o právní radu.