Ve zkratce
- Než pořídíte agenta, zkuste nejdřív jednodušší řešení: jeden dotaz na model s vyhledáváním ve vašich dokumentech nebo pevně daný postup. Agenta nasaďte, až to nestačí.
- Agent potřebuje přístup k datům, jasně popsané nástroje, paměť a pravidla zastavení. Určete, kdy se musí zeptat člověka a kolik kroků smí udělat.
- Určete osobu, která má AI ve firmě na starosti, a vedte jednoduchý seznam používaných nástrojů.
AI agent je program založený na jazykovém modelu, který si sám řídí postup práce. Rozhoduje, jaké kroky udělá, jaké nástroje použije a kdy je hotov. Chatbot na rozdíl od něj hlavně odpovídá na otázky. Agent s přístupem k vašim systémům může úkol i vyřídit: dohledat podklady, vytvořit záznam nebo upravit ticket. Aby to dělal spolehlivě, potřebuje správná data, dobře popsané nástroje a jasná pravidla, kdy se zastavit.
Chatbot, pevný postup a agent: tři různé věci
Společnost Anthropic ve své studii Building effective agents, vycházející ze spolupráce s desítkami týmů, rozlišuje dva typy takzvaných agentních systémů.
Workflow je postup, který předem napsal programátor. Model a nástroje v něm jdou krok za krokem tak, jak je určeno. Například: přijmout poptávku, zařadit ji do kategorie, připravit návrh odpovědi, zkontrolovat ho podle pravidel. Výsledek je předvídatelný.
Agent je systém, ve kterém si model sám řídí proces a volbu nástrojů. Cestu k cíli nezná nikdo předem, rozhoduje se průběžně. Hodí se na otevřené úkoly, kde nevíte, kolik kroků bude potřeba.
Chatbot je nejjednodušší případ: člověk se zeptá a model odpoví. Anthropic uvádí, že zákaznická podpora spojuje známé chatovací rozhraní s napojením na nástroje. Takový systém umí vytáhnout data o zákazníkovi, historii objednávek a články ze znalostní báze. Může také provést akci, třeba aktualizovat ticket. Od obyčejného chatu k agentovi vede plynulý přechod, ne ostrá hranice.
Co agent skutečně dělá
Podle Anthropicu jsou agenti typicky jazykové modely, které v cyklu používají nástroje a vyhodnocují zpětnou vazbu z prostředí. Průběh vypadá takto:
- Dostane zadání od člověka nebo si zadání upřesní v rozhovoru.
- Naplánuje kroky a začne pracovat samostatně.
- V každém kroku si ověří skutečný stav. Anthropic tomu říká „ground truth“, tedy skutečná data z prostředí, například výsledek dotazu do systému. Podle nich agent pozná, jestli postupuje správně, a nespoléhá se jen na vlastní odhad.
- Když si neví rady nebo dojde k bodu, který má schválit člověk, zastaví se a zeptá se.
- Skončí, když je hotovo, nebo když narazí na podmínku ukončení, například nejvyšší povolený počet kroků.
Poslední bod je zásadní. Agent bez limitu a bez kontrolních bodů je riziko. Anthropic sám upozorňuje, že autonomie znamená vyšší náklady a možnost kumulace chyb. Doporučuje proto rozsáhlé testování v izolovaném prostředí a ochranná pravidla.
Co musí agent znát, aby fungoval
Anthropic popisuje základní stavební blok jako jazykový model rozšířený o vyhledávání, nástroje a paměť. Pro firmu z toho plynou čtyři konkrétní úkoly.
Přístup ke správným datům. Agent musí umět najít informace, které potřebuje: smlouvy, ceníky, postupy, historii zákazníka. Bez nich bude jen sebejistě hádat.
Dobře popsané nástroje. Nástroj je cokoli, co agent smí použít: vyhledání zakázky, odeslání e-mailu, výpočet. Podle Anthropicu má dobrá definice nástroje obsahovat příklad použití a okrajové případy. Čím jasněji je nástroj popsaný, tím méně chyb agent udělá.
Paměť. Agent si musí uchovat, co už zjistil a co udělal, aby se v dlouhém úkolu neztratil.
Pravidla. Kdy se má zeptat člověka, kolik kroků smí udělat, co nesmí nikdy. Ta za vás nikdo nedoplní.
Jak se agent připojuje k firemním systémům
Pro propojení agenta s daty a nástroji vznikl otevřený standard MCP (Model Context Protocol). Oficiální dokumentace ho přirovnává k portu USB-C: jednotný způsob, jak připojit AI aplikace k externím systémům. Přes MCP se mohou aplikace napojit na datové zdroje (třeba soubory nebo databáze), nástroje (třeba vyhledávače nebo kalkulačky) a připravené postupy.
Podle dokumentace MCP podporují například Claude, ChatGPT, Visual Studio Code a Cursor. Jako příklad uvádí podnikového chatbota, který se připojuje k více databázím v organizaci. Dokumentace má také samostatnou část o bezpečnosti (Security best practices). Čím víc systémů agentovi otevřete, tím pečlivěji musíte řešit, k čemu přesně smí přistupovat.
Potřebujete vůbec agenta? Kontrolní otázky
Anthropic doporučuje začít nejjednodušším možným řešením a složitost přidávat, až když prokazatelně zlepší výsledek. Agentní systémy obvykle zvyšují zpoždění i náklady. U mnoha aplikací podle studie stačí vylepšit jediné volání modelu, které využívá vyhledávání a příklady v zadání.
Projděte si tyto otázky shora dolů a zastavte se u první, na kterou odpovíte „ano“.
| Otázka | Pokud ano |
|---|---|
| Stačí, když model odpoví na dotaz podle našich dokumentů? | Jeden dotaz s vyhledáváním ve vašich podkladech, žádný agent |
| Umíme postup popsat předem krok za krokem? | Workflow s pevným postupem |
| Jsou případy různé a počet kroků nelze předvídat? | Agent |
| Umíme poznat, že úkol dopadl dobře? | Agent má smysl, výsledek můžete měřit |
| Víme, kdy musí rozhodnout člověk? | Můžete nastavit kontrolní body |
Anthropic jako vhodné oblasti uvádí zákaznickou podporu a vývoj softwaru. Společné mají jasná kritéria úspěchu, možnost ověřit výsledek a smysluplný dohled člověka. Ověřte si je i u svého úkolu. Pokud výsledek nepoznáte, agent vám nepomůže.
Co od vás chce AI Act
Když lidé ve firmě pracují s AI, platí pro vás článek 4 evropského nařízení AI Act o AI gramotnosti. Účinný je od 2. února 2025. Poskytovatelé i zavádějící subjekty systémů AI mají podle něj přijmout opatření na podporu zlepšení znalostí o AI u svých zaměstnanců a dalších osob, které systémy provozují nebo používají jejich jménem.
Nařízení říká, že opatření mají zohlednit technické znalosti, zkušenosti, vzdělání a praxi lidí, prostředí použití a osoby, kterých se použití systému týká. Povinnost zároveň nevyžaduje zaručit konkrétní úroveň gramotnosti u každého jednotlivce. Komise a členské státy mají podle textu zvlášť podporovat malé a střední podniky.
Portál BusinessInfo.cz (Ministerstvo průmyslu a obchodu) uvádí, že pro většinu menších firem postačí cílené praktické školení zaměřené na nástroje, které skutečně používají. Důležité je mít školení zdokumentované. Národním gestorem pro AI je Ministerstvo průmyslu a obchodu.
Postup pro firmu: čtyři kroky
BusinessInfo doporučuje začít zmapováním, proškolením a jednoduchou evidencí. Pro nasazení agenta to doplňte takto:
- Zmapujte, co už lidé používají. Sepište AI nástroje včetně těch, které si zaměstnanci našli sami, a AI funkce ukryté v běžném softwaru.
- Proškolte lidi podle role. Kdo bude s agentem pracovat, musí vědět, co umí, co neumí a kdy mu nevěřit.
- Vedte jednoduchý seznam a interní pravidla. Stačí tabulka: nástroj, k čemu slouží, jaká data vidí, kdo za něj odpovídá.
- Určete odpovědnou osobu. Podle BusinessInfo to nemusí být nová pozice, stačí rozšířit kompetence stávajícího kolegy.
Pak teprve vyberte první úkol pro agenta. Ideální je ten, kde je výsledek snadno ověřitelný, rozsah omezený a člověk může každý důležitý krok schválit. Začněte v testovacím prostředí, nastavte limit kroků a vyhodnoťte, zda agent opravdu zlepšil výsledek oproti jednoduššímu řešení. Teprve potom ho pouštějte k dalším datům a nástrojům.
Ilustrativní příklad
Představte si firmu, která řeší reklamace. Chatbot by zákazníkovi řekl, jak reklamace obecně probíhá. Pevný workflow by reklamaci zařadil a připravil odpověď podle šablony. Agent by si mohl dohledat objednávku, porovnat ji s reklamačními podmínkami, navrhnout řešení a nechat si ho schválit pracovníkem, než cokoli odešle. Je to jen ilustrace, ne výsledek z konkrétní firmy. Ukazuje, kde je rozdíl: agent jedná s vašimi daty a nástroji, proto potřebuje pravidla a dohled.
Příklady využití AI agentů ve firmách podle oboruBezpečnost dat při nasazení AI ve firmě
Zdroje
Text připravila AI z uvedených zdrojů a prošel automatickou kontrolou faktů. Nejde o právní radu.