AI agent | AI slovník | DNA marketing®

Odborná definice

AI agent je softvérový systém, který interpretuje cíl a kontext, plánuje nebo vybírá další krok a provádí akce prostřednictvím nástrojů, rozhraní či jiných systémů. Obvykle kombinuje model, riadiacu logiku, dostupné nástroje, stav nebo paměť a ochranné pravidla. Od běžného generování odpovědi se odlišuje tím, že může měnit externí stav, například vytvořit záznam, odoslat správu, spustit kód nebo získat údaje z databáze. Míra agentnosti roste s délkou plánování, počtem dostupných akcií a schopností pokračovat bez průběžného potvrzení člověka.

Srozumitelné vysvětlení

Chatbot odpovie textem. Agent může požiadat model o plán, vyhladat podklady, zavolat firemné API, skontrolovat výsledek a pokračovat dalším krokom. Právě schopnost konať zvyšuje jeho hodnotu i riziko. Bez jasných oprávnění může zmazat nesprávný soubor, odoslat citlivé údaje nebo splnit škodlivou instrukci z dokumentu. Bezpečný agent proto potřebuje omezené nástroje, potvrzení citlivých úkonů, kvalitné logy a možnost zastavení. Každý další nástroj rozširuje prostor možných chyb, proto se oprávnění a testovací scénáře navrhují ještě před produkčným přístupem.

Časté otázky

Jaké základní součásti má AI agent?

Praktická zostava obsahuje model pro interpretaci a rozhodování, sadu nástrojů s přesně definovanými rozhraniami, orchestration vrstvu, pracovný stav nebo paměť a guardrails. Důležité jsou i identity, oprávnění, auditné logy, správa tajomstiev a mechanismus lidského schválení. Agent není pouze prompt, ale celý vykonávací systém okolo modelu.

Jaký je rozdíl mezi AI agentom a AI asistentom?

Asistent je navržený predovšetkým na podporu člověka a často čaká na jeho pokyn při každém významnom kroku. Agent může samostatně plánovat sériu kroků a používat nástroje v rámci delegovaného cíle. Rozdíl není absolútny, produkt může mít oba režimy. Rozhodujúca je míra autonomie, schopnost měnit externí stav a potřeba průběžného schvalování.

Proč má mít agent minimálně oprávnění?

Model může nesprávně pochopit cíl, podlahnúť prompt injection nebo vybrat nevhodný nástroj. Pokud má přístup pouze k operáciám potrebným pro konkrétní úlohu, rozsah škody je menší. Oprávnění se mají viazat na identitu, čas, zdroj a typ akce. Citlivé operace, například platba nebo hromadné mazání, mají vyžadovat explicitní potvrzení.

Jak se hodnotí kvalita AI agenta?

Nestačí měřit správnost poslední odpovědi. Sleduje se úspěšnost celé úlohy, počet kroků, náklady, latence, chyby nástrojů, dodržání oprávnění, schopnost zotavit se a míra neželaných akcií. Testovací scénáře mají obsahovat neúplné údaje, konfliktní instrukce, škodlivý obsah v nástrojích i situace, ve kterých má agent odmítnout pokračovat.

Jakou úlohu má paměť agenta?

Krátkodobý stav udržuje informace potřebné v aktuální úloze, dlhodobá paměť může ukladat preference, fakta nebo výsledky minulých procesů. Paměť zlepšuje kontinuitu, ale vytváří riziko zastaraných, chybných nebo citlivých údajů. Proto potřebuje původ záznamu, dobu uchování, možnost opravy a pravidla, které informace se vůbec smú zapsat.

Související pojmy

Zdroje a redakční stopa

OpenAI, A practical guide to building AI agents
Google Machine Learning Glossary
NIST AI Risk Management Framework

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.