AI agenti: architektúra a reálne limity
Čo agenti dokážu, kde zlyhávajú a ako ich navrhovať tak, aby boli spoľahliví.
„Agent” je model, ktorý v slučke rozhoduje, volá nástroje a reaguje na výsledky. Znie to mocne — a pri zle navrhnutej úlohe to aj mocne zlyhá.
Kedy agent dáva zmysel
- Úloha má viac krokov a nevieš ich dopredu presne naplánovať.
- Kroky závisia od priebežných výsledkov (vyhľadaj → prečítaj → rozhodni).
Kde to padá
- Dlhé reťaze — chyby sa hromadia. Každý krok je ďalšia šanca na omyl.
- Slabé nástroje — ak nástroj vracia nejasné výsledky, agent sa stratí.
- Chýbajúce hranice — bez limitov na počet krokov ide do nekonečna.
Praktické pravidlá
Drž slučky krátke, daj agentovi jasné „stop” podmienky a preferuj menej, ale spoľahlivých nástrojov.