Mantinely především
Co agent nesmí, je stejně důležité jako to, co umí
Před ostrým provozem jsme s klientem sepsali pravidla, která agent nesmí překročit. Žádná z nich není technologická vychytávka, všechna jsou selský rozum: agent nesmí měnit ceny, nesmí potvrdit nic nad stanovený limit bez schválení člověkem a nesmí odpovědět tam, kde si není jistý.
Stejně jasně je dané, kde vždy rozhoduje člověk: objednávky nad limit, první objednávka nového zákazníka, reklamace, u kterých jde o peníze, a jakákoli komunikace, kde je zákazník nespokojený. Agent v těchto případech připraví podklad a předá ho dál, nic víc.
A data? Zůstávají tam, kde mají být. Agent pracuje uvnitř prostředí klienta, komunikace se nikam nepřeprodává a nepoužívá se k trénování cizích modelů. Každý krok agenta se loguje, takže se dá kdykoli zpětně dohledat, co udělal, kdy a proč. Stejná dohledatelnost, jakou čekáte od účetnictví, jen pro AI.