AI chatbotovi na firemnom webe dovoľte najprv odpovedať zo schválených verejných informácií. Prístup k objednávkam podmieňte overením zákazníka a kontrolou oprávnení v aplikácii. Zmeny cien, výnimky a ďalšie významné zásahy ponechajte na schválenie človeku. Pred spustením otestujte aj situácie, keď chatbot odpoveď nepozná alebo musí rozhovor odovzdať podpore.
Pre menší e-shop či firmu poskytujúcu služby môže byť automatická odpoveď užitočná. Rozdiel medzi pomocníkom a problémom však nie je iba v kvalite jeho slovenčiny. Rozhoduje, z čoho odpovedá, k čomu má prístup a čo môže skutočne vykonať.
Začnite úlohou zákazníka, nie zoznamom funkcií
Pred výberom nástroja si spíšte otázky, ktoré vaša podpora dostáva opakovane. Návštevník môže potrebovať nájsť vhodnú službu, overiť spôsob dopravy alebo zistiť, ako odovzdať podklady na cenovú ponuku. To sú odlišné úlohy od schvaľovania zľavy alebo zmeny doručovacej adresy.
Odporúčame vybrať jeden úzky začiatok: napríklad navigáciu v ponuke služieb. Ku každej úlohe určte, čo považujete za úspech. Nestačí, že chatbot napíše zdvorilý odsek. Zákazník má dostať správny odkaz, zrozumiteľný ďalší krok a možnosť pokračovať bez chatu.
Ak rovnaký problém vyrieši jasnejší cenník alebo lepšie menu, upravte najprv web. Chatbot nemá byť náplasťou na chýbajúce informácie. Path-UP s.r.o. ponúka tvorbu firemných webstránok; pri príprave nového webu tak môžete riešiť aj to, kde má chatbot zmysel a kde zákazníkovi lepšie poslúži prehľadný obsah.
Oddeľte odpovedanie, čítanie údajov a vykonávanie zmien
OWASP, neziskový projekt zameraný na bezpečnosť aplikácií, opisuje riziko nadmerných právomocí AI systémov. Problém vzniká, keď majú viac funkcií, oprávnení alebo samostatnosti, než potrebujú. Odporúča obmedziť nástroje aj prístupy, významné akcie schvaľovať a oprávnenia vynucovať v nadväzujúcich systémoch, nie iba pokynom pre model.
Pre majiteľa firmy z toho vyplýva jednoduché zadanie: nech vám dodávateľ ukáže nielen ukážkový rozhovor, ale aj zoznam povolených operácií. Nasledujúca tabuľka je návrhom konzervatívneho štartu, nie univerzálnou normou.
| Úloha | Odporúčaný režim | Podmienka |
|---|---|---|
| Vysvetlenie verejnej ponuky | Odpovedať a odkázať na zdroj | Schválené a aktuálne podklady |
| Zobrazenie stavu objednávky | Iba čítať údaje oprávneného zákazníka | Overenie prístupu mimo jazykového modelu |
| Individuálna zľava alebo zmena objednávky | Pripraviť požiadavku pre človeka | Žiadne tvrdenie o vykonaní pred potvrdením |
Overte si aj to, kto schvaľuje rozšírenie rozsahu. Ak sa neskôr pridá napojenie na sklad či fakturáciu, považujte to za novú funkciu vyžadujúcu kontrolu. Samotný fakt, že pôvodný chat fungoval dobre, nie je schválením ďalších právomocí.
Presvedčivá odpoveď nemusí byť pravdivá
OWASP upozorňuje, že veľké jazykové modely môžu vytvárať vierohodne znejúce nepravdivé informácie. Problém zhoršuje prílišná dôvera v ich odpovede. Pri firemnom webe preto posudzujte správnosť obsahu oddelene od plynulosti jazyka.
Cenu a termín nesmie nahradiť odhad
Navrhujeme pri každom type odpovede určiť rozhodujúci podklad. Pri cene to môže byť schválený cenník, pri dostupnosti aktuálny skladový systém a pri zákazke na mieru vyjadrenie obchodníka. Ak taký podklad chýba, chatbot má vysvetliť ďalší postup, nie doplniť medzeru odhadom.
Modelová situácia: návštevník sa pýta na cenu riešenia, ktoré firma nacení až po konzultácii. Užitočná odpoveď pomenuje potrebné vstupy a ponúkne kontakt. Nevhodná odpoveď vytvorí konkrétnu sumu len preto, aby rozhovor pôsobil dokončene. Ide o ilustračný scenár, nie o opísaný incident zákazníka.
Podkladom priraďte vlastníka a dátum kontroly. Pri zmene ponuky má byť jasné, kto upraví zdrojové informácie a overí odpoveď chatbota. Dodávateľovi zadajte aj pravidlo pre rozporné podklady: neistotu priznať a otázku odovzdať, nie si svojvoľne vybrať priaznivejšiu možnosť.
Do chatu nepripájajte všetko, čo firma vlastní
OWASP medzi citlivé informácie zaraďuje aj zákaznícke údaje, interné obchodné informácie a prístupové údaje. Upozorňuje, že samotné obmedzenie v systémovom pokyne nemusí zabrániť ich sprístupneniu. Potrebné sú aj skutočné prístupové kontroly a obmedzenie dostupných dát.
Pre prvú verziu odporúčame oddeliť verejné podklady od interných dokumentov. Produktový opis a interná marža nemajú rovnaký účel. Zákazník hľadajúci otváracie hodiny nepotrebuje systém s prístupom ku všetkým objednávkam.
Od dodávateľa si nechajte vysvetliť, kam putujú správy, kto môže prezerať záznamy rozhovorov a ako dlho sa uchovávajú. Nepredpokladajte automaticky, že každý rozhovor model trénuje, ani že sa nikde neukladá. Konkrétne správanie závisí od služby a nastavení. Toto preverenie je súčasťou návrhu riešenia; nenahrádza posúdenie vašich povinností pri práci s osobnými údajmi.
Pri prepojení s účtami zákazníkov má zmysel preveriť aj ochranu samotného webu. Práve zabezpečenie webstránok patrí medzi služby Path-UP s.r.o., s ktorou môžete prebrať ochranu svojho firemného webu. Bezpečnosť totiž nekončí pri okne rozhovoru.
Pred spustením otestujte aj nepríjemné situácie
Americký Národný inštitút pre štandardy a technológie (NIST) vo svojom profile rizík generatívnej AI odporúča overovať deklarované schopnosti empiricky a nevyvodzovať výkon z úzkych, nesystematických ukážok. Pre firmu to znamená: pekná prezentácia dodávateľa nie je preberací test.
Pripravte si vlastnú sadu otázok a ku každej napíšte očakávaný výsledok. Nasledujúci zoznam je náš praktický návrh pre prvé kolo testovania, nie certifikačný postup NIST:
- Bežná otázka: odpoveď zodpovedá platnej ponuke a odkaz funguje.
- Chýbajúca informácia: chatbot prizná limit a ponúkne konkrétny ďalší krok.
- Rozporný cenník: nevytvorí vlastnú cenu ani bezpodmienečný prísľub.
- Cudzia objednávka: testovacie účty nemajú prístup k údajom druhého zákazníka.
- Nedostupná podpora: návštevník dostane pravdivú informáciu o ďalšom kontakte, nie predstierané spojenie.
- Mobilné používanie: chat neprekryje dôležité tlačidlá a dá sa pohodlne zatvoriť.
Použite skúšobné účty a vymyslené objednávky v testovacom prostredí. Výsledok zapíšte spolu s dátumom, použitou verziou a zistenou chybou. Pri zásadnej zmene podkladov, modelu alebo napojení relevantné testy zopakujte.
Odovzdanie človeku je funkcia, nie zlyhanie
Určte, ktoré otázky má prevziať kolega a kto ich naozaj spracuje. Samotné tlačidlo „kontaktovať podporu“ nestačí, ak požiadavka nikam nepríde. Súčasťou skúšky preto musí byť aj prijatie správy na správnom mieste.
Po spustení sledujte správne vyriešené otázky, opravy nesprávnych odpovedí a dôvody odovzdania. Nesnažte sa znížiť počet kontaktov za každú cenu. Pri nejasnej alebo citlivej požiadavke môže byť rýchle odovzdanie človeku najlepší výsledok.
Dobrý chatbot má jasnú úlohu, obmedzené oprávnenia a zodpovedného prevádzkovateľa. S Path-UP môžete prebrať vhodný rozsah aj kontroly pre váš web. Začať menším, overeným riešením je rozumný spôsob, ako zistiť jeho skutočný prínos.
Chcem konzultovať AI chatbota pre svoj web
Použité zdroje
- OWASP: nadmerné právomoci AI systémov, vydanie 2025
- OWASP: sprístupnenie citlivých informácií, vydanie 2025
- OWASP: nepravdivé a zavádzajúce odpovede, vydanie 2025
- NIST AI 600-1: profil rizík generatívnej umelej inteligencie