Firemní znalostní asistent: kdy pomáhá a kdy je rizikem

Znalostní asistent není další místo, kam uložíte dokumenty

Ve firmě bývá problém málokdy v tom, že lidé nemají dokumenty. Častěji nevědí, který je aktuální, kdo mu rozumí, co platí pro konkrétního zákazníka a kdy už nestačí rychlá odpověď. Firemní znalostní asistent má smysl tehdy, když zkrátí cestu od otázky k ověřenému podkladu. Ne tehdy, když jen umí hezky převyprávět soubory, které byly předtím chaotické.

Než jej pustíte k interní dokumentaci, rozhodněte o jeho konkrétní roli. Má obchodníkovi pomoci najít správný postup? Má připravit souhrn technických podkladů? Má ukázat, které informace chybí před odpovědí zákazníkovi? Každá z těchto rolí potřebuje jiný rozsah dokumentů, jinou kontrolu a jiné oprávnění.

Začněte jednou otázkou, kterou tým řeší opakovaně

Dobré první použití nebývá „zeptej se na cokoli o firmě“. Je to opakovaná otázka, u které dnes lidé ztrácejí čas dohledáváním: Jaká varianta produktu odpovídá tomuto použití? Kde je poslední schválená specifikace? Co už bylo zákazníkovi slíbeno? Jaký postup platí při konkrétní výjimce? Vyberte otázku, u níž je možné určit správný zdroj a zkušený člověk umí odpověď ověřit.

Když otázku neumíte napsat jasně, asistent ji těžko zodpoví spolehlivě. To není problém technologie, ale známka, že tým nemá společně popsaný proces. Nejdřív pojmenujte rozhodnutí, které má informace usnadnit. Pak řešte, jak má asistent hledat.

Nejprve udělejte pořádek ve zdrojích, ne v promptu

Znalostní asistent je tak dobrý, jak srozumitelné jsou podklady, ze kterých vychází. Zkontrolujte, které dokumenty jsou aktuální, kdo je vlastní, jestli mají jednoznačný název a zda se vedle nich nepovalují staré verze. Pokud má stejná otázka tři rozporné odpovědi v různých souborech, asistent problém nevyřeší. Může jej jen zrychleně přenést k dalšímu člověku.

Google u firemních datových konektorů popisuje, že asistent může hledat a shrnovat informace z více pracovních nástrojů. To ale neznamená, že má dostat přístup všude. Předem určete, které zdroje do prvního pilotu patří, kdo je spravuje a jak poznáte, že dokument přestal platit. Malý, čistý rozsah je na začátku cennější než zdánlivě kompletní knihovna.

Přístup k dokumentu není detail. Je to součást návrhu

Když asistent pracuje s interními materiály, nesmí obejít práva, která mají lidé v běžném systému. Obchodník nepotřebuje vidět každý dokument firmy jen proto, že se ptá přes AI. Stejně tak správce nemá dostat do promptu hesla, přístupové údaje ani informace, které nemají být sdílené. Asistent nemá být zkratka kolem řízení přístupů.

NIST ve svém rámci pro řízení rizik AI doporučuje před použitím zmapovat kontext, role, hranice systému a lidský dohled. Pro malou firmu to nemusí být složitý projekt. Stačí umět odpovědět: Jaké zdroje asistent používá? Kdo k nim má mít přístup? Kdo rozhodne, když je odpověď sporná? A kde se zaznamená chyba, kterou je potřeba opravit?

Odpověď musí ukázat, odkud vychází a co neví

U interního asistenta není nejdůležitější, aby odpověď zněla jistě. Důležitější je, aby člověk viděl zdroj, ze kterého vychází, a poznal, kde informace chybí nebo si protiřečí. U technického podkladu, nabídky nebo provozního rozhodnutí je lepší věta „v dostupných dokumentech to nenacházím“ než přesvědčivě formulovaný odhad.

Proto do pilotu zařaďte i záměrně nepříjemné otázky: takové, na které podklady nestačí, obsahují starou verzi nebo vedou na více různých dokumentů. OWASP upozorňuje, že u jazykových aplikací nemají být instrukce a přístupové údaje považované za bezpečnostní kontrolu. V praxi to znamená: citlivé věci nedávejte do promptu a nespoléhejte na to, že se nikomu nezobrazí.

Měřte, jestli se zrychlilo rozhodnutí, ne jen hledání

Přínos může být velmi praktický: obchodník dohledá správný podklad rychleji, předá úplnější informaci technikovi nebo méně často přeruší kolegu otázkou, jejíž odpověď už ve firmě existuje. To ale měřte na několika konkrétních případech. Sledujte čas, počet nutných oprav a hlavně to, zda výsledek vedl k lepšímu dalšímu kroku.

Pokud asistent sice vytvoří rychlý souhrn, ale tým pak dlouze řeší, zda mu může věřit, přínos nevznikl. Užitečný znalostní asistent nezastupuje odborníka. Připravuje mu lepší výchozí bod, aby odborník mohl rozhodnout rychleji a s menším dohledáváním.

Kdy má smysl postup rozšířit

Rozšiřujte teprve tehdy, když tým zná hranice pilotu, odpovědi umí doložit a někdo průběžně udržuje zdroje. Nové oddělení, nový datový zdroj nebo možnost automaticky něco změnit ve firemním systému nejsou jen další funkce. Každá z nich mění riziko i potřebnou kontrolu.

Když se objeví chyby, nesnažte se je skrýt lepším promptem. Zjistěte, zda je příčinou neaktuální dokument, příliš široký dotaz, chybějící oprávnění nebo špatně vymezená role asistenta. Takto vzniká postup, který firma umí opravit. A to je pro běžné používání mnohem cennější než efektní první ukázka.

Časté otázky k firemnímu znalostnímu asistentovi

• Kdy má firemní znalostní asistent smysl?

  Když tým opakovaně dohledává stejný typ informace a umí určit, které zdroje jsou pro odpověď správné a aktuální. Začněte jedním rozhodnutím, ne ambicí odpovědět na vše.

• Může asistent odpovídat z celé firemní dokumentace?

  Technicky může být připojen k mnoha zdrojům, ale první pilot by měl mít malý a dobře spravovaný rozsah. Přístup musí respektovat oprávnění k jednotlivým dokumentům a roli uživatele.

• Jak se bránit chybným odpovědím?

  Požadujte dohledatelný zdroj odpovědi, testujte neúplné i rozporné případy a určete člověka, který řeší nahlášené chyby. U důležitého rozhodnutí zůstává ověření na zkušeném člověku.

• Stačí k bezpečnosti napsat pravidla do systémového promptu?

  Ne. Pravidla pomáhají řídit chování, ale nenahrazují oprávnění, správu zdrojů ani bezpečné zacházení s citlivými údaji. Bezpečnost musí být součást nastavení přístupů a procesu, ne jen textové instrukce.