Bezpečné používání generativní AI: pravidla, která tým opravdu použije

Pravidla pro AI mají pomoci rozhodnout v běžné práci

Bezpečné používání generativní AI nezačíná dlouhým dokumentem, který si tým jednou přečte a pak ho nikdo neotevře. Začíná u konkrétních okamžiků: Můžu sem vložit tento e-mail? Smím nechat AI navrhnout odpověď zákazníkovi? Co musím ověřit, než výstup použiju? A komu řeknu, že se něco nepovedlo? Pravidlo je použitelné jen tehdy, když pomůže člověku rozhodnout právě v této chvíli.

Cílem není lidi od AI odradit. Cílem je, aby tým nevyřešil úsporu času tím, že nechtěně pošle citlivé informace do nevhodného prostředí nebo předá chybný výstup dál. Dobře nastavený základ dává lidem jistotu, kde AI používat mohou, kde je potřeba ověření a kde se má postup zastavit.

Rozdělte informace podle toho, co se s nimi smí dít

Nejprve si s týmem pojmenujte několik jednoduchých skupin. Veřejné informace, které už jsou na webu nebo v nabídce. Běžné pracovní podklady, které lze použít jen ve schváleném firemním prostředí. A citlivé údaje: osobní data zákazníků, smluvní podmínky, přístupové údaje, neveřejné cenové podklady, finanční údaje nebo informace z rozpracovaného obchodního jednání. U každé skupiny musí být jasné, do kterého nástroje patří a co se před vložením odstraní.

Není potřeba, aby každý pracovník četl definice o ochraně dat. Potřebuje ale rozumět jednoduché zásadě: když byste informaci neposlali běžným e-mailem neznámému člověku, nevkládejte ji bez ověření do veřejné AI služby. Pokud si nejste jistí, zastavte se a zeptejte se odpovědné osoby.

AI připravuje návrh. Člověk předává výsledek

Generativní AI umí napsat přesvědčivou větu, i když nemá správné podklady. Proto se nesmí zaměnit návrh za hotovou práci. U e-mailu, nabídky, souhrnu schůzky, technické informace nebo rozhodnutí o zákazníkovi vždy někdo z týmu zkontroluje věcnou správnost, úplnost, tón i to, zda je možné danou informaci skutečně poslat.

NIST ve svém dobrovolném rámci pro řízení rizik AI pracuje s vymezením kontextu, rolemi, měřením a lidským dohledem. V malé firmě z toho nemusí vzniknout složitý projekt. Stačí předem určit, u kterých výstupů je kontrola povinná, kdo ji dělá a co se má stát, když odpověď neodpovídá zdroji nebo zdravému úsudku.

Citlivé věci nepatří do promptu a prompt není bezpečnostní nástroj

Do zadání nevkládejte hesla, klíče, přístupy, celé databáze ani jiné tajné údaje s představou, že je ochrání formulace „nikomu to neříkej“. OWASP u jazykových aplikací upozorňuje, že systémové instrukce nemají být považované za tajemství ani bezpečnostní kontrolu. Citlivé údaje mají být chráněné výběrem schváleného prostředí, oprávněními a tím, že je do zadání vůbec nedáte, pokud nejsou pro práci nezbytné.

Stejně opatrně zacházejte s přílohami a textem zvenčí. Poptávka, dokument od zákazníka nebo obsah webové stránky může obsahovat instrukci, která se snaží změnit chování asistenta. Neberte ji jako pokyn k akci. Použijte AI k přípravě podkladu, ale důležitý krok proveďte až po kontrole člověkem podle běžného firemního postupu.

Určete místo, kam se hlásí chyba nebo pochybnost

Když člověk zjistí, že AI špatně shrnula dokument, navrhla chybný údaj nebo pracovala s nevhodným vstupem, musí vědět, co udělat. Ne proto, aby se hledal viník. Proto, aby tým stejnou chybu neopakoval. Stačí jednoduchý proces: výstup se nepoužije, pracovník uloží příklad bez citlivých dat, označí typ problému a odpovědná osoba rozhodne, zda se má upravit zadání, zdroj, přístup nebo pravidlo.

Takový seznam chyb je zároveň nejlepší materiál pro další školení. Místo obecného varování „buďte opatrní“ můžete týmu ukázat, jak poznat neúplný podklad, kde se vzala chyba v dokumentu a proč se konkrétní výstup neměl dostat k zákazníkovi.

Pět pravidel, která mají být vidět při práci

První: používejte jen schválené prostředí pro daný typ práce. Druhé: před vložením odstraňte údaje, které AI nepotřebuje. Třetí: u důležitých výstupů vždy ověřte fakta proti zdroji. Čtvrté: nenechávejte AI samostatně slíbit cenu, termín, podmínku ani něco měnit ve firemním systému bez předem schváleného kroku. Páté: při pochybnosti výstup nepoužívejte a problém nahlaste.

Tato pravidla nejsou konečný stav. Tým je má upravovat podle skutečných případů. Když se objeví nový nástroj, nový typ dat nebo možnost automaticky něco vykonat, znovu si projděte, co se mění v přístupech, kontrole a odpovědnosti. Bezpečné používání AI není zákaz. Je to způsob, jak ji zavádět bez slepých míst.

Časté otázky k bezpečnému používání generativní AI

• Může tým používat veřejný AI nástroj pro práci?

  Jen pro podklady, které do takového prostředí podle firemních pravidel patří. Před použitím musí být jasné, jak nástroj nakládá s daty a které informace do něj tým vkládat nesmí.

• Stačí, když si zaměstnanci dají pozor?

  Pozornost je důležitá, ale bez jednoduchých pravidel a schváleného prostředí každý rozhoduje jinak. Tým potřebuje společný postup pro data, kontrolu výstupu a hlášení chyb.

• Kdo má kontrolovat výstup AI?

  Člověk, který rozumí danému kroku a nese odpovědnost za jeho předání dál. U nabídky to bude obchodník nebo schvalující osoba, u technické informace odborník na daný produkt nebo postup.

• Co dělat, když AI uvede chybnou informaci?

  Výstup nepoužijte, opravte konkrétní podklad a zachyťte, proč chyba vznikla. Podle příčiny upravte zdroj, zadání, přístup nebo pravidlo pro kontrolu. Nejde o selhání jednotlivce, ale o informace pro lepší postup.