Firmowy asystent AI: jak wdrożyć go bezpiecznie i użytecznie?

01

Zacznij od jednej potrzeby

Asystent może pomagać pracownikom znaleźć procedurę, przygotować odpowiedź albo zebrać informacje ze sprawy. Łączenie wszystkich celów od pierwszego dnia utrudnia testy i zwiększa ryzyko.

Wybierz zadanie o dużej częstotliwości, ustal użytkowników oraz oczekiwany format odpowiedzi. Zdefiniuj też pytania, na które asystent nie powinien odpowiadać.

02

Baza wiedzy i dostęp

Dokumenty powinny mieć właściciela, datę przeglądu i status obowiązywania. Asystent nie może traktować projektu instrukcji i zatwierdzonej procedury jako równoważnych źródeł.

Jeżeli pracownik nie ma dostępu do dokumentu w systemie źródłowym, nie powinien otrzymać jego treści przez asystenta. Uprawnienia trzeba sprawdzać przy każdym wyszukaniu, a nie tylko przy logowaniu.

03

Odpowiedź możliwa do sprawdzenia

Asystent powinien podawać źródło, fragment lub wersję dokumentu, na której opiera odpowiedź. Brak wiarygodnego źródła powinien prowadzić do odmowy albo przekazania pytania człowiekowi.

• ograniczenie odpowiedzi do zatwierdzonej wiedzy;
• ochrona przed instrukcjami ukrytymi w dokumentach;
• filtrowanie danych wrażliwych;
• rejestrowanie błędów bez zbędnej treści rozmów;
• jasna informacja, że użytkownik pracuje z AI.

04

Testy przed uruchomieniem

Zestaw testowy powinien zawierać pytania poprawne, niejasne, sprzeczne, spoza zakresu i próby uzyskania niedozwolonych informacji. Ocena obejmuje poprawność, kompletność, źródła, odmowę i czas odpowiedzi.

Po starcie trzeba zbierać oceny i przypadki wymagające korekty, ale nie można automatycznie uczyć systemu na każdej rozmowie bez zatwierdzenia jakości oraz podstawy wykorzystania danych.