Asystent AI dla firm, który zna swoje granice, i dlaczego to dobrze
Od sztucznej inteligencji oczekujemy, że zna odpowiedź na każde pytanie. Tymczasem najcenniejszy jest asystent AI dla firm, który potrafi przyznać, że czegoś nie wie. W rozmowie o przepisie na obiad drobna pomyłka nikomu nie szkodzi. W rozmowie o nośności kotwy, odporności ogniowej materiału czy terminie dostawy może kosztować bardzo dużo.
Halucynacje AI: skąd się biorą i dlaczego ChatGPT dla firm czasem zmyśla
Model językowy nie sprawdza faktów, tylko przewiduje, jakie słowo powinno pojawić się jako następne. Uczy się na ogromnych zbiorach tekstów z internetu, ale jego wiedza kończy się w dniu zakończenia treningu. Nie ma też dostępu do Twoich katalogów, kart technicznych ani cennika. Gdy pytanie wykracza poza to, co zna, nie zatrzymuje się, tylko dopisuje najbardziej prawdopodobny ciąg słów. Tak powstają halucynacje AI: zmyślone parametry, nieistniejące normy, pomylone nazwy produktów. Najgorsze jest to, że zmyślona odpowiedź brzmi tak samo pewnie jak prawdziwa. Model nie wie, że w tym roku zmieniliście recepturę, wycofaliście jeden z wariantów albo wprowadziliście nowy rozmiar.
Ile kosztują halucynacje AI w obsłudze klienta i dziale technicznym
W firmie produkującej lub sprzedającej produkty techniczne błędna odpowiedź ma realną cenę. Wyobraź sobie handlowca, który w trakcie rozmowy z wykonawcą pyta AI o maksymalną temperaturę stosowania kleju i przekazuje odpowiedź dalej. Jeśli była zmyślona, błąd wychodzi dopiero na budowie, gdy naprawa jest najdroższa. Albo projektanta, który dostaje od asystenta zamiennik produktu, choć ten ma inną klasę odporności ogniowej. Każda taka sytuacja to reklamacja, dodatkowa praca działu technicznego i klient, który następnym razem sprawdzi informację u konkurencji.
Pomaganie na siłę: drugi grzech asystentów AI
Zmyślanie to nie jedyny problem. Wiele osób zna asystentów, którzy zamiast przyznać, że czegoś nie potrafią, próbują pomóc na siłę. Pytasz czat firmy kurierskiej o nietypową sytuację z przesyłką, a on uparcie podsuwa link do śledzenia paczki. Pytasz asystenta w panelu usług chmurowych o konkretną konfigurację, a dostajesz ogólną instrukcję czegoś zupełnie innego. Asystent dopasowuje Twoje pytanie do tego, co umie, zamiast odpowiedzieć na to, o co pytasz. Efekt? Kilka minut krążenia w kółko i frustracja, która kończy się telefonem do konsultanta.
Asystent AI na bazie wiedzy firmy: szybko mówi, co wie, a czego nie
Dobry asystent działa inaczej. Odpowiada tylko na podstawie dokumentów firmy: katalogów, kart technicznych, instrukcji i FAQ. Tak działa Sallas.ai, który działa na podstawie bazy wiedzy firmy i odpowiada wyłącznie na jej podstawie. Gdy informacji brakuje, mówi to wprost już w pierwszej odpowiedzi, wyjaśnia, czego nie znalazł, i przekazuje sprawę człowiekowi. Nie zgaduje i nie zmienia tematu na taki, w którym czuje się pewniej. Użytkownik w kilka sekund wie, na czym stoi.
„Nie wiem” jako sygnał dla systemu zarządzania wiedzą w firmie
Każde „nie wiem” to cenna informacja. Pokazuje, o co pytają klienci i pracownicy, a czego nie ma w dokumentacji. Może się okazać, że kilkanaście osób w miesiącu pyta o montaż w niskich temperaturach, a w instrukcji nie ma o tym ani słowa. Te luki można szybko uzupełnić, dzięki czemu baza wiedzy z czasem staje się coraz pełniejsza, a asystent coraz bardziej pomocny.
Wiarygodna sztuczna inteligencja w firmie buduje zaufanie
Ludzie szybciej ufają narzędziu, które bywa szczere, niż takiemu, które zawsze ma odpowiedź. Asystent, który nigdy nie mówi „nie wiem”, prędzej czy później zawiedzie, a wtedy zespół przestanie mu wierzyć także w sprawach, w których miał rację.
Jak wybrać asystenta AI dla firmy: 3 pytania do dostawcy
Przed wyborem narzędzia zadaj dostawcy trzy pytania. Co robi system, gdy nie zna odpowiedzi? Czy odpowiedzi opierają się wyłącznie na Twoich dokumentach? Czy możesz go przetestować na prawdziwych pytaniach z Twojej firmy? Przygotuj kilka pytań, na które odpowiedź jest w dokumentacji, i kilka takich, na które jej tam nie ma. Dobry asystent poradzi sobie z pierwszymi, a przy drugich szybko i uczciwie powie, że tej informacji nie ma. Jeśli chcesz zobaczyć, jak w praktyce wygląda asystent AI, który odpowiada tylko na podstawie Twojej wiedzy, sprawdź, jak działa SALLAS.AI.
Artykuł sponsorowany.
