Klient pyta chatbota o czas dostawy, a ten podaje termin, kt\u00f3rego firma nigdy nie oferowa\u0142a. Asystent w dziale sprzeda\u017cy cytuje punkt regulaminu, kt\u00f3rego nie ma. Pracownik prosi o podsumowanie przepisu i dostaje numer artyku\u0142u, kt\u00f3ry nie istnieje. Wsp\u00f3lna cecha: odpowied\u017a jest p\u0142ynna, pewna i dobrze sformu\u0142owana, wi\u0119c trudno j\u0105 od razu zakwestionowa\u0107.<\/p>\n
Model j\u0119zykowy nie sprawdza fakt\u00f3w w bazie danych, tylko generuje najbardziej prawdopodobny ci\u0105g s\u0142\u00f3w na podstawie tego, czego si\u0119 nauczy\u0142, i tego, co dosta\u0142 w zapytaniu. Je\u015bli nie ma potrzebnej informacji, nie zatrzymuje si\u0119 sam z siebie, tylko tworzy odpowied\u017a, kt\u00f3ra brzmi poprawnie. Halucynacji nie da si\u0119 wyeliminowa\u0107 ca\u0142kowicie, ale mo\u017cna je znacznie ograniczy\u0107 konfiguracj\u0105.<\/p>\n
Chatbot bez pod\u0142\u0105czonej bazy wiedzy zna tylko og\u00f3ln\u0105 wiedz\u0119 modelu, kt\u00f3ra nie obejmuje Twojego cennika, procedur ani oferty. Ka\u017cde pytanie o szczeg\u00f3\u0142y firmy jest dla niego zgadywaniem.<\/p>\n
Nawet przy pod\u0142\u0105czonej bazie (RAG, czyli wyszukiwanie fragment\u00f3w dokument\u00f3w i przekazywanie ich modelowi) wyszukiwanie mo\u017ce zwr\u00f3ci\u0107 nieaktualn\u0105 wersj\u0119 dokumentu albo fragment niezwi\u0105zany z pytaniem. Model odpowiada wtedy na podstawie z\u0142ego materia\u0142u.<\/p>\n
Prompty w stylu \u201ezawsze pom\u00f3\u017c klientowi\u201d zach\u0119caj\u0105 model do odpowiedzi za wszelk\u0105 cen\u0119. Bez wyra\u017anej zgody na przyznanie si\u0119 do braku informacji model wybiera zgadywanie.<\/p>\n
Najwi\u0119cej halucynacji pojawia si\u0119 tam, gdzie odpowied\u017a wymaga precyzji: konkretnych kwot, dat, numer\u00f3w artyku\u0142\u00f3w, nazw dokument\u00f3w i link\u00f3w. Model zna og\u00f3lny kszta\u0142t takiej odpowiedzi, wi\u0119c potrafi wygenerowa\u0107 numer artyku\u0142u lub adres strony, kt\u00f3re wygl\u0105daj\u0105 poprawnie, ale nie istniej\u0105. Tego typu dane powinny pochodzi\u0107 z systemu lub dokumentu, a nie z pami\u0119ci modelu.<\/p>\n
Zmiana promptu, dodanie dokument\u00f3w do bazy albo przej\u015bcie na nowsz\u0105 wersj\u0119 modelu potrafi poprawi\u0107 jedne odpowiedzi i zepsu\u0107 inne. Bez sta\u0142ego zestawu pyta\u0144 testowych nikt tego nie zauwa\u017ca, dop\u00f3ki b\u0142\u0119du nie zg\u0142osi klient.<\/p>\n