Dlaczego AI halucynuje? Wyjaśniamy, dlaczego model może brzmieć pewnie i przez cały czas podawać błędne informacje

Najbardziej niebezpieczny błąd AI czasem wcale nie wygląda jak błąd, a dosyć konkretna informacja z datą, numerem katalogowym, parametrem technicznym, itp. Wszystko brzmi normalnie, nic nie zwraca szczególnej uwagi, a mimo to jedna z podanych informacji może być fałszywa. To właśnie takie odpowiedzi są najtrudniejsze do wychwycenia. Nie absurdalne pomyłki, które od razu budzą wątpliwości, ale właśnie te wystarczająco wiarygodne, by przyjąć je bez sprawdzania. Sama precyzja nie pozostało dowodem poprawności. Łatwo powiedzieć wtedy, iż model "kłamie", ale to przez cały czas nie wyjaśnia, skąd bierze się błąd. Uruchomiłam więc otwarty model lokalnie i sprawdziłam, co dzieje się podczas generowania takich odpowiedzi.