Nadzór nad AI zawiódł. Jak warty 2,8 mln dolarów raport rządowy został podważony przez nieweryfikowane dane z modelu LLM

AI coraz częściej pomaga w tworzeniu analiz i oficjalnych dokumentów. Technologia ta oferuje ogromne możliwości, ale wiąże się też z ryzykiem. Brak odpowiedniej weryfikacji treści generowanych przez AI może prowadzić do poważnych błędów. Incydent, który miał miejsce w Kanadzie, jest tego doskonałym przykładem. Pokazuje, jak łatwo można podważyć wiarygodność ważnego raportu, jeżeli bezkrytycznie zaufa się narzędziom opartym na dużych modelach językowych.