7 godzin temu
Zespół Anthropic odkrył, iż wydłużone rozumowanie u AI często prowadzi do gorszych wyników. Zamiast lepszych decyzji, modele wpadają w pułapkę „nadmyślenia” i błędnych wniosków.
Naukowcy z Anthropic ustalili, iż popularna metoda skłaniania modeli językowych do dłuższego zastanawiania się nad odpowiedziami – tzw. „chain-of-thought prompting” – może przynosić odwrotny efekt. „Poprosiliśmy model, by pomyślał 10 razy zamiast raz. Powinien być mądrzejszy – stał się jednak głupszy” – podsumował badacz Haonan Zhang.
Badania prowadzone na modelach Claude wykazały, iż bardziej rozbudowane procesy myślowe powodowały utratę spójności, częstsze błędy i paradoksalne wnioski. Zamiast trafniejszej analizy, AI popadała w „overthinking” – tworzyła kolejne, coraz mniej trafne warianty odpowiedzi i umacniała się w błędnych przekonaniach.
Zjawisko szczególnie uwidaczniało się w zadaniach wymagających logiki i analizy tekstowej. To, co u ludzi bywa oznaką głębi myślenia, u AI może prowadzić do samozwiedzenia i błędnych decyzji. Eksperci ostrzegają, iż to istotne ryzyko w rozwoju zaawansowanych asystentów i pracują nad metodami przeciwdziałania temu efektowi.
