Ta treść została automatycznie przetłumaczona z ukraińskiego.
Sztuczna inteligencja może pewnie wyjaśnić skomplikowaną teorię fizyczną, pomóc napisać kod lub streścić treść książki. A w ciągu minuty — wymyślić artykuł, który nigdy nie istniał, przypisać znanej osobie wymyśloną cytatę lub „przypomnieć” nieistniejące wydarzenie. Co więcej, zrobić to na tyle przekonująco, że błąd nie zawsze jest łatwy do zauważenia.
Takie przypadki nazywa się halucynacjami AI. Termin jest nieco umowny: sztuczna inteligencja nie doświadcza halucynacji w ludzkim sensie. Oznacza sytuacje, w których model generatywny tworzy nieprawdziwe, wymyślone lub nieuzasadnione informacje i może przedstawiać je tak, jakby były wiarygodne.
W dokumentach amerykańskiego Narodowego Instytutu Standardów i Technologii (NIST), na przykład, dla tego zjawiska używa się terminu confabulation — konfabulacja, a „halucynacja” jest wspomniana jako powszechna nazwa takich błędów.
Co oznacza „halucynacja AI”
Halucynacja AI, lub AI hallucination, to odpowiedź modelu, która może wyglądać całkiem wiarygodnie, ale zawiera stwierdzenia, które nie odpowiadają faktom, danym lub kontekstowi zapytania.
Na przykład, AI może:
- wymyślić nazwę badania naukowego;
- wymienić nieistniejącego autora książki;
- dodać do biografii osoby wydarzenie, które nie miało miejsca;
- stworzyć nieprawdziwe lub nieistniejące odniesienie;
- nieprawidłowo streścić treść dokumentu;
- przypisać dany wyrażenie niewłaściwej osobie;
- pewnie podać błędną datę lub liczbę.
Specyfika takich błędów polega na tym, że model niekoniecznie wykazuje niepewność. Wymyślony fakt może być sformułowany tak samo gładko i przekonująco, jak i poprawny.
Dlatego halucynacje pozostają jednym z ważnych problemów generatywnej AI nawet w nowoczesnych modelach językowych.
Dlaczego AI w ogóle coś wymyśla
Aby zrozumieć naturę halucynacji, trzeba trochę zrozumieć, jak działają duże modele językowe.
Podczas podstawowego szkolenia taki model uczy się przewidywać następne fragmenty tekstu — tokeny — na podstawie wcześniejszego kontekstu. Nie wybiera tylko jednego „najbardziej prawdopodobnego słowa”, ale ocenia prawdopodobieństwa możliwych kontynuacji. Nowoczesne systemy dodatkowo uczą wykonywać instrukcje, pracować z różnymi typami zapytań, a w niektórych przypadkach jeszcze łączą z wyszukiwaniem, bazami danych i innymi narzędziami.
Jednak sam zasada generacji tekstu nie gwarantuje prawdziwości każdego sformułowanego stwierdzenia. Jak zauważa NIST, statystyczne prognozowanie może dawać zarówno faktycznie poprawne i spójne wyniki, jak i błędne lub wewnętrznie sprzeczne.
Na przykład, model dobrze przyswaja, jak zazwyczaj wygląda odniesienie bibliograficzne: imiona autorów, tytuł pracy, czasopismo, rok, numer DOI. Dlatego jest w stanie stworzyć zapis, który z zewnątrz niemal nie różni się od prawdziwego. Ale konkretnego artykułu o takim tytule może nigdy nie być.
Innymi słowy, model może bardzo dobrze odtworzyć formę poprawnej odpowiedzi, nie mając wystarczających podstaw dla wszystkich faktów w niej zawartych.
Halucynacja to nie po prostu każdy błąd
Granica między pojęciami nie zawsze jest wyraźna, ale „halucynacją” zazwyczaj nazywa się nie każdą błędną odpowiedź AI, a przypadki, gdy system generuje fałszywe informacje bez wystarczającej podstawy na faktach lub danych wejściowych.
Jeśli model pomylił się w działaniu arytmetycznym, to przede wszystkim jest to błąd matematyczny.
Ale jeśli informuje:
„W 2019 roku profesor Anna Miller opublikowała w czasopiśmie Nature badanie o…”
i ani takiej badaczki, ani publikacji w rzeczywistości nie ma, — to typowy przykład halucynacji.
Kolejny powszechny przypadek występuje podczas pracy z dokumentami. W tekście może nie być odpowiedzi na pytanie użytkownika, ale model zamiast frazy „w dokumencie tego nie podano” tworzy logiczne i wiarygodne wyjaśnienie od siebie.
Dlaczego halucynacje często wydają się prawdą
Człowiek zazwyczaj łatwiej podejrzewa błąd, jeśli rozmówca waha się, myli się lub sprzeciwia sam sobie. Z generatywną AI to nie zawsze działa.
Błędne stwierdzenie może pojawić się w poprawnie skonstruowanym zdaniu, być towarzyszone wyjaśnieniami i dobrze wpisywać się w resztę tekstu. Forma odpowiedzi tworzy poczucie kompetencji, chociaż sama informacja może być fałszywa.
Szczególnie przekonująco wyglądają wymyślone cytaty, odniesienia i źródła naukowe. Model może stworzyć wyrażenie, które odpowiada poglądom znanej osoby, lub tytuł badania, który idealnie pasuje do tematu. Czasami prawdziwe i wymyślone szczegóły mieszają się w jednym tekście: czasopismo istnieje, temat brzmi logicznie, ale autorzy czy konkretna publikacja — nie.
Takie przypadki są szczególnie trudne do zauważenia. W dużej odpowiedzi prawie wszystko może być poprawne, a tylko jedna data, cytat czy tytuł — wymyślone.
Kiedy ryzyko halucynacji jest większe
Ryzyko zależy od konkretnego modelu, zapytania i sposobu jego działania, ale szczególnie ostrożnym warto być wtedy, gdy potrzebne są bardzo dokładne lub mało znane fakty.
Mogą to być dosłowne cytaty, strony książek, dane bibliograficzne, mało znane wydarzenia historyczne, numery dokumentów, dokładna statystyka lub informacje na bardzo wąski temat. Osobnym problemem jest aktualna informacja: jeśli system nie ma dostępu do świeżych źródeł, może nie wiedzieć o niedawnych zmianach.
Halucynację może wywołać także samo pytanie, jeśli zawiera już błędne założenie.
Na przykład:
„Dlaczego Albert Einstein otrzymał Nagrodę Nobla za teorię względności?”
Formulacja pytania jest niepoprawna. Nagrodę Nobla z fizyki za 1921 rok Einstein otrzymał „za zasługi dla teorii fizyki, a w szczególności za odkrycie prawa fotoelektrycznego”. Teoria względności w oficjalnej motywacji nagrody nie została wymieniona.
Jeśli model po prostu przyjmie założenie użytkownika za fakt, może zacząć szczegółowo wyjaśniać coś, czego w rzeczywistości nie było.
Czy można całkowicie pozbyć się halucynacji
Twórcy AI starają się zmniejszać liczbę takich błędów: modele uczą lepiej reagować na niepewność, pracować z zewnętrznymi źródłami i nie udzielać odpowiedzi tam, gdzie brakuje informacji.
Jednym z powszechnych podejść jest RAG, czyli Retrieval-Augmented Generation, czyli generacja wzbogacona o wyszukiwanie informacji. W takim systemie model językowy podczas formułowania odpowiedzi może opierać się nie tylko na wiedzy przyswojonej podczas szkolenia, ale także na dokumentach znalezionych w zewnętrznej pamięci. Samo podejście RAG zostało opisane przez badaczy w 2020 roku jako połączenie parametrycznej pamięci modelu językowego z dostępem do zewnętrznej nieparametrycznej pamięci.
Jednak nawet dostęp do źródeł nie czyni systemu bezbłędnym. Model może źle zrozumieć znaleziony materiał, użyć nieistotnego źródła, pomylić dane lub wyciągnąć nieuzasadniony wniosek.
Dlatego halucynacje można zmniejszać, ale obecnie nie należy uważać problemu za całkowicie rozwiązany.
Jak rozpoznać możliwą halucynację
Najważniejsza zasada — nie traktować pewnego tonu AI jako dowodu prawdziwości.
Szczególnie warto sprawdzać konkretne daty, statystyki, cytaty, tytuły badań, odniesienia i inne informacje, gdzie nawet mały błąd może znacząco zmienić treść odpowiedzi.
Podejrzanym sygnałem może być także niezwykle dokładna odpowiedź na bardzo wąskie pytanie. Jeśli model wymienia stronę mało znanej książki, dosłowny cytat lub numer dokumentu, lepiej otworzyć pierwotne źródło i upewnić się, że te dane naprawdę istnieją.
Można poprosić AI o podanie źródła, jednak samo w sobie to nie gwarantuje wiarygodności: model może wymyślić nie tylko fakt, ale i źródło, które rzekomo go potwierdza.
Najlepiej sprawdzić dokument, publikację naukową lub oficjalną stronę bezpośrednio lub użyć systemu, który pokazuje źródła, na których opiera się odpowiedź.
Czy halucynacje oznaczają, że AI nie można ufać
Halucynacje nie czynią generatywnej AI bezużyteczną. Raczej pokazują, dlaczego ważne jest zrozumienie granic takich systemów.
Jeśli trzeba wymyślić warianty tytułu, zorganizować tekst, wyjaśnić pojęcia prostymi słowami czy wygenerować pomysły, AI może znacznie przyspieszyć pracę. Inna sytuacja ma miejsce, gdy jego odpowiedź jest używana jako źródło dokładnych faktów.
AI lepiej postrzegać nie jako bezbłędną encyklopedię, ale jako narzędzie do pracy z informacjami. Może szybko wyjaśniać, porównywać, uogólniać i pomagać w znajdowaniu powiązań, ale ważne stwierdzenia wciąż warto weryfikować.
Dlatego fraza „AI może się mylić” — to nie formalne ostrzeżenie, a ważny zrzeczenie. Modele generatywne nauczyły się niezwykle dobrze tworzyć wiarygodne odpowiedzi, ale wiarygodność i prawdziwość — to nie zawsze to samo.
