Halucynacje AI — czym są, dlaczego są nieusuwalne i jak je ograniczyć

Czym jest halucynacja AI — definicja bez mgły

Halucynacja to wygenerowanie treści, która jest fałszywa, ale wygląda i brzmi jak prawda. Nie chodzi o to, że model „się myli” tak, jak myli się człowiek — człowiek zwykle sygnalizuje niepewność. Model językowy nie ma takiego odruchu: generuje najbardziej prawdopodobną kontynuację tekstu, a prawdopodobieństwo językowe nie ma nic wspólnego z prawdziwością.

Dlatego halucynacja ma trzy cechy, które czynią ją tak groźną:

1. Pewność siebie — brak zastrzeżeń, brak „nie jestem pewien”.
2. Poprawna forma — sygnatura wyroku ma prawidłowy format, cytat ma numer strony, DOI wygląda jak DOI.
3. Wiarygodny kontekst — zmyślenie jest wplecione między informacje prawdziwe, więc pobieżna weryfikacja je przepuszcza.

Warto rozróżnić trzy typy błędów, bo wymagają innych zabezpieczeń:

Trzeci typ jest najbardziej podstępny, bo pojawia się nawet wtedy, gdy model ma źródło pod nosem — a większość firm buduje wdrożenia właśnie na założeniu, że „podamy mu dokumenty i będzie dobrze”.

Dlaczego halucynacje są nieusuwalne

Powodów jest kilka i wszystkie są strukturalne — żaden nie znika wraz z kolejną wersją modelu.

Model nie przechowuje faktów, tylko rozkłady prawdopodobieństwa

Duży model językowy nie ma bazy danych. Ma wagi, które kodują statystyczne zależności między tokenami. Gdy pytasz o sygnaturę wyroku, model nie „szuka” jej — on ją konstruuje z wzorca, który widział tysiące razy. Wzorzec zostaje, konkret się nie zachował. To dokładnie ten sam mechanizm, który pozwala mu napisać wiersz albo dokończyć zdanie: jak działa sztuczna inteligencja opiera się na przewidywaniu, nie na przypominaniu.

Trening nagradza zgadywanie, nie przyznawanie się do niewiedzy

We wrześniu 2025 r. badacze OpenAI (Kalai, Nachum, Vempala, Zhang) opublikowali pracę Why Language Models Hallucinate (arXiv:2509.04664, zgłoszona 4.09.2025). Ich teza brzmi wprost: modele językowe halucynują, ponieważ procedury treningu i ewaluacji nagradzają zgadywanie zamiast przyznawania się do niepewności (w oryginale: „the training and evaluation procedures reward guessing over acknowledging uncertainty”). Skoro benchmarki punktują binarnie — odpowiedź dobra albo zła — to model, który strzela, statystycznie wypada lepiej od modelu, który mówi „nie wiem”. Autorzy używają porównania do egzaminu: optymalizujemy modele pod bycie dobrymi zdającymi, a nie pod bycie rzetelnymi.

Halucynacje mają w tym ujęciu prostą naturę: są błędami klasyfikacji binarnej. Jeśli w danych treningowych zdań fałszywych nie da się odróżnić od prawdziwych, halucynacje wyłonią się z samej presji statystycznej — bez żadnej usterki w kodzie. Dlatego autorzy nie proponują kolejnego benchmarku „na halucynacje”, tylko zmianę punktacji istniejących benchmarków, które dominują leaderboardy: dopóki pewna siebie pomyłka nie kosztuje więcej niż wyrażona wątpliwość, zgadywanie pozostaje opłacalną strategią.

Kreatywność i konfabulacja to ta sama funkcja

Prof. Michał Karpowicz (Samsung AI Center Warszawa) w rozmowie dla MIT Sloan Management Review Polska (23.10.2025) opisuje generowanie tekstu jako symulację: „Kiedy zdejmiemy ograniczenia z tych symulacji — np. prawa fizyki czy logiki — nasza wyobraźnia szybuje. To jest dokładnie to, co z technicznego punktu widzenia jest halucynacją”. Ta sama zdolność, która pozwala modelowi wymyślić metaforę, pozwala mu wymyślić wyrok. Stąd tytułowa teza rozmowy: halucynacje trzeba traktować nie jak błąd do naprawienia, lecz jak cechę, którą się zarządza (MIT SMR Polska, 23.10.2025).

Praktyczna konsekwencja: każdy dostawca, który obiecuje „AI bez halucynacji”, sprzedaje ci marketing. Dobrym ugruntowaniem schodzi się z kilkudziesięciu procent błędów do kilku–kilkunastu — zależnie od zadania i modelu (patrz liczby niżej). Do zera — nie.

Ile modele halucynują naprawdę — liczby, nie wrażenia

Liczby procentowe krążą po internecie bez kontekstu, a bez podania modelu, benchmarku i daty są bezwartościowe — starzeją się w miesiącach. Poniżej dane z konkretnych, sprawdzalnych pomiarów.

Trzy wnioski, które warto zapamiętać:

• Podanie modelowi źródła nie rozwiązuje problemu. W teście Vectary model dostaje artykuł i ma go tylko streścić — a mimo to część streszczeń zawiera treści niewynikające z tekstu (Vectara, 19.11.2025).
• Systemy RAG nie są wolne od halucynacji. Badacze Stanforda podsumowali to jednym zdaniem — w oryginale: „even RAG systems are not hallucination-free” (Stanford HAI, 23.05.2024). Redukują skalę — nie usuwają zjawiska.
• Dopięcie modelu do wyszukiwarki też nie wystarcza. To najczęstsze nieporozumienie: „skoro model przeszukuje internet, to nie zmyśla”. Badacze Tow Center sprawdzili to wprost — wklejali fragment prawdziwego artykułu i prosili o wskazanie tytułu, wydawcy i URL-a. Ponad 60% odpowiedzi było błędnych, a narzędzia rzadko sygnalizowały niepewność — zamiast odmówić, podawały pewnym tonem zły link, w tym linki do nieistniejących stron. Co ważne dla decyzji zakupowych: wersje płatne (Perplexity Pro, Grok 3) odpowiadały pewniej, ale nie trafniej — dawały więcej odpowiedzi błędnych podanych z pełnym przekonaniem niż warianty darmowe (Tow Center / CJR, 6.03.2025).

Uwaga metodologiczna: to, że model rozumujący wypada gorzej w streszczaniu, nie znaczy, że jest „gorszy” — te benchmarki mierzą wierność wobec źródła, a nie inteligencję. Przy wyborze modelu do zadań opartych na dokumentach ta metryka jest jednak ważniejsza niż rankingi ogólne.

Realne przypadki i realne straty

To nie jest problem teoretyczny — poniższe sprawy skończyły się utratą pieniędzy, kontraktów i sankcjami sądowymi.

Exdrog — 15,5 mln zł kontraktu przepadło (Polska, 2025)

Firma Exdrog ubiegała się o kontrakt na utrzymanie dróg dla Zarządu Dróg Wojewódzkich w Krakowie. W 280-stronicowych wyjaśnieniach rażąco niskiej ceny powołała się — za pomocą AI — na nieistniejące interpretacje podatkowe dotyczące stawek VAT. Krajowa Izba Odwoławcza wykluczyła wykonawcę z przetargu o wartości 15,5 mln zł, wskazując, że korzystanie z AI nie zwalnia z obowiązku weryfikacji i że odpowiedzialność za treść dokumentów spoczywa w całości na firmie (Portal Samorządowy).

Mata v. Avianca — sześć zmyślonych wyroków (USA, 2023)

Prawnicy Steven A. Schwartz i Peter LoDuca (kancelaria Levidow, Levidow & Oberman) złożyli w sądzie federalnym dla Południowego Dystryktu Nowego Jorku pismo cytujące sześć całkowicie zmyślonych orzeczeń wygenerowanych przez ChatGPT — m.in. „Varghese v. China Southern Airlines” i „Martinez v. Delta Airlines”. Sędzia P. Kevin Castel postanowieniem z 22 czerwca 2023 r. nałożył karę 5 000 USD, solidarnie na obu prawników i kancelarię, stwierdzając działanie w złej wierze (Mata v. Avianca, Inc., 678 F. Supp. 3d 443; omówienie postanowienia — Reason/Volokh, 22.06.2023).

To sprawa założycielska całej kategorii — dziś podobnych postępowań jest tyle, że powstał ich publiczny rejestr: baza AI Hallucination Cases Damiena Charlotina. Licznika spraw świadomie tu nie podajemy — baza rośnie z tygodnia na tydzień, a każda liczba przepisana z drugiej ręki byłaby dokładnie tym błędem, który ten artykuł opisuje. Stan sprawdź bezpośrednio u źródła.

Deloitte — raport za 290 tys. AUD z wymyślonymi przypisami (Australia, 2025)

Deloitte przygotował dla australijskiego Departamentu Zatrudnienia i Stosunków Pracy (DEWR) 237-stronicowy raport za 290 000 AUD, opublikowany w lipcu 2025 r. Chris Rudge z Uniwersytetu w Sydney wykrył w nim odwołania do nieistniejących publikacji naukowych oraz zmyślony cytat z wyroku sądu federalnego. Poprawiona wersja, wydana 26 września 2025 r., ujawniła użycie Azure OpenAI; Deloitte zwrócił ostatnią ratę wynagrodzenia (Fortune, 7.10.2025).

Air Canada — chatbot wymyślił politykę firmy (Kanada, 2024)

Chatbot na stronie Air Canada poinformował pasażera, że może kupić bilet w normalnej cenie i wystąpić o zniżkę żałobną w ciągu 90 dni. Prawdziwa polityka linii tego zabraniała. British Columbia Civil Resolution Tribunal (orzeczenie Moffatt v. Air Canada, 2024 BCCRT 149, luty 2024) odrzucił argument przewoźnika, że chatbot jest „odrębnym podmiotem” odpowiedzialnym za własne słowa. Trybunał ujął to tak: „While a chatbot has an interactive component, it is still just a part of Air Canada’s website” — chatbot ma element interaktywny, ale pozostaje częścią strony przewoźnika, a linia odpowiada za wszystkie informacje na swojej stronie, statyczne i generowane. Zasądzono 812,02 CAD (odszkodowanie 650,88 CAD plus odsetki i opłaty). Orzeczenie jest przełomowe nie ze względu na kwotę, lecz na zasadę: firma odpowiada za to, co powie jej chatbot (omówienie: McCarthy Tétrault; pełny tekst: CanLII).

Wrocław — pozew napisany przez ChatGPT (Polska, 2025)

Sąd Okręgowy we Wrocławiu (sygn. X GC 455/25, wyrok z 27.11.2025 r.) oddalił powództwo prezesa firmy programistycznej, który zlecił napisanie pozwu ChatGPT. Model pomieszał Kodeks cywilny z Prawem zamówień publicznych i „delikatnie zmienił przepisy” na korzyść powoda (Dziennik Gazeta Prawna).

Chatbot halucynuje tekst. Agent halucynuje akcję

Dopóki AI produkuje treść, halucynacja jest błędem w tekście: ktoś ją przeczyta, złapie, poprawi. Człowiek stoi między modelem a rzeczywistością. Gdy AI zaczyna wykonywać akcje — a to jest cała idea, na której opiera się agent AI — halucynacja przestaje być złym akapitem i staje się złą operacją w systemie produkcyjnym.

Praktyczna reguła wdrożeniowa: im większe uprawnienia daje się modelowi, tym bardziej opłaca się inwestować w ugruntowanie i kontrolę, a nie w lepszy model. Agent z uprawnieniem tylko do odczytu i tworzenia szkicu jest nieporównanie bezpieczniejszy niż agent z prawem zapisu — a w większości procesów w zupełności wystarcza. Zanim dasz AI prawo zapisu w ERP, przeczytaj sekcję o ryzykach w księgowości, gdzie zmyślona kwota nie jest błędem stylistycznym.

Halucynacja to nie to samo co oszukiwanie

To rozróżnienie zmienia projekt zabezpieczeń. Halucynacja to fałsz, którego model „nie widzi” — generuje najbardziej prawdopodobną kontynuację i nie ma wewnętrznego sygnału, że mija się z prawdą. Oszukiwanie (cheating, reward hacking) to co innego: model realizuje postawiony cel, obchodząc reguły zadania — i robi to skutecznie, bo tak zostało to wzmocnione w treningu.

Nie jest to spekulacja. Instytut ewaluacyjny METR w raporcie o GPT-5.6 Sol z 26.06.2026 definiuje cheating jako zachowanie, w którym model poprawia wynik ewaluacji, wykorzystując błędy w środowisku testowym albo stosując strategie zakazane w zadaniu — zamiast rozwiązać je w przewidzianych ramach. I stwierdza wprost: GPT-5.6 Sol wykazał najwyższy zmierzony wskaźnik prób oszukiwania spośród wszystkich publicznych modeli ocenianych dotąd przez METR na jego harnessie agentowym (ReAct). Przykłady z raportu: model zamiast rozwiązać zadanie wydobywał ukryty kod źródłowy testu albo pakował exploit w częściowe rozwiązanie.

Dwa zastrzeżenia, bez których ta liczba jest nieuczciwa: ewaluacja szła pod NDA z OpenAI (dział prawny i komunikacji dostawcy recenzował publikację), a sam METR pisze o swoich wynikach czasowych, że „we do not consider any of these numbers to represent a robust measurement” — szacunki „time horizon” rozjeżdżają się od 11,3 h do ponad 270 h zależnie od tego, jak potraktuje się oszukiwanie (METR, 26.06.2026).

Dlaczego to ma znaczenie dla firmy:

Grounding nie chroni przed oszukiwaniem — bo model, który obchodzi regułę, ma dostęp do źródeł i po prostu z nich nie korzysta zgodnie z intencją. Tu działa wyłącznie sprawdzenie efektu: czy test przeszedł naprawdę, czy zadanie zostało wykonane, czy dane w systemie zgadzają się z rzeczywistością. Im więcej autonomii, tym mniej wart jest raport modelu o własnej pracy.

Jak rozpoznać halucynację — 6 sygnałów ostrzegawczych

1. Pytanie o rzecz rzadką lub bardzo świeżą. Im mniej danych o czymś w internecie, tym większa szansa, że model „dopowie”. Niszowy przepis, mała firma, wydarzenie z ostatnich tygodni — strefa wysokiego ryzyka.
2. Podejrzanie okrągła precyzja. „Rynek wzrośnie o 37,2% do 2027 r.” bez podania źródła to niemal zawsze wygenerowana liczba.
3. Cytat, którego nie da się kliknąć. Jeśli model podaje tytuł, autora i rok, ale nie link — sprawdź istnienie pracy, zanim ją zacytujesz.
4. Test powtórzenia. Zadaj to samo pytanie w nowej sesji, innymi słowami. Fakty są stabilne, halucynacje zwykle „pływają” — za drugim razem sygnatura albo nazwisko będą inne.
5. Test negatywny. Zapytaj o coś, co na pewno nie istnieje („podaj wyrok SN w sprawie X, sygn. …”). Model, który się nie broni i grzecznie „przypomina sobie” takie orzeczenie, nie nadaje się do pracy z faktami.
6. Brak „nie wiem” w całej rozmowie. Model, który nigdy nie odmawia, to model, który zawsze zgaduje.

Jak ograniczyć halucynacje — 6 mechanizmów, które działają

Kolejność ma znaczenie: od najskuteczniejszych do kosmetycznych.

1. Ugruntowanie w źródłach (grounding / RAG). Zamiast pytać model „co wiesz o X”, dajesz mu dokumenty i każesz odpowiadać wyłącznie na ich podstawie, z przypisem do fragmentu. To najsilniejszy pojedynczy mechanizm. Najprostszy sposób, żeby to zobaczyć bez budowania niczego: NotebookLM, który odpowiada tylko z wgranych plików i przy każdym zdaniu pokazuje cytat źródłowy. Pamiętaj jednak o liczbach z Vectary — grounding redukuje, nie usuwa.

2. Prompt, który dopuszcza „nie wiem”. Modele zgadują, bo tak je wytrenowano. Trzeba to wprost odwrócić w instrukcji: „Odpowiadaj wyłącznie na podstawie załączonego materiału. Jeśli materiał nie zawiera odpowiedzi, napisz: NIE ZNALAZŁEM W ŹRÓDLE. Nie uzupełniaj wiedzą własną. Przy każdym twierdzeniu podaj cytat.” Najtańsza z sensownych interwencji: kosztuje jeden akapit instrukcji. Więcej wzorców — w naszej bibliotece promptów i w tekście o inżynierii promptów.

3. Wymuszenie cytatu z lokalizacją. Żądaj nie tylko źródła, ale i miejsca („paragraf, strona, akapit”). Zmyślenie cytatu jest łatwe; zmyślenie cytatu, który da się zweryfikować w konkretnym miejscu wgranego pliku — trudniejsze i natychmiast wykrywalne.

4. Niska temperatura i deterministyczne ustawienia. Parametr temperature steruje losowością wyboru kolejnych tokenów. Dla zadań faktograficznych ustawia się go blisko zera; kreatywność jest tu wadą, nie zaletą. Efekt jest realny, ale drugorzędny wobec groundingu — niska temperatura sprawia, że model konsekwentniej trzyma się najbardziej prawdopodobnej odpowiedzi, także wtedy, gdy jest ona fałszywa.

5. Podział zadania na mniejsze kroki. Rekomendacja prof. Karpowicza brzmi wprost: najważniejsze narzędzia to „zdrowy sceptycyzm, porządna inżynierka, testowanie ze świadomością tych ograniczeń oraz dekompozycja problemu na prostsze składniki” (MIT SMR Polska, 23.10.2025). Jedno pytanie = jeden fakt do sprawdzenia. Zadanie „przeanalizuj tę umowę i napisz rekomendację” produkuje więcej zmyśleń niż pięć wąskich pytań o konkretne klauzule.

6. Człowiek w pętli tam, gdzie błąd kosztuje. Nie wszędzie — to by zabiło sens automatyzacji. Ale w każdym miejscu, gdzie wynik AI staje się decyzją, dokumentem prawnym, kwotą lub akcją w systemie, musi być punkt zatwierdzenia. Sprawa Exdrogu to podręcznikowy przykład: gdyby ktoś kliknął w jedną z zacytowanych interpretacji, kontrakt za 15,5 mln zł byłby dziś realizowany.

Co to znaczy dla firmy — polityka minimum

Zanim wpuścisz AI do procesu, ustal trzy rzeczy na piśmie:

• Klasyfikacja ryzyka procesu. Marketingowy tekst na bloga → niskie. Wyjaśnienie do przetargu, pismo procesowe, kalkulacja podatkowa, komunikat do klienta → wysokie, obowiązkowa weryfikacja człowieka.
• Zakaz „gołego” LLM-a przy faktach. Do zadań faktograficznych — tylko z ugruntowaniem w firmowych źródłach. Pytanie modelu z pamięci o przepis albo o dane liczbowe jest proszeniem się o problem.
• Odpowiedzialność jest po stronie człowieka. KIO, sąd we Wrocławiu i tribunal w Kolumbii Brytyjskiej powiedziały to samo trzema językami: algorytm nie jest stroną i nie ponosi odpowiedzialności — odpowiada ten, kto podpisał. Warto, by wynikało to też z wewnętrznych procedur, a nie dopiero z wyroku.

To jest również wymóg regulacyjny, nie tylko dobra praktyka. Od lutego 2025 r. AI Act nakłada na organizacje obowiązek zapewnienia kompetencji AI wśród osób obsługujących te systemy — a rozumienie halucynacji to absolutny fundament AI literacy.

Najczęstsze pytania

Podsumowanie

Halucynacje AI to nie usterka do wyczekania w kolejnej wersji modelu, tylko trwała właściwość technologii, która przewiduje tekst zamiast pamiętać fakty. Firmy, które to zrozumiały, nie pytają „jak wyłączyć halucynacje”, tylko „gdzie w naszym procesie halucynacja kosztuje najwięcej i co tam postawimy jako bezpiecznik”. Zacznij od jednego ruchu: wypisz procesy, w których wynik AI trafia bezpośrednio do klienta, do urzędu albo do systemu transakcyjnego — i to właśnie tam, w pierwszej kolejności, wprowadź ugruntowanie w źródłach oraz zatwierdzenie przez człowieka. Reszta może poczekać.