Włosi biorą się za halucynacje AI. Firmy muszą ostrzegać, że model może zmyślać

Włoski urząd antymonopolowy zamknął postępowania wobec trzech firm rozwijających usługi sztucznej inteligencji: chińskiego DeepSeek, francuskiego Mistral AI oraz tureckiej spółki Scaleup, stojącej za usługą NOVA AI. Powód postępowań był konkretny: ryzyko halucynacji, czyli sytuacji, w której model generatywny podaje informacje błędne, zmyślone albo wprowadzające w błąd.

Sprawa zakończyła się nie karą, ale zobowiązaniami firm. Mają one lepiej informować użytkowników, że odpowiedzi modeli nie zawsze są prawdziwe.

To drobna decyzja tylko z pozoru.

Co firmy muszą zmienić

Według informacji podanych przez włoski urząd AGCM, firmy zobowiązały się do zwiększenia przejrzystości na stronach internetowych, w regulaminach i bezpośrednio w interfejsach chatbotów. Chodzi o to, by użytkownik nie musiał szukać ostrzeżenia w gąszczu dokumentów, ale widział je tam, gdzie faktycznie korzysta z narzędzia.

W praktyce oznacza to trzy rzeczy:

• wyraźniejsze komunikaty o tym, że model może generować nieprawdziwe treści,
• lepsze informacje w warunkach korzystania z usług,
• większą odpowiedzialność za sposób prezentowania możliwości generatywnej AI.

DeepSeek zobowiązał się dodatkowo do inwestowania w rozwiązania ograniczające halucynacje. Jednocześnie przyznał coś, co w tej branży bywa ukrywane pod marketingową warstwą: obecna technologia nie pozwala całkowicie wyeliminować tego problemu.

Dlaczego Włochy zaczynają od ostrzeżeń

To nie jest pierwsza sytuacja, w której włoscy regulatorzy interesują się sztuczną inteligencją. Włochy od dawna należą do najbardziej aktywnych państw europejskich w sprawach dotyczących prywatności, danych i ochrony konsumenta. Tym razem chodzi jednak o inny wymiar ryzyka.

Halucynacje AI nie są problemem wyłącznie technicznym. Dla użytkownika mogą oznaczać błędną poradę prawną, fałszywą informację medyczną, nieprawdziwą datę, nieistniejące źródło, wymyślony przepis albo zmyślone nazwisko. Jeżeli model brzmi pewnie, użytkownik łatwo może uznać odpowiedź za sprawdzoną.

Tu właśnie pojawia się regulator.

AGCM nie mówi firmom: wasze modele muszą być nieomylne. To byłoby nierealne. Mówi raczej: nie wolno sprzedawać narzędzia tak, jakby było bardziej pewne, niż naprawdę jest.

Problem dla całej branży

Decyzja z Włoch może stać się małym precedensem. Jeśli halucynacje zostaną uznane za problem konsumencki, a nie tylko ograniczenie technologiczne, firmy AI będą musiały inaczej projektować interfejsy. Nie wystarczy dopisać ogólnego zdania w regulaminie. Trzeba będzie pokazać użytkownikowi ryzyko w momencie korzystania z narzędzia.

Dla firm to niewygodne, bo uderza w najważniejszy element sprzedaży: wrażenie pewności. Chatbot, który przy każdej ważniejszej odpowiedzi przypomina, że może się mylić, wygląda mniej magicznie. Ale jest uczciwszy.

To szczególnie ważne, gdy modele trafiają do szkół, firm, urzędów i codziennych decyzji. Im powszechniejsze staje się AI, tym mniej miejsca zostaje na wymówkę, że użytkownik „powinien wiedzieć”. Większość użytkowników nie zna architektury modeli. Widzi płynną odpowiedź i często zakłada, że płynność oznacza wiarygodność.

Co to zmienia dla użytkownika

Dla zwykłego użytkownika najważniejsza jest nie sama nazwa regulatora, ale moment, w którym pojawia się ostrzeżenie. Jeśli komunikat o możliwych błędach znajduje się dopiero w regulaminie, praktycznie nie istnieje. Jeżeli pojawia się przy odpowiedzi modelu, zwłaszcza w sprawach wrażliwych, zaczyna działać.

To ważne przy poradach prawnych, zdrowotnych, finansowych i szkolnych. Użytkownik może korzystać z AI do szybkiego rozeznania, ale nie powinien mylić płynnego języka z pewnością. Model może napisać zdanie idealną polszczyzną i jednocześnie podać fałszywy fakt.

Właśnie dlatego sprawa włoska jest ciekawsza, niż wygląda. Regulator nie mówi ludziom: nie używajcie AI. Mówi firmom: nie budujcie interfejsu tak, żeby ryzyko było ukryte za zachwytem.

Mały krok, duży sygnał

Ta decyzja nie zatrzyma halucynacji. Może jednak zmienić sposób, w jaki firmy będą o nich mówić. Do tej pory wiele komunikatów marketingowych skupiało się na tym, co modele potrafią. Teraz coraz ważniejsze będzie to, czego nie potrafią i gdzie mogą się pomylić.

To zdrowe przesunięcie.

Komentarz

Włosi nie rozwiązali problemu halucynacji. Nikt jeszcze tego nie zrobił.

Ale nazwali problem właściwym językiem. Jeśli model może zmyślać, użytkownik ma prawo wiedzieć o tym jasno, zanim potraktuje odpowiedź jak fakt. To nie zabija sztucznej inteligencji. To odbiera jej tylko część fałszywej aury nieomylności.

I bardzo dobrze.