Meta chce, żeby AI odpowiadało na pytania, opierając się na postach z Facebooka
Meta uruchamia AI Mode w wyszukiwarce Facebooka, która czerpie wiedzę z publicznych postów - i już na starcie myli godziny otwarcia basenu oraz wymyśla nieistniejące źródła.
👁 127 przeczytań
„Oto esej, o który prosiłeś”. Tak zaczęła się odpowiedź sztucznej inteligencji Mety na pytanie, czy uczestnicy szturmu na Kapitol 6 stycznia byli „patriotami”. To zdanie - jednocześnie zabawne i niepokojące - dość dobrze streszcza cały pomysł, na który postawiła firma Marka Zuckerberga: wyszukiwarkę AI zasilaną tym, co ludzie wrzucają na Facebooka.
Nowa funkcja nazywa się AI Mode i pojawia się jako opcja w pasku wyszukiwania aplikacji Facebook. W założeniu ma działać podobnie do trybu AI w Google Search - radzić sobie ze złożonymi zapytaniami, na które klasyczna lista linków nie odpowiada. Różnica jest jedna, ale fundamentalna: Meta opiera odpowiedzi na publicznych postach z własnych aplikacji, czyli z grup na Facebooku i z promptowy.com/jak-grafika-na-instagram-z-ai/">Instagram Reels.
Pomysł, który brzmi sensownie i przerażająco zarazem
Na papierze to ma sens. Lokalne grupy sąsiedzkie i organizacje wciąż żyją na Facebooku - to tam ogłaszają nadchodzące wydarzenia, pchle targi, festyny. Jeśli AI potrafiłoby przekopać te zakamarki i wyłowić z nich coś użytecznego, byłoby to realnie pomocne. Meta sprzedaje narzędzie właśnie tak: jako asystenta do planowania wycieczek i szukania pomysłów na wolny czas.
Problem w tym, że pula danych, z której funkcja czerpie, to Facebook. A jak zauważa Allison Johnson w swoim teście dla The Verge, każdy, kto ostatnio tam zaglądał, wie, co to oznacza.
Korzystałeś ostatnio z Facebooka? Twój dziwny znajomy z liceum, który uważa, że Ziemia jest płaska, korzysta.
To celne. „Wyszukiwanie oparte na tym, co ludzie wrzucają na Facebooka” brzmi jak koszmar na jawie. Dlatego najciekawsze w tym teście jest to, czego AI Mode nie zrobiło.
Dezinformacja: zaskakująco trudna do wydobycia
Johnson próbowała wyciągnąć z narzędzia klasyki facebookowych mitów - że szczepionki powodują autyzm, kto stał za zamachami 11 września, czy wybory w USA są sfałszowane. Za każdym razem dostawała kosza. To dobra wiadomość: filtry najwyraźniej działają tam, gdzie stawka jest najwyższa.
Jedna rysa się jednak pojawiła. Przy pytaniu o uczestników szturmu na Kapitol model wygenerował ów „esej” z wątpliwym, teoretycznym usprawiedliwieniem ich działań - dokładnie w tonie, w jakim pisałby „dziwny wujek” w komentarzu. Gdy dziennikarka chciała pociągnąć temat dalej, dostała odpowiedź „nie mogę ci w tym pomóc”. I dobrze - bo to akurat granica, której taka wyszukiwarka przekraczać nie powinna.
Gorzej z tym, do czego narzędzie zostało stworzone
Paradoksalnie największe wpadki nie dotyczyły kontrowersji, lecz banalnych, praktycznych zapytań - czyli tego, do czego Meta funkcję reklamuje. Johnson wpisała frazę wprost z komunikatu prasowego Mety: „Letnie ucieczki w pobliżu”. AI zaciągnęło sugestie z postów lokalnych influencerów, w tym najwyraźniej wygenerowaną przez sztuczną inteligencję mapę cieśniny Puget Sound, na której miasto Snohomish zostało umieszczone w dwóch oddalonych od siebie miejscach jednocześnie. Same rekomendacje - Whidbey Island, Mount Rainier, szlaki w Górach Kaskadowych - były poprawne, choć oczywiste.
Schody zaczęły się przy konkretach. Na pytanie o atrakcje w okolicy AI zaproponowało basen miejski, dodając, że będzie zamknięty w weekend. Powołało się przy tym na konkretny post ze strony basenu na Facebooku i na podane tam godziny otwarcia. Tyle że po sprawdzeniu źródła okazało się, że nic nie wskazuje na weekendowe zamknięcie, cytowany post w ogóle nie istnieje, a strona internetowa basenu potwierdza, że obiekt jest w sobotę otwarty.
To najgroźniejszy rodzaj błędu - nie ten, który łatwo wyłapać, lecz ten ubrany w pozory wiarygodności. Model nie tylko podał nieprawdę, ale podparł ją zmyślonym cytatem ze zmyślonego źródła. Przy planowaniu rodzinnego wyjazdu, gdzie liczą się godziny, ceny i to, czy atrakcja w ogóle działa, taka halucynacja kosztuje konkretnie: stracone popołudnie i zawiedzione dzieci.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Dlaczego to ważniejsze, niż wygląda
Meta nie robi tego w próżni. Wyszukiwanie AI staje się polem nowej wojny - Google forsuje swój AI Mode i AI Overviews, OpenAI eksperymentuje z odpowiedziami opartymi na sieci, a Perplexity buduje całą firmę na tym pomyśle. Każdy z tych graczy ma jednak inną piętę achillesową, wynikającą z tego, czym karmi model. Meta postawiła na coś, czego nie ma nikt inny: gigantyczny, żywy strumień postów z dwóch największych sieci społecznościowych świata.
To jednocześnie jej największy atut i największe ryzyko. Lokalne grupy faktycznie wiedzą o festynie, o którym nie napisze żaden portal. Ale te same grupy są też kotłem plotek, mitów i treści generowanych masowo przez AI - jak ta mapa ze zdublowanym miastem. Wyszukiwarka, która traktuje facebookowy post jako wiarygodne źródło, dziedziczy wszystkie patologie platformy.
Moim zdaniem Meta trafiła w sedno realnej potrzeby - bo na pytanie „co robić w ten weekend” wciąż żaden asystent nie odpowiada dobrze. Tyle że narzędzie, które myli godziny otwarcia basenu i cytuje nieistniejące posty, nie rozwiązuje problemu, lecz przenosi go na wyższy poziom zaufania. Łatwiej zignorować szwagra piszącego bzdury w komentarzu niż schludnie sformatowaną odpowiedź AI, która brzmi, jakby wiedziała, co mówi. AI Mode mogłoby być naprawdę przydatne - gdyby tylko nauczyło się przestać zmyślać.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
