Kanadyjski polityk odczytał w parlamencie instrukcję dla LLM zamiast przemówienia
Bill Oliver, poseł do Zgromadzenia Ustawodawczego Nowego Brunszwiku, odczytał w trakcie przemówienia sejmowego fragment będący najwyraźniej instrukcją zwrotną od modelu językowego - dosłownie na głos, przed kamerami.
👁 114 przeczytań
Bill Oliver, członek Partii Postępowo-Konserwatywnej zasiadający w Zgromadzeniu Ustawodawczym Nowego Brunszwiku, w trakcie oficjalnego przemówienia odczytał na głos zdanie, które wygląda jak fragment odpowiedzi modelu językowego - nie fragment samej mowy.
Oliver omawiał ryzyko związane z tworzeniem urzędów rzeczniczych, gdy nagle wypowiedział słowa: „oto bardziej naturalna, płynna wersja tej sekcji, napisana jak przemówienie legislacyjne, a nie seria krótkich punktów”. To klasyczna formuła, której LLM używa, gdy proponuje użytkownikowi alternatywne ujęcie tekstu. Innymi słowy - ktoś (zapewne przygotowujący przemówienie lub sam polityk) poprosił model o przerobienie szkicu i nieświadomie skopiował do wygłaszanego tekstu meta-komentarz modelu razem z właściwą treścią.
Nagranie przeszło przez salę obrad bez większego echa, ale kilka tygodni później zaczęło krążyć na Reddicie i Threads. Sprawą zajęły się CBC i Toronto Star, który skomentował incydent jako przejaw „rosnącego podziału w społeczeństwie: między elitami chętnie delegującymi obowiązki do maszyn a masami, które uznają to za naganne”.
Oliver nie jest pierwszym politykiem, który wygłasza mowę napisaną przez kogoś innego - ani zapewne pierwszym, który korzystał z LLM przy jej tworzeniu. Wyjątkowy jest tu brak świadomości w czasie rzeczywistym: człowiek odczytał na żywo instrukcję narzędzia, którym się posłużył.
Prawnicy, dziennikarze, autorzy i akademicy już wcześniej doświadczali podobnych wpadek - zwykle gdy ktoś wyłapał halucynacje modelu w tekście podpisanym ludzkim nazwiskiem. Jak wynika z badania Duke University, pracownicy celowo ukrywają korzystanie z AI, bo otoczenie odbiera to jako lenistwo lub sygnał zastępowalności - co czyni tę wpadkę szczególnie kosztowną wizerunkowo.
Trudno o lepszy dowód na to, że pośpiech przy korzystaniu z AI bywa droższy niż samo napisanie akapitu od zera.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
