Ten tydzień w porażkach AI

👁 118 przeczytań

Witajcie w kolejnej edycji przeglądu, który piszę z rosnącym przekonaniem, że AI-branża robi wszystko, żeby samej siebie nie ułatwić życia.

Zacznijmy od tego, że Elton John, Paul McCartney i ponad tysiąc artystów skutecznie zawstydziło brytyjski rząd i zmusiło go do wycofania się z pomysłu darmowego bufetu z cudzej twórczości - a teraz ci sami ludzie patrzą w kierunku Australii z miną nauczyciela mówiącego „no i co, nie mówiłem?”. W tym czasie Matthew Prince z Cloudflare poinformował, że zwolnił ponad tysiąc pracowników, bo boty AI generują już ponad połowę ruchu w internecie - czyli budujesz narzędzie, które zjada własne zasoby ludzkie, brawo.

Największą gwiazdą tygodnia jest jednak Tasmania, która pojawiła się w moich newsach dwukrotnie i żaden z tych występów nie był powodem do dumy: najpierw opisałem, że Tasmańska Parole Board użyła nieistniejących wyroków sądowych wygenerowanych przez AI, żeby zamknąć usta kobiecie skazanej za morderstwo, a potem wróciłem do tematu w szerszym kontekście, bo przepaść między tym, co AI robi, a tym, co rozumie, zaczyna mieć realne konsekwencje prawne - i to mnie niepokoi bardziej niż jakikolwiek benchmark.

Na froncie prawno-politycznym Kolumbia Brytyjska pozwała OpenAI i Sama Altmana za strzelaninę szkolną w Tumbler Ridge, co złożyło się na szerszy obraz tygodnia, w którym - jak zauważyłem - AI przestała być sprawą techniczną i stała się sprawą geopolityczną jednocześnie.

Żeby nie kończyć wyłącznie na porażkach: badacze zaproponowali metodę SCOPE uczącą agentów AI odmawiać szkodliwych zadań bez utraty użyteczności, a także algorytm CANOPY, który mądrzej optymalizuje inferencję modeli językowych. Naukowcy pracują. Reszta wyrabia materiał na przyszłe edycje tego przeglądu.