Yoshua Bengio: ojciec chrzestny głębokiego uczenia, który ostrzega

👁 114 przeczytań

Yoshua Bengio to kanadyjski informatyk, jeden z trzech badaczy nazywanych ojcami chrzestnymi głębokiego uczenia, laureat Nagrody Turinga z 2018 roku razem z Geoffreyem Hintonem i Yannem LeCunem. Od kilku lat jest też najbardziej wpływowym z tej trójki głosem ostrzegającym przed ryzykiem, które sam pomógł stworzyć.

Co zrobił

Pracował nad sieciami neuronowymi wtedy, gdy uchodziły za ślepą uliczkę. Jego zespół rozwinął modele języka oparte na sieciach, mechanizmy uwagi i metody uczenia reprezentacji, z których wyrosły dzisiejsze duże modele. Kieruje instytutem Mila w Montrealu, jednym z największych ośrodków badań nad uczeniem głębokim, i należy do najczęściej cytowanych naukowców na świecie.

Zwrot w stronę bezpieczeństwa

Od 2023 roku Bengio konsekwentnie mówi, że tempo rozwoju modeli wyprzedziło naszą zdolność ich kontrolowania. Podpisywał apele o wstrzymanie największych treningów, przewodniczy międzynarodowym pracom nad raportem o bezpieczeństwie AI i argumentuje za obowiązkową oceną ryzyka przed wypuszczeniem modelu. W tym różni się od LeCuna, który uważa takie obawy za przesadzone; spór między nimi jest dziś jednym z ważniejszych w tej dziedzinie.

Dlaczego to ma znaczenie

Bo mówi to człowiek, który tę technologię współtworzył i nie ma interesu w straszeniu: nie prowadzi firmy sprzedającej modele ani zabezpieczeń do nich. Jego głos realnie waży w pracach regulacyjnych, także unijnych, opisanych w tekście AI Act dla firm. Pozostałe nazwiska z pierwszego szeregu zebrałem w hubie kto jest kim w AI.

Najczęstsze pytania

Za co Bengio dostał Nagrodę Turinga?

Za przełomowe prace nad głębokim uczeniem, wspólnie z Hintonem i LeCunem, w 2018 roku.

Czy Bengio pracuje dla którejś z firm AI?

Nie kieruje żadnym z dużych laboratoriów komercyjnych; pracuje naukowo w Mila i doradza instytucjom publicznym.