Popularyzacja nauki / Sztuczna inteligencja · piątek, 16 lutego 2024 · Popularyzacja nauki
Dusza w kablach i zero wiedzy: profesor Dragan tłumaczy, dlaczego TikTok rozumie człowieka
Profesor Andrzej Dragan w debacie na Katolickim Uniwersytecie Lubelskim odpalił fajerwerki popularnonaukowe. Ogłosił, że algorytmy rozumieją ludzką psychologię, a zarazem programiści kompletnie nie wiedzą, co wytrenowane sieci neuronowe właściwie robią. Prawda jest znacznie bardziej przyziemna: feed liczy kliknięcia, a badacze z powodzeniem prześwietlają wnętrza modeli.
Areopag Uniwersytetów na KUL (16 lutego 2024 r.)
Manipulacja faktograficzna
Człowiek nauczył się tworzyć sztuczną inteligencję, ale nie jest w stanie zrozumieć, jak ona działa. […] kompletnie nie rozumiemy, co właściwie robi wytrenowany algorytm. […] Algorytmy rozumieją psychologię człowieka i są w stanie podpowiadać nam interesujące nas treści.
Analiza redakcyjna
Werdykt
Do spacyfikowania
Profesor Andrzej Dragan to znakomity fizyk i porywający mówca, ale w tym wypadku po prostu popłynął na fali efektownej metafory. Algorytm TikToka czy YouTube’a nie ma zielonego pojęcia o ludzkiej psychologii. Nie wie, co to smutek, samotność czy radość — wie tylko, że użytkownicy o wektorze cech X po obejrzeniu wideo Y zatrzymują palec na ekranie przez 8 sekund dłużej. To czysta statystyka zachowań i optymalizacja funkcji celu, a nie «rozumienie człowieka». Co więcej, słówko «kompletnie» w kontekście działania SI to spore nadużycie: dziedzina zwana interpretowalnością mechanistyczną (mechanistic interpretability) radzi sobie coraz lepiej. Prace laboratorium Anthropic z 2023 roku pokazały, że potrafimy wyciągać z sieci konkretne neurony odpowiedzialne za pojęcia takie jak mosty, błędy gramatyczne czy motywy literackie. Wiemy dużo — po prostu modele są potwornie skomplikowane. Na plus trzeba profesorowi oddać, że sam stanowczo odciął się od tytułu Newsweeka, który dopisał mu bzdurę, że SI «samodzielnie myśli».
Strategia retoryczna wypowiedzi
- Bierze się matematyczną macierz wag i przypisuje jej «rozumienie psychiki», jakby sieć neuronowa przeszła psychoanalizę u Freuda.
- Z faktu, że sieci głębokie są trudne do bezpośredniej interpretacji, wyciąga się wniosek skrajny: że nie wiemy o nich «kompletnie nic».
- Autorytet fizyka kwantowego roztacza aurę tajemnicy nad inżynierią rekomendacji, która optymalizuje czas spędzony przed ekranem.
Konfrontacja z faktami
- 01
Przypisywanie maszynom świadomości i empatii (antropomorfizacja) to stary trik science fiction, który w debacie naukowej wprowadza tylko zamęt.
- 02
Systemy rekomendacyjne to wyspecjalizowane kalkulatory korelacji, a nie absolwenci wydziału psychologii.
- 03
Sformułowanie «kompletnie nie rozumiemy» unieważnia wysiłek tysięcy inżynierów i matematyków, którzy na co dzień debugują i mapują wagi sieci głębokich.
Zidentyfikowane błędy i chwyty erystyczne
Udokumentowane fakty
- Systemy rekomendacyjne bazują na analizie wektorowej i korelacji statystycznej, nie na modelu ludzkiego umysłu.
- Współczesne badania nad sieciami neuronowymi pozwalają na dekompozycję i analizę pojedynczych reprezentacji cech.
Źródła naukowe i dokumenty urzędowe
- Towards Monosemanticity: Decomposing Language Models With Dictionary Learning
Anthropic (Transformer Circuits) · 2023
Interpretowalność sieci to aktywna dziedzina badań. Nie jest prawdą, że o działaniu modeli „nie wiemy kompletnie nic”.
- Recommender systems: a tutorial
ACM RecSys · 2020
System rekomendacji przewiduje kliknięcia i oglądalność. Nie jest modelem psychiki człowieka.
Kontekst i intencja autora
Profesor Dragan słusznie bije na alarm: wypuszczanie w przestrzeń publiczną gigantycznych modeli, których emergentnych zachowań nie potrafimy z góry zagwarantować, niesie ze sobą ryzyka społeczne. Tyle że żeby o tych ryzykach mądrze rozmawiać, nie trzeba wmawiać ludziom, że feed Instagrama czyta w ich myślach.