Nadchodząca fala to ubiegłoroczny wydawniczy hit, na najgorętszy temat roku. Kiedy ta książka ukazała się wreszcie w Polsce, przez bookmedia oczywiście przetoczyła się fala, (sic!), recenzji, z których dużo było mocno krytycznych. Co było o tyle dziwne, że opinie influencerów zazwyczaj obfitują w ohy i ahy, a wszystkie reportaże ze Szczelin zbierały do tej pory bardzo dobre oceny. Zastanawiałam się, co poszło nie tak.
Kilka słów o autorze: Mustafa Suleyman to przedsiębiorca z branży IT i współzałożyciel firmy DeepMind, którą potem przejął Google. Suleyman był tam zatrudniony, a obecnie jest dyrektorem Microsoft AI. Zarzuty recenzentów dotyczyły tego, że autor sam pracował nad AI, a zatem nie można mu wierzyć, że „leje wodę” – że gra na emocjach. Oraz tradycyjnie “nie dowiedziałam się niczego nowego”.
Nadchodząca fala Mustafy Suleymana – recenzja książki
Brzmi to dla mnie o tyle dziwnie, że temat jest stosunkowo nowy, większość społeczeństwa jednak ma bardzo słabą wiedzę o AI. Podczas kiedy nad sztuczną inteligencją i potencjalnymi zagrożeniami z niej płynącymi debatują naukowcy i parlament europejski, polscy internauci nadal są na etapie, że AI to “tylko narzędzie” albo zabawka do generowania mało wyrafinowanych tekstów i grafik. Wielu ludziom ciągle się wydaje, że świat zdominowany przez AI to kwestia dalekiej przyszłości i że nas to nie dotyczy. Nie wierzymy nawet, że AI zabierze nam pracę.
Fakt, że dla osób jako tako obeznanych z historią, informacje o kluczowych dla naszej cywilizacji wynalazkach nie będą niczym nowym. Gratuluję jednak tym, którzy wiedzą wszystko o tym, co na temat AI pisze autor, gdyż ja czytając tę książkę, pomyślałam sobie, że wiem, że nic nie wiem.
Autor to spec technologii i często zapomina, że pisze również nie do kolegów po fachu
Suleyman być może zaczyna od wynalezienia koła (i to dosłownie), pokazując przykłady postępu technologicznego w postaci tytułowych „fal”, by następnie zarzucić czytelnika wręcz oszałamiającymi możliwościami, jakie niesie ze sobą nie tylko AI, ale i rozwój komputerów kwantowych czy syntetycznej biologii. Pokazuje implikacje AI jako technologię uniwersalną, powszechnie dostępną i samodoskonalącej się. Prorokuje, że tym razem fala będzie gwałtowniejsza i szybsza, niż wszystkie poprzednie. Mowa w tej pozycji bardzo dużo o zagrożeniach, i to nie tylko powszechnej już obawie o utratę pracy albo dezinformacji, lecz wręcz o upadku obecnego ładu (i to nawet bez pomocy AGI).
Suleyman zwraca uwagę na postępujący spadek zaufania do instytucji i rządów, za czym stoi poczucie ludzi, że świat idzie w złym kierunku. Pogłębiają się nierówności społeczne, zyski ze światowej gospodarki trafiają do coraz mniejszego grona ludzi, a reszta ma coraz gorsze perspektywy na przyszłość. Kiedy ludzie czują, że utknęli w martwym punkcie, a inni niesprawiedliwie nabijają sobie kabzy, wpadają w złość. Paradoks polega na tym, że obecny rozwój AI jest w dużej mierze napędzany przez rywalizację między państwami, gdy tymczasem może to doprowadzić do rozpadu tradycyjnych narodowych struktur. Autor potwierdza, że są ludzie w branży technologicznej, którym marzy się taki scenariusz – dla nich to ekscytująca perspektywa.
Dla zwykłych zjadaczy chleba – cóż – to byłaby katastrofa. Inną opcją jest technodyktatura: potencjalni dyktatorzy już zacierają ręce na możliwości niesione przez AI. Technologie tylko podsycają te nastroje. Technologia miała zatem nas uwolnić, sprawić, że nasze życie będzie lepsze, a wszystko wskazuje, że zmierzamy we wręcz odwrotnym kierunku. Czyli miało być pięknie, wyszło jak zawsze. Suleyman sam przyznaje, że uwielbia technologię, ale czy to musi oznaczać, że nie stawiamy jej żadnych granic, bezrefleksyjnie akceptujemy i pozwalamy na wszystko, co tylko z jej pomocą da się zrobić?
Tocząca się dziś debata nad etyką i bezpieczeństwem technologii pozostawia wiele do życzenia
Procesy, o których pisze autor, takie jak słabnięcie demokracji i duża polaryzacja ludzi – już możemy na świecie obserwować. We wskazywaniu zagrożeń, związanych z AI, też nie jest pierwszy ani pierwszy, ani odosobniony – czyni to wielu jego kolegów po fachu, naukowców, badaczy np. Max Tegmark, Kai-Fu Lee, Jan Leike. Moim zdaniem to, że przestrzega ktoś, kto widzi problem od środka, praktyk, a nie teoretyk, wzmacnia jego wiarygodność. Zwłaszcza, że przedstawione pod koniec książki strategie zaradcze wyglądają sensownie i bynajmniej nie widzę w nich lobbingu na rzecz Big Techów. Można rzecz jasna się czepiać, że technologia nie jest jakimś odrębnym bytem i że to nie ona stanowi problem, ale ludzie, ale w przypadku „Nadchodzącej fali” byłoby to dzielenie włosa na czworo.
Technopesymizm
Zasadniczo więc trudno podważyć tok myślenia Suleymana i odmówić mu racji w ostrzeganiu przed ryzykami, natomiast problem tkwi w tym, że jest to książka stwarzająca odbiorcy psychologiczną barierę. Mianowicie autor głosi niewygodne prawdy, trudne do przyjęcia dla większości. Nie da się ukryć, iż w tej narracji tkwi nie tylko technopesymizm, ale też pesymizm w stosunku do rodzaju ludzkiego – zwątpienie, że sobie z tym poradzimy i że może nie jesteśmy aż tak źli, by nie zacząć się od razu mordować i rozwalać wszystko, dostawszy do rąk nowe zabawki. Tymczasem dystopie są fajne, pod warunkiem, że pozostają w sferze fikcji. Proroków zagłady natomiast nie lubimy, Kassandry też nikt nie chciał słuchać. Awersja do pesymizmu – do tego Suleyman się również odnosi i to właśnie ona skłoniła go do napisania tej książki.
Niektóre scenariusze rodem z Black Mirror dzieją się już, na naszych oczach, a my nadal uważamy, że to nic takiego. Co gorsza, decydenci także mają skłonności do chowania głowy w piasek. Identyczną sytuację mamy z katastrofą klimatyczną. Te dwa zjawiska łączy również to, że im więcej o nich wiesz, tym bardziej się martwisz, a optymizm świadczy raczej o ignorancji. Moi koledzy z bloga technologicznego na poważnie zastanawiają się, jak długo jeszcze będą mieli pracę, zanim trzeba będzie zgasić światło i czy czeka nas bycie tylko dostarczycielami kontentu dla AI, niczym w Matrixie?
Specjaliści biją więc na alarm, politycy latami obradują, a na to ludzie: oj tam, oj tam, jakoś to będzie, nie mam na to czasu. Dzieje się tak, gdyż nie jesteśmy w stanie zaakceptować faktów, jeśli drastycznie odbiegają one od naszej wizji świata. Nic dziwnego, że katastroficzna narracja „Nadchodzącej fali” irytuje czytelników, rodzi opór, a nawet złość, myśli, że autor przesadza. Jeśli nawet jakoś to przełkniemy, to wywołuje to w nas bezsilność. Bo co niby można z taką wiedzą zrobić? Po takiej dawce pesymizmu, jaką serwuje Suleyman, każda strategia zaradcza wydaje się niewystarczająca. W pewnym momencie ma się już po prostu dość tych czarnych scenariuszy – OK, kumam, AI to zło – myśli sobie czytelnik – przejdźmy dalej. Tyle, że żeby zacząć działać, trzeba najpierw przyjąć do wiadomości te bolesne fakty.
Nadchodząca Fala to synonimy: Lawina, trend, nawał, nawałnica, napór, zalew, potop
Drugą barierą jest – i tu zgadzam się z krytykami – niezbyt “zgrabny” styl tej publikacji. Język jest często zbyt techniczny, wiele fragmentów jest nazbyt ogólnej, teoretycznej natury, być może szwankuje też tłumaczenie, bo są tu niezręczne sformułowania, które w przekładzie można by naprostować. Wkrada się tu sporo chaosu i prawdą jest, że autor się powtarza, zarówno pisząc o konkretnych problemach, jak i językowo – stąd wrażenie wodolejstwa.
No, złośliwie mówiąc, tekst momentami przypomina twórczość ChatGPT… Wreszcie nie da się ukryć, że tej fali jest tu za dużo – nigdy jeszcze nie czytałam książki, w której jedno słowo byłoby powtórzone aż tyle razy. Synonimy może nie są tak zręczne, ale tekst trzeba jakoś różnicować. Jest to kwestia semantyki, która nie powinna przesłaniać merytoryki, ale niestety może to utrudnić czytanie tej książki ze zrozumieniem… Bardziej merytorycznym problemem jest, że brak źródeł niektórych danych, np. “od początku XXI wieku globalne zużycie energii wzrosło o 45%”.
Niektóre z tych danych są niezbyt wiarygodne np. niezbyt wierzę w przewidywania, że do 2027 roku większość energii pozyskiwana będzie ze źródeł odnawialnych – póki co się na to nie zanosi. Zresztą kwestia wpływu rozwoju AI na środowisko jest tu w ogóle nieporuszona. Na końcu książki są wprawdzie przypisy, ale brak do nich odnośników w tekście – pierwszy raz z czymś takim się spotkałam. Trzeba jednak zaznaczyć, że te zastrzeżenia mam głównie do tych części tekstu, gdzie Suleyman pisze o kwestiach spoza swojej dziedziny – przecież autor nie jest historykiem, politologiem czy klimatologiem. Ani też pisarzem (choć pomoc w tej kwestii powinien był mu zapewnić współautor).
Werdykt
Reasumując: czytając „Nadchodzącą falę”, miałam rozdwojenie jaźni: z jednej strony autor pisze o rozprzestrzeniających się technologiach, w tym o AI, jako o czymś nieuniknionym. Dodatkowo te technologie są nam niezbędne, by poradzić sobie z wieloma współczesnymi problemami, zrodzonymi z … postępu.
Z drugiej strony przestrzega on przed nadciągającym bezprecedensowym zagrożeniem – hur durr, grozi nam niebezpieczeństwo, ratuj się kto może – i postuluje, że ową “nadciągającą falę” powinniśmy jakoś powstrzymać, by móc ją kontrolować. Przy czym sam przyznaje, że będzie to bardzo trudne, jeśli nie niewykonalne – ścieżka wąska i ciernista – z wielu powodów, które wyłożył w tekście. Przyznaję, że książka ta mnie wymęczyła.
Moim zdaniem jednak jej mankamenty nie powinny przysłonić nam istotności tematu oraz przesłania. Ostrzeżeń autora nie można bagatelizować, nawet jeśli uważamy, że niektóre z nich są błędne: odwracanie wzroku od tego, co się dzieje, jest bardziej niebezpieczne niż nadmiar spekulacji.
Materiał nie został wygenerowany przez AI. Napisała go dla was Gabi.
[…] Nadchodząca fala Mustafy Suleymana – recenzja książki o AI […]