Waarschuwing, dit is (alweer) niet zo’n vrolijke post, al kan ik wel proberen er een positieve draai aan te geven. We hoeven ons namelijk niet meer zoveel zorgen te maken over de ineenstorting van de samenleving door vervuiling, extreem weer of verlies aan biodiversiteit. Want het zal toch nog enkele decennia duren voor we deze problemen een existentiele bedreiging vormen. Het goede nieuws is dat het evengoed al veel sneller kan bergafwaarts gaan door een nieuwe noodtoestand aan de horizon. AI.
Zoals de meesten mensen heb ik natuurlijk wel wat dingen zien passeren over de mogelijke baten en nadelen van deze wonderbaarlijke technologie. En natuurlijk ken ik de vele bedenkingen over het energie- en watergebruik, over de bedenkelijke werkomstandigheden van microworkers en over de soms racistische en vrouwonvriendelijke uitkomsten die uit de modellen rollen. Maar hier gaat het over risico’s van een ander niveau.
Mijn eerste reden van ongerustheid heeft te maken met dit boek van Lode Lauwaert. Hij is prof techniekfilosofie aan de KU Leuven, en bezet daar de ‘Chair Ethics and AI’. In zijn boek beschrijft hij in geuren en kleuren welke gevaren er verbonden zijn aan de bijzondere snelle ontwikkeling op gebied van AI.
Omwille van historische voorbeelden waar een onschuldige technologie dan toch weer erg schadelijk bleek te zijn. Omwille van de expotentiële groei van de mogelijkheden van de vele AI modellen. Omwille van de AI-wedloop tussen landen en bedrijven. Omwille van enkele recente gevallen waarbij AI erin geslaagd is om onderzoekers te misleiden. Omwille van het groeiende risico dat AI ingezet wordt bij grootschalige phising, oorlogsvoering, biomedische ontwikkelingen maar evengoed voor het blokeren van financiële systemen of energienetwerken. Omwille van de steeds grotere kans dat de technologie in handen komt van mensen met kwade bedoelingen. Om deze en nog een aantal andere redenen gaat Lauwaert ervan uit dat de kans op catastrofale gebeurtenissen met een enorme impact steeds groter wordt. Lauwaert pleit daarom voor internationale controle, een overheid die in staat is de ontwikkelingen te volgen en te reguleren en nog een aantal maatregelen, waarvan hij zelf ook zegt dat het niet vanzelfsprekend zal zijn om ze in te voeren.
In het boek besteed hij aandacht aan de toenemende concentratie macht. Het toeval (of het algoritme) wil dat ik na uitlezen van het boek op Linkedin meteen dit bericht van Rutger Bregman zie verschijnen. Ook daar komt het verhaal rond de machtsconcentratie aan bod. Zijn waarschuwing klinkt als volgt:
I honestly believe the next 5-10 years could be some of the wildest in human history. And the people who should be sounding the alarm (the journalists, the academics, the “In this House We Believe Science Is Real” crowd) are still deluding themselves that this is merely a slop-generating autocomplete machine.
Ik heb dus maar het bijhorende filmpje bekeken (je hebt er een half uurt voor nodig).
Je kan het afdoen als paniekzaaierij, maar ik ben toch eerder geneigd deze dreiging ernstig te nemen. (Het doet er me aan denken dat Stijn Bruers me een paar jaar geleden al eens influisterde dat hij meer schrik had van AI dan van klimaatverstoring.)
En lieve lezer, nu ik nog een extra mogelijke ramp naast de veke andere heb gelegd beloof ik in volgend bericht duidelijk te maken dat er echt manieren zijn om hiermee om te gaan!
Low Impact Man 