Niet ik, maar Roman Yampolskiy schudde mij wakker.

Op 4 juni 2024 verscheen bij Business Insider een artikel met een titel die je moeilijk achteloos naast je koffie kunt leggen: Why this AI researcher thinks there’s a 99.9% chance AI wipes us out.

Roman Yampolskiy, hoogleraar computerwetenschappen aan de University of Louisville en onderzoeker op het vlak van AI-veiligheid, schat de kans dat AI binnen honderd jaar tot het uitsterven van de mens leidt op 99,9 procent. Dat is geen wetenschappelijke meting met een decimaal dat ergens uit een laboratorium is gerold. Het is zijn persoonlijke risicoschatting. Andere AI-onderzoekers zitten veel lager. Een bevraging van ruim 2.700 AI-onderzoekers kwam bijvoorbeeld uit op een veel lagere inschatting.

Maar precies daarom vond ik de uitspraak interessant. Niet omdat 99,9 procent noodzakelijkerwijs juist is. Wel omdat iemand die zich professioneel met AI-veiligheid bezighoudt ons verplicht om de vraag te stellen:

Wat als we iets bouwen dat we uiteindelijk niet meer kunnen controleren?

En toen kreeg ik een vreemde déjà vu. Want de dag voordien stond ik gewoon in mijn klas. Ik speelde met mijn leerlingen van zestien een kinderlijk eenvoudig spelletje van Code.org: vis of geen vis. Een computer krijgt beelden voorgeschoteld en leert patronen herkennen. Uiteindelijk kan het systeem op basis van die patronen bepalen welke objecten het in een beeld ziet.

Dat is voor mij de essentie van AI in een notendop.

Geen magie. Geen kunstmatig brein dat plots wakker wordt, maar

Patroonherkenning.

Maar terwijl ik daar aan het bord stond, kreeg ik plots een ongemakkelijk gevoel. Want datzelfde principe wordt natuurlijk niet alleen gebruikt om afval in de zee te herkennen. Een algoritme kan patronen herkennen in foto’s, teksten, stemmen, gedrag, gezichten, verkeersstromen, financiële transacties en gigantische hoeveelheden menselijke communicatie. En vervolgens kan het met die patronen iets gaan doen.

Daar begint het interessant te worden. En misschien ook gevaarlijk.

Ik had enkele dagen eerder op mijn eigen tijdlijn al beelden gezien van een robot die tijdens een militaire oefening samen met mensen werd ingezet. China demonstreerde in 2024 tijdens een oefening met Cambodja inderdaad robottechnologie die duidelijk richting het slagveld keek.

Ik hoef daar geen sciencefictionverhaal van te maken. Het ongemakkelijke zit juist in de banaliteit ervan. Eerst leert een machine patronen herkennen.Dan leert ze voorspellen. Dan leert ze handelen. En ergens onderweg verschuift de vraag van:

“Wat kan een computer herkennen?”

naar:

“Wat laten wij een computer beslissen?”

Dat is voor mij de echte sprong!

Ik moest ook terugdenken aan WarGames, de film uit 1983 waarin een jongen via een computer bijna een nucleaire oorlog ontketent omdat het systeem het verschil tussen een spel en werkelijkheid niet begrijpt.

Sciencefiction? Misschien.

Maar het interessante aan WarGames was nooit dat computers plots kwaadaardig zouden worden.

Het was dat een systeem zijn eigen logica kon volgen terwijl de mens dacht dat hij nog altijd de controle had.

En precies daar wordt het verhaal van Yampolskiy interessant.Zijn boek heet niet toevallig AI: Unexplainable, Unpredictable, Uncontrollable. Onverklaarbaar. Onvoorspelbaar. Oncontroleerbaar.

Dat zijn drie woorden waar een informaticus eigenlijk behoorlijk ongemakkelijk van zou moeten worden.

Want wij zijn gewend technologie te bouwen als gereedschap.

Een hamer doet wat je ermee doet. Een rekenmachine rekent uit wat je invoert. Een computerprogramma volgt, althans in principe, de logica die een programmeur erin heeft gestopt. Maar moderne AI-systemen werken anders.

Ze worden getraind op patronen die wij zelf niet volledig kunnen overzien. En hoe complexer de systemen worden, hoe moeilijker het wordt om precies te verklaren waarom een systeem tot een bepaalde uitkomst komt. Yampolskiy waarschuwt daar al langer voor. In zijn onderzoek stelt hij bijvoorbeeld dat het bij systemen die slimmer zijn dan mensen fundamenteel moeilijk kan worden om hun specifieke acties betrouwbaar te voorspellen, zelfs wanneer we hun doelstellingen kennen.

En daar zit voor mij de echte zevende plaag.

Niet:

AI wordt slimmer dan de mens.

Maar:

De mens wordt afhankelijk van systemen die hij niet meer volledig begrijpt.

Dat is een veel minder spectaculaire zin. En misschien daarom juist een veel gevaarlijkere.

Want ondertussen geven we die systemen steeds meer toegang tot ons leven. We voeren onze foto’s in. Onze stemmen. Onze teksten. Onze voorkeuren. Onze zoekopdrachten. Onze gesprekken. Onze gezichten. Onze gedragingen.

We voeren ze vrijwillig met informatie die vroeger verspreid zat over miljoenen menselijke levens. En vervolgens zijn we verbaasd dat die systemen patronen beginnen te zien die wij zelf niet zien. Misschien moeten we ons dus niet alleen afvragen wat AI over ons weet.

Maar vooral:

wat kan een systeem met al die kennis over ons gaan doen?

En wie bepaalt dat?

Daar moest ik opnieuw denken aan Yuval Noah Harari en een fragment dat hij tijdens Love Tomorrow liet zien.

Vanaf het moment waarop AI niet langer alleen informatie verwerkt, maar informatie kan produceren, verspreiden en sturen, verandert er iets fundamenteels.

Dat is volgens mij “the rub”.

Niet dat machines slimmer worden. Maar dat informatie, de grondstof waarmee mensen hun werkelijkheid bouwen, steeds meer door machines kan worden gegenereerd en gemanipuleerd. Dan wordt AI geen gewone technologie meer.

Dan wordt het een systeemlaag boven op onze samenleving.

En dát is waarom ik AI in De Tiende Plaag als de zevende plaag heb opgenomen. Niet omdat ik geloof dat een robot morgen aan de deur staat. Maar omdat we misschien bezig zijn een systeem te bouwen dat steeds meer van onze menselijke beslissingen overneemt. Eerst omdat het gemakkelijker is. Dan omdat het efficiënter is. Daarna omdat het goedkoper is. En uiteindelijk omdat we zelf niet meer weten hoe we het zonder moeten.

Dat is een feedbacklus waar ik veel meer wakker van lig dan van een robot die plots kwaadaardig wordt.

Hoe meer we AI vertrouwen, hoe meer macht we eraan geven.
Hoe meer macht we eraan geven, hoe afhankelijker we worden.
Hoe afhankelijker we worden, hoe moeilijker het wordt om nog terug te schakelen.

En misschien is dat wel de echte zevende plaag: Niet de dag waarop AI besluit dat de mens moet verdwijnen.

Maar de veel banalere dag waarop de mens ontdekt dat hij niet meer zonder AI kan beslissen.

Dus nee, Roman.

Ik weet niet of jouw 99,9 procent klopt.

Niemand weet dat.

Maar ik weet wel dat 0,1 procent risico op een onomkeerbare ramp geen geruststellende gedachte is.

En ik weet ook iets anders.

De grootste fout zou kunnen zijn dat we wachten tot AI gevaarlijk genoeg wordt om ons zorgen te maken.

Want tegen dan kan het systeem misschien al zo diep verweven zijn met onze samenleving dat “de stekker eruit trekken” geen realistische optie meer is.

De zevende plaag is daarom niet noodzakelijk de kunstmatige intelligentie zelf.

Het is onze bereidheid om intelligentie uit te besteden voordat we hebben nagedacht over wat we daardoor zelf verliezen.

En misschien is dát de vraag die we onze leerlingen vandaag moeten leren stellen.

Niet:

“Wat kan AI?”

Maar:

“Wat mogen wij ooit aan AI overlaten?”