Je hebt al een eigen test om te bepalen of een machine écht intelligent is. Misschien kun je die test niet precies onder woorden brengen, maar je weet het meteen als een machine hem haalt. Op dat moment beslis je stilletjes dat de test nooit de echte was. Dat is geen denkfout. Het is een van de meest menselijke eigenschappen die je hebt, en precies dát is de reden waarom kunstmatige algemene intelligentie (AGI) de eerste revolutie in de geschiedenis zou kunnen zijn die mensen negeren, terwijl ze er middenin staan.
Vorig jaar betoogden we al dat het echte obstakel voor AGI niet langer technisch, maar filosofisch was. Elke vooruitgang volgt hetzelfde kleine ritueel. Een machine doet iets waarvan we zeiden dat daar intelligentie voor nodig was, en binnen enkele weken wordt dat iets afgedankt. Schaken werd weggezet als brute rekenkracht, taal als statistiek, Go als optimalisatie en wetenschappelijke ontdekking als patroonherkenning. De programma’s werden steeds beter. Wat veranderde, was wij. De technologie was niet ineens iets anders geworden. We veranderden de definitie.
Laat je even stilstaan bij hoe vreemd dat is. In elke andere wetenschap bepaal je eerst wat je wilt vinden, voordat je begint met testen. Een chemicus verklaart een reactie niet als zinloos omdat deze precies uitkomt zoals voorspeld. Stel je een fysicus voor die aankondigt dat zwaartekracht ineens niet meer telt, nu de voorspelling uitgekomen is. Maar in de kunstmatige intelligentie hebben we de gewoonte ontwikkeld om een doel te definiëren, toe te kijken hoe een machine dat bereikt, en vervolgens met grote zelfverzekerdheid uit te leggen waarom dat doel eigenlijk nooit geteld heeft. Als we succes tegemoetkomen door de finishlijn te verplaatsen, meten we de machine niet langer. We beheren onze eigen ongemakkelijkheid.
En het is de moeite waard om te vragen wat dat ongemak nu eigenlijk is, want we waren nooit in de war toen machines onze lichamen overtroffen. Niemand voelde zich verkleind door een kraan, vernederd door een telescoop of bedreigd door een zakrekenmachine. We gaven die taken met dank over. De onrust begint pas wanneer een machine zich uitstrekt naar die ene capaciteit die we behandelden als bewijs dat wij speciaal waren. Het grootste deel van de menselijke geschiedenis was intelligentie het verhaal dat we vertelden over waarom wij bovenaan zaten. Een concurrent voor dat verhaal wordt niet ervaren als een technisch gebeuren. Het wordt ervaren als een verlies.
Het helpt niet dat niemand duidelijk kan zeggen wat er precies verloren gaat. Vraag het aan tien psychologen wat intelligentie is, en je krijgt tien antwoorden: redeneren, geheugen, creativiteit, plannen, gezond verstand, aanpassingsvermogen, zelfbewustzijn. We discussiëren er al meer dan een eeuw over zonder tot overeenstemming te komen. Neurowetenschappers kunnen nog steeds niet uitleggen hoe miljarden neuronen één bewustzijnervaring voortbrengen. We vragen machines om te voldoen aan een definitie die we zelf nooit hebben kunnen vaststellen, en behandelen hun falen om daaraan te voldoen dan ook nog eens als het doorslaggevende argument.
Menselijke intelligentie was immers nooit één ding. Het brein is geen enkele prachtige processor, maar een federatie van specialisten, waarbij taal, visie, geheugen en plannen verspreid zijn over netwerken die de mensen die ze bestuderen nog steeds in verwarring brengen. Moderne AI drijft naar een vergelijkbare vorm: gespecialiseerde modellen die met elkaar verbonden worden via geheugen, zoeken, plannen en verificatie. Het opmerkelijke is niet dat intelligentie ontstaat uit zo’n samenwerking. Het opmerkelijke is dat we erop blijven aandringen dat een kunstmatige geest op een totaal andere manier moet ontstaan voordat we bereid zijn het er een te noemen.
Kijk hoe het verlies ons oordeel vervormt, want die vervorming is opvallend consistent. Bedenk hoe vergevingsgezind we zijn naar elkaar toe. Mensen liegen elke dag. Politici knoeien met de waarheid, experts verdedigen standpunten die ze later zelf loslaten, getuigen herinneren zich gebeurtenissen die nooit plaatsvonden, eerlijke vrienden herinneren zich vorige week verkeerd. We slikken het allemaal door en trekken nooit de conclusie dat mensen niet te vertrouwen zijn. We zeggen gewoon: mensen zijn mensen. Dan produceert een taalmodel één vloeiend alinea die achteraf toch fout blijkt, en vragen we ons af of die hele technologie ooit vertrouwd kan worden.
We beoordelen elkaar aan de hand van de gemiddelde mens, en we beoordelen machines aan de hand van perfectie. Geen enkele levende persoon zou kunnen overleven onder de standaard die we nonchalant op software toepassen. Dezelfde reflex zit achter onze angst voor zelfrijdende auto’s. Menselijke bestuurders doden elk jaar meer dan een miljoen mensen, en toch blijven we rijden, omdat we stilletjes geaccepteerd hebben dat mensen moe zijn, afgeleid zijn en af en toe roekeloos zijn. Een enkele crash van een autonome auto kan echter een week lang het nieuws domineren, zelfs terwijl het bredere bewijsmateriaal steeds meer suggereert dat deze systemen het aantal ongevallen in veel gewone omstandigheden kunnen verminderen. Perfectie is stilletjes de entree geworden voor machines. Het is nooit van ons gevraagd.
Creativiteit is waar we ons terugtrekken als de andere verdedigingslinien bezwijken. Zeker, zeggen we tegen onszelf, een machine kan berekenen, maar het kan niet creëren. Het is een geruststellende overtuiging, en een kwetsbare ook. Shakespeare leende zijn verhaallijnen, Picasso leende zijn stijlen, en elke wetenschapper heeft gestaan op schouders die op nog andere schouders stonden. Creativiteit is altijd de kunst geweest om bestaande dingen op een nieuwe manier te combineren tot iets onverwachts waardevols. Als een machine iets doet dat daar duidelijk op lijkt, insisteerden we dat het niet telt, en ook hierbij onthult het bezwaar meer over wat we nodig hebben om te geloven, dan over wat de machine daadwerkelijk gedaan heeft.
Alan Turing zag deze valstrik drie kwart eeuw geleden. Hij stelde zijn test niet voor omdat imitatie een geest bewijst. Hij stelde het voor omdat we geen instrument hebben dat een geest direct meet, zelfs niet bij elkaar. Je concludeert dat de mensen om je heen bewustzijn hebben; je hebt het nooit geverifieerd. Je verleent ze die vriendelijkheid elke dag en denkt er niets over na, maar onthoudt die aan iets anders, uit principe. Ray Kurzweil merkte een gerelateerd patroon op. Wat je ook denkt van zijn exacte data, de mijlpalen die experts onmogelijk noemden, blijven vroeger aankomen, en het onmogelijke van gisteren heeft de gewoonte om het alledaagse gereedschap van dit jaar te worden.
Dus de eerlijke vraag is niet langer of machines veranderen. Dat debat is voorbij. De vraag is wat we gaan doen zodra de laatste grens overschreden is. Kijk waar de definitie van intelligentie naartoe drijft als er op gedrukt wordt. Het wordt bewustzijn, dan wijsheid, dan belichaaming, dan stervelijkheid, en uiteindelijk het bezit van een ziel. Elke nieuwe eis drijft een beetje verder weg van iets wat we zouden kunnen testen, en steeds verder het domein in van wat we gewoon willen geloven. Er is niets mis mee om de filosofie in te roepen. Maar we zouden ten minste moeten merken op welk moment we ophielden met wetenschap te bedrijven en begonnen met onszelf te verdedigen.
Misschien komt AGI nooit met een kop in de krant. Misschien is het net als elektriciteit of het internet: twijfel en minachting, tot de wereld zich stilletjes rond die technologie heeft herschikt. Latere generaties vragen zich af hoe we konden missen wat voor onze neus lag. De echte drempel is niet de dag waarop een machine ons slim af is. Het is de dag waarop het ontkennen meer moeite kost dan toegeven. Als je nu al de drang voelt om de lat net iets hoger te leggen terwijl je dit leest, blijf daar dan even bij stilstaan. Het kan het meest inzichtelijke bewijs in dit hele betoog zijn. Dat bewijs gaat niet over de machines. Het gaat over jou.
Verder lezen