Kunstmatige Collectieve Intuïtie?

We hebben al een tijdje niet geschreven over kunstmatige intelligentie. Dat is uiteraard niet omdat het ons niet interesseert: we zijn ervan overtuigd dat kunstmatige intelligentie (AI) in de komende decennia de manier waarop we samenleven, samenwerken en samen leren fundamenteel gaat veranderen.   

Dat is ook één van de redenen dat we ons het afgelopen jaar hebben geconcentreerd op hoe een gezond digitaal publiek domein eruit zou kunnen zien. Een robuuste digitale architectuur van vertrouwen is volgens ons essentieel om het ‘geactiveerde woord’ voor ons te laten werken i.p.v. tegen ons – of tegen de meesten van ons en voor een kleine elite.

Alan Turing noemde de digitale computer ooit een Universele Machine, omdat hij in theorie elke andere machine kan simuleren, en dus elke mogelijke beslissing en handeling kan emuleren, mits deze wiskundig kenbaar is. In een beroemde radiolezing op de BBC, op 15 mei 1951, zei Turing het volgende over de potentie van de digitale computer:

Dat wil overigens niet zeggen dat Turing dacht dat een computer daarom bewustzijn bezat. Hij meende dat de productie van gedachten iets anders was dan de ervaring van die gedachten, maar in zijn publicatie ‘computing machinery and intelligence’ schreef hij ook dat deze argumentatielijn volgens hem leidde tot een solipsistische positie, die hij onwerkbaar leek te vinden. Hij hield zich dus liever op de vlakte daarover.

Als Turing gelijk heeft wat betreft de universele potentie van digitale computers en als we in staat zijn deze theoretische belofte om te zetten naar praktische technologie, heeft dat zacht gezegd nogal wat consequenties. Voor alles.

Net zoals iedereen waren ook wij diep onder de indruk van de brute kracht van de vele nieuwe AI-tools voor tekst-, beeld- en videogeneratie, die vorig jaar het licht zagen. (Hier een handige lijst met AI-tools.) Maar omdat, voor zover wij weten, het onderliggende systeem van AI-tools zoals ChatGTP, Dall-E, Midjourney nog steeds is gebaseerd op machine learning, met alle bekende gebreken die daarbij horen, besloten we ons te blijven focussen op hoe een gezond digitaal publiek domein zou kunnen werken. We hebben, kortom, nog niet het idee dat met machine learning de belofte van de Universele Machine dichterbij is gekomen. Dat gezegd hadden we wel opeens een inzicht hoe we wellicht konden nadenken over AI-tools als ChatGTP, in vergelijking met intelligentie zoals we dat kennen van onszelf.

Deze week gaven we onze Bloom-scenarioworkshop voor een scholengroep in het oosten van het land. In de workshop nemen we deelnemers mee naar een toekomst waar technologie niet langer de logica van het huidige onderwijs volgt, maar het onderwijs de logica van de technologie. In de workshop pitchen we een AI-onderwijsplatform genaamd Bloom. (Hier kan je een onlineversie van de workshop volgen.)

Deze keer konden de deelnemers voor het eerst vragen stellen aan de Bloom-AI, een gepersonaliseerde versie van ChatGTP 3.5, die we opdracht hadden gegeven om zich voor te doen als een speculatief AI-onderwijsplatform. Het resultaat was ontluisterend en indrukwekkend. Wat je de Bloom-AI ook vroeg, hij gaf een foutloos en onderbouwd antwoord. Opeens voel je letterlijk de toekomst (wat eigenlijk dus al ons heden is) terugpraten. De ChatGTP/Bloom-AI praatte je overigens wel naar de mond, zoals machine learning AI’s dat plegen te doen.

In de auto op weg naar Apeldoorn, waar de scenarioworkshop plaatsvond, hadden we een gesprek over de aard van onze intelligentie en de manier waarop we een ChatGTP hiermee zouden kunnen vergelijken. Misschien zijn de huidige generatie AI-tools wel vergelijkbaar met menselijke intuïtie.

Zoals al heel vaak is opgemerkt, genereert een AI als ChatGTP een antwoord op jouw vraag door gebruik te maken van de collectieve menselijke kennis die op het internet beschikbaar is. Het is immers getraind door het internet af te grazen. Het antwoord dat je krijgt is niet onderbouwd met bronnen. Ook zit er af en toe een ‘fout’ in waaruit meteen duidelijk is dat het systeem zich niet bewust is van de betekenis van wat het allemaal uitkraamt. Het genereert slechts met slim bedachte algoritmes en brute rekenkracht het meest waarschijnlijke (of meest gewenste) antwoord.

Dit is eigenlijk niet anders dan hoe onze intuïtie werkt. We weten natuurlijk niet hoe jullie je eigen intuïtie of intelligentie ervaren, maar bij ons komen de meeste ideeën gewoon opeens bovendrijven. Plotseling (poef!) ben je je bewust van een mogelijke correlatie of een mogelijk causaal verband dat je eerder nog niet zag. We schrijven ‘mogelijk’, omdat je niet echt weet of dit zo is, je hebt alleen een intuïtie, een plotseling vermoeden, dat dit zo is. Pas daarna moet je het logisch onderbouwen.

Je brein, afgestemd en getraind op je fascinaties en de gesprekken en informatie die je tot je neemt, produceert informatie die je daarna moet verifiëren. Het snijdt immers niet altijd hout. Dat is wat wij intuïtie noemen: vooralsnog ongeverifieerde kennis die plotseling 💡 uit het onbewuste (je grijze rekenkamer) het bewuste in wordt geschoten, waar het betekenis krijgt en vervolgens moet worden onderbouwd.

Bij ChatGTP gaat het eigenlijk niet anders. Het geeft op een betekenisloze manier informatie, zonder bijgevoegde bronnen. Net als bij je intuïtie weet je niet waarop de informatie is gebaseerd. Dat moet je later uitvogelen. De antwoorden die ChatGTP geeft zijn alleen niet afgestemd op jouw individuele fascinaties en geheugen, maar op onze collectieve fascinaties en ons collectieve archief. En net als bij onze intuïtie moeten we vervolgens aan het werk om het idee te verifiëren.

Net zoals je intuïtie bevooroordeeld is op wat je brein denkt dat jij graag wilt horen, is ChatGTP ook bevooroordeeld op wat het internet denkt dat jij graag wil horen. En zoals we allemaal weten wordt op het internet niet iedereen evenredig gerepresenteerd. Net als bij je intuïtie is enige terughoudendheid en voorzichtigheid dus op zijn plaats.

Een verschil met de menselijke intuïtie is dat onze intuïtie ongevraagd (of in ieder geval niet expliciet gevraagd) de kop op steekt, terwijl een tool als ChatGTP op expliciete vragen kennis deelt. Dit is een belangrijk verschil, want de expliciete vraagstelling kadert het antwoord van de generatieve AI in. Er zit een barrière tussen jouw gedachten en gevoelens en de rekenkracht van ChatGTP, waardoor je de antwoorden krijgt die je wil, niet de antwoorden die je nodig hebt. (Om Coldplay maar even te parafraseren.)

Uiteraard zijn we ons ervan bewust dat we de vergelijking van ChatGTP en andere AI-tools met de menselijke intuïtie nog niet voldoende hebben onderbouwd. Het blijft dus even bij een slecht onderbouwde intuïtie, zoals je wel vaker hebt al pratend in de auto. Maar we wilden deze gedachte toch even met jullie delen.

Dat gezegd zijn we uiteraard niet de enigen die onze ideeën over machine learning de wereld in gooien. Sinds de publicatie van ChatGTP zien we een stortvloed aan artikelen voorbijkomen. Dat zal er niet minder op worden nu ChatGTP-4 is uitgekomen.

Deze week daarom een kleine bloemlezing aan online artikelen die wij de afgelopen weken de moeite waard vonden.

Tekens van de Turingtijd*

🔮

Kunnen machines denken? Of, wat is het eigenlijk dat kunstmatige intelligenties zoals ChatGTP doen en wat zegt dat over het menselijke denken, menselijke creativiteit, moraliteit en waarheidsvinding?

Noam Chomsky: The False Promise of ChatGPT (New York Times) 🧠 Noam Chomsky, de beroemde taalkundige, filosoof en mediacriticus, ziet in ChatGPT geen grote belofte. Vooralsnog brengt AI ons nog niks wat op intelligentie lijkt. ChatGPT en vergelijkbare modellen zijn simpelweg opgevoerde versies van autocomplete. Het zijn statistische modellen gebouwd op correlaties, met geen enkel benul van causaliteit, moraliteit en creativiteit.

You Are Not A Parrot (Elizabeth Weil, New York Magazine) 🦜 Een diepgravende longread over Emily M. Bender, een computer linguist die tegen de stroom van de AI-hype inzwemt. Zij stelt dat het grote gevaar van machines die gedachteloos tekst of intelligentie produceren, is dat we als mensen nog niet hebben geleerd dat er achter een tekst of intelligentie geen geest, intentie of bewustzijn hoeft te zitten. En dat als we dat wel zouden aanleren, kan dit het herkennen van menselijkheid in onszelf en anderen ondermijnen. Ze vraagt zich af waarom AI toch zo op ons moet lijken, en wat dat zegt over zijn makers.

ChatGPT Is a Blurry JPEG of the Web (Ted Chaing, New Yorker) 🗜️ Door compressie kan je een plaatje of video een stuk kleiner maken zonder dat er veel kwaliteit verloren lijkt te gaan. Sciencefictionschrijver Ted Chaing legt helder uit dat we ChatGPT misschien wel het beste kunnen begrijpen als een gecomprimeerde versie van het internet. Indrukwekkend, maar waar is het nou uiteindelijk goed voor?

The Stupidity of AI (James Bridle, The Guardian) 💩 Hoe worden indrukwekkende AI’s zoals ChatGPT en Dall-E eigenlijk gemaakt? James Bridle geeft ons een glimp van wat er in de machine-learning-worstenfabriek eigenlijk gebeurt (it ain’t pretty) en vraagt zich af hoe we AI’s zouden kunnen maken die meer in lijn zijn met wat we als mensheid waardevol vinden.

Volgens het kabinet ontwricht desinformatie de samenleving. Volgens de wetenschap valt dat reuze mee (Maurits Martijn, De Correspondent) 🤥 Er zijn veel zorgen om desinformatie en de rol die het zou hebben in het polariseren en ontwrichten van de samenleving. Het kabinet neemt deze zorg dan ook heel serieus. Maar verschillende onderzoeken laten volgens Maurits Martijn zien dat het wel meevalt met hoe ontwrichtend desinformatie daadwerkelijk is.

Los van de vragen over wat de aard van kunstmatige en niet-kunstmatige intelligentie nu eigenlijk is, belooft de impact van AI enorm te zijn, en de eerste tekenen hiervan zijn al zichtbaar. Het bureaucratische model en het professionele  werkethos zullen door AI heftig onder druk komen te staan.

This Changes Everything (Ezra Klein, New York Times) 🌪 Hoewel kunstmatige intelligentie geen bewustzijn heeft, niet denkt zoals wij, niet echt creatief is en geen moreel besef heeft, wil dat nog niet zeggen dat de impact ervan desondanks niet enorm zal zijn. Velen in de techwereld zien de razendsnelle opkomst van AI als een monumentale verandering, vergelijkbaar met de ontdekking van elektriciteit of het vuur. Volgens Ezra Klein moeten we ons snel gaan verhouden tot de ‘weirdness’ van AI, want vertrouwen op onze ‘normale’ verwachtingen van hoe de toekomst eruit ziet zou weleens verraderlijk kunnen zijn.  

Sneeuw (Anja Sicking, Tirade) 📚 De eerste manuscripten geschreven door ChatGPT vallen inmiddels bij uitgevers op de deurmat. Sciencefictionuitgeverij Clarkesworld moest zelfs z’n inbox sluiten om de lawine aan door AI gegenereerde manuscripten te stoppen, zo vertelt Anja Sicking op het Tirade-blog.

How AI could write our laws (MIT Technology Review) ⚖️ Wat als kunstmatige intelligentie wetten kan schrijven en wat als lobbyisten deze inzetten? Dit scenario van de ‘AI microlegislator’ zit er aan te komen volgens twee onderzoekers. De AI kan het, en het pushen van minuscule wetswijzingen om zo belangen van partijen in de wet te krijgen wordt in de VS al in praktijk gebracht. Hier valt alleen iets aan te doen door radicale openheid en transparantie te geven van hoe wetten gemaakt worden. 

Automation drives income inequality (MIT Technology Review) 📈 Een recent gepubliceerd onderzoek van Daren Acemoğlu laat zien dat automatisering substantieel heeft bijgedragen aan de groeiende ongelijkheid in de Amerikaanse samenleving. Het zorgde voor een daling in lonen voor ongeschoolden, terwijl bedrijven en theoretisch opgeleiden er juist op vooruit gingen.

---

Fijn weekend, liefs
Christiaan en Edwin ❤️