Datagolems en Taalavatars

-

Hoi, Ed en Chris hier 👋🏾 Het hier en nu is een moment dat eeuwen beslaat. In de Atlas van het Lange Nu schrijven we daarom over historische onderstromen, maatschappelijke denkramen en inspirerende toekomstscenario’s

Vorige keer hebben we een kleine inventaris gemaakt van de angstige AI verbeeldingen in onze populaire cultuur. Verbeeldingen die ons nu vooral in de weg zitten met het op waarde kunnen schatten van wat nu werkelijk de aard van AI is en daarmee dus ook wat de daadwerkelijke kansen en bedreigingen zijn van deze technologie. 

Daarom denken we in deze editie na over hoe je naar AI zou kunnen kunnen kijken als je het in het lange nu plaatst. We denken namelijk vaak dat kunstmatige intelligentie, en virtual reality, intrinsiek digitale innovaties zijn. Maar wanneer we uitzoomen naar de schaal van eeuwen zo niet millennia, dan zien we dat ook het gesproken en het geschreven woord hun eigen vormen van superintelligentie hebben en hun eigen virtuele werelden creëerden die nog steeds onder ons zijn.

Bureaucratische Golems

De kunstmatige intelligentie van vandaag manifesteert zich als het product van statische taalmodellen van een gigantische omvang en zijn hermetische van aard. Maar het is niet de eerste keer dat er kunstmatige intelligente entiteiten boven komen drijven vanuit enorme hoeveelheden geïntegreerde informatie en kennis. De boekdrukkunst, de informatietechnologie die ons de moderniteit in katapulteerde, zorgde namelijk ook voor dergelijke entiteiten, die voor ons als 21st-eeuwers maar al te vertrouwd zij: grote multinationals en natiestaten. Bureaucratische golems als de emergente producten van een geletterd universum. Entiteiten die ons veel hebben gebracht, maar ook hun eigen wil lijken te hebben, en getemd moeten worden omdat ze anders ontsporen en onnoemelijke schade aanrichten.

David Runciman (hoogleraar politicologie aan de Universiteit van Cambridge) legde een paar jaar gelden in een podcast met Azeem Azhar uit dat grote corporates en staten eigenlijk een soort superintelligenties met een eigen wil zijn. Entiteiten met een eigen logica, doelen en wilskracht die diep zijn voorvloeien uit hun organisatie cultuur, financieringsconstructies, bureaucratische protocollen en wet en regelgeving. Deze superintelligenties kunnen grote voordelen hebben, maar ook grote schade aanrichten.

Goedgeluimde Golems

De bureaucratisch golems worden geanimeerd door geletterde professionals die leven in een wereld van tekstuele informatie zoals wetten, regels, protocollen, registers, contracten, geld, kaarten, grafieken, notulen, boekhoudingen en archieven. Het lichaam van een dergelijke golem is in theorie niet beperkt in haar grootte, ze kan duizenden, honderduizenden of zelfs miljoenen mensen groot zijn. Ze is echter wel beperkt in de snelheid van haar informatie verwerking, er zit nu eenmaal een plafond aan hoe snel de professional kan lezen en schrijven.

Het grote voordeel van deze deze kunstmatige wezens is dat ze veel meer complexiteit aan kunnen dan een groep mensen die uitsluitend toegang tot het gesproken woord hebben. Een collectief geletterde mensen in combinatie met al z’n paperassen, kan bergen verzetten en wonderen verrichten.

Denk aan de wonderen van de moderne natiestaat, zoals aan het aanleggen van een riolering, waterzuivering, elektriciteit en communicatiesinfratstructuur. Of aan het draaien van een welvaartsstaat waarin welvaart zo wordt verdeeld dat het de gehele gemeenschap ten goede komt, door het bouwen van ziekenhuizen, scholen, wegen en sociale zekerheidsstelsels. 

Of denk aan de wonderen van de grote multinational die het apparaat maakte waarop je nu deze text leest. Het vergt het coördineren van een proces waarin duizenden componenten, wereldwijde productieketens, productdesigners, fabricageprocessen en wetenschappelijke kennis samenkomen om een dergelijk supercomplex hoogtechnologisch object te kunnen maken. 

Corporate culture is in zekere zin een soort virtual reality waarin werknemers onderdeel worden gemaakt van het operating system van het een lichaam (corpus) van de bureaucratisch golem.

De bureacratische golem is dus meer dan de som der delen, meer dan de optelsom van de intelligentie, moraliteit en wilskracht van geletterden die haar lichaam tot leven wekken. Maar daardoor creëert ze ook onbedoelde effecten, iets wat economen vaak externaliteiten noemen. Externaliteiten die desastreus kunnen zijn, denk aan de klimaatcrisis, de vergiftiging van de biosfeer en allerlei vormen van discriminatie en uitbuiting.

Grimmige Golems

De bureaucratische golem wil dingen waar de mensen die haar animeren niet of onvoldoende bewust van zijn. En zelfs al zijn professionals zich bewust van onwenselijk gedrag van de golem, wil dit nog niet zeggen dat ze er iets aan kunnen doen. Stel dat alle Shell medewerkers, en zelfs de Shell CEO het bedrijf duurzaam willen maken is de Shell Golem nog steeds verweven met aandeelhouders, die verweven zijn met beleggers, met pensioenfondsen. Maar denk ook aan subsidies, belastingconstructies, allerlei lange termijn contracten, alle infrastructuur die er gebouwd is, het type kennis dat intern gecultiveerd word, etc. Een entiteit als Shell heeft zijn eigen momentum, zelfs zonder de professionals die haar animeren. Dit is niet om een entiteit zoals Shell vrij te pleiten, het punt is dat als een moderne organisatie een bepaalde mate van complexiteit heeft het ook een eigen wil krijgt waarmee zowel de mensen binnen als buiten zo’n moloch zich toe moeten verhouden.

Het temmen en besturen van dit soort entiteiten is dan ook een grote uitdaging en vereist zowel leiderschap, als goede kaders en spelregels vanuit de samenleving. Wij moeten als samenleving zorgen voor de spelregels voor de socio-economische oersoep zo zijn dat zodat ze ervoor zorgen dat dit soort entiteiten spelregels krijgen die ongewenst gedrag voorkomen en gewenst gedrag bevorderen. En als de bestuurders de golem niet in bedwang hebben, dan is het activisme via aandeelhouders en rechtszaken, en gericht op subsidies en wetgeving de juiste strategie, want dit zijn nu eenmaal dominante stemmen in de geest van de Shell Golem.

Maar waarom is het toch zo moeilijk om weerstand te bieden tegen de bureaucratische golem? Misschien heeft het iets te maken met het feit dat er vanuit het geschreven woord niet alleen entiteiten met een eigen logica en wil opborrelen, maar dat deze entiteiten eigen virtuele realiteiten creëeren.

Hoe iedere informatietechnologie een eigen virtuele realiteit creëert

Een virtuele realiteit is een door kunstmatige middelen geconstrueerde werkelijkheid. De VR-bril is hiervan slechts een voorbeeld. Virtuele realiteiten zijn overal om ons heen, de cultuur waarin we leven kan eigenlijk begrepen worden als een grote virtuele realiteit. De afspraken die we onderling maken en de symbolen die we gebruiken zijn ficties, bedacht door ons. Maar omdat we het (grotendeels) eens zijn over de betekenis ervan werken ze prima in het organiseren van ons dagelijks leven. 

Op deze manier bepalen virtuele realiteiten dus op een fundamentele manier onze realiteit, het bepaalt ook tot in grote mate wat we kunnen waarnemen. Dit heeft zo zijn voor- en nadelen. Een bepaalde virtuele realiteit kan ons dingen laten zien die we anders helemaal niet kunnen waarnemen. Maar een bepaalde virtuele realiteit kan ons ook blind maken voor zaken die andere culturen of wezens juist wel waarnemen.

Wat we kunnen waarnemen, en wat we kunnen denken, en daarmee ook welke virtuele realiteiten geconstrueerd kunnen worden hangt sterk samen met de informatietechnologie waartoe we toegang hebben.

De Wereld als Theater
De virtuele realiteit van het gesproken woord.

De virtuele realiteit van het gesproken woord bestond (en bestaat nog steeds) uit de verhalen die we elkaar vertelden. Verhalen die gespeeld, uitgebeeld en overgebracht werden van mens op mens. Taal bestaat hier enkel in een sociale en performatieve setting. Of het nu de moeder is die een kind iets vertelt, een roddel die rond gaat in het dorp, schreeuwende kooplieden op een jaarmarkt, of een ritueel waar sjamanen de gemeenschap onderdeel maken van het kosmische theater van het bestaan.

In deze wereld zijn of spelen we rollen en karakters, we hebben kostuums, we hebben een plek in een groter geheel, eentje die ons is toegewezen door het lot. Koning, priester, boer, vader, zoon, man, vrouw, gezonde, zieke, etc. De werkelijkheid als een eeuwig cyclisch toneelstuk met jaarlijks herhalende ordening, met oogsten, markten en een liturgie. Een wereld waar het publieke domein zo groot en inclusief was als een raadszaal, plein of kerk. Informatie verwerking voor een samenleving waarin het gesproken woord dominant is, is gelimiteerd door het vermogen om elkaar te ontmoeten in dezelfde tijd en ruimte.

In het pre-moderne theater, zowel als in het Shakespeariaanse als het in het antieke theater, zit het publiek om het podium heen. Het toneelstuk speelt zich te midden van z’n publiek af. Het toneelstuk is onderdeel van de wereld van het publiek, het is geen gescheiden virtualiteit, iedereen is onderdeel van de virtualiteit, de performance. Het schijnt dat het theaterpubliek in de tijden van Shakespeare schreeuwde, joelde en op allerlei andere manieren luidruchtig deelnam in de ervaringen en emoties van het stuk. (We horen graag als dit niet klopt, we zijn namelijk verre van expert op dit vlak).

In het onderstaande fragment uit Een schitterend ongeluk (01993) wordt filosoof Stephen Toulmin geïnterviewd door Wim Kayzer en legt hij fantastisch uit hoe de opkomst van het moderne mens- en wereldbeeld teruggelezen kan worden in de transitie van het voortoneel van Shakespeare naar het moderne theater waar de scheiding tussen binnen- en buitenwereld duidelijk wordt gemarkeerd. Het toneel ligt achter het doek en de realiteit onthuld. Het publiek wordt meer een toeschouwer van, in plaats van een deelnemer in, de werkelijkheid.

De Persoonlijke Binnenwereld
De virtuele realiteit van het geschreven woord

Though writing has become the most commonplace of information technologies, it remains in many ways the most magical. Brought into focus by properly educated eyes, artificial glyphs scrawled onto the surface of objects leap unbidden into the mind, bringing with them sounds, meanings, and data. In fact, it is very difficult to gaze intentionally upon a page of script written in a known language and not automatically begin reading it. The ecophilosopher David Abram notes that, just as a Zuni elder might focus her eyes upon a cactus and hear the succulent begin to speak, so do we hear voices pouring out of our printed alphabets. “This is a form of animism that we take for granted, but it is animism nonetheless—as mysterious as a talking stone.”* We forget this mystery for the same reason we forget that writing is a technology: we have so thoroughly absorbed this machine into the gray sponge of our brains that it is extremely tough to figure out where writing stops and the mind itself starts.

Erik Davis – TechGnosis; Myth, Magic, and Mysticism in the Age of Information (01998)
* David Abram – The Spell of the Sensuous: Perception and Language in a More-Than-Human World (01996)

Zoals Erik Davis schrijft is de virtuele realiteit van een geschreven woord heel anders, deze ontstond namelijk niet tussen mensen, maar tussen text en individu. Een virtuele realiteit die zich in eerste instantie manifesteert in onze binnenwereld als een verbeelding of klank of andere subjectieve ervaring. De belevingsarena van deze virtuele realiteit is geestelijk, intiem en diep persoonlijk. Lezen en schrijven zijn een medium waarin de eigen gedachten centraal staan, waarin op papier gezet en teruggelezen worden, zorgend voor reflectie en verdieping van de denkwereld. 

In de wereld van het geschreven woord kan men zich op afstand van de sociaal-biologische groepsdynamiek verhouden tot informatie. Een geletterde samenleving kan informatie razendsnel verspreiden en verwerken en kan enorm zijn, want men hoeft elkaar niet meer te ontmoeten in dezelfde tijd en ruimte om onderdeel van het gesprek te kunnen zijn. Echter de informatieverwerking van van zo’n domein is gelimiteerd door de talen die men machtig is en de biologie van ons brein.

De Gesimuleerde Wereld
De virtuele realiteit van het geactiveerde woord

Waar bij het gesproken woord de virtuele realiteit ontstaat door deel te nemen in een sociaal spel, en het bij het geschreven woord verschijnt in de persoonlijke binnenwereld van de tekstlezer. Simuleert het geactiveerde woord werkelijkheden. 3D game-werelden, weersverwachtingen en nu de taal zelf, zoals de taalmodellen waar ChatGPT op draait. 

Uiteraard sluit de een de ander niet uit, vandaag hebben we te maken met alledrie en verweven ze zich met elkaar op ingenieuze wijze. Maar met de komst van generatieve AI verandert onze verhouding met de simulaties die het geactiveerde woord tot voor kort voor ons creëerde. Want nu simuleert het niet meer enkel fenomenen in de buitenwereld zoals het weer, ze simuleert met taal nu onze binnenwereld. Want zoals Erik Davis hierboven al schreef is het vrij onduidelijk waar in ons brein onze taligheid eindigt onze geest begint. 

Simulatie is de essentie van het geactiveerde woord. Toen Gottfried Leibniz (01946-01721) binaire calculus uitvond (het rekenen met éénen en nullen, met aan en uit, de taal waar alle digitale computer op draaien) had hij een taal uitgevonden die alle andere talen kon zijn. Volgens Leibniz kan de binaire calculus alle talen, alle wiskunde en alle symbolen en betekenissen uitgedrukt worden in deze simpele universele taal. Hij geloofde zelfs dat heel God’s schepping geschreven was in deze taal, en dat we daarmee in digitaal universum leven. Een simulatie op een God’s computer. Ter ere van zijn inzicht liet Leibniz de bovenstaande zegel slaan.

Omdat AI een simulatie van taal is is ze tot op zekere hoogte een simulatie van ons. Een pratende avatar welke de verbanden reflecteert die gevonden zijn in een enorme van het internet geschraapte berg data. Met zowel drogredenering als geniale argumentaties, en van het eerste waarschijnlijk wat meer dan het laatste. 

Deze taalavatars kunnen datagolems worden. Onbewuste entiteiten met een eigen wil, die dit niet geanimeerd worden door geletterde professionals, maar door tekstverwerkende computers. De grote kracht, en het grote gevaar, ligt in het activeren van alle woorden die ooit geschreven zijn en die nu nog passief in wetboeken, correspondenties, staatsarchieven, bedrijfsdatabases, wetenschappelijke publicaties en al onze persoonlijke gadgets staat. De positieve belofte zou zij dat onze taalavatars verlichting kunnen brengen in alles wat robot-achtig is aan hoe we werken, leren en leven, en daarmee ruimte kan creëren om meer Mensch te worden. Hoe dit slecht uit kan pakken is maar al te duidelijk. Kijk naar het spoor van leed en vernietiging van de bureacratische golems van vandaag. De oplossing is duidelijk, het is aan ons om oude en nieuwe golems te temmen, want simpelweg vertrouwen dat CEO’s deze entiteiten onder controle hebben is niet genoeg. 


We horen graag jullie gedachten! Fijn weekend.
🌞 Edwin & Christiaan

3 REACTIES

3 Reacties
Oudste
Nieuwste Meest gestemd
Inline feedbacks
Bekijk alle reacties
Florus
Florus
11 maanden geleden

Ik heb genoten tijdens het lezen. Mijn reflectie na het lezen is dat ik niet zeker weet of het aan ‘ons’ is iets te temmen.

Florus
Florus
11 maanden geleden
Antwoord aan  Florus

In de zin dat als je uitzoomt we ons slechts kunnen aanpassen en onze waardes/liefde blijven leven/geven in deze ‘nieuwe’ realiteit

Edwin Gardner
Beheerder
11 maanden geleden
Antwoord aan  Florus

Mooi gezegd — en tja, inderdaad volledig temmen of controle hebben is misschien niet het doel, en onze relatie met de virtuele realiteiten die we bewonen is er eentje van diepe wederzijdse verstrengeling. En hierin mag een Golem, of AI, zich misschien best met enige autonomie bewegen. Maar net als dat mensen verantwoordelijk gehouden kunnen worden voor hun gedrag, en soms gestimuleerd moeten worden om het juiste te doen, geldt dit ook voor dit soort entiteiten, en daar is denk ik niks mis mee.

Onze dossiers