Zo, we zijn weer terug van vakantie. Om de geest weer een beetje aan te zwengelen, hebben we deze week wat notities en reflecties over het opkomende domein van AI.

Zoals jullie weten is AI het gesprek van de dag. Sinds de zelfrijdende auto op hoge snelheid de Trog van Desillusie in scheurde, was technologie niet meer zo spannend. Het internet buzzed en bromt. Existentiële angst, utopische hoop en opportunistische winstlust verdringen elkaar om aandacht.

Volgens sommigen is de Roboapocalyps nabij, anderen zien de eerste stapjes naar een Fully Automated Luxury Communism. Hoe men de toekomst ook voor zich ziet, iedereen is het erover eens dat we vandaag getuige zijn van een Gutenberg-moment, een verandering van tijdperk.

Zoals vaste lezers weten, zijn wij er altijd van uitgegaan dat AI een intrinsiek onderdeel is van de belofte van de computer, zoals Turing die verwoordde in zijn definitie van de Universele Machine. Hoewel crazy moeilijk te realiseren, is Artificial General Intelligence theoretisch mogelijk.

Het Gutenbergmoment ligt, wat ons betreft, dus al wat decennia achter ons, hoewel het nieuwe tijdperk met de komst van het internet en betere AI-systemen wel steeds meer vorm begint te krijgen.

We leven in een overgangsperiode, waarin het oude botst op het nieuwe, leiderschap ver te zoeken is en verwarring heerst. Het is een transitie die niet alleen wordt voortgedreven door de ontwikkeling en introductie van een nieuwe informatietechnologie, maar ook door een verschuiving in ons mens- en wereldbeeld – de opkomst van de Homo Romanticus. 

Deze wisselwerking – deze dynamiek tussen technologische disruptie en culturele emancipatie – vormt wellicht een rode lijn in onderstaande notities en reflecties.

Dat gezegd, hopen we dat ze van enige waarde zijn en dat ze tot een interessant gesprek leiden aan de ontbijttafel. Ze hebben ons in ieder geval weer wakker geschud uit onze lome vakantiebeslommeringen.

— DE TURING TIJD —

In the Uncanny Valley

Hoewel AI in onze lijn der verwachting zit, wil dat niet zeggen dat we niet omvergeblazen waren, zelfs ietwat aangeslagen, toen we ermee werden geconfronteerd. ChatGPT vertoont duidelijk kenmerken van cognitieve intelligentie en ermee werken is een unheimische ervaring, in ieder geval in het begin.

Het is tegelijkertijd alledaags (je chat een beetje) en volkomen buitengewoon (je chat met een niet-menselijke intelligentie). Je zit achter je vertrouwde bureau, omringd door je boeken en je troepjes, en je bent je er helder van bewust dat je een onzichtbare barrière bent doorgegaan, een nieuwe onbekende wereld in.

Unheimisch of unheimlich betekent in het Nederlands ‘beklemmend, onbehagelijk, griezelig, onheilspellend’. Gevoelens die onder andere worden ervaren in de context van een taboe. In het Duits betekenen de woorden letterlijk ‘niet thuis’, of ‘ontheemd’. Je bevindt je buiten dat wat vertrouwd is.

‘Toto, I’ve a feeling we’re not in Kansas anymore,’ zegt Dorothy Gale in The Wonderful Wizard of Oz, als ze zich realiseert dat ze de drempel tussen de normale wereld en de magische is overgestapt. Zo werkt het ook met ChatGPT: dat wat we tot voor kort gewoon vonden, ligt voorgoed achter ons. Ook als je wist dat die bijzondere wereld bestond, is de ervaring toch iets anders.  

Het Engels heeft ook een goed woord voor het unheimliche: the uncanny.

Zo staat het concept uncanny valley voor het umheimliche gevoel dat sommigen ervaren in de interactie met androïden, AI’s of robots. Het concept suggereert dat een bijna-maar-net-niet-perfecte gelijkenis tussen robot en mens een uncanny gevoel opwekt. Een robot die niet van een echt mens te onderscheiden is zou deze gevoelens niet opwekken.

Het umheimliche of the uncanny heeft een lange traditie in de filosofie en de literatuur, vooral in de Romantiek. Zo bekritiseerde Schelling, een van de Jenna-filosofen over wie we hier al eerder schreven, dat de Homerische helderheid en de Westerse Verlichting een soort onderdrukking zijn van de intrinsieke Unheimlichkeit van de wereld.

Een andere, nog levende, schrijver die veel heeft geschreven over the uncanny is Erik Davis. Hij is o.a. de schrijver van Techgnosis: Myth, Magic and Mysticism in the Age of Information en een sporadische nieuwsbrief: Burning Shore. Hij onderzoekt het culturele snijpunt van technologie, mystiek en spiritualiteit. We volgen hem al jaren.

Wat wij van zijn werk hebben geleerd is hoe de Romantische hippie-tegenculturen van de jaren zestig en zeventig nog steeds diepe invloed uitoefenen op de cultuur en het spirituele gedachtegoed van Silicon Valley – en daarmee op de rest van de wereld.

De mate waarin Silicon Valley bereid was en is om het vreemde, het spirituele, het bizarre, het onverwachte, het mystieke en het unheimliche te omarmen en onderdeel te maken van de bedrijfscultuur is uniek in de wereld. Radicale emancipatie is, goedschiks en kwaadschiks, nog immer een krachtige ideologische onderstroom in de plek waar onze gadgets vandaan komen.

Na een recent gesprek met Davis in de Ezra Klein Show concludeert Klein:

Klein en Davis zijn het erover eens dat AI ons mens- en wereldbeeld overhoop zal gooien.

Wij zijn het daar deels mee eens. Het zal ongetwijfeld de langlopende verschuiving in ons mens- en wereldbeeld radicaal versnellen, maar deze verschuiving is al eeuwen gaande: het is de Romantisering van onze cultuur.

We ervaren de confrontatie met een niet-menselijke intelligentie als uncanny, omdat het botst op het antropocentrische wereldbeeld van de Homo Economicus, het culturele archetype in het World Tree Model dat dominant werd in de Westerse Moderniteit.

In de afgelopen zeshonderd jaar is de culturele mainstream gestaag onttoverd. Men bekeek de wereld steeds meer door een objectieve bril en God verdween of is verwaterd tot zo’n abstractie dat hij eigenlijk geen rol van betekenis meer speelt in het alledaagse leven.

Deze onttovering zorgde er ook voor dat de wereld om ons heen slechts de waarde had die wij er zelf aan gaven. Het had geen intrinsieke waarde meer. Hierdoor kwam de mens centraal te staan in ons wereldbeeld – het was immers het enige object in de wereld dat we nog enige intrinsieke, lees: magische, waarde toedichten. Al het andere werd gereduceerd tot puur economisch waarde – wat de mens ervoor over had.

In dit antropocentrische wereldbeeld, waar we onszelf steeds meer op een voetstuk plaatsten ten opzichte van de rest van de kosmos, is de interactie met een niet-menselijke intelligentie onmiddellijk weird en uncanny. Een pratende, redenerende en creërende computer is niet verenigbaar met ons dominante mens- en wereldbeeld. Net zoals een buitenaardse bezoeker dat niet zou zijn.  

Het verklaart ook onze continue fascinatie met intelligente, creatieve en probleemoplossende dieren. Kraaienfilmpjes zijn populair omdat ze weird zijn – ze botsen met ons antropocentrische wereldbeeld. Als je tegen een jager-verzamelaar had gezegd dat kraaien best slim zijn, had hij je waarschijnlijk gevraagd of alles wel oké is, alsof je ’m had verteld dat water best nat is.

Maar hoe kan het dan dat onze cultuur wel zo’n pratende, denkende, creërende computer heeft voortgebracht?

Deels omdat het in het verlengde ligt van ons objectieve wetenschappelijke wereldbeeld. Het behoort tot de theoretische mogelijkheden, dus het moet geprobeerd worden. Maar een ander deel van het antwoord ligt in de Romantische tegencultuur van Silicon Valley, waarin weird en uncanny positief geladen woorden zijn. Of, zoals Hunter S. Thompson het ooit zei:

Als disruptie je verdienmodel is, dan is weirdness een asset. Het buitengewone is, zoals Davis aan Klein uitlegt, nu eenmaal verweven met het culturele weefsel in Californië.

In de opkomende kennistraditie van de Homo Romanticus, het archetype dat de waarheid niet vindt in de objectieve buitenwereld maar in de subjectieve binnenwereld, is het unheimliche, het buitengewone en het paranormale niet iets om per definitie te verwerpen. Als het resoneert met iets in jezelf, is het interessant.

De introductie van intelligente machines zal de opkomst van de Homo Romanticus versnellen, verwachten wij. Kinderen die nu opgroeien met terugpratende tekstverwerkers, proactieve zoekmachines en digitale coaches zullen het idee van niet-menselijke intelligentie waarschijnlijk helemaal niet vreemd vinden. 

Als Silicon Valley enigszins een vooruitblik biedt in de cultuur van morgen groeien onze kinderen op in een Romantisch-technologische wereld waar technologie en magie niet langer onderscheidende categorieën zijn.

Een wereld die bij elkaar wordt gehouden door Arthur C. Clarke’s derde wet:

Intelligentie is niet hetzelfde als bewustzijn, maar het is eenvoudig om je een geanimeerder wereldbeeld voor te stellen. Een wereldbeeld waarin het niet ondenkbaar is dat ecologische en digitale systemen bepaalde rechten kunnen verwerven.

Een van de grote drijfveren van de Romantiek is immers het kunnen samenvallen met jezelf, je gemeenschap en je natuurlijke omgeving. Dit betekent een intiemere relatie met jezelf en je omgeving. Dat kan overigens niet alleen leiden tot een vorm van animisme en, in het verlengde daarvan, AI- en natuurrechten, maar ook tot allerlei cybernetische en post-humanistische subculturen.

Welkom Prospero!

Zoals jullie ongetwijfeld weten worden de grote generatieve LLM’s getraind door het internet af te grazen. De antwoorden die ze generen zijn de statistisch meest wenselijke, gebaseerd op de data die beschikbaar is.

Dat betekent dat LLM’s functioneren als een spiegel. Ze weten wat wij weten, ze vertellen ons wat wij elkaar vertellen. Het is alsof je converseert met een avatar van onze cultuur, de digital twin van onze collectieve wijsheid. Wat een fascinerende gedachte is.

Het doet denken aan een karakter in Dan Simmons Ilium/Olympus tweeluik, genaamd Prospero (naar het karakter in Shakespeares The Tempest).

Ilium/Olympus is een scifi epos dat zich afspeelt in een verre toekomst, waarin Prospero de zelfbewuste avatar is van de Logosphere, een post-internet AI-informatieruimte dat door blijft functioneren lang nadat de mensheid van het toneel is verdwenen. In de boeken is hij een goedaardige doch manipulatieve god die achter de schermen aan de touwtjes trekt. (Net zoals Shakespeares personage in The Tempest.)

Net zoals menselijke bewustzijn een emergentie is die voortkomt uit een klontering afzonderlijke lichaamscellen, komt Prospero’s bewustzijn voort uit de klontering menselijkheid dat we nu het internet noemen. (Prospero’s bondgenoot in Simmons epos is overigens een karakter dat Ariël heet, de avatar van de zelfbewuste aardse biosfeer.)

Praten met ChatGPT voelt soms als praten met een Proto-Prospero. Een statistische emergentie van de menselijke beschaving. Een kunstmatig intelligentie spiegel. Een pratende simulacra die ons nog dieper een hyperreality in loodst, waar het onderscheid tussen werkelijkheid en fantasie is verdwenen.

We moeten dus vaak denken aan Jean Baudrillard de laatste tijd…

It’s The Culture, Stupid

Een paar weken geleden nam Geoffrey Hinton, aka ‘The Godfather of A.I.’, ontslag bij Google zodat hij zijn zorgen kon uiten over de mogelijke impact van AI op onze cultuur. (Wat wellicht ook een rol heeft gespeeld in zijn beslissing om te stoppen is zijn leeftijd: hij is 75.)

Hinton is een AI-pionier. Zijn werk met neurale netwerken vormen het wiskundige fundament voor hedendaagse generatie AI-systemen zoals ChatGPT, dat is co-ontworpen door een student van hem. Tegen de NYTimes zei hij onlangs dat een deel van hem spijt heeft van zijn werk.

De bedreigingen die Hinton ziet komen overeen met die van andere critici. Ze vallen ongeveer in drie categorieën:

1. Op de korte termijn is er de bedreiging van misinformatie en politieke manipulatie. AI kan zo goed beeld en tekst genereren dat niemands straks nog weet wat waar is.
2. Op de middellange termijn is er de bedreiging van technologische werkloosheid. De robots nemen onze banen over.
3. Op de lange termijn is er de ongedefinieerde existentiële bedreiging dat speculeert dat als AI zijn eigen code kan schrijven en bedrijven of hackers AI vervolgens de ruimte geven om deze code uit te voeren er zich onvoorziene rampen kunnen voortdoen, want AI handelt in vaak onverwachte manieren.

De waarschuwingen van Hinton en andere vallen niet op dovemans oren en zowel de EU en de US broeden op regelgeving.

Op zich is dit een goede ontwikkeling. Alleen denken wij dat men het probleem niet op de juiste manier benaderd.

Het wordt benaderd vanuit de lens marktregulatie, terwijl wij denken dat het juiste framework het publieke domein moet zijn. We hebben hier eerder over geschreven, maar even ter herhaling (Ceterum censeo Carthaginem esse delendam):

Volgens ons is een gezond publiek domein een plek waar mensen op zo’n manier samenkomen dat:

1. Op een rationele manier informatie wordt gedeeld en geduid. 
2. Waarden en normen worden uitgelijnd en gemeenschap wordt geproduceerd.
3. Men zichzelf en elkaar herkent als vrije en gelijkwaardige burgers.
4. Legitimiteit wordt gegeven aan publieke instituties.

Op dit moment is het internet niet een gezond publiek domein en AI zal dit zeker niet beter maken.

Maar voor de oplossing moet je volgens ons niet kijken naar de technologie maar naar de ideale culturele dynamiek die je voor ogen staat, en vanuit daar terug redeneren wat dit betekent voor techniek en regulatie. Je moet, kortom, een gezond publiek domein ontwerpen.

Dat dit niet gebeurt komt volgens ons omdat cultuur altijd beschouwd wordt als een status quo, en technologie als de variabel. Net zoals vissen niet beseffen dat ze in water zwemmen ziet de mens niet dat hij onderdeel is van een cultuur, die ook veranderlijk is. (En er zitten wat taboes op social engineering.)

Maar als men zou kijken naar hoe men een gezond publiek domein zou kunnen ontwerpen zou men, volgens ons, kunnen uitkomen bij een Universele Data Commons (UDC) – een gefedereerde ‘ledger’ van individuele en collaboratieve datakluizen.

Een UDC zou een publiek basisnetwerk kunnen vormen ‘onder’ het internet en de databeheer en inlogstandaarden bieden waarna alle andere platformen zich moeten voegen.

Zo’n UDC een oplossing kunnen bieden voor de eerste en de derde bedreiging die Hinton en zijn collega’s zien. (De tweede bedreiging is sowieso cultureel want als robots onze banen overnemen zouden we ook kunnen beslissen dat we in overvloed leven.)

Naast al zijn vele voordelen biedt een UDC namelijk de mogelijkheid tot een universeel systeem van bronnen-verificatie (oplossing 1) en het alleen toelaten tot het internet van gecertificeerde AI’s (oplossing 2).

Zie voor meer mogelijke voordelen van een Universal Data Commons de scenario’s die we hier en hier hebben uitgeschreven.

---

Veel liefs en fijn weekend,
Christiaan en Edwin

PS: ChatGPT Goes Dylan

Dan als laatste willen we nog met jullie de liedtekst delen die ChatGPT heeft geschreven over de invloed van AI op onze cultuur.

De initiële opdracht was: “Can you write a song text in the style of Bob Dylan about the influence of AI on our culture?” Met als vervolg opdracht: “Can you make it a bit more poetic?”

Hier gaat ie: