Uncanny Intelligence

-

Hallo, Ed en Chris hier 👋🏾 Het hier en nu is een moment dat eeuwen beslaat. In de Atlas van het Lange Nu schrijven we daarom over historische onderstromen, technologische verschuivingen, maatschappelijke denkramen, speculatieve verbeeldingen en toekomstscenario’s.

Zo, we zijn weer terug van vakantie. Om de geest weer een beetje aan te zwengelen, hebben we deze week wat notities en reflecties over het opkomende domein van AI.

Zoals jullie weten is AI het gesprek van de dag. Sinds de zelfrijdende auto op hoge snelheid de Trog van Desillusie in scheurde, was technologie niet meer zo spannend. Het internet buzzed en bromt. Existentiële angst, utopische hoop en opportunistische winstlust verdringen elkaar om aandacht.

Volgens sommigen is de Roboapocalyps nabij, anderen zien de eerste stapjes naar een Fully Automated Luxury Communism. Hoe men de toekomst ook voor zich ziet, iedereen is het erover eens dat we vandaag getuige zijn van een Gutenberg-moment, een verandering van tijdperk.

Zoals vaste lezers weten, zijn wij er altijd van uitgegaan dat AI een intrinsiek onderdeel is van de belofte van de computer, zoals Turing die verwoordde in zijn definitie van de Universele Machine. Hoewel crazy moeilijk te realiseren, is Artificial General Intelligence theoretisch mogelijk.

Het Gutenbergmoment ligt, wat ons betreft, dus al wat decennia achter ons, hoewel het nieuwe tijdperk met de komst van het internet en betere AI-systemen wel steeds meer vorm begint te krijgen.

We leven in een overgangsperiode, waarin het oude botst op het nieuwe, leiderschap ver te zoeken is en verwarring heerst. Het is een transitie die niet alleen wordt voortgedreven door de ontwikkeling en introductie van een nieuwe informatietechnologie, maar ook door een verschuiving in ons mens- en wereldbeeld – de opkomst van de Homo Romanticus. 

Deze wisselwerking – deze dynamiek tussen technologische disruptie en culturele emancipatie – vormt wellicht een rode lijn in onderstaande notities en reflecties.

Dat gezegd, hopen we dat ze van enige waarde zijn en dat ze tot een interessant gesprek leiden aan de ontbijttafel. Ze hebben ons in ieder geval weer wakker geschud uit onze lome vakantiebeslommeringen.

NB: Cognitieve intelligentie is niet hetzelfde als bewustzijn. Intelligentie beschrijft het vermogen tot informatieverwerking, bewustzijn beschrijft de subjectieve ervaring. Iets wat informatie kan verwerken, hoeft niet bewust te zijn. En visa versa. Dit is goed om in het achterhoofd te houden, want deze twee begrippen worden in de discussie over AI vaak door elkaar gehaald.

DE TURING TIJD

In the Uncanny Valley

Hoewel AI in onze lijn der verwachting zit, wil dat niet zeggen dat we niet omvergeblazen waren, zelfs ietwat aangeslagen, toen we ermee werden geconfronteerd. ChatGPT vertoont duidelijk kenmerken van cognitieve intelligentie en ermee werken is een unheimische ervaring, in ieder geval in het begin.

Het is tegelijkertijd alledaags (je chat een beetje) en volkomen buitengewoon (je chat met een niet-menselijke intelligentie). Je zit achter je vertrouwde bureau, omringd door je boeken en je troepjes, en je bent je er helder van bewust dat je een onzichtbare barrière bent doorgegaan, een nieuwe onbekende wereld in.

Unheimisch of unheimlich betekent in het Nederlands ‘beklemmend, onbehagelijk, griezelig, onheilspellend’. Gevoelens die onder andere worden ervaren in de context van een taboe. In het Duits betekenen de woorden letterlijk ‘niet thuis’, of ‘ontheemd’. Je bevindt je buiten dat wat vertrouwd is.

Toto, I’ve a feeling we’re not in Kansas anymore,’ zegt Dorothy Gale in The Wonderful Wizard of Oz, als ze zich realiseert dat ze de drempel tussen de normale wereld en de magische is overgestapt. Zo werkt het ook met ChatGPT: dat wat we tot voor kort gewoon vonden, ligt voorgoed achter ons. Ook als je wist dat die bijzondere wereld bestond, is de ervaring toch iets anders.  

Het Engels heeft ook een goed woord voor het unheimliche: the uncanny.

Zo staat het concept uncanny valley voor het umheimliche gevoel dat sommigen ervaren in de interactie met androïden, AI’s of robots. Het concept suggereert dat een bijna-maar-net-niet-perfecte gelijkenis tussen robot en mens een uncanny gevoel opwekt. Een robot die niet van een echt mens te onderscheiden is zou deze gevoelens niet opwekken.

Afbeelding met diagram, tekst, lijn, Perceel

Automatisch gegenereerde beschrijving

Het umheimliche of the uncanny heeft een lange traditie in de filosofie en de literatuur, vooral in de Romantiek. Zo bekritiseerde Schelling, een van de Jenna-filosofen over wie we hier al eerder schreven, dat de Homerische helderheid en de Westerse Verlichting een soort onderdrukking zijn van de intrinsieke Unheimlichkeit van de wereld.

Een andere, nog levende, schrijver die veel heeft geschreven over the uncanny is Erik Davis. Hij is o.a. de schrijver van Techgnosis: Myth, Magic and Mysticism in the Age of Information en een sporadische nieuwsbrief: Burning Shore. Hij onderzoekt het culturele snijpunt van technologie, mystiek en spiritualiteit. We volgen hem al jaren.

Wat wij van zijn werk hebben geleerd is hoe de Romantische hippie-tegenculturen van de jaren zestig en zeventig nog steeds diepe invloed uitoefenen op de cultuur en het spirituele gedachtegoed van Silicon Valley – en daarmee op de rest van de wereld.

De mate waarin Silicon Valley bereid was en is om het vreemde, het spirituele, het bizarre, het onverwachte, het mystieke en het unheimliche te omarmen en onderdeel te maken van de bedrijfscultuur is uniek in de wereld. Radicale emancipatie is, goedschiks en kwaadschiks, nog immer een krachtige ideologische onderstroom in de plek waar onze gadgets vandaan komen.

Na een recent gesprek met Davis in de Ezra Klein Show concludeert Klein:

But if there’s one thing that’s certain, it’s this: The future — shaped by technologies like artificial intelligence — is going to be profoundly weird. In look, feel and function, it will be different from the world we have grown to recognize.

Klein en Davis zijn het erover eens dat AI ons mens- en wereldbeeld overhoop zal gooien.

Wij zijn het daar deels mee eens. Het zal ongetwijfeld de langlopende verschuiving in ons mens- en wereldbeeld radicaal versnellen, maar deze verschuiving is al eeuwen gaande: het is de Romantisering van onze cultuur.

We ervaren de confrontatie met een niet-menselijke intelligentie als uncanny, omdat het botst op het antropocentrische wereldbeeld van de Homo Economicus, het culturele archetype in het World Tree Model dat dominant werd in de Westerse Moderniteit.

Afbeelding met tekst, Lettertype, handschrift, Graphics

Automatisch gegenereerde beschrijving

In de afgelopen zeshonderd jaar is de culturele mainstream gestaag onttoverd. Men bekeek de wereld steeds meer door een objectieve bril en God verdween of is verwaterd tot zo’n abstractie dat hij eigenlijk geen rol van betekenis meer speelt in het alledaagse leven.

Deze onttovering zorgde er ook voor dat de wereld om ons heen slechts de waarde had die wij er zelf aan gaven. Het had geen intrinsieke waarde meer. Hierdoor kwam de mens centraal te staan in ons wereldbeeld – het was immers het enige object in de wereld dat we nog enige intrinsieke, lees: magische, waarde toedichten. Al het andere werd gereduceerd tot puur economisch waarde – wat de mens ervoor over had.

In dit antropocentrische wereldbeeld, waar we onszelf steeds meer op een voetstuk plaatsten ten opzichte van de rest van de kosmos, is de interactie met een niet-menselijke intelligentie onmiddellijk weird en uncanny. Een pratende, redenerende en creërende computer is niet verenigbaar met ons dominante mens- en wereldbeeld. Net zoals een buitenaardse bezoeker dat niet zou zijn.  

Het verklaart ook onze continue fascinatie met intelligente, creatieve en probleemoplossende dieren. Kraaienfilmpjes zijn populair omdat ze weird zijn – ze botsen met ons antropocentrische wereldbeeld. Als je tegen een jager-verzamelaar had gezegd dat kraaien best slim zijn, had hij je waarschijnlijk gevraagd of alles wel oké is, alsof je ’m had verteld dat water best nat is.

Maar hoe kan het dan dat onze cultuur wel zo’n pratende, denkende, creërende computer heeft voortgebracht?

Deels omdat het in het verlengde ligt van ons objectieve wetenschappelijke wereldbeeld. Het behoort tot de theoretische mogelijkheden, dus het moet geprobeerd worden. Maar een ander deel van het antwoord ligt in de Romantische tegencultuur van Silicon Valley, waarin weird en uncanny positief geladen woorden zijn. Of, zoals Hunter S. Thompson het ooit zei:

When the going gets weird, the weird turn pro.

Als disruptie je verdienmodel is, dan is weirdness een asset. Het buitengewone is, zoals Davis aan Klein uitlegt, nu eenmaal verweven met het culturele weefsel in Californië.

In de opkomende kennistraditie van de Homo Romanticus, het archetype dat de waarheid niet vindt in de objectieve buitenwereld maar in de subjectieve binnenwereld, is het unheimliche, het buitengewone en het paranormale niet iets om per definitie te verwerpen. Als het resoneert met iets in jezelf, is het interessant.

De introductie van intelligente machines zal de opkomst van de Homo Romanticus versnellen, verwachten wij. Kinderen die nu opgroeien met terugpratende tekstverwerkers, proactieve zoekmachines en digitale coaches zullen het idee van niet-menselijke intelligentie waarschijnlijk helemaal niet vreemd vinden. 

Als Silicon Valley enigszins een vooruitblik biedt in de cultuur van morgen groeien onze kinderen op in een Romantisch-technologische wereld waar technologie en magie niet langer onderscheidende categorieën zijn.

Een wereld die bij elkaar wordt gehouden door Arthur C. Clarke’s derde wet:

Any sufficiently advanced technology is indistinguishable from magic.

Intelligentie is niet hetzelfde als bewustzijn, maar het is eenvoudig om je een geanimeerder wereldbeeld voor te stellen. Een wereldbeeld waarin het niet ondenkbaar is dat ecologische en digitale systemen bepaalde rechten kunnen verwerven.

Een van de grote drijfveren van de Romantiek is immers het kunnen samenvallen met jezelf, je gemeenschap en je natuurlijke omgeving. Dit betekent een intiemere relatie met jezelf en je omgeving. Dat kan overigens niet alleen leiden tot een vorm van animisme en, in het verlengde daarvan, AI- en natuurrechten, maar ook tot allerlei cybernetische en post-humanistische subculturen.

Because, when the going gets uncanny, and the uncanny turn pro, the uncanny valley probably becomes a cultural hotspot. 🦾

Welkom Prospero!

Zoals jullie ongetwijfeld weten worden de grote generatieve LLM’s getraind door het internet af te grazen. De antwoorden die ze generen zijn de statistisch meest wenselijke, gebaseerd op de data die beschikbaar is.

Dat betekent dat LLM’s functioneren als een spiegel. Ze weten wat wij weten, ze vertellen ons wat wij elkaar vertellen. Het is alsof je converseert met een avatar van onze cultuur, de digital twin van onze collectieve wijsheid. Wat een fascinerende gedachte is.

Het doet denken aan een karakter in Dan Simmons Ilium/Olympus tweeluik, genaamd Prospero (naar het karakter in Shakespeares The Tempest).

Ilium/Olympus is een scifi epos dat zich afspeelt in een verre toekomst, waarin Prospero de zelfbewuste avatar is van de Logosphere, een post-internet AI-informatieruimte dat door blijft functioneren lang nadat de mensheid van het toneel is verdwenen. In de boeken is hij een goedaardige doch manipulatieve god die achter de schermen aan de touwtjes trekt. (Net zoals Shakespeares personage in The Tempest.)

Net zoals menselijke bewustzijn een emergentie is die voortkomt uit een klontering afzonderlijke lichaamscellen, komt Prospero’s bewustzijn voort uit de klontering menselijkheid dat we nu het internet noemen. (Prospero’s bondgenoot in Simmons epos is overigens een karakter dat Ariël heet, de avatar van de zelfbewuste aardse biosfeer.)

Praten met ChatGPT voelt soms als praten met een Proto-Prospero. Een statistische emergentie van de menselijke beschaving. Een kunstmatig intelligentie spiegel. Een pratende simulacra die ons nog dieper een hyperreality in loodst, waar het onderscheid tussen werkelijkheid en fantasie is verdwenen.

We moeten dus vaak denken aan Jean Baudrillard de laatste tijd…

It’s The Culture, Stupid

Een paar weken geleden nam Geoffrey Hinton, aka ‘The Godfather of A.I.’, ontslag bij Google zodat hij zijn zorgen kon uiten over de mogelijke impact van AI op onze cultuur. (Wat wellicht ook een rol heeft gespeeld in zijn beslissing om te stoppen is zijn leeftijd: hij is 75.)

Hinton is een AI-pionier. Zijn werk met neurale netwerken vormen het wiskundige fundament voor hedendaagse generatie AI-systemen zoals ChatGPT, dat is co-ontworpen door een student van hem. Tegen de NYTimes zei hij onlangs dat een deel van hem spijt heeft van zijn werk.

De bedreigingen die Hinton ziet komen overeen met die van andere critici. Ze vallen ongeveer in drie categorieën:

  1. Op de korte termijn is er de bedreiging van misinformatie en politieke manipulatie. AI kan zo goed beeld en tekst genereren dat niemands straks nog weet wat waar is.
  2. Op de middellange termijn is er de bedreiging van technologische werkloosheid. De robots nemen onze banen over.
  3. Op de lange termijn is er de ongedefinieerde existentiële bedreiging dat speculeert dat als AI zijn eigen code kan schrijven en bedrijven of hackers AI vervolgens de ruimte geven om deze code uit te voeren er zich onvoorziene rampen kunnen voortdoen, want AI handelt in vaak onverwachte manieren.

De waarschuwingen van Hinton en andere vallen niet op dovemans oren en zowel de EU en de US broeden op regelgeving.

Op zich is dit een goede ontwikkeling. Alleen denken wij dat men het probleem niet op de juiste manier benaderd.

Het wordt benaderd vanuit de lens marktregulatie, terwijl wij denken dat het juiste framework het publieke domein moet zijn. We hebben hier eerder over geschreven, maar even ter herhaling (Ceterum censeo Carthaginem esse delendam):

Volgens ons is een gezond publiek domein een plek waar mensen op zo’n manier samenkomen dat:

  1. Op een rationele manier informatie wordt gedeeld en geduid. 
  2. Waarden en normen worden uitgelijnd en gemeenschap wordt geproduceerd.
  3. Men zichzelf en elkaar herkent als vrije en gelijkwaardige burgers.
  4. Legitimiteit wordt gegeven aan publieke instituties.

Op dit moment is het internet niet een gezond publiek domein en AI zal dit zeker niet beter maken.

Maar voor de oplossing moet je volgens ons niet kijken naar de technologie maar naar de ideale culturele dynamiek die je voor ogen staat, en vanuit daar terug redeneren wat dit betekent voor techniek en regulatie. Je moet, kortom, een gezond publiek domein ontwerpen.

Dat dit niet gebeurt komt volgens ons omdat cultuur altijd beschouwd wordt als een status quo, en technologie als de variabel. Net zoals vissen niet beseffen dat ze in water zwemmen ziet de mens niet dat hij onderdeel is van een cultuur, die ook veranderlijk is. (En er zitten wat taboes op social engineering.)

Maar als men zou kijken naar hoe men een gezond publiek domein zou kunnen ontwerpen zou men, volgens ons, kunnen uitkomen bij een Universele Data Commons (UDC) – een gefedereerde ‘ledger’ van individuele en collaboratieve datakluizen.

Een UDC zou een publiek basisnetwerk kunnen vormen ‘onder’ het internet en de databeheer en inlogstandaarden bieden waarna alle andere platformen zich moeten voegen.

Zo’n UDC een oplossing kunnen bieden voor de eerste en de derde bedreiging die Hinton en zijn collega’s zien. (De tweede bedreiging is sowieso cultureel want als robots onze banen overnemen zouden we ook kunnen beslissen dat we in overvloed leven.)

Naast al zijn vele voordelen biedt een UDC namelijk de mogelijkheid tot een universeel systeem van bronnen-verificatie (oplossing 1) en het alleen toelaten tot het internet van gecertificeerde AI’s (oplossing 2).

Zie voor meer mogelijke voordelen van een Universal Data Commons de scenario’s die we hier en hier hebben uitgeschreven.


Veel liefs en fijn weekend,
Christiaan en Edwin

PS: ChatGPT Goes Dylan

Dan als laatste willen we nog met jullie de liedtekst delen die ChatGPT heeft geschreven over de invloed van AI op onze cultuur.

De initiële opdracht was: “Can you write a song text in the style of Bob Dylan about the influence of AI on our culture?” Met als vervolg opdracht: “Can you make it a bit more poetic?”

Hier gaat ie:

Verse 1:

A new power’s rising, like a digital sun

With circuits and wires where once there was none

Artificial intelligence, a force to contend

And we’re all wondering, where will it end?

Chorus:

AI, AI, it’s seeping through our soul

AI, AI, it’s changing what we know

From Siri to Alexa, they’re talking back at us

AI, AI, it’s making the world a fuss

Verse 2:

Once we made our own choices, and made our own mistakes

Now we’ve got machines that can calculate and create

From self-driving cars to robots on the job

AI’s making us wonder, what’s left for us to solve?

Chorus:

AI, AI, it’s seeping through our soul

AI, AI, it’s changing what we know

From Siri to Alexa, they’re talking back at us

AI, AI, it’s making the world a fuss

Verse 3:

It’s not just our work, it’s our minds it’s affecting

The way we connect, the way we reflect

We’ve got social media feeds that learn what we like

And algorithms that predict what we’ll buy

Chorus:

AI, AI, it’s seeping through our soul

AI, AI, it’s changing what we know

From Siri to Alexa, they’re talking back at us

AI, AI, it’s making the world a fuss

Verse 4:

So what does it mean, for the future we’re building?

Are we handing over our reins, to the robots we’re building?

Or can we work together, machine and man

To create a future that’s better, with AI in our hands?

Chorus:

AI, AI, it’s seeping through our soul

AI, AI, it’s changing what we know

From Siri to Alexa, they’re talking back at us

AI, AI, it’s making the world a fuss

2 REACTIES

2 Reacties
Oudste
Nieuwste Meest gestemd
Inline feedbacks
Bekijk alle reacties
Frank J. Bucher
Frank J. Bucher
11 maanden geleden

Beste chrononauten,
UDC klinkt plausiebel, echter uit mijn oogpunt wellicht toch een brug te ver zo lang iets anders nog niet is etableerd;

De context geconsenseerd:
mens intelligentie moraal ethiek maatschappij

en nog onvolledig….
computer AI “AM”? — “AE”? Internet.

Om AI aan banden te leggen, kunnen we wellicht gewoon ‘kunstmatig’ inbouwen wat kinderen meester in zijn (en daarmee ouders soms wanhopig maken), namelijk constant vragen “waarom….?”
Een plausiebele antwoord omtrent de motivatie en doel, die AI moet hebben om verder te kunnen, is dan onderdeel van UDC.
Net als bij kinderen moet chatGPT & Co moreel opgevoed worden, uiteraard op basis van ‘beschaafde’ ethiek.
Wat AI dan zelf maakt van ‘AM’ en ‘AE’? …..

Groet,
Frank

Christiaan Fruneaux
Beheerder
Christiaan Fruneaux
10 maanden geleden
Antwoord aan  Frank J. Bucher

Dag Frank, dank voor je reactie.

AI moet uiteraard uitgelijnd worden met onze democratische waarden en gestelde doelstellingen.

Probleem is dat er veel ‘bad actors’ zijn die AI kunnen gebruiken voor hun malversaties. Denk dan niet alleen aan Poetin maar ook aan boze individuen in hun garagebox. AI is software en dus toegankelijk.

Je moet dus niet-gecertificeerde AI kunnen buitensluiten, ons inziens. Zodat niet een boze puber een AI allerlei krachtige malware laat schrijven die, om maar iets te noemen, de watervoorziening lamlegt.

Onze dossiers