Fear follows Fiction
Onze angsten omtrent AI zeggen veel over ons dominante mens- en wereldbeeld, en vrij weinig over wat AI nu echt is. Een kleine verkenning van het AI verbeeldingslandschap.
Hoi, Ed en Chris hier đđŸ Het hier en nu is een moment dat eeuwen beslaat. In de Atlas van het Lange Nu schrijven we daarom over historische onderstromen, maatschappelijke denkramen en inspirerende toekomstscenarioâs.
Beste allemaal,
Kunstmatige intelligentie is een ontwikkeling waarbij iedereen, ook wij, hunkert naar een denkkader dat grip geeft op de zaak. Dit is uiteraard lastig bij iets wat nog zo nieuw is, waarbij de gevolgen nog onduidelijk zijn en waar hype dan wel angst de overhand hebben. Die angst voor AI zegt veel over ons dominante mens- en wereldbeeld. Daarom in deze editie een kleine analyse van de clichĂ©âs en de verbeeldingen die het gesprek over AI vormgeven. En die, zo denken wij, ons op dit moment meer in de weg zitten dan dat ze ons AI helpen te begrijpen.
De volgende keer onderzoeken we wat dan wél een nuttig denkkader voor kunstmatige intelligentie zou kunnen zijn. Maar nu eerst een verkenning van het mythologische verbeeldingslandschap rondom kunstmatige intelligentie.
Fear follows Fiction
Zoals onze vaste lezers weten, zijn wij groot fan van de speculatieve kunsten in al haar vormen, aangezien mogelijke toekomsten alleen in de verbeelding verkend kunnen worden. Verbeeldingen kunnen laten zien hoe de wereld anders zou kunnen zijn, en waar we heen zouden kunnen. Maar verbeeldingen kunnen ook blinde vlekken hebben en deze zijn vaker dan niet cultureel van aard. Technologie is namelijk makkelijker te extrapoleren dan culturele verandering.
Dit geldt vooral in het engineering-universum van computernerds en techbroâs (en techsisters, maar dat zijn er nog steeds een stuk minder).
Silicon Valleys kijk op de wereld en haar toekomst is namelijk zwaar beĂŻnvloed door sciencefiction:
Mark Zuckerberg is bezig de Metaverse te bouwen, een idee dat rechtstreeks uit de boeken van Neal Stephenson en William Gibson komt (die het Cyberspace noemde).
Jeff Bezos is een onverbloemde Trekkie. Amazon had bijna makeitso.com geheten, naar de woorden die Captain Picard minstens een paar keer per aflevering uitspreekt in Star Trek: The Next Generation. En met zijn ruimtevaartbedrijf Blue Origin lanceerde Musk William Shatner (die Captain Kirk speelde in de originele Star Trek) de echte ruimte in.
En tot slot natuurlijk Elon Musk, die The Foundation-trilogie samen met zijn Tesla Roadster de ruimte in schoot, en met zijn bedrijf Neuralink de Neural lace uit Iain M. Banksâ Culture-series probeert te realiseren.
Kortom, drie steenrijke nerds die van sciencefiction realiteit proberen te maken. Fact follows fiction dus. Iets wordt eerst verbeeld en dan pas gebouwd. De communicator uit Star Trek werd de mobiele telefoon, Le voyage dans la lune (01902) werd het Apollo-programma. Maar wanneer je verbeeldingsdieet is bepaald door scifi geldt ook: Fear follows Fiction. Zeker bij kunstmatige intelligentie en robots.
De verbeelding en uitspraken van techies over AI (zoals de AI-pauzebrief) wordt nogal beïnvloed ingegeven door existentiële angst. Wanneer je Sam Altman, de CEO van OpenAI, hoort spreken dan is AI alles of niets. AI kan het paradijs op aarde betekenen of het einde van de mensheid. Dat er ook nog een alledaagse wereld bestaat tussen deze twee extremen in, waarin macht, geld en (on)gelijkheid de bepalende krachten in de maatschappij zijn, komt niet eens echt bovendrijven. Als er in Silicon Valley wordt gezegd dat AI een existentieel risico is, wordt daarmee meestal niet de manipulatie van een democratische verkiezing bedoeld, maar vooral de complete uitroeiing van de mensheid.
Maar het zijn niet alleen de techbroâs en -sisters die gevangen worden door een bepaalde verbeelding. Kunstmatige intelligentie en robots zijn al praktisch een eeuw lang onderdeel van onze populaire cultuur (op z'n minst sinds Capcek's R.U.R (01921)), en deze verbeelding zit ons nu enorm in de weg om AI op waarde te kunnen schatten. Het is misschien goed om deze verbeeldingen eens in kaart te brengen zodat we ze beter kunnen herkennen.
Verbeelding 1) Iets wat slimmer en krachtiger is dan âwijâ, zal âonsâ onderdrukken â Of het nu robots, aliens of apen zijn, de speculatieve fictie zit vol met slimmere, sterkere en geavanceerdere niet-menselijke wezens die ons een kopje kleiner proberen te maken. Want dat is wat je doet, niet waar, als je op wat voor manier dan ook sterker bent dan de ander? Dit is natuurlijk vooral een angstbeeld voor diegenen met privileges, macht en invloed.
Verbeelding 2) De angst dat kunstmatige intelligentie iets wil, dat het agency, een bedoeling heeft â Achter de teksten van ChatGPT, de uitspraken van een synthetische stem of straks misschien het gedrag van een synthetisch lichaam, zien we al snel intenties. Dat is niet zo gek, omdat we evolutionair zo geprogrammeerd zijn dat we achter alles wat we zien intenties vermoeden. Alles wat leeft wil immers iets, en het is eten of gegeten worden. Het is dus het verstandigst ervan uit te gaan dat alles iets wil.
Echter, als een stuk technologie iets wil, dan vloeit dat voort uit hoe het gemaakt en geprogrammeerd is door mensen. Op die manier worden we al veel langer omgeven door vele soorten kunstmatige âintelligentieâ. Kijk maar eens naar een woord en probeer dit niet te lezen. Dat is praktisch onmogelijk, het lijkt bijna of tekst gelezen âwilâ worden, en zo onvrijwillig beelden en klanken opwekt. Zo werkt het ook met onze smartphone, die van alles van ons wil, zodat we soms onbewust het ding uit onze zak halen en maar wat doelloos swipen en klikken.
Toch maken we, vooral in het Westen, een categorisch onderscheid tussen de menselijke wil en de zogenaamde willoze passieve natuur om ons heen (Descartes vond dat dieren slechts automaten waren). Dus als westerling zullen we in een bijzin vaak zeggen dat, ook al lijkt het alsof een AI, een smartphone of een paar letters iets willen, dit slechts schijn is. Niet-Westerse culturen, zoals de Japanse, hebben een stuk minder moeite om intenties, wil en zelfs bewustzijn toe te schrijven aan niet-menselijke objecten.
Kortom, binnen de onttoverde humanistische Westerse moderniteit bestaat er dus een groot ongemak en angst over het idee dat andere niet-menselijke entiteiten wilskracht hebben, ons manipuleren en onze vrijheid zouden inperken.
Verbeelding 3) De robot als grappige sidekick of bijzaak â In de moderne cultuur zijn er talloze voorbeelden van grappige robots en AIâs die zich heel menselijk gedragen en vooral de rol van sidekick spelen. Denk aan de schattige bliepende R2-D2 en de stuntelige protocoldroid C-3PO in Star Wars films. Maar ook aan Yang als humanoĂŻde nannybot met een Aziatisch uiterlijk in After Yang (02021). Daarmee komt ook een racistische dimensie aan het licht. Want de rol van grappige sidekicks was tot voor kort vaak de enige manier waarop niet-witten en andere minderheden op het grote scherm een plek kregen.
Verbeelding 4) AI als orakel - Iedereen heeft inmiddels een stemassistent op zân computer en telefoon, en we hebben Google en Wikipedia, dus feitenkennis is niet meer zo exotisch. Deze verbeelding heeft echter wel zijn oorsprong in de speculatieve fictie, denk aan de scheepscomputer van Starship Enterprise of HAL 9000 uit Stanley Kubricks 2001: A Space Odyssey (01968). Maar het grappigste AI-orakel moet Deep Thought zijn, de supercomputer ter grootte van een kleine stad die in The Hitchhikerâs Guide ot he Galaxy (01978) antwoord moet geven op de vraag: âWhat is the answer ot he ultimate question of life, the universe, and everythingâ. Na zeven en een half miljoen jaar geeft het antwoord: 42.
Verbeelding 5) AI als femme fatale - Een van de eerste toepassingen van AI was die van virtual girlfriend, en ook in de populaire cultuur is deze rol alom aanwezig. Denk aan de AIâs in Her (02013) en Ex Machina (02014), vormgegeven als een vrouw op wie de hoofdrolspeler verliefd wordt, maar door wie hij uiteindelijk bedrogen uitkomt. In Her vertrekt de AI, de stem van Scarlett Johansson, uiteindelijk naar een soort digitaal nirwana en in Ex Machina manipuleert AI de hoofdpersoon emotioneel zo dat hij haar helpt te ontsnappen. Veelzeggend is hoe in beide gevallen nerdy mannen het slachtoffer worden van slimme vrouwen, die uiteindelijk niet zo in hen geĂŻnteresseerd zijn.
Verbeelding 6) De angst dat we zelf machines zijn - Uiteindelijk is de diepste angst misschien wel niet dat machines ons uit zullen moorden, maar dat we zelf slechts machines zijn. In Ex Machina snijdt hoofdrolspeler Caleb zichzelf op een gegeven moment open omdat hij niet meer zeker weet of hij wel van vlees en bloed is of niet. Zijn confrontatie met een zeer menselijke AI vervormt zijn werkelijkheid dermate dat zijn objectiverende blik op de wereld niet meer werkt en zich wreekt. De twijfel over wat echt is en wat niet keert zich naar binnen. Zijn mijn herinneringen dan wel echt? Is mijn ervaring reëel? Heb ik wel wilskracht? Of is mijn bewustzijn slechts een hele goeie film?
Deze verbeeldingen zeggen eigenlijk niks over wat kunstmatige intelligentie echt is, maar zijn vooral een spiegel van hoe we naar onszelf en onze plek in de wereld kijken. Ze laten zien hoe we de ander en onszelf objectiveren, dat we een zekere veiligheid en geborgenheid ervaren bij het idee dat we unieke individuen met een vrije wil zijn, en dat ons grootste angst is dat we deterministische machines zonder vrije wil blijken te zijn. Of andersom: dat de wereld om ons heen, zowel de natuurlijke als technologische, vol met wilskracht blijkt te zitten, wat de mens opeens niet zo speciaal en uniek meer maakt. Beide angstbeelden tasten het moderne humanistische wereldbeeld aan waarin de mens uniek en het hoogste goed is.
Tot slot, mochten er nog archetypische verbeeldingen of missen in dit lijstje, of mocht je aanscherping, nuances of een tegengeluid willen geven, schroom niet en deel het in de comments! Voor nu vooral een fijn en zonnige weekend gewenst.
đ Edwin en Christiaan