Hoi, Ed en Chris hier 👋🏾 Het hier en nu is een moment dat eeuwen beslaat. In de Atlas van het Lange Nu schrijven we daarom over historische onderstromen, maatschappelijke denkramen en inspirerende toekomstscenario’s.
Deze week een notitie over bewustzijn, een toekomstscenario speciaal voor Pinkster en wat voorproefjes uit onze aankomende illustratieve toekomstgids van het jaar 02093, getiteld Alles Komt Goed.
Hoewel de gids al járen in de maak is, lijkt het er nu toch echt op dat hij dit najaar het licht zal zien. Halleluja. Fingers crossed. Het is ons leukste, maar ook ons langstlopende project ever. Maar goed, in het Lange Nu heeft gelukkig niemand haast.
Dat gezegd hopen we dat er ook deze week weer wat vonkjes tussen zitten ter stimulatie van de speculatieve kwab – voor een begeesterde start van het Pinksterweekend, de dagen waarop ‘we’ herdenken dat de Heilige Geest neerdaalde op de apostelen. Wij vieren dat met een speciale Pinksterspeculatie getiteld De Download.
Van Humanisme naar Sentientisme?
💡
Toen Google-software-ingenieur Blake Lemoine vorig jaar verklaarde dat Google’s LaMDA 2 LLM niet alleen bewust was, maar dat het ook een ziel had, was Google er als de kippen bij.
Lemoine werd ontslagen en woordvoerder Brian Gabriel zei tegen de pers:
Our team, including ethicists and technologists, has reviewed Blake’s concerns per our AI Principles and has informed him that the evidence does not support his claims. He was told there was no evidence that LaMDA was sentient (and lots of evidence against it).
En:
Some in the broader AI community are considering the long-term possibility of sentient or general AI, but it doesn’t make sense to do so by anthropomorphizing today’s conversational models, which are not sentient.
Ook de rest van de AI-goegemeente struikelde over elkaar heen om te verklaren dat hun LLM-modellen absoluut niet sentient waren. (Ook als de LLM-modellen zelf wél zeggen dat ze sentient zijn, zoals LaMDA zei tegen Lemoine.)
Terugkijkend op deze episode is het meest interessant hoe geen enkele journalist aan Gabriel vroeg over welk bewijs hij het eigenlijk had en hoe ze bij Google sentience definiëren. Ook kwam niemand bij ons weten op het idee om Lemoine te vragen hoe het begrip ‘ziel’ zou moeten worden omschreven.
Het woord sentient is synoniem aan bewustzijn – het vermogen om subjectieve ervaringen te hebben. En het interessante aan bewustzijn is dat het niet bewezen kan worden. Jij kan een ander niet bewijzen dat jij bewust bent, dat je een subjectieve ervaring hebt, en je kan er dus ook nooit zeker van zijn dat iemand anders bewust is.
Bewustzijn is niet voor niets een van de grootste mysteries voorhanden. Iedereen weet dat hij of zij een subjectieve ervaring heeft, maar niemand kan het bewijzen of zelfs maar goed omschrijven (zoals niemand goed kan omschrijven wat het inhoudt om de kleur rood te zien).
Lemoine en Google kletsen daarom allebei uit hun nek. Lemoine wellicht uit naïviteit, Google wellicht uit angst dat ze, als ze het sentient-verhaal de ruimte zouden geven, op termijn wellicht gedwongen zouden kunnen worden om hun onderzoek stop te zetten.
Want uiteindelijk doet het er natuurlijk toe, voor ons morele kader, of iets bewust is of niet. Als op de vraag hoe het is om de LaMDA 2 te zijn een antwoord kan worden gegeven dat anders is dan niets, dan zouden we moreel en juridisch gezien misschien wel rekening moeten houden met het welzijn van het model.
Niet voor niets claimen dierenrechtenactivisten dat dieren bewust zijn en pijn, plezier, leed en vreugde kunnen ervaren. (Ook dat valt niet te bewijzen, noch te ontkrachten.)
Omdat bewustzijn niet goed valt te definiëren, is het gesprek hierover warrig. Dat beknot ons inlevingsvermogen, en beperkt zo ons morele kader. Als je gewend bent om je af te vragen hoe het is om een vluchteling, vleeskoe of AI te zijn, dan beïnvloedt dit immers je houding en je acties.
Het Humanisme heeft goede dingen opgeleverd, zoals universele rechten van de mensen, maar we zijn er niet cultureel door getraind om ons te verplaatsen in niet-menselijkheid. De impliciete onderliggende aanname – christelijk geïnspireerd – is immers dat alleen mensen een subjectieve ervaring hebben.
Wellicht dat AI ons dwingt om ons wat breder te oriënteren. Het is potentieel namelijk een stuk slimmer dan ons. Dat we ons niet willen verplaatsen in een vleeskoe of een vluchteling is wellicht deels uit gemakzucht. We komen er mee weg. (Dat is in ieder geval de veronderstelling.) Deze gemakzucht is moeilijker vol te houden door de opkomst van AI: de potentie voor grenzeloze disruptie is enorm.
Wellicht, ook onder druk van de klimaatverandering en de snel afnemende biodiversiteit, zal dit de filosofische fundamenten van onze samenleving verschuiven van Humanisme naar Sentientisme – een ethisch kader waarin we alles wat en iedereen die potentieel een subjectieve ervaring heeft op zijn minst bestaansrecht toekennen.
Sentientisme komt niet uit de lucht vallen. Bij het googlen van het woord ontdekten we dat het een 18de-eeuwse filosofische stroming is ( – en wat is dat niet.)
Sentientisme lijkt bewustzijn vooral te koppelen aan het ervaren van emoties zoals pijn, plezier, vreugde en lijden. Als je die emoties kan ervaren ben je een moreel wezen en moeten je belangen in acht worden genomen.
Dat is overigens best nauw geformuleerd, want iets of iemand kan bewust zijn ook als het geen pijn of lijden ervaart, of nog niet heeft ervaren. De interpretatie lijkt niet-biologische en/of puur cognitieve systemen uit te sluiten, maar wellicht is dat omdat ze zich daar in de 18de eeuw nog geen voorstelling van konden maken.
Dat wil overigens niet zeggen dat een AI geen emoties kan ervaren. Een virtueel gesimuleerde emotie is wellicht even rijk en krachtig als een biologische.
Indrukken uit de Gewortelde Tijd
🌱
De werktitel van onze gids naar een duurzame en inclusieve toekomst is: ‘Amsterdam in 2093, Alles Komt Goed, Indrukken uit de Gewortelde Tijd’.
De Gewortelde Tijd is onze werktitel voor het tijdperk waar we ons naar toe bewegen als we de juiste keuzes maken. Het is een verwijzing naar de Moderne Tijd, de naam van het tijdperk dat we achter ons laten. De naam ‘moderniteit’ is gemunt door de Franse dichter Beaudelaire. Hij beschreef de vloeibaarheid van de alledaagse ervaring in het 19de-eeuwse Parijs dat altijd maar in verandering was.
De ervaring van continue veranderlijkheid is nu nog steeds herkenbaar. Het is het gevolg van de groei, het wellicht definiërende kenmerk van de Moderne Tijd.
Vanaf 1450 begon Europa aan een exponentiële demografische, technologische, stedelijke en economische groeicurve – met al zijn intrinsieke democratische en imperiale tegenstrijdigheden. Omdat constante groei constante verandering is werd vloeibaarheid de wezenlijke ervaring van de Moderne mens. In het leven van de Moderne mens staat alles altijd op losse schroeven.
Deze groei is uiteraard niet houdbaar, in ieder geval niet op dezelfde manier. Maar hoe werkt een toekomstige post-groeisamenleving, hoe is deze institutioneel gestructureerd en hoe wordt deze ervaren door de mensen dan leven?
Deze vragen waren de uitgangspunten van het illustratieve boek, waarin we levensverhalen, indrukken en anekdoten samenbrengen uit een tijd waarin groei slechts een verre herinnering is. We werken hierin samen met Jan Cleijne, die onze verhalen omzet in prachtige tekeningen.
Bij deze een sneakpeak.
‘De Download’
↧
Een Pinksterspeculatie
Onze drift tot sociale organisatie brengt ons ver, sommigen zouden zeggen: te ver. (Maar wat is ver in een geschiedenis die zichzelf herhaalt?)
Hoe we onszelf organiseren is grotendeels een functie van de dominante informatietechnologie in de samenleving. Organisatie bestaat immers grotendeels uit het ordenen en managen van informatiestromen.
De dominante vorm waarin we ons vandaag de dag organiseren is de bureaucratie, een organisatievorm gekenmerkt door formele regels en procedures, een duidelijke hiërarchie, onpersoonlijke relaties en een objectief ethos.
De bureaucratie kwam op na de boekdrukkunst en de toename van de geletterdheid. Daarvoor, toen het gesproken woord nog de dominante IT was, bepaalden verwantschap en manschap de organisatie.
De komst van digitale technologieën zal voor nieuwe vormen van organisatie zorgen. Denk aan kunstmatig intelligente platformen die het proces algoritmisch aansturen, waardoor de mens zich op de inhoud kan focussen.
Dat is in ieder geval de belofte: de opkomst van vakmanschap en meesterschap, belangeloos ondersteund door een alziend AI-MT.
De historische verschuiving van feodaliteit naar bureaucratie naar platform zou je kunnen duiden als de codificering en objectificatie van informatie. Hoe betrouwbaarder de informatie, hoe schaalbaarder vertrouwen, hoe groter de slagkracht van de organisatievorm.
Dit ging uiteraard niet altijd even soepel. Zo werd het proces in de Middeleeuwen regelmatig gedomineerd door hielenlikkers en fleemkousen (vertrouwen was informeel), en is de Moderne bureaucratie vaker dan niet de speeltuin van de Kafkaëske stempelaar (vertrouwen is hier formeel).
In beide gevallen neemt proceslogica het over van de inhoudelijke missie en is de laatste lach aan de procestijger.
De belofte is dat digitalisering de proceslogica voor eens en voor altijd codificeert, waardoor de werker het juk van het interne proces naast zich neer kan leggen en zich eindelijk volledig kan focussen op missie en inhoud.
De transitie van een papieren organisatie naar een digitale heeft uiteraard nog een lange weg te gaan. Dat is onder andere te zien aan de interface van je computer, die nog steeds de bureaucratische papieren logica nabootst.
Finder en Explorer zijn nog steeds niet meer dan wat documenten in mapjes, en verschillen daarmee niet veel van een dossierkast. Mail, Word, Excel, et cetera zijn slechts digitale versies van hun analoge voorgangers. Het is ouderwetse kantoorlogica in een elektronisch jasje.
Op de snelheid van communicatie na – niet onbelangrijk – is er eigenlijk nog bar weinig veranderd in de manier waarop we onszelf organiseren.
Maar, als we de presentaties op de Built- en I/O-conferenties van Microsoft en Google moeten geloven, gaat dit veranderen met de integratie van AI in, wel, alles.
In al je programma’s word je straks ondersteund door AI. Het ligt in de lijn der verwachting dat AI over een aantal jaar de interface met je persoonlijke digitale ecosysteem volledig overneemt – helemaal als VR ook volwassen wordt. Waarom een muisarm riskeren als je gewichtsloos, als een virtuele scubaduiker, door cyberspace kan zwemmen?
Sinds het kleitablet nemen we informatie tot ons op twee verschillende manieren: ouderwets van mond-tot-mond en via een tweedimensionaal vlak met daarop allerlei symbolen. Daar komt binnenkort een derde manier bij: met AI in VR kunnen complexe systemen en argumenten straks in 3D en 4D uiteen worden gezet, gedeeld en geaugmenteerd.
Dat levert uiteraard een hele andere logica van organisatie op: mensen kunnen dan informeel, post-locatie en post-cultureel samenwerken in een AI-informatieruimte die als een verlicht curling-MT alle hobbels voor ons gladwrijft. Een plek waar het proces onzichtbaar is en eindeloos flexibel, aanpasbaar aan de gebruiker.
Maar dan doemt zich het volgende probleem op in de evolutie van organisatie: terwijl computers in nanoseconden petabytes uitwisselen heeft de mens allerlei emotionele, intellectuele en zintuigelijke barrières. Onze bandbreedte is nauw, onze processorsnelheid is laag, onze harde schijf heeft een voorliefde voor trivialiteit en allerhande biochemische processen leiden ons continu af van ons werk. Biologische traagheid werkt als rem op de evolutie van organisatie.
Gelukkig heeft Zijne Cyberheid Musk hier al een oplossing voor bedacht: de neurolace. Een interface tussen onze cortex en onze digitale omgeving. Hierdoor vallen we naadloos samen met onze computers, wordt ons begrip slechts beperkt door de capaciteit van onze datacentra en wordt onze wil direct omgezet in actie door een onderdanig complex aan robotfabrieken.
Maar, aangezien we straks met 9 of zelfs 11 miljard mensen zijn, wiens wil heeft dan voorrang in dit cyberorganistische bouwwerk? Er is uiteraard maar één echt democratisch antwoord: onze gezamenlijke wil. Zo wordt ons bewustzijn op een goede dag geüpload in de Hivemind en worden onze lastige lichamelijke overschotten ingezet als inwisselbare pleziervaartuigen, die af en toe te huur zijn voor wat oldschool zintuigelijke input.
De rest van de tijd laten we onze lichamen vrij over de herwilderde planeet rondscharrelen, waar ze na verloop van tijd opeens gaan aankloten met landbouw, bronslegeringen, kleitabletten en iets wat ze monotheïsme noemen.
Het is ongeveer rond die tijd dat een verveelde Hyvemind-mind bedenkt om zich te downloaden in niet 1 maar in 12 lichamen tegelijk…
🕊+ 🤖 = 😁
Vrolijk Pinksteren!
❤️ Christiaan & Edwin
