Bouwstenen voor een Architectuur van Vertrouwen

Ons Designing Cities for All Fellowship bij Pakhuis de Zwijger zit er bijna op. Aanstaande woensdag, 30 november, om 20:00 sluiten we af met een gesprek met Ben Tarnoff, schrijver van het boek Internet for The People (je hoeft het boek niet gelezen te hebben om het gesprek te kunnen volgen).

We hebben tijdens de afgelopen drie Architectures of Trust-bijeenkomsten veel geleerd van de gesprekken die we met uiteenlopende experts hadden, waardoor we ons toekomstscenario verder konden uitdenken.

In deze editie delen we de voorlopige oogst van onze fellowship:

💡 Een reeks inzichten die we opdeden in de gesprekken met onze gasten. Waaronder hoe anonimiteit ons dichter bij elkaar kan brengen en wat we kunnen leren van het ziekenhuis bij het ontwerpen van digitaal vertrouwen.

🛠️ De technische en conceptuele bouwstenen voor een Architectuur van Vertrouwen die er al zijn of waaraan gewerkt wordt: Open Social Media en de gamification van consensus met Bridging-Based Ranking

🔮 Het laatste toekomstscenario dat we afgelopen maandag presenteerden bij Pakhuis de Zwijger: The Emergence of Open Government, Civic Craftsmen and Boring Politics. Een synthese van de inzichten die Jopie (de wereldberoemde mediageleerde die we twee weken geleden introduceerde) de komende eeuw op zal doen met het vooruitzicht dat in 02093 de politiek te saai voor woorden zal zijn. Dat lijkt ons wel een opluchting.

---

Inzichten in het ontwerpen van digitaal vertrouwen

💡

🔍 QAnon combineert een gevoel van behoren en gemeenschapszin met waarheidsvinding — Hoewel QAnon voor velen gelijk staat  aan het geloof in samenzweringen en de ontwrichting van een democratische maatschappij, betekend dat niet dat ze asociaal zijn. Integendeel, we leerden we van Aiganysh Aidarbekova van Bellingcat dat nieuwkomers bij QAnon warm verwelkomd worden. Er is veel interesse in de ideeën en nieuwe theorieën die ze hebben, en in wat zij denken dat de werkelijke waarheid is.

In zekere zin wordt QAnon gedreven door dezelfde missie als velen bij Bellingcat en andere onderzoeksjournalisten: het achterhalen van de waarheid en autoriteiten niet op hun woord geloven, door het gebruik van (openbare) bronnen. Waar het uiteraard vaak mis gaat, is dat er in hun zoektocht naar de waarheid geen gebruik wordt gemaakt van journalistieke checks and balances en dat hun eigen sentimenten leidend zijn, waardoor tunnelvisie ontstaat.

❌ Een digitale architectuur van vertrouwen moet naast authenticatie en verificatie ook falsificatie faciliteren — Een waarheid of observatie is niet absoluut en onveranderlijk, ook al kan het op een zeker moment de beste uitleg van een gebeurtenis zijn. Data of bronnen moeten dus naast verifieerbaar en authenticeerbaar ook falsifieerbaar zijn.

🎭 Anonimiteit kan naast polariseren mensen ook depolariseren — Jona de Jong deed onderzoek naar de impact van waaromkiesjij.nl en vergelijkbare projecten waarin een app twee tegenstanders op het politieke spectrum bij elkaar brengt om een stelling te bediscussiëren. Het resultaat van die discussie is dat in veel gevallen mensen niet van mening veranderen, maar dat ze de positie van de ander wel beter begrijpen, waardoor het gesprek dus depolariseert. Het blijkt namelijk vrijwel altijd dat ook de ander goede argumenten en overwegingen heeft om te vinden wat hij of zij vindt.

De discussie vindt anoniem plaats. Je weet dus niet hoe iemand heet of hoe iemand eruitziet wanneer je in gesprek gaat. Jona legde uit dat in deze context, in een chat van een aantal minuten, anonimiteit juist barrières wegneemt die anders in de weg zouden kunnen staan. Wanneer je iemand met een bepaalde naam, huidskleur of kledingstijl zou zien, moeten veel mensen zich eerst over hun eigen vooroordelen heen zetten voordat ze op een open manier kunnen luisteren.

Uiteindelijk is het natuurlijk ook van belang dat je juist wel even dat vooroordeel voelt, erdoorheen moet, en dan voelt dat de ander zinnige dingen te zeggen heeft. Want juist dan kan je je vooroordeel aanpassen. Maar goed, daar is misschien wat meer tijd en ruimte voor nodig dan bij een korte chat.

🏥 Het ziekenhuis als metafoor voor hoe we met digitale veiligheid en gebruikerservaringen omgaan –Responsible IT lector Nanda Piersma vertelde ons dat behalve dat er een nieuwe veiligere en publiek geborgde infrastructuur nodig is, we ook moeten kijken naar hoe zich dit naar een betere gebruikerservaring vertaald. Zo’n betere ervaring zou moeten zorgen voor digital comfort. Want radicale transparantie is niet per se goed, en is vaak voor de gebruiker niet of moeilijk werkbaar. Denk maar aan alles waar je voor op ‘OK’ klikt zonder het te lezen.

Nanda vergeleek het met een patiënt in een ziekenhuis. Die moet zich veilig voelen en zeggenschap blijven hebben over haar lichamelijke integriteit en persoonlijke ruimte. Tegelijkertijd kan je een patiënt niet opzadelen met alle technische details van een operatie of behandeling, maar je kan haar wel genoeg inzicht, ruimte en tijd geven om een weloverwogen beslissing te nemen. Op eenzelfde manier moet iemand online vanuit een veilige persoonlijke ruimte kunnen handelen en deelnemen aan het digitale verkeer, zonder dat het complete algoritme of de broncode bestudeerd moet worden. Idealiter wordt met een toegankelijke interface precies de juiste mate van transparantie gegeven waarop goede afwegingen kunnen worden gebaseerd.

Mocht je meer willen weten over deze insteek, neem contact op met Nanda, of ga naar haar lectorale rede “System error, please restart” op 6 december in Pakhuis de Zwijger.

🤝 It’s about the relation, not the user — Digitaal Socioloog Lisa Talia Moretti vertelde ons dat er bij het ontwerpen van digitale systemen een focusverschuiving nodig is van ‘de individuele eindgebruiker’ naar ‘het onderhouden van een relatie’. Vaak is alles gericht op de user interface en op gebruiksgemak, vanuit het oogpunt van programmeurs en ontwerpers.

Deze insteek werkt niet goed voor instituties waarmee je een langdurige vertrouwensrelatie moet onderhouden. De relatie moet hier centraal staan en hoe deze zich ontwikkelt en kan wijzigen na verloop van tijd. Zo kan het nodig zijn dat mensen die niet digitaal geletterd zijn deze relatie ook op papier kunnen onderhouden. Of dat iemand die niet goed meer voor zichzelf kan zorgen anderen kan machtigen om de relatie voor haar te beheren. Een potentiële digitale architectuur van vertrouwen zou aan al deze criteria moeten voldoen.

⚖️ Is juridische vernieuwing nodig voor digitale commons? — Wanneer genetwerkte relaties en datakluizen, coöperatieve platformen en data commons ons voorland zijn, dan is ons rechtssysteem misschien ook aan wat vernieuwing toe. Martijn de Waal legde uit dat er in het commons discours ook nieuwe juridische kaders worden verkend. Zo is veel wetgeving nu gebaseerd op het concept ‘eigendom’ waaraan verantwoordelijkheden, rechten en plichten zijn gekoppeld. Binnen dit systeem zijn zachtere algemene belangen vaak slecht vertegenwoordigd, denk bijvoorbeeld aan informele sociale structuren, ecosystemen of andere commons.

Zo zit de waarde van data ook in de relaties tussen de data, en niet in afzonderlijke datapunten. Misschien, en dit is volledige speculatief en nog heel vaag, zit er iets complementairs tussen dit nieuwe juridische denken en een digitale vertrouwensarchitectuur. Stof tot nadenken.

Twee ingrediënten voor digitaal vertrouwen

🛠️

💬 Open Social Media — Ten eerste, en dit vergeten we nogal eens, zijn er nu al uiteenlopende open source en publieke protocollen die het sociale verkeer op internet op een gedecentraliseerde manier mogelijk maken. Denk aan het e-mailprotocol (hoe je deze nieuwbrief nu leest), of RSS (hoe je ook direct de Chrononauten-website kan volgen). Maar ook Matrix of IRC voor chatten, en Scuttlebutt en ActivityPub voor gedecentraliseerde sociale media (waar o.a. Mastodon op draait).

Maar deze communicatieprotocollen hebben ook allemaal zo hun nadelen: ze zijn technisch wat ingewikkelder, opereren slecht op enorme schaal, het is niet makkelijk en soms zelfs onmogelijk om een account over te zetten en het vertrouwen is niet goed genoeg geborgd.

Jack Dorsey, voormalig CEO en oprichter van Twitter, wil deze problemen oplossen. Hij heeft vaak gezegd dat hij in z’n carrière de meeste spijt heeft van het naar de beurs brengen van Twitter, omdat hij daarmee effectief de controle over het bedrijf verloor. Musk heeft het nu weer van de beurs gehaald en heeft de controle terug, al jaagt hij vooralsnog iedereen op en bij Twitter de stuipen op het lijf en is de grote vraag hoe en of het bedrijf de Musk-behandeling zal overleven. Hoe dan ook, Dorsey startte een paar jaar geleden een nieuw project naast Twitter, Bluesky, waarin hij met een klein team fundamenteel herdacht hoe sociale media idealiter zou moeten werken: niet als platform maar als protocol.

Een maand geleden brachten ze de eerste versie van het open source AT Protocol naar buiten. Het werkt aan de hand van deze vier principes:

🧳 Account Portability: Je account is niet het eigendom van een bedrijf, maar van jou, en je kunt het verplaatsen wanneer je maar wil.
✅ Algorithmic Choice: Algoritmes bepalen wat je ziet, dus moeten ze open en transparant zijn, en kan je zelf kiezen via welk algoritme je de wereld wilt zien.
↔️ Interoperation (of Federated Social): Verschillende socialemedia-apps en -netwerken kunnen met elkaar communiceren.
💪 Performance: Het moet goed, veilig en snel werken op enorme schaal.

Hoe zo’n open social media-landschap er in de praktijk uitziet, is nog even afwachten, en de vraag is dan nog steeds of deze sociale media ons publieke domein gezonder zullen maken of dat ze nog steeds polarisatie in de hand werken.

🤝 Bruggen bouwende algoritmes — Wat zou kunnen helpen om sociale media te depolariseren is het zogenaamde ‘Bridging-Based Ranking’-algoritme. Vandaag werkt alle populaire sociale media met ‘Engagement-Based Ranking’: hoe meer en hoe heftiger mensen reageren op een post, zowel positief als negatief, hoe meer zichtbaarheid zo’n post krijgt en hoe eerder deze viraal gaat. Dit werkt polariserend, maar dat hoeft niet zo te zijn.

Bridging-Based Ranking waardeert content namelijk hoger wanneer gebruikers die aan tegengestelde kanten van het politieke spectrum zitten de content allebei waarderen. Hieronder een voorbeeld van hoe dat in z’n werk gaat.

Het algoritme heeft zich ook al bewezen. De eerste toepassing van dit algoritme gebeurde met het Polis-platform, ontwikkeld door The Computational Democracy Project. In Taiwan werd het door vTaiwan gebruikt voor het crowdsourcen van nieuwe wetgeving. Zo werd er bijvoorbeeld gevraagd: ‘Aan wat voor regels zou Uber moeten voldoen?’ Mensen konden hier dan op inhoudelijk reageren, en daar konden anderen het dan mee eens of oneens zijn. De Polis-software gebruikt deze data om de verschillende meningen rond een vraag in kaart te brengen en clusters van mensen te herkennen die het met elkaar eens zijn. Vervolgens haalt Polis de voorstellen naar voren die relatief de meeste ondersteuning krijgen in de verschillende ideologische clusters.

Polis gamificeert hiermee eigenlijk het vinden van consensus. Wat er dan gebeurt, volgens Audrey Tang (Minister van Digitale Zaken van Taiwan), is dat er competitie ontstaat tussen wie de meest genuanceerde en afgewogen voorstellen kan schrijven. Die zullen immers de meeste support krijgen!

Voordat Musk het bedrijf overnam, was ook Twitter met dit algoritme bezig in de Community Notes-functionaliteit (voorheen Birdwatch). Hiermee kunnen gebruikers notities schrijven die aanvullende context geven bij potentieel misleidende tweets. Wanneer deze notities door gebruikers met uiteenlopende meningen waardevol worden gevonden, wordt deze notitie zichtbaar gemaakt voor iedereen op Twitter.

Vooralsnog is het Community Notes-team een van de weinige teams die Musks slagveld overleefd hebben, aangezien hij grote potentie ziet in deze benadering. Volgens Musk heeft Community Notes ‘incredible potential for improving information accuracy on Twitter!’

---

The Dawning Age of the Activated Word

The Emergence of Open Government, Civic Craftsmen and Boring Politics.

In the previous sessions we embarked on a time travel journey to the year 02093.

Here, in 02093, we met Jopie Sjef Arends. We learned Jopie was one of the most prominent media scholars of the late 21ste century.

Listening to Jopie we discovered how society had changed in the century after the invention of the World Wide Web, which had made the Internet an omnipresent social reality.

It was, in many ways, a watershed moment. She explained that the arrival of the World Wide Web created a brand-new space for information sharing and community building.

Suddenly people could connect with everybody, everywhere, all the time, in real time.

It was magical.

But it was also profoundly disruptive to the old ways and the known institutions. Ways and institutions that were part of a much older information culture – an information culture that was based on the printing press.

Jopie explained to us how, with the arrival of a new information technology, a new public domain emerged. A place where people connected with other people, with whom they shared information, and aligned values and norms.

Something in society begun to brew, to change, to mutate.

This new public domain, where information literally flowed at the speed of light, produced immense pressures on state institutions to be more efficient, more effective, more transparent, more inclusive, more honest and more democratic.

But she also explained that, at first, people didn’t know that this was happing at all. They were under the impression that the Internet was just a cool everyday gadget. Most were oblivious to the fact that something monumental had shifted.

Which resulted in societal misalignment and in confusion and chaos. This was the time of the Wild Web.

The time of the Wild Web was a time when social trust was at a low point. Misinformation proliferated, communities fragmented, politics became polarised and public institutions were increasingly seen as inadequate and not up to the task.

Some people believed the most outrageous things. Encouraged by shrewd and opportunistic politicians whose modus operandi was to sow division so they could rule.

Around 2016 it became clear to most that the Internet was somehow at the heart of the chaos. But they still didn’t understand how, and thus how to fix it.

They didn’t have a good conceptual framework to deal with it.

The concept of a public domain wasn’t new, but society never had to consciously deal with it before.

Jopie explained that the public domain that people were used to, at that time, was that of newspapers, magazines, and TV-shows. And that this public domain had grown organically in the many centuries after the invention of the printing press. It wasn’t consciously designed. It sorts of just emerged, came into being.

And if there was any design to it, it was long forgotten knowledge.

Therefore, People took it for granted.

So, at first, people treated the online sphere as a large marketplace. And when things went wrong, they reverted to known market regulation laws.

It took a while but eventually people realised that this wasn’t a constructive way forward. The online sphere wasn’t just a marketplace. It was also, and perhaps more so, a public domain. Something vital to democratic culture.

When they realised this, they also slowly – excruciating slowly – realised that it should not be regulated as a commercial space but governed as a communal space.

In the end they figured out a public domain did three things.

It created a space where people:

(1) Share information and produce a shared truth;

(2) Align values and norms and produce a shared sense of belonging and,

(3) Provide both the cultural legitimation and the technological foundation for public decision-making and public execution.

Inspired by this new insight the European Union built the Universal Data Commons, a public data chain that consisted of individual or organisational data lockers that were embedded in a single network.

It came online in 02029. And it was mandatory for all European Citizens.

Because they expected a lot of distrust from those online denizens who thought everything coming from the old institutions being totally evil, they made the chain a commons, governed by drawn members.  

In the years that followed other countries built their own compatible systems.

The Universal Data Commons did a couple of things, which changed everything.

First of all, it made it possible for journalists, scholars, and scientists to publish journalistic sources and research data in their own vault, or in their organisational vaults. These sources could then be linked to related publications that verified, complimented, or falsified them.  

This created a radically transparent chain of evidence. It became the tool that forced open journalism, open science, and open governance to become the operational standard. 

It re-reestablished a certain societal trust in it’s methods of truth-finding, data-sharing and information ordering.

This radically transparent chain of evidence also created a new truth-culture. It became a key resource in finding sources, correlating data, finding new connections.

You could even make a living as a chain weaver, verifying or falsifying sources. Organising authentication, and in general deepening trust through connecting sources and augmenting data.

Children started to learn in school how to ‘Check the Chain’ and how they could verify, falsify or compliment what they found with corroborating or contrasting sources. They learned to interpret the information they found online.

Was the photo of the burning house an original? And if it is a derivative, how so? What does the data chain tell you? Is it connected to other chains of evidence? If the flames were added later and the image was used to disinform people, what is then the correct course of action?

Another thing the Universal Data Commons did, according to Jopie – was that it cemented individual data ownership.

The Universal Data Commons created data and log-in standards, which forced platforms to become interoperable, which broke the big online monopolies and cleared the way for a diverse online ecosystem of small mutually compatible platforms.

The network and lock-in effects migrated from Big Tech towards the Universal Data Commons, which became the digital base layer.

This established a new common platform where people could meet, greet and bond.

The Universal Data Commons also had the advantage that log-in could only be done on verified identities, which created a known public.

People could still operate pseudonyms, but they could no longer operate anonymously. This limited online bullying and intimidation and created a safe online space.

The Universal Data Commons also allowed for contextual privacy, which means that you only share the information that is needed in a certain context. This made societies need for radical transparency and the individual’s need for privacy mutually compatible.

So, after the introduction of the Universal Data Commons the Internet basically became a much healthier public domain, where recognisable members of the citizenry could engage, in a shared interoperable environment, in truth finding and community building.  

But, as Jopie pointed out, that still left the last function of a healthy public domain unchecked.

How would the Universal Data Commons transform political decision-making and public governance?

The answer came in time.

People realised two things:

They realised that every time the information density in society became more intense – public organisations had to become more transparent, objective, and trustworthy and public decision-making had to become more democratic.

Because the Universal Data Commons secured a more transparent, objective, and trustworthy ecosystem, they could build trustworthy platforms for public decision-making and execution that catered more towards the talents and fascinations of people who did the work.

In the old days organisations were built upon the trusted work ethos of the professional. People trusted the professional to be objective and impartial – to do his or her job despite his or her subjective feelings and thoughts.

Although you didn’t really know if the professional in question was doing his or her job, you trusted her anyway. You believed he or she was there for you. Which was, as we all know, not always the case.

The Universal Data Commons created a transparent environment, where more was known and more was accountable. This new transparency created the space where a new work ethos could be developed: craftsmanship. 

Professionals simulated objectivity so people would put their trust in them. Now people trusted the information in the Universal Data Commons and workers could be more like themselves, which allowed for more artistry and authenticity.

This cultural shift made new collaborative platforms possible.

And it soon became clear that bottom-up cooperative projects were much better suited to the on-chain economy than static hierarchical bureaucracies.

This new emerging collaborative culture also translated itself to how governments organised themselves.

Besides Open Science and Open Journalism also the practice of Open Government emerged, where all policy documents and memos were published on chain and where all decisions were transparent and under public scrutiny.

The civil servants considered themselves no longer as professionals.

Most professional civic servants were cogs in the machine. Above all loyal to the department and its political master.

But as civic craftsmen they professed above all loyalty to the public. If all the documents were not already available on-chain, they would all be potential whistleblowers.

Finally, Jopie explains to us, that in 02060 the European Union and its member states ended the practice of elected professional politicians.

Parliamentary democracy became a thing of the past.

From now on drafted citizen assemblies would be responsible for public decision-making.

And because most people had extensive experience with cooperative decision-making these assemblies were very boring affairs. No more crazy rhetoric’s. No more opportunistic power grabbing manoeuvres.

The need for re-elections no longer warped public decision-making and because everything was on-chain the concept of backroom politics was soon forgotten.   

Obviously, most people didn’t like being part of a council. They had better things to do. So, they were extremely well reimbursed for their efforts. A couple of months assembly duty earned a couple of years living money.

At last Jopie explained that within an information dense society, decision-making needed to rely on very diverse assemblies.

All physical and neurological conditions know to mankind and all kinds of cultural backgrounds would be represented. As well as, obviously, the people most effected and interested.

In this way, the decision-making process could take advantage of the widest variety of experiences, angles, insights, and intelligences. It took take into account all that humanity had to offer.

And, by bringing people from all walks of life together around a common problem, community was produced in a very inclusive way.

 —

❤️ Ed & Chris