Tagarchief: rationaliteit

Als technologie in verkeerde handen valt

Man is a rational animal. So at least I have been told. Throughout a long life I have search filigently for evidence in favor of this statement. So far, I have not the good fortune to come across it.

  • Bertrand Russel –  (uit Stephan Pinker, Rationality)

Onlangs zag ik met mijn gezin de laatste Bond, No time to die. Het is een klassieke Bond met achtervolgingsscenes, een getraumatiseerde slechterik en een 007 die zich inzet voor het redden van de wereld. Onderdeel van het plan om de wereld te vernietigen was de verspreiding van een stof waarmee nanobots via de huid mensen zouden besmetten. En daarmee een aanzienlijke reductie van de populatie zou bewerkstelligen. Geen onbekend thema in deze tijden. De fictieve wereld van de film is altijd een reflectie van wat er in de maatschappij gebeurt of staat gebeuren. De mens heeft een bijzondere verhouding tot technologie. Het vooruitgangsdenken leidt ertoe dat we een enorm vertrouwen hebben in de oplossingen die technologische vooruitgang ons bieden. En tegelijkertijd is technologische vooruitgang vaak de Nemesis waartegen we ons weer met nieuwe technologische vooruitgang teweer moeten stellen.

Is technologische ontwikkeling autonoom?

Dat technologie niet autonoom is hebben al veel filosofen en technologiewetenschappers aangetoond. Zelf ben ik ooit geschoold in sociaal constructivistisch denken van Wiebe Bijker. Dat denken heeft weer raakvlakken met de theorieën en opvatting van Bruno Latour. Wetenschappers, onderzoekers, uitvinders, organisaties werken in allerlei zichtbare en deels onzichtbare netwerken aan technologische ontwikkelingen, in het gebruik wordt technologie gedefinieerd en de herdefinitie leidt vaak weer tot nieuw gebruik. Discussie over maatschappelijk verantwoorde toepassing van technologie is geen nieuw thema; of nu gaat om medische technologie, DNA gerelateerde toepassingen, kernenergie, kunstmatige intelligentie of robotisering. Er is geen terrein waar de dialoog over het effect pas ontstaat als de toepassing daar is. En vervolgens de roep om regulering ontstaat.

Neem bijvoorbeeld robotica. Deze technologie vindt al in veel domeinen een toepassing. Veel industriële productie is zonder de toepassing van robotica ondenkbaar. We hebben een lange weg afgelegd sinds het productiesysteem van Henry Ford. Neem bijvoorbeeld de toepassing robottechnologie in de medische wetenschap die specialisten in staat stelt met een grotere precisie hun werk uit te voeren. Maar neem ook de technologie van robotsoldaten of autonome wapensystemen. Deze worden ontwikkeld in verschillende land met als doel de veiligheid en effectiviteit van het leger te vergroten. De technologie beweegt zich langs een dunne lijn van waar menselijk ingrepen gewenst of waar een systeem daadwerkelijk autonoom. En waarbij de vraag naar voren komt of internationale afspraken nog wel helpen deze technologie te beteugelen: foutje, bedankt.

In veel verschillende domeinen zien we dat wanneer een technologie er eenmaal is de menselijke creativiteit ertoe zal leiden dat er toepassingen ontstaan die mensen helpen (nucleaire geneeskunde) of de samenleving bedreigen (nucleair wapenarsenaal). En dat aanwezigheid leidt tot gebruik, en dat verkenning van mogelijkheden leidt tot toepassing. Denk aan het voorbeeld van de Chinese arts.  De bewerking van DNA die He Jiangku toepaste waarmee hij immuniteit tegen het AIDS virus creëerde riep een golf van verontwaardiging op. Maar als we nog een aantal jaren aanmodderen met Corona-achtige virussen wie zegt dat niet een minister van volksgezondheid hierin niet een killer applicatie ziet om onze vrijheid terug te geven. Of denk aan de wereldwijde onderzoeken die moeten leiden tot bescherming tegen virussen die nog tot ontwikkeling moeten komen. De vooruitgang die we in het éne centennium prijzen, is de technologie die we in volgend centennium verguizen. Of juist aanmoedigen. Een auto voor iedereen bood de weg naar vrije mobiliteit. Over een aantal jaar hebben we naast vliegschaamte ook wellicht autoschaamte. Zo was IVF eind jaren zeventig omstreden en is het nu algemeen maatschappelijk geaccepteerd.

In deze wereld die zo volatiel is, die door onderlinge verwevenheid vaak zo chaotisch is, kunnen we niet voorkomen dat technologie zich in allerlei gedaantes door ontwikkelt. In wat voor sommige een dystopische wereld is de nieuwe natuur ook een technologische natuur waarin we kunstvlees als normaal accepteren. In plaats van methaan producerende koeien in de wei, betrekken we ons vlees van fabrieken. De initiatieven voor kweekvlees zijn alom. We zien het ook in de medische technologie. Dat wat medisch kan – recent een kunsthart – leidt dikwijls tot wat medisch moet.

Surveillance als voorbeeld

De toepassing van technologie waarmee overheidsinstellingen in staat zijn surveillance toe te passen is bij uitstek een voorbeeld van het langzaam opschuiven van grenzen. Het zijn misschien de milde vormen van surveillance wanneer we het afzetten tegen andere vormen die zich aan de wereld opdringen. De staatsgedreven vormen van surveillance zoals in China gemeengoed aan het worden is waar de burger via een sociaal krediet systeem plus- en minpunten kan verdienen om te bewijzen dat er sprake is van goed burgerschap. Punten voor burenhulp en straat vegen, strafpunt voor burenruzie of afval op straat laten.

Veel kranten schetsen een beeld van surveillance die verder gaat dan camera’s die op straathoeken hangen, toepassing van AI, gezichtsherkenning en voor sommige groepen aangevuld met biometrische gegevens. Dit is een vorm van surveillance die mogelijk past in de traditie van China, maar waarbij wij de wenkbrauwen fronsen. Voor een deel van de bevolking lijkt het overigens minder een vraagstuk: zolang hierdoor veiligheid en stabiliteit ontstaat en de invloed op het dagelijkse leven beperkt is, is er voor veel Chinezen weinig aan de hand.

Maar er is een andere vorm van surveillance die stapsgewijs als een onzichtbaar virus onze samenleving binnendringt die we kritisch zouden moeten beoordelen. Alles wat wordt vastgelegd kan worden gebruikt. De geolocatie op je mobiele telefoon geeft de overheid informatie over verkeerstromen en mobiliteit, camera’s onderweg geven een indicatie over ons rijgedrag, het rioolwater onderzoek geeft indicatie waar wordt gesnoven of waar het Corona-virus oplaait. En als we op straat mogen rondlopen, monitoren camera’s onze aanwezigheid in de winkelstraat. Via onze smartphones is vast te stellen wanneer we waar waren.

Om fraude tegen te gaan, om onze veiligheid te vergroten, om terrorisme te bestrijden en om een pandemie de kop in te drukken verzamelen we steeds meer data, combineren we data, laten we algoritmes op data los om nieuwe inzichten te verwerven. En raken we steeds meer verweven in het web waarbij we vertrouwen moeten hebben in een overheid die zelf geen zicht meer lijkt te hebben op de algoritmen die worden gebruikt. Surveillance door overheid en surveillance capitalism waarbij de overheid juist wordt ondergraven, zijn twee kanten van een zelfde medaille. En veranderen bijna ongemerkt de samenleving die we kennen.

De verandering gaat stapsgewijs

Want zoals de samenleving permuteert, permuteert ook technologie, en zoals technologie permuteert, permuteert ook de samenleving. In een  continue dans met soms verstrekkende gevolgen. Het is als met de klimaatcrisis waar al meer dan vijftig jaar waarschuwingen over worden uitgesproken. Ik herinner me nog een gesprek vriendjes op het grasveld voor onze woning waarbij ik aankondigde vanwege de luchtvervuiling nooit een auto te zullen kopen. Dit was begin jaren zeventig. Deze belofte heb ik niet gehouden. De belofte nooit te gaan roken vanwege het schadelijk karakter rond diezelfde tijd heb ik wel gehouden. We weten als mensheid vaak allang waar schade individueel en maatschappelijk ontstaat, maar gedrag verandert in kleine stappen. En we zijn opgeteld blind voor het totaal van de individuele gedragingen. Natuurlijk maakt het geen enkele yota verschil of ik individueel elektrisch ga rijden (als dat al helpt) of de verwarming twee graden lager zet. In collectiviteit gedragen we ons als lemmingen. We weten het wel maar laat eerst Tata Steel groener produceren voordat we zelf in beweging komen.

En zo kunnen we ook tegen alledaagse toepassingen kijken als de CoronaCheck app. Geen voorbeeld van hemelbestormende technologie. Maar een die in het verlengde van vaccinatiecampagne opeens een belangrijke plaats gaat innemen in ons verlangen naar vrijheid. Waar veel eerdere maatregelen een overduidelijke gedragscomponent hadden: verplicht thuiswerken, avondklok, anderhalve meter, is de toepassing van de CoronaCheck een technologische ingreep die ook het gedrag van de samenleving moet beïnvloeden. Bij het begin van de Coronacrisis was de veronderstelling dat iedereen op enig moment Corona zou krijgen en dat groepsimmuniteit zou ontstaan nadat zeventig procent van de bevolking in aanraking was geweest.

We leren dat we hier te maken hebben met een wat venijniger fenomeen. Maar de toon van het debat verandert waarbij een bepaalde groep bewust of onbewust tot de paria’s van onze samenleving worden gebombardeerd. Indien je je zelf niet vaccineert, dan is ziek worden toch eigen schuld dikke bult en verklaar je jezelf niet solidair met de samenleving. Alsof je je door roken of overmatig drinken solidair toont met dezelfde maatschappij. De CoronaCheck had tot 1 november een beperkte werking. Primair een ingang voor horecabezoek. Vervolgens volgt de terrasbeperking. Hierin zien we een langzame verschuiving, een beetje nudging, de geesten wat rijpen totdat we ineens de verandering hebben geaccepteerd waar we eerst zo op tegen waren en waar de CoronaCheck eerst een paspoort naar de vrijheid was, zo is het voor mensen nu in feite een beteugeling van de vrijheid is.

En nu de CoronaCheck langzamerhand in meer segmenten van de samenleving het bewijs voor vrijheid wordt, en we binnenkort mogelijk gaan zien dat werkgevers in het kader van een veilige werkomgeving de grens voor gebruik gaan verlagen, zien we de kleine permutaties. Net zo sluipend als het ontstaan van de klimaatcrisis, of meer individueel het ontstaan van een terminale ziekte, permuteert de toepassing van een technologie de samenleving. Drie G staat binnenkort voor drie keer geprikt. En waar deze technologie zich beproefd heeft in een strijd tegen de éne crisis, wordt het een geaccepteerd middel bij een volgende nog onbekende crisisbestrijding. Misschien iets om een rookvrije generatie te bewerkstelligen. Voeg er nog een vleugje gamification aan toe en wie weet waar het toe leidt.

Rationaliteit als redmiddel?

Stephan Pinker houdt in zijn nieuwe boek in hartstochtelijk pleidooi voor rationaliteit. Hij laat zien dat de wereld van logisch redeneren, van kritisch denken en denken in oorzaak en gevolg de mens tot grootste prestaties heeft gebracht. Maar dat er een keerzijde die even waar is, waar in de wereld van belangen, overtuigingen, alternatieve waarheden de optelsom irrationeel lijkt. Misschien is dat ook wel het effect van schijnbare autonomie van technologische ontwikkeling. Net zoals de modelleurs bij RIVM ontdekken dat het gedrag misschien wel een bepalende factor is. De ceteris paribus uit de economische modellen, is ook dat wat technologische ontwikkeling drijft. Maar niet het individuele gedrag van een Dr Strangelove: in het collectief van allerlei individuele gedragingen en belangen neemt technologie een vorm aan die ons autonoom voorkomt. Met dit dubbelsnijdend zwaard hebben we het te doen.

Zoals Pinker verwoordt: “Progress is shorthand for a set of pushbacks and victories wrung out of an unforgiving universe. And it is a phenomenon that needs tob e explained…. The explanation is rationality. When humans set themselves the goal of improving the welfare of their fellows (as opposed to other dubious pursuits and redemption) and they apply their ingenuity in institutions that pool it with others’, they occasionally succeed (Pinker, 2021).”

Bron

Steven Pinker, Rationality, what it is, why it seems scarce, why it matters (2021).