Als de robots eenmaal daar zijn!

Is de Homo Deus een robot?

 

“Robot, machines that look and act like humans, have been the subject of speculation and fantasy for many years….But let us look at the facts. The solution of mathematical problems, and other feats, performed by the computer do resemble the proces of human thought. But the resemblance is too superficial to warrant the conclusion that these machines think or are essential human in any way”

John Diebold, Automation, the advent of the automatic factory (1952).

 

Onlangs heb ik een opdracht uitgevoerd waarbij het centrale thema digitalisering was. De achterliggende vraag van de organisatie was of verdere digitalisering zou leiden tot een besparing in menskracht. Een vraag die veel bedrijven zich stellen gevoed door tal van bericht over digitale transformatie. Mis je de boot van de digitale transformatie dan kost het je bedrijf of organisatie, spring je op tijd op dan leidt het tot verval van banen. McKinsey heeft afgelopen jaar uitgebreid onderzoek gedaan naar de toekomst van werk onder invloed van digitalisering. Het rapport is te rijk om te reduceren tot een enkelvoudige samenvatting maar een kernboodschap was dat veel functies weliswaar niet verdwijnen maar wel dat de inhoud van het werk zal veranderen. Waarin tot voor kort de kenniswerker erop kon vertrouwen dat kennis die hij draagt onderscheidend was, dient de technologie zich aan waarmee ook het kenniswerk zal robotiseren. Daar waar robotic process automation nu nog vooral de mens vrijmaakt voor interessant werk omdat ‘bots’ het repititieve karakter van werk overnemen – een leverancier spreekt zelfs beeldend over de robot uit de mens halen, zijn anderen die denken dat zelflerende algoritmes leiden tot iets waar we als mensen geen invloed meer op hebben.

Digitalisering en robotisering roepen opnieuw een spectrum aan beelden op: angst voor het verdwijnen van werk en het verlies van controle staat tegenover het optimisme dat we dankzij kunstmatige intelligentie onze grenzen verder kunnen verleggen. Zoals de historicus Yuval Noah Harari beschrijft maakt kunstmatige intelligentie mede mogelijk dat de homo sapiens zich tot homo deus ontwikkelt: vrijwel onsterfelijk en bovenmatig intelligent. De angst en verbeelding lopen hand in hand. Niet dat deze tegenstelling nieuw is. Wanneer we teruggaan naar de vroege automatisering zien we vergelijkbare tegenstellingen: discussie over termen aan hand van vaak krachtige metaforen.

Watson ontmoet Polak

Watson staat symbool voor de doorbraak op het gebied van kunstmatige intelligentie en zelflerende systemen. Wat veel mensen niet meer zullen weten is dat de naam Watson is afgeleid van Thomas Watson, de grondlegger van IBM, die naast zijn naam en faam vaak is geconfronteerd met zijn uitspraak dat “I think there is a world market for about five computers”. Hoewel er weinig overtuigend historisch bewijs is dat Watson deze uitspraak echt heeft gedaan, ontbreekt, past het wel in een periode dat computers met een grote mystiek waren omgeven.

Zoals er nu nog steeds bijna semantische discussies lijken te bestaan over wat digitaal werken anders maakt dan digitalisering, en waarin digitalisering weer afwijk van automatisering, zo was er ruim zestig jaar geleden een diepgaande discussie over het verschil in betekenis tussen automatie en automatisering. En waar mechanisering ophoudt en automatisering begint. R.W. Starreveld wijdt daar bij het aanvaarden van zijn hoogleraarschap de nodige regels aan om uiteindelijk met een eenvoudige definitie te komen ‘…. doelmatig is van ‘automatisering’ te spreken in alle gevallen waarbij in enig proces sprake is van uitschakeling van menselijke arbeid doordat het proces op de een of andere wijze geheel of gedeeltelijk zelfwerkend wordt gemaakt (Starreveld, 1959)’.

Zouden we procesautomatisering of digitalisering nu anders omschrijven?

En waren er uitgesproken proponenten en uitgesproken opponenten in het ‘automatiedebat’ dat in tweede helft van de jaren vijftig woedde. In Nederland heeft de socioloog, futuroloog en hoogleraar Fred Polak geruime tijd oppositie tegen de opkomende automatisering gevoerd. Polak heeft veel over de opkomst van automatisering geschreven. Zijn belangrijkste zorg was dat automatisering zoals die zich aandiende zou leiden tot een tweede industriële revolutie met alle vormen van maatschappelijk ontwrichting die daarbij denkbaar waren. Niet veel anders dan we in ons doemdenken over digitalisering en digitale transformatie nu ook tegen kunnen komen. Internationaal woedde de discussie misschien nog wel heviger dan in Nederland met echte ‘congressional hearings’ in de VS, hoewel in 1956 de toenmalige verantwoordelijke minister werd opgeroepen een commissie in te stellen ‘die ter bestudering van wat reeds is en komen zal, om zo spoedig mogelijk adviezen uit te brengen, die alle narigheid voorkomen kunnen’.

Zelflerende superbreinen

In polderend Nederland voerden hoogleraren, industrielen en leveranciers het debat over automatisering en de economische, sociale en maatschappelijke gevolgen. Polak voerde het debat vooral in de media: metaforen als superbrein en ‘giant brain’. Polak wees op de ontwikkeling van de ‘perceptron’  door de US Navy (ontwikkeld door Frank Rosenblatt in 1957). De perceptron was een mechanisch brein, waarvan het geheugen werd gevoed door eigen observaties. De machine groeide in precisie, kon zelf leren en werd wijs door ‘trial and error’. De perceptron stond niet alleen, andere verworvenheden van die tijd waren de komst van automatische grasmaaiers en ‘automatic car driving’. Het was met name de parallel van de mythische computer met menselijke vermogens die leiden tot een cultuurpessimistische houding.  Of zoals in 1946 al werd geschetst:

“The human machine tender is at best makeshift. We are beginning to develop, fabrication, controle safety, and observing devices immensely superior to the human mechanism. This development is only at its infancy, yet already we have machines that see better than eyes, calaculate more reliably than brains, communicate faster than the voice, record more accurately than memory, and act faster and better than hands. These devices are not subject to human limitations. They do no mind working around the clock “

(J.J. Brown, E.W. Leaver, Machines without man, in Fortune, November 1946).

Waar Polak vooral beducht voor was, was het verlies van humanistische waarden in technocratische, mathematische en economische samenleving. De vrije tijd die we als gevolg van automatisering zouden krijgen zou niet tot culturele vooruitgang leiden, maar tot een ‘Umwerting aller Werte’. Hierin vonden in een nog niet seculariserend Nederland voor- en tegenstanders elkaar, want toen het automatiseringsdebat al op haar einde liep, stond in een gezaghebbend rapport de waarschuwing te lezen dat ‘Een passief aanvaarden van de in de schoot gevallen vruchten (van automatisering) zou een slap egocentrisch genot zoekende mentaliteit kweken.’

Daar waar de onrust enige tijd luwde, stak Polak ook in de jaren zestig nog regelmatig een waarschuwende vinger op:

“Het merkwaardigste van alles is wellicht de toenemende automatie in de fabricage van automatie-apparaturen, waarbij automatiemachines dus zichzelve reproduceren en regenereren, zelf worden afgericht op het zoeken naar en bij machte blijken tot het voortbrengen van steeds verbeterde en meer vermogende automatiemachinerieën”

(F. Polak, Het jaar 2000: op de drempel van luister of duister? in: De Gids, 1961).

in 1968 stonden we volgens Polak  aan de vooravond van ‘machines die zelf kunnen zoeken, vinden en uitvinden, machines die zelf leren en gedurig wijzer worden, machines die enige scheppingsdrang hebben en originaliteit hebben, Machines die tot de best denkbare besluiten kunnen komen – sterker nog die zichzelf kunnen vermenigvuldigen.’ Polak finally meets Watson.

In perspectief van deze tijd

De begrippen van vandaag zijn anders, maar de toon van het debat is niet veel anders. In mijn onderzoek naar digitalisering waarschuwden de mensen mij dat menselijk werk essentieel was voor de organisatie: ‘we kunnen toch niet alles automatiseren’. Terwijl specialisten als radiologen en misschien ook wel oncologen zich moet gaan bezinnen op hun toegevoegde waarde, waar robotica en kunstmatige intelligentie steeds beter worden in patroonherkenning en diagnosestelling, kunnen we ook de vraag die Yuval Harari opwerpt parafraseren. Ontwikkelt de mens zich tot een homo deus of ontwikkelt de robot zich tot Robot Conscientia? Of in de woorden van Harari:

‘When the computer replaces our bus driver, our teach, our shrink how can we determine whether they have feelings or whether they are just a mindless collection of algorithms”

(Yuval Harari, Homo Deus, a brief history of tomorrow, 2016).

Het antwoord hierop heb ik niet. De vraag is of het altijd uitmaakt. De wereld waar Polak bang voor was, is al hier, en de keren dat ik in de bus stap ben ik me ook niet altijd bewust van het feit of de bus chauffeur gevoelens heeft. Interessant wordt het natuurlijk wel wat we van een robot accepteren. Mag de robot-oncoloog er in 1 op 10.000 gevallen naast zitten?

Elke nieuwe technologie heeft onvoorziene effecten maar zolang we met elkaar in interactie zijn en de dialoog blijven voeren hebben we ook gelegenheid om richting te beïnvloeden.  Tot het moment waarop het momentum voorbij is.