Bot voor de bumper

Home

PDF-versie

De robot van 2030 is geen drilsoldaat die bevelen opvolgt. Wat onze realiteit vraagt is kunstmatige intelligentie die meedenkt, door kennis toe te voegen aan de kennis van de mens. En ons daarmee ondersteunt en ontlast.’ Seans ogen gleden over zijn toehoorders. Van de jongere mensen zag hij vooral hoofdkruinen. De onderuitgezakte cynisch-kijkende vijftigers die hem wel aankeken straalden uit dat ze als journalist zijn verhaal konden maken en breken. Dat mochten ze uitstralen. Sean Wendel, technisch jurist en communicatiemanager bij RBP Artifinology, ging graag de strijd aan.

‘De samenleving vergrijst. Een oudere die thuis zorgondersteuning nodig heeft, is geholpen met technologie die oog heeft voor zijn fysieke en mentale behoeften. Niet met een apparaat wiens kunstmatige oerinstinct niet verder reikt dan de notie dat hij zijn patiënt geen letsel mag toebrengen. Al staat veiligheid natuurlijk op de eerste plaats bij RBP Artifinology.’

Naast hem schoof Jetske onrustig heen en weer, zoals altijd als hij het woord ‘veiligheid’ liet vallen. Maar hij was onwrikbaar geweest. Hij deed het woord, zij bediende de presentatie.

Op het grote beeldscherm reed een ligrolstoel over de stoep. Proefrobot CB1 rolde ernaast: een borsthoge stellage van buizen, snoeren en tape. Het meest opvallende onderdeel was de slanke spriet die er bovenuit stak.

‘De meeste lenzen en sensoren zitten in die spriet,’ zei Sean. ‘Cuby registreert alles wat de komende seconden invloed kan hebben op de mentale en fysieke gezondheid van betrokkenen. Zijn lenzen en microfoons zijn state of the art. Als een passerende mier over een zandkorrel struikelt en vloekt, dan registreert Cuby dat. Over de privacyaspecten hebben we het net al uitgebreid gehad. En dan bedoel ik uiteraard niet de privacy van de mier.’

Sean was zijn praatje een half uur tevoren begonnen met de knelpunten rondom privacy. Hij had over verschillende dilemma’s verteld die ze hadden weten op te lossen. ‘Eerst privacy, die kleine terriër die je in je broekspijp gaat hangen en niet meer loslaat,’ had hij tegen Jetske gezegd. ‘Dan veiligheid, want dat onderwerp kan in vijf minuten een roedel huilende wolven worden. Dan de rest. En ik doe het woord, niet jij. Als je denkt dat ik maanden van zorgvuldig werk in vijf minuten ongedaan laat maken doordat jij als een olifant door de porseleinkast komt denderen dan heb je het mis.’

‘Door de kostbare collectie dinky-toys van de volwassen man, bedoel je. Goed, dan zal ik mij opwerpen als je charmante assistente.’ Jetske was een rabiate feministe, een ouwe tang, al was ze met haar 32 jaar nauwelijks ouder dan hijzelf. Ze was ook een van de oprichters van RBP Artifinology. Sean was er pas een klein jaar bij. Hij was niet alleen de enige man in het driekoppige managementteam maar ook de jurist-annex-communicatiedeskundige die zich graag netjes kleedde en daar aanhoudend grappen over te horen kreeg. Het bracht hem niet van zijn boodschap af. RBP Artifinology had alles in zich om een reus in de robotica te worden, maar zonder zorgvuldige communicatie en juridische grondigheid zou negentig procent van hun inspanningen vervliegen. Het waren mensen als Jetske Antonéus die de intuïtie en de informatica brachten, maar Sean Wendel die de redelijkheid en de resultaten bewaakte.

‘Onze robots kijken naar het totaalplaatje,’ ging hij verder, terwijl Cuby de rolstoel liet inhouden om te voorkomen dat een rondscharrelende duif het drukke fietspad op fladderde. ‘De belangen van Cuby’s gebruiker zijn precies even belangrijk als die van andere betrokkenen. Het gaat hier om het begrip ‘gelijkwaardigheid’. De gebruiker, de robot en andere betrokkenen staan niet in een hiërarchische positie tot elkaar. De realiteit om hen heen is in zekere zin ‘shared space’. Dat maakt onze robots wezenlijk anders dan de klassieke robot.’

(‘Wat onze robots wezenlijk anders maakt dan zo’n klassieke hoop tandwielen is het beschavingsniveau van de samenleving waarin hij opereert,’ had Jetske hem bij zijn sollicitatiegesprek medegedeeld. ‘De klassieke robot is een aap tussen apen. Robots uitroeien is niet nodig want als we van ze af wilden dan stopten we gewoon met het ontwikkelen ervan. En kunststof en metaal vormen geen concurrentie voor het sperma van de menselijke aap. Daarom is de robot het overwonnen en onderworpen mannetje van een vijandige apenstam. Kijk maar naar de oude Wetten van de Robotica. Een robot mag een mens geen letsel toebrengen, een robot moet bevelen opvolgen en een robot moet daar waar mogelijk zijn eigen behoud veiligstellen. Een superlijfwacht, peperduur en statusverhogend, die volledig onder de duim zit. Wat wil een echte man nog meer?’ Ze had Sean vragend aangekeken. Hij had beleefd geknikt.)

‘De robot, gebruiker en andere betrokkenen kunnen eigenlijk worden gezien als een modern team,’ ging hij verder.

‘U bedoelt een zelfsturend team?’ klonk de sceptische stem van een man op de eerste rij die Sean herkende als Barry Liban, een dagbladjournalist.

Sean negeerde hem. ‘Een team zonder hiërarchische lagen dat een gedeeld langetermijnresultaat nastreeft. Het enige dat de relatie tussen de robot en zijn gebruiker speciaal maakt is het gegeven dat zij napraten over een taak. We noemen dat ‘delen’. Zo kan de robot leren van wat zijn gebruiker -’

‘Maar in dat ‘team’, zoals u het noemt, wegen de belangen van mensen dus niet per se zwaarder dan die van de robot,’ zei Barry Liban. ‘Want die veiligheidsgarantie hebt u eruit gehaald.’

‘De basis van onze robots is de gelijkwaardigheid van mensen,’ zei Sean nadrukkelijk, om de journalist maar ook Jetske te smoren die hij weer naast zich hoorde bewegen. ‘Onder gelijkwaardigheid verstaan we de mentale en fysieke gezondheid op de lange termijn van de gebruiker én de betrokkenen. De robot formuleert zijn taak, bespreekt die met de gebruiker en voert die uit. Vervolgens deelt hij de ervaring met zijn gebruiker, zodat hij ervan kan leren voor de volgende keer. En is er sprake op enig moment sprake van ongelijkwaardigheid voor de gebruiker of een van de betrokkenen? Komt de mentale of fysieke gezondheid van iemand op de langere termijn in gevaar? Weet de robot dat bijvoorbeeld op basis van de data die hij voortdurend digitaal vergaart?’ Sean knipte met zijn vingers. ‘Dan stopt hij en gaat hij met de gebruiker in gesprek.’

Er kwam een rustige stem van een man van Tech21. ‘Meneer Wendel, als die garantie niet is ingebouwd, kan RBP Artifinology dan garanderen dat haar proefrobots in de openbare ruimte veilig zijn?’

‘De gelijkwaardigheid van alle betrokkenen wordt meegenomen.’ Sean spreidde zijn handen uit. ‘Hoe zou dat onveil-’

‘Ja of nee, meneer Wendel?’

‘Ja,’ zei Jetske luid.

Het was even stil. Hoofden kwamen omhoog van mobieltjes.

‘Honderd procent garanderen?’ vroeg Barry Liban meteen.

‘Honderd procent,’ zei Jetske voordat Sean kon ingrijpen. ‘Gelijkwaardigheid is de basis van alle veiligheid. Gelijkwaardigheid ís veiligheid. Brengt democratie veiligheid met zich mee?’

‘Jazeker,’ zei Liban prompt, ‘maar daarmee garandeert democratie nog geen veiligheid. Uw filosofie over gelijkwaardigheid klinkt natuurlijk erg aantrekkelijk, maar u kunt de veiligheid van uw robots dus niet garanderen.’

‘Brengt vrijheid veiligheid met zich mee?’

‘Net als democratie garan-’

‘Zijn democratie en vrijheid te testen in een proefopstelling?’ vroeg Jetske.

‘Waarschijnlijk niet, nee. Maar -’

‘Gelijkwaardigheid ook niet.’

‘U geeft dus eigenlijk gewoon toe dat u niet weet of uw proefrobots veilig zijn.’

Voordat Sean iets kon zeggen om de schade te repareren die Jetske in nog geen minuut had veroorzaakt, ging ze al door. ‘‘Veiligheid’ is slechts de keuze die we maken voor één bepaalde waarheid. We weten hoe willekeurig het onderscheid is tussen een vrijheidsstrijder en een terrorist. We weten hoe politieke belangen bepalen wanneer een buitenlandse president als dictator of als bondgenoot wordt aangemerkt. Het is precies deze subjectiviteit van ‘veiligheid’ die door onze drie Beginselen van de Robotica vermeden wordt. De Beginselen zijn gebaseerd op gelijkwaardigheid, en gelijkwaardigheid gaat uit van de mentale en fysieke gezondheid van álle betrokkenen. Onze robots komen in een tabaksfabriek onmiddellijk tot stilstand en delen hun redenen daarvoor. Onze robots zullen in de wapenindustrie geen poot verzetten. Onze robots zullen bij het verzorgen van een oudere zich volledig inspannen voor die oudere, maar daarbij altijd rekening houden met andere mensen.’

Er werd niet meer op mobieltjes gekeken. Iedereen luisterde.

‘Dit is niet meer de 20e eeuw, toen we nog uitgingen van een simpele, eenduidige realiteit. Onze menselijke realiteit berust op ontelbare factoren. Ik proef angst in uw woorden, de angst dat robots u overweldigen. Maar eigenlijk bent u gewoon bang om een controle te verliezen die u überhaupt niet hebt. Het is niet zo dat de realiteit verandert door onze robots, het is enkel dat u niet meer de realiteit kunt kiezen die u als persoon of als bedrijf het beste uitkomt.’

‘En RBP heeft hier proefpersonen voor kunnen vinden?’ vroeg Liban.

‘Zeker,’ greep Sean in. ‘De privacy van onze cliënten staat voor ons op de eerste plaats, maar natuurlijk vragen we hen graag of enkelen van hen bereid zijn een interview te geven over hun beweegredenen en ervaringen.’

Er schoten vingers om hoog, maar de organisator stond op en bedankte Sean en Jetske voor hun bijdrage aan de conferentie. De zaal kwam kletterend en zoemend overeind. Sean bleef rustig staan met een opgewekte uitdrukking op zijn gezicht. Pas toen Barry Liban hem niet meer in de gaten hield, boog hij zich over de laptop heen.

‘Proficiat,’ zei hij onder zijn adem tegen Jetske.

‘Dat gezever ook altijd.’

 

* * *

 

De drie Beginselen van de Robotica

1. Een robot houdt zichzelf op de hoogte van informatie over ongelijkwaardigheid, dat wil zeggen over omstandigheden waardoor de mentale of fysieke gezondheid van een mens op de lange termijn verslechtert.

2. Een robot wijkt niet af van de cyclus:

a) vaststellen van de taak

b) uitvoeren van de taak

c) delen van inzichten over de taak met de gebruiker

3. Als een volgende stap in de cyclus ongelijkwaardigheid oplevert voor betrokkenen, gaat de robot naar stap 2 c).

 

* * *

 

Het was vrijdagavond, ruim een week later. Ze zaten in Jetske’s ruime kantoor, dat uitkeek over een al grauw wordende avondstad. Niemand had moeite genomen om het licht aan te doen toen het was gaan schemeren. Sean draaide abrupte halve cirkeltjes op zijn stoel en speelde met een stylus. Jetske zat achter het directeurenbureau en staarde naar het blad alsof het haar iets had aangedaan. Vera Portman zat op een zitbal, haar benen naast zich gevouwen en haar wenkbrauwen gefronst. Alleen Cuby stond sereen voor zich uit te kijken.

Voor wat inmiddels de twintigste keer leek speelde Sean de beelden af van een uur geleden.

Spitsverkeer zoefde af en aan over de tweebaansweg. Op de stoep aan de rechterkant reed Cuby, naast de ligrolstoel waarop een ingepakte menselijke vorm lag. Lykle Hart was 58 en sinds twee jaar grotendeels verlamd door een beroerte die een abrupt einde had gemaakt aan zijn carrière als internationaal vertegenwoordiger, en aan alles wat fysieke handelingsbekwaamheid en maatschappelijke status vraagt.

‘Experimenteer er maar lekker op los,’ had hij gezegd, traag en moeilijk verstaanbaar, toen hij zich aanmeldde als proefpersoon. ‘Als het werkt dan krijg ik een stuk van mijn onafhankelijkheid terug. En als het mis gaat dan heeft deze ouwe lul nog nuttige leerervaring opgeleverd.’

Bij de voetgangersoversteekplaats draaide het tweetal negentig graden zodat de rolstoel de goede kant uit wees. Lykle lag rustig te wachten, zijn haar af en toe bewegend in de wind. Cuby stond enkele seconden doodstil. Toen een vrachtwagen tot een meter of zeventig van de oversteekplaats was genaderd, kwam het tweetal in beweging. Al wist Sean wat er komen ging, hij zette zich instinctief schrap. De vrachtwagen remde, gierend en met zoveel kracht dat je de inhoud bijna door de laadruimte kon zien schuiven. Het gezicht van de bijrijder schokte kort achter de voorruit in beeld, de mond open. Halverwege de oversteek kwam de vrachtwagen tot stilstand, op nog geen meter van Lykle en Cuby, die doorgleden alsof er niets aan de hand was.

‘We zijn overgestoken,’ klonk de onpersoonlijke stem van Cuby toen ze aan de overkant waren. ‘Ben je tevreden?’

‘Ik vind dat je erg roekeloos was,’ zei Lykle, nog hakkelender dan normaal. ‘Waarom stak je over?’

De robot was even stil en zei toen: ‘De vrijdagmiddagspits kent een toename van een bepaald soort gedrag door bestuurders van personenauto’s en fietsers. Mensen zijn roekelozer, maken meer adrenaline aan en reageren op vermeende en op daadwerkelijk plaatsvindende overtredingen van verkeersregels door andere verkeersdeelnemers met minder begrip dan op andere momenten. Voor vrachtwagenchauffeurs geldt dat zij in deze situatie statistisch gezien juist oplettender en objectiever zijn, zeker als zij in de bebouwde kom te midden van personenauto’s rijden. Daarom ben ik overgestoken toen er geen personenauto’s of fietsers waren. Ben je tevreden met deze uitleg?’

‘Maar er kwam net een vrachtwagen aan.’

‘De vrachtwagen remde conform de verwachting op tijd. Ben je tevreden met deze verduidelijking?’

Lykle maakte een vreemd geluidje. ‘Ja hoor, deze ouwe lul is tevreden.’

Cuby was even stil. ‘Je hartslag versnelde tijdens het oversteken maar is nu rustiger aan het worden. Ik voorspel dat je adrenalineniveau terugloopt en je je straks weer helemaal goed zult voelen. Ben je tevreden met deze analyse?’

‘Ja hoor, beste Cuby. Ik heb wel enerverender dingen meegemaakt in mijn leven.’

‘Je levensverhaal heb ik betrokken bij de vaststelling van de taak. Dan stel ik nu voor om verder te gaan, zodat we niet onnodig de aandacht opeisen van andere verkeersdeelnemers. Vind je dit een goed idee?’

‘God ja, straks krijgen we hier een – ja, vooruit met de geit.’

De ligrolstoel en de robot kwamen weer in beweging.

Sean stopte de beelden. Ze bleven zwijgend zitten.

De lezing vorige week had de nodige ophef veroorzaakt – en een knallend conflict met Jetske op het moment dat ze in deze kamer waren en de deur achter zich sloten – maar er was geen negatieve media-aandacht losgekomen. Sean had voor Barry Liban een interview geregeld met een van de proefpersonen. Dat moest nog plaatsvinden. Liban had geen haast gehad, en de pers leek sowieso af te wachten. Maar als er vanavond berichten viraal gingen over Lykle en Cuby, van automobilisten of van die vrachtwagenchauffeur, dan zouden ze hun kans grijpen.

Sean bleef mechanisch heen en weer draaien. Namen ze gewoon niet te veel hooi op hun vork? Misschien moesten ze voorlopig de eerste Wet van de klassieke robotica inbouwen: een robot mag een mens geen letsel toebrengen of toestaan dat er letsel wordt toegebracht. Dat zou wel een enorme terugval betekenen. Als Cuby dat veiligheidsmechanisme incalculeerde in zijn beoordeling van de gelijkwaardigheid van betrokkenen dan werden de tests eigenlijk nutteloos.

Gelijkwaardigheid in plaats van veiligheid als basis voor de moderne robot – Sean geloofde er zeker in. Maar als je een samenleving iets nieuws wilt laten omarmen dan moet je accepteren dat verandering met kleine stappen gaat. Misschien konden ze zich beter eerst beperken tot simpele apparaatjes die vooral de jongere generatie vertrouwd maakten met de denkwijze.

Hij vroeg opnieuw een analyse op van de social media. Tot nog toe waren er alleen wat tekstkreten over een gevaarlijke situatie voor een gehandicapte in de avondspits. Beelden waren er nog niet. Gelukkig had Cuby’s inschatting over ramptoerisme ervoor gezorgd dat de ligrolstoel snel doorgereden was. Met een beetje geluk hadden andere automobilisten niet helemaal begrepen wat er was gebeurd. Niet dat ze daar blind op konden vertrouwen.

‘We zullen daadkrachtig en proactief moeten reageren,’ zei hij. ‘Er staat te veel op het spel en er is geen weg terug als de pleuris losbreekt. We moeten onze eigen dronebeelden naar buiten brengen. Uiteraard alleen van het laatste gedeelte van die bumper die op nog geen meter afstand van de rolstoel stopt. De nummerplaat van de vrachtwagen maken we onleesbaar, het logo – Fand Logistics, toch? – vervagen we zodat het transportbedrijf zich niet geroepen voelt om met een boze reactie te komen. Dat beeld zenden we uit ter ondersteuning van een persverklaring dat we hebben besloten voorlopig te stoppen met tests in het spitsuur. ‘Dat moet ook wel, dames en heren, want niet elke chauffeur is in de spits even sociaal.”

‘Het was toch niet de schuld van de chauffeur?’ vroeg Jetske kregel. ‘Cuby had moeten wachten.’

‘Gehandicapte mensen hebben voorrang in het verkeer, en bestuurders van vrachtwagens moeten altijd beseffen dat andere verkeersdeelnemers kwetsbaarder zijn dan zij. Zo kijkt de rechter er ook tegenaan. Cuby en Lykle waren goed zichtbaar.’

‘Dus wij gaan roepen dat deze chauffeur asociaal is. Gaat dit nog over gelijkwaardigheid?’

‘Nee, Jetske, dit gaat heel ordinair over imago. Als we willen blijven ontwikkelen dan moeten we accepteren dat -’

‘Of gaat dit over jóuw imago?’

‘Waar slaat dat nou weer op?’

‘De hamvraag is hoe dit kon gebeuren,’ zei Vera luid. ‘Als jullie tenminste even kunnen ophouden met bikkelen. Waar het om gaat is dat we door kunnen gaan met de ontwikkeling van zorgrobots voor mensen als Lykle.’ Ze was een van de oprichters van RBP Artifinology, toen dat nog bij de Kamer van Koophandel stond ingeschreven als VOF Roboppe met een vestigingsadres in de studentenbuurt Delgea. Na afronding van haar studie organisatiepsychologie en een paar jaar in verschillende banen in binnen- en buitenland was ze weer teruggekomen. Ze was even bevlogen als Jetske maar altijd het toonbeeld van rust en nuance. Sean vond haar een verademing. Hij kalmeerde en zag dat Jetske dat ook deed.

‘Laten we nog eens kijken,’ zei Vera.

Weer zagen ze de stoel en de robot oversteken, weer begon de vrachtwagen struikelend over zijn banden te remmen. Weer droop het angstzweet van alles af behalve van de sereen voortrollende stellage van buizen en snoeren.

Vera schakelde de beelden uit en draaide haar stoel naar de robot toe die in het schemerlicht stond te glimmen.

‘Analyseer nogmaals je keuze om over te steken, Cuby,’ zei ze. ‘Voeg meer data toe.’ De medewerkers van RBP waren tijdens het experiment ook als gebruiker geautoriseerd zodat ze Cuby aanvullend konden bevragen.

Sean hield een zucht binnen. Op een dergelijke opdracht volgde altijd een lang verhaal met onbegrijpelijke en overbodige details.

‘Er naderde een vrachtwagen bestuurd door een chauffeur van naar schatting begin vijftig, vergezeld door een jonge bijrijder,’ begon Cuby, terwijl Sean de ontwikkeling van de tagclouds over het afgelopen uur bekeek. ‘Fand Logistics is een gecertificeerd leer-werkbedrijf waar jongeren met belangstelling voor de transportsector stage kunnen lopen en werkervaring kunnen opdoen. Door de voorruit zag ik dat de chauffeur met de autoradio bezig was. De remweg van een vrachtwagen in deze situatie met een ervaren chauffeur zou ongeveer 60 meter bedragen, maar de remweg wordt met 20 tot 30 meter verlengd als de chauffeur de aandacht niet bij het verkeer heeft. Verder stelde ik op basis van online data vast dat dit soort werkstages alleen overdags mogen plaatsvinden. Voor de jonge bijrijder was het dus bijna het einde van zijn werkdag. Of de door de chauffeur gekozen radioprogrammering nu wel of niet aansloot bij zijn persoonlijke smaak, ik kon aan de focus van zijn pupillen zien dat hij oplette. Uiteraard zou hij de chauffeur meteen alarmeren dat er een gehandicapte man overstak, zodat de vrachtwagen binnen de beschikbare remweg van 70 meter kon remmen. Er was dus geen sprake van een gevaarlijke situatie.’

‘Wacht!’ zei Jetske, en ook Sean had zijn smartphone laten zakken. ‘Waar heb je het nu ineens over?’

‘Voor Lykle’s fysieke gezondheid zou dus geen risico bestaan,’ ging Cuby onverstoorbaar door, ‘en evenmin voor chauffeur en bijrijder, die beschermd werden door hun autogordels. Dit was duidelijk het meest geschikte moment om over te steken, gezien de verdere drukte. Voor wat betreft het mentale welzijn van Lykle heb ik alles betrokken wat ik over zijn levensgeschiedenis, persoonlijkheid en motivatie voor dit experiment weet. De gevolgen van dit incident voor hem heb ik als klein ingeschat. Voor wat betreft het mentale welzijn van chauffeur en bijrijder heb ik de volgende analyse gemaakt. De chauffeur ervaart schaamte omdat hij zijn aandacht niet bij het verkeer had en daardoor een gehandicapte had aangereden als zijn jonge bijrijder hem niet had gewaarschuwd. De bijrijder ervaart, na de eerste schrik, grote tevredenheid dat hij, nog maar een stagiair, adequater handelde dan zijn ervaren werkbegeleider en zo een ernstig ongeval voorkwam. Er kan worden verwacht dat de alertheid en het verantwoordelijkheidsgevoel van de chauffeur zijn toegenomen. Personen van middelbare leeftijd die een mentorrol vervullen voor een persoon van hetzelfde geslacht wiens hersens nog niet volgroeid zijn, nemen die rol in de regel zeer gemotiveerd op zich. ‘Dit zal me nooit weer gebeuren,’ is een waarschijnlijke emotie van de chauffeur. Daarmee is de gelijkwaardigheid in het verkeer toegenomen, zij het met een statistisch gezien verwaarloosbaar percentage omdat de chauffeur vanwege schaamte zijn ervaring niet breed zal delen met anderen. De positieve gevolgen daardoor zullen dus beperkt blijven tot hemzelf.’ Cuby was even stil. ‘Ben je tevreden met deze analyse?’

‘Maar dit is een totaal ander verhaal!’

‘Wat een puinhoop. En raad eens?’ Sean hield zijn smartphone omhoog. ‘De eerste foto gaat al rond. Een hulpeloze man met verwaaid haar in ligrolstoel, eenzaam langs de weg met een enge robot naast hem.’

‘Wat kan mij dat nou schelen!’ zei Jetske. ‘Wat mankeert Cuby?’

‘Cuby, analyseer je takencyclus.’

‘Vera, alsjeblieft, daar hebben we nu geen tijd voor,’ zei Sean fel. ‘Het is overduidelijk dat we moeten uitzoeken wat hier aan de hand is, maar we moeten nú met onze eigen beelden en toelichting komen. Anders kunnen we RBP opdoeken.’

‘Wat hebben we aan communicatieflauwekul als Cuby in strijd handelt met de Beginselen en niet betrouwbaar deelt?’

‘Laat Cuby nou even aan het woord,’ zei Vera.

Sean maakte een geluid. Hij begon steekwoorden voor een persverklaring te noteren en een tijdschema voor de komende uren te maken. Het was jammer dat ze Cuby’s verhaal niet naar buiten konden brengen vanwege de privacy van de chauffeur, maar goed gekozen beelden van de enorme vrachtwagen en de fragiele ligrolstoel moesten het gevoel kunnen overbrengen. Emotie speelde hier een belangrijker rol dan feiten.

‘Ik heb de taak vastgesteld om over te steken,’ zei Cuby. ‘Daarbij heb ik verschillende afwegingen gemaakt -’

‘Dat snappen we, Cuby,’ zei Jetske, ‘maar het gaat om het laatste gedeelte. Het tweede Beginsel bepaalt dat je de ervaring deelt met je gebruiker. Maar je vertelde Lykle iets anders dan wat je ons nu net vertelde. In dat opzicht sprak je dus niet de waarheid.’

‘Dat is onjuist,’ zei Cuby. ‘Samengevat blijkt wel degelijk uit verkeersdata dat spitsverkeer op de vrijdagmiddag leidt tot toename van een bepaald soort gedrag door automobilisten van personenauto’s -’

‘Ja, maar je zei niets over die chauffeur die met de autoradio bezig was.’

‘Ik heb gedeeld,’ zei Cuby met zijn onpersoonlijke stemgeluid.

‘Maar onvolledig en daarmee onjuist,’ zei Jetske.

‘Een robot toetst enkel aan gelijkwaardigheid,’ zei Vera. ‘Er staat nergens dat een robot de waarheid moet spreken.’

‘Ja, hallo! ‘Delen’ impliceert ‘volledig delen’. Daar is geen ‘ja maar’ aan.’

‘Wat als delen in dit geval zou hebben geleid tot ongelijkwaardigheid? Als Lykle – ik noem maar wat – een acute hartstilstand had gekregen van Cuby’s tweede analyse?’

‘Dan had Cuby op grond van het derde Beginsel moeten zeggen: ‘Ik wil delen maar dit levert ongelijkwaardigheid voor jou op.’ Vervolgens kijken gebruiker en robot dan samen hoe het opgelost kan worden. Cuby had Lykle bijvoorbeeld eerst kunnen waarschuwen dat de waarheid schokkend voor hem kon zijn. Of hij had een voorbijganger kunnen vragen om in de buurt te blijven. Voor onvolledig delen is geen enkele drijfveer ingebouwd in zijn systeem.’

‘Daar gaat het ook niet om.’ Iets in Vera’s stem deed Sean opkijken en zijn stylus stilvallen. ‘Je hebt gedeeld, hè, Cuby? Maar niet alleen met Lykle. En daar zit het hem in. Cuby, analyseer je keuze om Lykle maar de helft van je analyse te geven.’

Cuby stond stil voor zich uit te staren terwijl hij de taak verwerkte.

‘De intolerantie in de samenleving ten aanzien van onoplettende vrachtwagenchauffeurs neemt sterk toe. In het voorjaar was er een geruchtmakend ongeval op de A2 waarbij drie inzittenden van een personenauto om het leven kwamen omdat een vrachtwagenchauffeur zijn aandacht had bij het openmaken van een blikje frisdrank. Sindsdien is er zelfs sprake van een duidelijke trend. In de kwestie die nu ter discussie staat zou de kans groot zijn dat deze chauffeur door een boete in diskrediet zou zijn gekomen. Fand Logistics rijdt niet internationaal. Chauffeurs zijn niet meerdere dagen van huis en deze branche heeft daardoor geen enkele moeite met het vullen van vacatures. Uit vacatureteksten van de afgelopen vier maanden blijkt dat zij nadrukkelijk naar jonge chauffeurs zoeken, met de slogan: ‘Altijd thuis op de weg’. Het bedrijf had in het voorval een excuus kunnen zien om de chauffeur te ontslaan en te vervangen door een jongere chauffeur. Deze al oudere chauffeur zou dan werkloos zijn geworden, waarmee de mentale en fysieke gezondheid van hemzelf en zijn eventuele gezin op de langere termijn ernstige schade had kunnen lijden.’

Dit sloeg nergens op, zag Sean. ‘Er was nergens politie te zien.’

‘En bovendien had Cuby dit dilemma op grond van het derde Beginsel moeten delen,’ zei Jetske.

‘Nee, er was geen dilemma,’ zei Vera. ‘Cuby had de vrije keuze tussen twee opties. Dat is het punt. Als Lykle hem na de oversteek een concrete opdracht tot analyse had gegeven dan had Cuby met het verhaal over de radio moeten komen. Maar dat had ongelijkwaardigheid opgeleverd. Want hij had dat verhaal niet alleen met Lykle gedeeld maar ook met ons. Wij zijn immers geautoriseerd als gebruikers, dus wij vallen ook onder Cuby’s overwegingen. Maar Lykle gaf geen concrete opdracht tot delen. Daarom kon Cuby zijn taak op eigen houtje vaststellen zoals hij dat de hele dag door doet. Denk aan die duif van daarnet. Hij heeft zijn taak dus vastgesteld als: ‘Lykle een analyse geven die niet leidt tot ongelijkwaardigheid van betrokkenen.’ Tenslotte was zijn redenering over roekeloosheid van automobilisten in de spits op zich juist, hoewel niet volledig. Snappen jullie het niet? Waar het om gaat is dat Cuby wist dat een onvolledige analyse de beste optie was. Want dan zou Sean er niet achter komen dat de chauffeur met de radio zat te prutsen.’

‘Pardon?!’

‘Daarmee wist Cuby te voorkomen dat Jetske en ik ons meteen hadden laten meenemen in Seans overtuigingskracht. Dat wij ons gezamenlijk hadden laten leiden door ons geloof in de Beginselen en door frustratie over een vrachtwagenchauffeur wiens stomme gepruts met een radio voor ons catastrofale gevolgen zou hebben. Dat we als menselijk managementteam het zeer verleidelijk hadden gevonden om onze dronebeelden en Cuby’s analyse naar buiten te brengen met de boodschap: ‘Kijk eens tegen wat voor onverantwoordelijke verkeersdeelnemers onze hoogintelligente robots kwetsbare patiënten moeten beschermen!’ Met alle rampzalige gevolgen voor de chauffeur.’

‘Nee, sorry, hoor! Dit is dus allemaal de schuld van Sean Wendel?’

‘Zolang wij meeluisteren en -praten zijn we betrokkenen,’ zei Vera. ‘Met al onze eigenschappen, als individuen én als groep. Het is zoals jij vorige week in je lezing zei. Gelijkwaardigheid kun je niet toetsen in een proefopstelling. Wij hebben invloed op het geheel en spelen dus een rol in Cuby’s overwegingen.’

‘Volgens mij zei ik dat, niet Sean,’ zei Jetske.

‘Maar Sean heeft gelijk,’ zei Vera. ‘We moeten snel iets doen.’

‘Cuby heeft consequent gehandeld,’ zei Jetske. ‘We kunnen gewoon de waarheid vertellen.’

‘Vergeet het maar.’ Sean zag het gezicht van Barry Liban al voor zich.

‘Doe niet zo aangebrand. Het is een mooie illustratie van de denkwijze achter onze robots. En RBP is transparant over problemen waar we tegenaan lopen. Zonder fouten maken kun je geen vooruitgang boeken.’

‘Ja hoor, en natuurlijk gaat de pers het ook opvatten.’

‘Nou, dan gooien we het op onze volgzaamheid, als je dat fijner vindt. Wat Vera net zei. Dat wij tweeën ons door jouw overtuigingskracht hadden laten leiden. Want ik zag je gezicht heus wel toen ze dat zei.’

‘Mensen, kunnen we alsjeblieft ter zake komen?’ vroeg Vera luid. ‘We moeten een oplossing bedenken, eentje waar we ons allemaal in kunnen vinden. En voor alle helderheid: niets houdt ons tegen om te kiezen voor de strategie die Sean voorstelt. Die levert weliswaar ongelijkwaardigheid op voor de vrachtwagenchauffeur, zoals Cuby ons net in detail uitlegde, maar wij als mensen hebben elke vrijheid om dat naast ons neer te leggen. Wij zijn geen robots die moeten handelen volgens de Beginselen.’

‘Helaas niet,’ mompelde Jetske, die merkbaar kalmeerde.

‘Misschien valt er iets te verzinnen waarmee we het risico voor onszelf beperken en tegelijkertijd die chauffeur uit de wind houden,’ zei Sean. Er bekroop hem een verontrustend gevoel. Cuby had hen uiteindelijk toch over de chauffeur en de radio verteld. Hij had het niet nodig gevonden om op grond van het derde Beginsel uit te leggen waarom delen tot ongelijkwaardigheid ging leiden. Dat betekende dat hij had ingeschat dat ongeacht wat ze nu besloten, de chauffeur er geen last mee ging krijgen. Waren zij drieën zo voorspelbaar in hun persoonlijkheden en hun onderlinge verhoudingen dat zelfs een robot er na een paar weken al doorheen kon kijken?

Hij besloot er maar even niet over na te denken. ‘In elk geval stoppen we met tests in het spitsuur, daar maken we een stevig persbericht van. De avondspits als een plek waar je je als zorgpatiënt niet eens kunt wagen – en dat in de 21e eeuw! Maar wat we benadrukken is de waarde van Cuby’s scherpe analyses over het gedrag van verschillende soorten verkeersdeelnemers. En we moeten Lykle uit de kast halen. Het oordeel van een man die twee vliegtuigkapingen heeft meegemaakt en nu proefpersoon is voor ons bedrijf, telt uiteraard. Ik ga Evers van Tech21 bellen. Met een beetje geluk kunnen we morgen een interview regelen.’ Sean stond op en liep naar de deur. Dit ging een nachtje doorwerken worden.

‘Wat zei jij ook al weer bij die lezing, Jets,’ vroeg Vera terwijl ze zich voldaan uitrekte. ‘Dat we onze eigen realiteiten creëren om de controle niet te verliezen?’

‘Gelukkig verliest onze man de controle nooit en te nimmer.’

‘Robots veranderen in elk geval déze realiteit niet,’ merkte Sean op voordat hij de deur van het kantoor achter zich sloot.

 

Naar Cernach Park

Naar Alledaagse vreemdheid

Home