Rizoomes

Wanderings

Tag: Veiligheid

Het probleem van wicked problems

Leestijd: 11 minuten

Dit studieblog over wicked problems is in drie delen tot stand gekomen. Het begon als een stukje over wicked problems, geschreven als column in de NVVK info. Begin maart heb ik ter illustratie de coronacrisis toegevoegd, om de theorie nader toe te lichten. Daarna ging het allemaal zo snel met corona, dat ik een tweede toelichting noodzakelijk vond. Die is op 20 maart geplaatst. Een vierde deel sluit ik trouwens niet uit. We gaan het zien

Voor sommige problemen bestaat geen eenduidige oplossing. Soms komt dat door een kennistekort. Je weet het gewoon niet. Maar soms is het ook een kwestie van menselijke waarden, wat je van iets vindt. Dat kan per persoon en cultuur verschillen, zelfs per generatie of tijdperk.

Wicked problems noemen we dat en je kan ze niet laten oplossen door computers. Dat maakt wicked problems tot een populair dilemma in sciencefictionfilms met robots en androïden. Want dan gaat het lekker mis en heb je een verhaal.

I, Robot

In de film ‘I, Robot’ uit 2004 speelt Will Smith een gefrustreerde politieman in de toekomst die een hekel heeft aan robots. Het lijkt erop dat hij de enige is die de robots niet vertrouwt. De rest van de mensheid is verguld met de bediendes. Waar zijn afkeer van robots vandaan komt is onbekend maar het duurt al een tijdje, zo wordt in het verhaal langzaam onthuld. Smith is bijvoorbeeld de enige die zijn auto zelf rijdt, terwijl alle anderen het gewoon aan de robots overlaten.

In een flashback scene wordt duidelijk wat de reden is van Smith’s wantrouwen. Jaren geleden raken twee zelfrijdende voertuigen door een aanrijding te water. Smith zit in de ene, een meisje van elf in de andere. Ze kunnen er allebei niet uitkomen en moeten gered worden. Door een robot, die toevallig in de buurt is. Maar dat is minder eenvoudig dan het lijkt. Het gaat er niet alleen om ‘hoe’ er gered moet worden, maar ook ‘wie’. Allebei lukt niet, daar is geen tijd voor: een wicked problem.

Screencap van de redding uit I Robot

Ethiek en ratio

De robot gebruikt een rationele methode om het probleem op te lossen. Op basis van een rekensom kiest hij voor Smith. Diens overlevingskans is namelijk 41%, tegenover 11% voor het meisje. Hij wordt dus gered, het meisje overleeft het niet.

Smith is woest over de in zijn ogen foute keus van de robot. Hij vindt dat het meisje gered had moeten worden, op grond van haar leeftijd en het leven dat ze nog voor zich had. Overlevingskans alleen is volgens hem een onethische maat. Vanaf dat moment vertrouwt hij geen enkele robot meer, omdat hij ze allemaal fout geprogrammeerd vindt.

Met dit dilemma wordt nog een ander kenmerk van wicked problems geïllustreerd: pas achteraf weet je wat de beste oplossing was geweest in die specifieke context. Dat is het probleem van wicked problems: je kunt ze niet vooraf al oplossen voor alle denkbare situaties en plekken, ook niet met een RIE, een softwaresysteem of artificial intelligence.

Wicked problems moet je actief framen en stukje bij beetje oplossen, tot er een werkbare situatie is ontstaan. Daarom is het zo belangrijk dat veiligheidskundigen ook goed in hun soft skills zitten. Meer dan ooit gaat het om gelijk krijgen boven gelijk hebben. En nee, dat is inderdaad niet rationeel. Het is wicked.

Horst Rittel

Horst Rittel was een professor in designtheorie die het begrip ‘wicked problems’ als eerste beschreef in de vroege jaren zeventig van de vorige eeuw. Wicked laat zich naar het Nederlands vertalen als ‘gemeen’ of ‘slecht’. Toch zie je die terminologie nauwelijks toegepast worden. Vaker wordt er gesproken over ongestructureerde problemen of venijnige vraagstukken die getemd moeten worden. Ik gebruik zelf eigenlijk altijd de oorspronkelijke terminologie van wicked problems.

Jeff Concklin schreef in 2005 het boek ‘Dialogue Mapping: Building Shared Understanding of Wicked Problems.’ Daarin beschrijft hij de volgende zes karakteristieken van wicked problems:

  1. Je begrijpt het probleem pas als je een oplossing hebt. Dit lijkt trouwens verdacht veel op een uitspraak van Cruyff: je gaat het pas zien als je het door hebt.
  2. Er is geen duidelijke stopregel. Er wordt gestopt met een oplossing zoeken als er geen tijd, geld of zin meer is. Of als het goed genoeg is. ‘Satisficing’, noemde Herbert Simon dat.
  3. Er is geen goede of slechte oplossing, dat hangt ervan af aan wie je het vraagt. Dit raakt de A van het VUCA-principe, ambiguous.
  4. Elk wicked problem is in essentie nieuw en uniek. Het kan lijken op eerdere problemen, maar gezien de sociale complexiteit is het toch altijd weer anders.
  5. De oplossing voor een wicked problem is altijd eenmalig, duur en heeft onbedoelde consequenties. Rittel zei daarover: “One cannot build a freeway to see how it works.” Hetzelfde geldt nu met corona: je kunt niet volstaan met ‘doe maar een tactiekje’ en we kijken wel wat er gebeurt. Volksgezondheid is te kostbaar om mee te experimenteren.
  6. Er zijn daarom eigenlijk geen alternatieven, er is geen plan B. Het is dit of niks, waar ‘niks’ op zichzelf ook een oplossing kan zijn.
Wicked Problem. Foto Crawford Jolly

Corona

De huidige corona uitbraak (covid-19) is een typisch wicked problem. Om er maar een paar componenten uit te lichten:

  • Is het probleem de publieke gezondheid, de economische gevolgen, de onrust onder de bevolking, het nepnieuws op social media, de paniekerige verslaggeving in de media? Gaat het om mogelijk dodelijke slachtoffers of om het stil leggen van een samenleving?
  • Wanneer is het probleem voorbij? Als er geen nieuwe besmettingen meer bijkomen? In Nederland alleen, of de hele wereld? Wat als wij in Nederland vinden dat het voorbij is, en er zijn opeens veel besmettingen in Afrika? Wat doe je dan?
  • Moet je mondkapjes gebruik afraden? Voor alle beroepsgroepen? Of slechts een paar? En moet je dat dan overlaten aan de werkgevers, of is er een centrale regie gewenst? Hoe zit het met handschoentjes? Zeep?
  • Ook hier weer staan de beste stuurlui aan wal. Het is makkelijk vanuit de heup schieten en eigen stokpaardjes berijden over centralisatie van aansturing, stil leggen van evenementen, isoleren van besmettingshaarden en nog meer van dat soort uitspraken. Maar als het zelf moet doen, zit je midden in die sociale complexiteit die een makkelijke oplossing uitsluit.

Zelf denk ik dat de covid-19 tot nu toe adequaat is aangepakt in Nederland. Beginnen met informeren en coördineren, voorbereiden op fysieke maatregelen en die dan ook daadwerkelijk gaan toepassen als het zover is. En daar dan weer goed over communiceren. Maar zoals dat gaat bij wicked problems, daar zijn sommige mensen het vast niet mee eens. Zo wicked is het probleem namelijk wel.

Wicked Problems deel 2.

Het eerste deel van dit blog over wicked problems plaatste ik op 1 maart. Daarbij hanteerde ik de corona crisis als vehikel om de theorie van wicked problems mee te illustreren. Daar ga ik in dit deel 2 mee door, met de expliciete disclaimer dat ik dus niet probeer de juiste oplossing voor corona aan te dragen, maar slechts beschrijf wat ik meen te zien in termen van de wicked problematiek.

Sociale complexiteit

We zijn nu ruim twee weken verder en de wereld ziet er volledig anders uit dan ik begin maart had verwacht. Dat komt niet eens zozeer door de ontwikkeling van het virus zelf, als wel door de manier waarop er vanuit alle kanten op gereageerd wordt. Een bevriende crisismanager appte mij met de vraag of ik corona een black swan vond. Daar moest ik even over nadenken, maar toch had ik al snel mijn antwoord gevonden. “Niet corona is voor mij de black swan”, appte ik terug, “maar de manier waarop er door de mensen op gereageerd wordt. Daar gebeuren echt dingen die ik nooit verwacht of voorspeld zou hebben.” Je zou het ook mijn eigen fundamental surprise kunnen noemen: I’m astonished.

Zo had ik bijvoorbeeld nooit verwacht dat mensen met een Aziatisch uiterlijk persoonlijk verantwoordelijk voor de epidemie zouden worden gehouden, dat er zelfs sprake zou zijn van puur racisme. Ik had ook nooit verwacht dat het in Italië zo uit de klauw zou kunnen lopen. Inmiddels wordt Europa beschouwd als het epicentrum van besmetting, en nu worden Europeanen in Zuid-Amerika beschimpt en bedreigd. Een KLM-toestel dat op weg was om gestrande reizigers op te halen in Ecuador vond op 19 maart een versperde landingsbaan op zijn pad en moest onverrichterzake terugkeren.

Wat ik ook niet verwacht had is de snelle roep om het sluiten van grenzen, van scholen. Even groot was mijn verbazing toen het café-toerisme vanuit België naar Nederland opeens enorme vormen aannam, zo omvangrijk dat in Nederland de horeca in een half uur notice werd gesloten. Inmiddels is er in België ook de harde roep om een lock down en stuurt Knokke zelfs Nederlanders naar huis omdat ze de Belgen zouden besmetten.

John Stuart Mill was een klassiek liberale filosoof die het beroemde boek ‘Over Vrijheid’ schreef. Foto uit omstreeks 1870.

Publieke opinie

De irrationaliteit die onder al die angsten vandaan komt in de publieke opinie is voor mij de echte black swan. De column van Tommy Wieringa in het NRC van 14 maart beschrijft de impact van sociale complexiteit mooier dan ik zelf kan aan de hand van ‘Over Vrijheid’ van John Stuart Mill:

“Nadrukkelijk waarschuwt hij voor de almacht van de publieke opinie. Die kan een sociale tirannie uitoefenen die sterker is dan politieke onderdrukking, het is „een tirannie die weliswaar meestal niet steunt op zulke strenge straffen, maar die minder ruimte voor ontsnapping laat, veel dieper doordringt in het dagelijks leven, en de ziel zelf tot slaaf maakt.”

Een ander aspect van sociale complexiteit is wat wel benoemd wordt als ‘understanding’, interpretatie van het probleem. Ook hier vond ik een stukje tekst die het mooier zegt dan ik zelf had gekund:

“Rather, ‘not understanding the problem’ shows up as different stakeholders who are certain that their version of the problem is correct. In severe cases, such as many political situations, each stakeholder’s position about what the problem is reflects the mission and objectives of the organization (or region) they represent. In such cases there is a fine line between collaboration and colluding with the enemy. How can you make headway on a mutually acceptable solution if the stakeholders cannot agree on what the problem is?”

De enorme verscheidenheid aan betrokken landen, partijen, mensen, belangen en noem het verder maar op valt onder de term sociale complexiteit. Het maakt de oplossing van een wicked problem alleen nog maar moeilijker. Conklin spreekt in dit verband over fragmentatie: er trekken diverse krachten in verschillende richtingen aan het wicked problem, dat daardoor steeds ingewikkelder wordt op te lossen. Het fragmenteert tot een amalgaam aan onlijmbare brokstukken.

Technische en econonische complexiteit

Niet alleen sociale complexiteit verscheurt echter, maar ook technische- en economische complexiteit.

De fragmentatie van een wicked problem door sociale, technische en economische complexiteit.

De technische complexiteit volgt uit de onbekendheid met het nieuwe virus en de onvoorspelbaarheid van de verspreiding ervan. Niemand weet precies hoe het zich zal gedragen, daar is simpelweg nog te weinig onderzoek naar gedaan. Er zijn dus vooral veel aannames; aannames over de besmettelijkheid per leeftijdscategorie, de incubatietijd, de levensvatbaarheid van het virus buiten zijn gastheren. Aannames over curves, de mortaliteitsrate en oversterfte. En aannames over groepsimmuniteit, een tweede golf of misschien nog wel een derde, een vierde, wie zal het weten. Rutte noemde het 100% besluiten nemen op 50% informatie en dat is precies één van de kenmerken van crisis. Je moet het doen met wat je hebt, niet met wat je wilt.

De impact van het virus heeft inmiddels ook het economische domein bereikt. Vele ZZP’ers zagen binnen een paar dagen hun hele orderportefeuille leeg vallen. Horeca moet drie weken dicht, in ieder geval nog tot 6 april. Luchtvaart en reisbranche is vrijwel tot stilstand gekomen. Theater en cultuur is gesloten, voorstellingen afgelast. Om maar een paar voorbeelden uit de reeks ‘no more business as usual’ te noemen.

De overheid kwam snel met een ruimhartig pakket maatregelen, waarop direct ook allerlei grote bedrijven de deuren sloten, zoals Ikea en Apple. Hoelang deze productiestop gaat duren is onduidelijk, net zoals het onduidelijk is hoe de opstart zal verlopen, hoe de verbinding met andere landen en productieketens weer tot stand zal komen en hoe het onderling vertrouwen er dan bij zal staan. Net zomin weten we nu nog wat de lange termijneffecten zullen zijn.

Temmen van een wicked problem

Daarmee is het wicked problem met zijn escalatiefactoren van sociale, technische en economische complexiteit wel in beeld gebracht. Maar hoe los je het nu op? Hoe maak je er een tam probleem van? Er zijn minimaal zes manier om een wicked problem te temmen. Ik noem ze hier kort, met zo goed en zo kwaad als het gaat weer corona als voorbeeld. Overigens hangen de oplossingen met elkaar samen en zitten er slechts marginale verschillen tussen.

For every complex problem there is an answer that is clear, simple and wrong.

H.L. Mencken
Beperk de definitie van het probleem

Dit is de belangrijkste strategie van het kabinet tot nu toe. Men probeert corona te beperken tot een volksgezondheid probleem om de sociale complexiteit te verkleinen. Er zijn namelijk nogal wat mensen en partijen die er ook wat van vinden. Op Twitter werd al smalend gesproken dat Nederland eerst 17 miljoen bondscoaches had en nu 17 miljoen virologen. De technische complexiteit wordt ook getackeld door het RIVM een duidelijke expert-rol te geven die grotendeels goed uitpakt.

Diverse partijen proberen desondanks gaten in de deskundigheid van het RIVM te schieten door gebruik te maken van andere (non)experts. Hoe dat gaat aflopen zal moeten blijken. Economische complexiteit wordt overigens voor dit moment geminimaliseerd door ruimhartig financiële steun te verlenen. Daarmee wordt het de definitie van het probleem ook beperkt.

Benoem het probleem als opgelost

Zo ver is het dan nog niet helemaal. Toch is er een poging gewaagd door Rutte om drie scenario’s te presenteren en er daar eentje uit te kiezen, met toelichting. Daardoor wordt het probleem geframed als opgelost, ons wacht nog slechts de implementatie ervan en dus geduld. Wat hij daarmee ook doet is mensen meenemen in de beschikbare opties zodat de understanding van diverse stakeholders mogelijk wordt veranderd. Inclusiviteit, mensen meenemen in een probleem, is een belangrijke manier om draagvlak te creëren om (mede) daarmee het wicked problem te helpen oplossen.

Rutte sprak op 16 maart 2020 het Nederlands volk toe vanuit het Torentje. Maar liefst 7,7 miljoen bekeken de uitzending. Mooie illustratie van de strategie om het wicked problem te temmen.
Beschrijf objectieve parameters als bewijs van succes

Deze strategie wordt vooral gevolgd door tegenstanders van de ‘gecontroleerde beheersing’ variant die nu wordt uitgevoerd. Ze presenteren cijfers van oplopende besmettingen en sterfte en willen daarmee het failliet aantonen van de oplossing die het kabinet koos.

Gebruik de oplossing van een ‘vergelijkbaar’ probleem

Dat is wat de tegenstanders van de gecontroleerde beheersing vervolgens doen, na het aantonen van on-succes (falen dus) op basis van hun parameters: verwijzen naar SARS, Singapore en Hong Kong die met een ferme lock down de curves omlaag hebben gekregen en de besmetting hebben weten te minimaliseren.

Wat er niet wordt bij verteld is wanneer de lock down dan wordt opgeheven; wanneer is het veilig? Ook onduidelijk is wat er zal gebeuren na het opheffen van de lock down. Het virus is immers nog steeds niet weg en het risico van herbesmetting is dus niet weg totdat er vaccins zijn. Dat laat misschien tot nog wel anderhalf jaar op zich wachten.

Geef het op

Tja, deze oplossing kon ik in het kader van corona eigenlijk niet als voorbeeld gebruiken. Maar terwijl ik dit schrijf wordt bekend gemaakt dat minister Bruins aftreedt. Hij is oververmoeid en geeft het op. In dit geval zal de overheid natuurlijk een vervanger benoemen en dit is dus voor de huidige situatie geen realistische strategie. Maar voor een ander wicked problem misschien wel. Overigens geef je het niet echt op: je wacht op een kans om de oplossing weer op tafel te krijgen. Heb geduld tot het window of opportunity opent.

Beperk het aantal oplossingen en forceer een keuze

Zullen we kiezen voor een lock down of voor gecontroleerde beheersing? Feitelijk is dat de keuze die door het kabinet is voorgelegd als oplossing van het probleem. Maar er zijn er natuurlijk nog veel meer. Door die andere varianten niet te benoemen, hou je de oplossing relatief eenvoudig. En ja, relatief, omdat bij een wicked problem helemaal niks eenvoudig is.

Hindsight Bias

Waar dit wicked problem zich in het begin van de corona crisis slechts langzaam ontvouwde, zie je nu dat de ontwikkelingen elkaar in een zeer rap tempo opvolgen. Een voorspelling op de ene dag is op de volgende al achterhaald. Laat staan dat er iemand is die weet hoe het überhaupt gaat aflopen. In die zin is de corona crisis niet alleen een wicked problem, het is ook VUCA: volatiel, onzeker, complex en ambigu.

Er is echter één voorspelling die ik al wel durf te doen: hoe het ook afloopt, er zullen altijd mensen zijn die de uitkomst (toevallig of met hindsight bias) goed voorspeld hadden en daarvan luid kond gaan doen. Sommigen hebben daarvoor de eerste aftrap al gegeven, zoals Knoops in deze tweet.

Het is de inleidende beschieting van een nog verder toenemende sociale complexiteit en een voorschot op het wicked problem na dit wicked problem. Om dat op te lossen zie ik eigenlijk nog maar één middel en dat is het leven op te vatten als een stoïcijn: verander wat in je macht ligt en accepteer de rest. Ik wens ons daarmee veel succes, we gaan het nodig hebben.

Het eerste deel van dit studieblog is als column verschenen in de NVVK info 2020-1. Het deel vanaf de paragraaf ‘Horst Rittel’ is op 1 maart toegevoegd, wicked problems deel 2 op 20 maart. Dank aan Arie Muller voor de quote van Mencken.

De veiligheid van de zelfrijdende auto

Leestijd: 6 minuten

Koen Hindriks stond dit jaar op het NVVK-congres met een intrigerend verhaal over artificiële intelligentie en veiligheid. Welke fundamentele problemen liggen er op de weg van de zelfrijdende auto? En wat is de huidige status in de ontwikkeling van autonome voertuigen?

Nachtmerrie

Je hebt een nieuwe auto gekocht. Halfautomaat met stuurflippers, virtual cockpit, automatische rijsystemen. Alle instrumenten bedien je via een beeldscherm. Het is even wennen, maar volgens de dealer kun je er zo in en karren maar. Op naar de snelweg, daar is de oprit al. Je geeft vol gas om in te voegen, het toerental stijgt en blijft continu stijgen. 4000, 5000, 6000 toeren, de motor draait steeds harder maar schakelt niet door.

Je begint aan de stuurflippers te duwen en trekken; niets. 7000 toeren, het stinkt naar verbrand rubber en metaal. De virtual cockpit valt uit, het scherm wordt zwart. Tegelijkertijd flikkeren alle waarschuwingslampjes op je dashboard. Achter je toeteren automobilisten, ze seinen met hun lichten. Het is een kakafonie van herrie, hitte, signalen en stank. Dan slaat opeens je stuurwiel in het slot, muurvast. Je ziet de vangrails nog net op je af schieten….

Autonomous driving in Bracelona. Foto van Eshenzweig onder CC 4.0.

Sommige dingen zijn eigenlijk nauwelijks voor te stellen, ook al schrijf je het nog zo realistisch op. Voor veel mensen is het verlies van controle over hun voertuig een nachtmerrie. Die angst wordt steeds realistischer, naarmate auto’s verder uitgerust worden met automatische systemen die de bestuurder ondersteunen of helemaal vervangen. Hoe groot is de kans dat auto’s straks alleen nog maar passagiers hebben en geen bestuurders? En hoe veilig is zo’n zelfrijdende auto?

Artificiële intelligentie

Koen Hindriks is hoogleraar artificiële intelligentie aan de VU in Amsterdam en doet onderzoek naar intelligente robots. Hij heeft grote twijfels bij de haalbaarheid van zelfrijdende auto’s waarbij menselijk ingrijpen niet meer noodzakelijk is. “Onder welke condities is zo’n hoge mate van autonomie mogelijk? Op snelwegen kan al veel, maar in het centrum van Amsterdam niet. De problemen waar een voertuig in die situatie voor komt te staan, kunnen we nog lang niet met softwaresystemen oplossen. Ook niet met behulp van artificiële intelligentie.”

Menselijke interventie tijdens het rijden blijft volgens hem dus noodzakelijk. Dat roept gelijk weer een nieuwe lastige vraag op. “Is de bestuurder nog wel voldoende in staat zijn rijvaardigheid op peil te houden om in te grijpen? Als het computersysteem faalt, waarom zouden mensen het probleem dan wel kunnen oplossen? Zeker als ze geen ervaring meer hebben met autorijden. We moeten dus ook naar deze vaardigheidscomponent kijken.”

Eigenlijk is het een paradox: je ontneemt de mens zijn praktische ervaring door het routine rijden aan autonome systemen over te laten, totdat de artificiele intelligentie het niet meer aan kan. De mens moet het dan opeens beter weten dan een systeem terwijl hij er geen ervaring meer mee heeft.

Neo Cargo. Foto van Giorgi Tedoradze onder CC 4.0

Ongevallen

In 2018 vond er een dodelijk ongeluk plaats met een Tesla die met autopilot reed. De chauffeur kwam daarbij zelf om het leven. Uit de black boxes kon worden afgeleid dat de bestuurder niet had ingegrepen, terwijl het systeem daar wel om vroeg. Het was het tweede dodelijke ongeval met een zelfsturende auto in dat jaar, reden voor de Amerikaanse Safety Board een onderzoek in te stellen. Die legde de oorzaak van het ongeval zowel bij de chauffeur als bij het ontwerp van de Autopilot van Tesla.

Hindriks zegt dat dit soort ongevallen niet meehelpen in het draagvlak voor zelfrijdende auto’s. “En die crash met die Boeings trouwens ook niet”, voegt hij toe. “Het zijn wel heel andere kwesties, maar je ziet toch dat mensen er terughoudend van worden. Zeker nu blijkt dat Boeing er met zijn pet naar gegooid heeft en bewust veiligheidsrisico’s heeft gebagatelliseerd.”

Afbakening

Het sentiment in de auto-industrie is ondertussen ook gaan verschuiven. Tijdens een bijeenkomst van de Detroit Economic Club, begin april 2019, zei directeur Jim Hackett van Ford dat de zelfrijdende auto langer op zich laat wachten dan gedacht. De marketingmachine ging sneller dan de techniek kon bijbenen. Volgens een hoofdonderzoeker van Nissan in Silicon Valley komt het er zelfs helemaal niet meer van: “een autonoom systeem zonder mens erbij is een nutteloos systeem.”

Neo Cargo Dashboard. Foto van Giorgio Tedoradze onder CC 4.0

Ook Uber staakte na een dodelijk ongeval hun zelfrijdende experiment en rijdt nu in een beperkt afgebakend gebied met voertuigen onder toezicht van twee chauffeurs. Volgens Uber is het niet meer de vraag wanneer er autonome voertuigen zijn, maar waar: voor welke gebieden is een voertuig geschikt? En onder welke voorwaarden kan dat gebied dan (langzaam) uitgebreid worden?

Dat is precies de vraag die Hindriks ook stelt: Onder welke condities kan een auto zelfrijdend zijn? “We weten hoe moeilijk dat is met piloten en vliegtuigen, maar met auto’s hebben we gewoon nog te weinig ervaring. We weten het dus niet.”

Vijf vragen over zelfrijdende auto’s

1. Is er een definitie van zelfrijdende auto?

Er is niet één vaste definitie van wat een zelfrijdende auto is. Het hangt er een beetje van af aan wie je het vraagt. Vaak wordt gesproken van autonoom rijdende voertuigen. Een volledig autonoom voertuig is in staat om zelfstandig te sturen, remmen en versnellen onder alle omstandigheden in alle reguliere omgevingen, zoals stad en snelweg, zonder ingreep van een mens. Maar er zijn ook minder autonome systemen, waarbij een menselijke ingreep nog wel noodzakelijk is.

2. Bestaat er een indeling in zelfrijdende systemen?

De mate van autonomie van voertuigen is onderverdeeld in 6 niveaus door de Society of Automotive Engineers (SAE). Van nul tot en met vijf, dus niet van één tot en met zes. Dat is wel eens verwarrend in de praktijk, zes niveaus die eindigen op level vijf. In niveau nul zit geen enkel ondersteunend rijsysteem en niveau 5 is volledig autonoom in alle omstandigheden op alle plekken.

De zes niveaus van autonoom rijden volgens de SAE

3. Zijn er al veel zelfrijdende voertuigen op de weg?

Op dit moment worden auto’s al uitgerust met bijvoorbeeld adaptive cruise control, een typisch niveau-2 systeem. De chauffeur blijft dynamische taken zelf uitvoeren. Denk aan sturen, versnellen en afremmen. Op niveau 3 neemt het voertuig die taken van de bestuurder over in bepaalde gebieden, zoals bij het stationair rijden op snelwegen. Zodra het mis gaat grijpt de chauffeur in. Op niveau 3 is er dus nog een actieve veiligheidsrol voor de bestuurder weg gelegd. Met dit soort voertuigen wordt nu in de praktijk geëxperimenteerd, onder andere door Tesla en Uber.

4. Wanneer is de mens niet meer nodig?

Bij level 4, volgens de indeling van de Society of Automotive Engineers (SAE). Daar voert de auto in sommige gebieden zoals snelwegen alle rijtaken uit. Als de chauffeur wil kan hij het overnemen, maar nodig is het niet. Bij problemen zal het systeem de auto zonder menselijk ingrijpen veilig laten stoppen. De stap van level 3 naar 4 wordt cruciaal in het aanvaarden van de zelfrijdende auto. Daarbij is niet zozeer de technische complexiteit een drempel voor succes, maar vooral de menselijke acceptatie om bij dergelijke vernieuwingen de controle uit handen te geven.

5. Heeft de SAE de ultieme indeling gemaakt?

Nou nee, want een belangrijke vraag is niet beantwoord: als level 4 en 5 systemen zonder mensen kunnen rijden, is er dan ook echt geen interventie meer mogelijk? Dat vraagstuk is met deze technische indeling van de SAE niet opgelost en zal waarschijnlijk ook niet snel duidelijk zijn vanwege alle juridische vragen die spelen over de aansprakelijkheid van autonome voertuigen bij ongevallen.

De Rijksdienst voor het Wegverkeer (RDW) onderzoekt hoe de wetgeving uit 1968 aangepast moet worden om zelfrijdende voertuigen mogelijk te maken. Op dit moment moet een bestuurder een rijbewijs hebben om de weg op te mogen en dat sluit dus level 4 en 5 voertuigen uit van deelname aan het verkeer. Wel mag de RDW een ontheffing verlenen voor experimenten.

Dit artikel verscheen ook in het eerste nummer van NVVK info februari 2020

Fundamental Risk

Leestijd: 3 minuten
3 januari 2020

De Israëlische veiligheidsexpert Zvi Lanir schreef in 1983 een belangwekkend boek over het verschil tussen situational en fundamental surprise. Om dat onderscheid te illustreren gebruikte hij een anekdote over de heer Webster. Inderdaad die van de woordenboeken.

webster’s surprise

Op zekere dag komt Webster vroeger thuis dan normaal en treft daar zijn vrouw in bed met een andere man. ‘’I’m surprised”, zegt ze met gevoel voor understatement. “I’m astonished”, is het antwoord, waarmee hij de kern van het verschil tussen die twee duidelijk maakt. Fundamental surpise is namelijk de overtreffende trap van ellende, omdat het grondvesten doet schudden. Zou dat, zo vroeg ik me af, vertaalbaar zijn naar de veiligheidskunde? Ik doe hier een kleine poging.

 https://www.britannica.com/biography/Noah-Webster-American-lexicographer#/media/1/638653/118239
Noah Webster, steel engraving, c. 1867. Image from Encyclopedia Brittanica

Situational risk staat voor de veiligheidsrisico’s uit de vanzelfsprekendheid van alledag. Ze variëren van werken op hoogte en je hand verbranden aan de oven tot emissies van gevaarlijke stoffen. Situational risk betekent niet dat het louter eenvoudige huis-, tuin- en keukenrisico’s betreft. Het kan gaan om zeer complexe situaties.

risico regel reflex

Belangrijk kenmerk ervan is dat de beheersmaatregelen over de bron en effect van het veiligheidsrisico zelf gaan. Vrijwel altijd is de risico-regel-reflex erop van toepassing. Uitgegleden? Regel voor een stroevere vloer. Van de trap gevallen? Voorschrift om voortaan de trapleuning vast te houden. Explosie in een fabriek? Verplichten tot een veiligheidsmanagementsysteem. Allemaal risico’s waar de veiligheidskundige nu al over adviseert.

groot ego

Fundamental risk daarentegen ontstaat doordat het juiste zicht op de werkelijkheid verdwenen is bij de besluitvormers. Soms komt dat door psychologische factoren en hebben mensen zo’n groot ego gekregen dat ze denken dat de wereld om hen draait. Zoals bij dieselgate van Volkswagen, de drang om het grootste autobedrijf ter wereld te worden was genoeg reden om te sjoemelen met uitstootgegevens.

economische argumenten

Maar meestal komt het door ‘het systeem’, waarin louter korte termijn economische argumenten worden gebruikt om besluiten te nemen, met onverantwoorde risico’s tot gevolg. Zo zijn bijvoorbeeld veel medicijnen niet meer verkrijgbaar in Nederland omdat ze alleen nog worden gemaakt in lagelonenlanden. En wordt de consumenten banaan met uitsterven bedreigd door de Panamaziekte, het gevolg van een wereldwijde monocultuur van gekloonde bananenplanten. Klinkt geinig, maar voor 400 miljoen mensen in de tropen is de banaan het belangrijkste voedsel.

Kabinet Röell (1894-1897). S. van Houten, minister van Binnenlandse Zaken, van 9 mei 1894 tot 27 juli 1897
kinderwet van Van Houten

Het meest klassieke voorbeeld van een fundamental risk werd door de Kinderwet van Van Houten beteugeld. Al in 1863 hadden Leidse fabrikanten de koning verzocht om een wet die kinderarbeid moest verbieden. Zelf konden ze dat niet doen, omdat hun prijzen anders te hoog werden en ze de concurrentie zouden verliezen. Pas in 1874 zou kinderarbeid onder 12 jaar in fabrieken en werkplaatsen verboden worden.

Het illustreert treffend dat kapitalistische systemen, in hun race naar de bodem van de laagste prijs, fundamental risks veroorzaken die alleen te beheersen zijn door regelgeving van een centrale overheid. Gebaseerd op advies van deskundigen. Dat lijkt mij een mooie uitbreiding van het vakgebied veiligheidskunde.

Dit is de derde column die ik schreef voor het verenigingsblad van de NVVK, de Nederlandse Vereniging voor Veiligheidskunde. De vorigen vind je hier: De veiligheidsbril van Ed en hier: Vooral Doorgaan.

Meer lezen? Dit blog over de helikopters van de Kustwacht is een eerste uitwerking van fundamental risk aan de hand van een concreet voorbeeld.

De Veiligheidsbril van Ed

Leestijd: 2 minuten
25 mei 2019
De veiligheidsbril van Ed is een column die ik voor de NVVK Info schrijf, het vakblad voor veiligheidsprofessionals. Dit is de eerste: de vanzelfsprekendheid van alledag.

Ik denk dat ik voor het eerst bewust met veiligheid werd geconfronteerd tijdens mijn studie organisatiepsychologie. Weliswaar had mijn moeder mij daarvoor al meermaals op het hart gedrukt voorzichtig te zijn, maar dat zag ik meer als een afscheidsgroet dan een aansporing om het eens extra veilig aan te doen. Ik deed indertijd een onderzoek naar kwaliteit van de arbeid bij automatisering in de zuivel en mijn studiebegeleider zei dat ik maar eens in de Arbowet moest kijken. Daarvan was de eerste tranche net in werking getreden. Misschien dat er wat aanknopingspunten in zouden staan.

En inderdaad, daar kwam van alles naar boven over veiligheid, gezondheid en welzijn op het werk. Vooral door het veiligheidsdeel was ik gefascineerd. Helaas kon ik er niet zo veel mee voor mijn afstudeeronderzoek. Dat ging meer over welzijn, zo concludeerde ik. Met mijn veiligheidsbril van nu op, denk ik dat het toch ook over veiligheid ging. Organisatorische veiligheid, weliswaar, maar ook dat is veiligheid. Je moet alleen goed kijken voor je het ziet.

Toen ik enkele jaren later bij de brandweer ging werken, het was inmiddels 1991, kwam ik in aanraking met wat ik in die tijd als echte veiligheid zag: brandbestrijding, technische hulpverlening en ongevalsbestrijding gevaarlijke stoffen. Het waren enerverende jaren daar in Amsterdam. Tot die dag in april 1995, toen drie collega’s uit mijn Sectie hun leven verloren bij een inzet aan de Motorkade. Daar leerde ik over de zwarte rand van veiligheid, die ze op de Brandweeracademie hadden vergeten te vertellen. Met mijn veiligheidsbril van nu op, weet ik dat veiligheid meer is dan een RIE en een veiligheidsmanagementsysteem. Het gaat ook over hoe je er met je collega’s weer bovenop komt nadat het zo mis ging, dat je niet ontkent hoe het zo ver kon komen en dat je ook niemand de schuld ervan geeft. Want je moet wel door met zijn allen, maar dat moet je eerst zien voor je het kan doen.

Helaas was de Motorkade niet het laatste fatale ongeval waar ik mee te maken kreeg. Via het Begrafenis Bijstandsteam raakte ik betrokken bij onder andere de Vuurwerkramp en de Koningskerkbrand in Haarlem. En als Lector Brandweerkunde deed ik onderzoek naar de rampzalige brand in De Punt. De rode draad in al die ongevallen is dat het niet zozeer de harde veiligheid is die er aan ten grondslag lag, maar vooral het onbewuste web van aannames en gewoontes die iedereen standaard met zich mee draagt. Het is de vanzelfsprekendheid van alledag die ons veiligheid en onveiligheid brengt en die je pas ziet als je weet waar je moet kijken. Graag neem ik je mee in een serie verhalen over mijn blik op ons mooie vak door de veiligheidsbril van Ed.

Sturen we op kans of op effect bij risicosturing?

Leestijd: 3 minuten

Risicosturing is modern en veel mensen zijn er voor, waaronder ik. Maar je moet het wel eens zijn over waar je op stuurt: op kans of op effect? Want dat maakt nogal wat uit.

Onlangs schreef de lector Transportveiligheid Nils Rosmuller een interessant blog over risicosturing. Hij noemt twee voorbeelden, waarbij de ontwerpers net aan de onderkant van ontwerpcriteria gaan zitten om zwaardere veiligheidseisen te voorkomen.

Risico-eigenaren moeten dat eigenlijk niet doen, zo stelt Rosmuller. Ze moeten meer naar de geest van de wet handelen, en minder op kostenreductie. “Dat betekent dus dat de risico veroorzakende partij haar verantwoordelijkheid moet nemen en risicogericht moet gaan denken.”

In dezelfde week kwam zijn collega Ricardo Weewer ook met een blog dat vrijwel dezelfde strekking heeft. Het directe onderwerp was weliswaar compleet anders, namelijk een a-typische brand in een eco huis, maar de conclusie was eigenlijk eender aan die van Rosmuller.

Hij schrijft: Niet de brandweer, maar gebouweigenaren en -gebruikers zijn verantwoordelijk voor de brandveiligheid van hun gebouw. Zij maken daarin veelal zelf de keuze door zich te houden aan de minimale eisen in de wet gesteld. Maar die eisen zijn, zoals gezegd, geen garantie voor een brandveilig gebouw.”

Risicosturing in plaats van regelsturing
Dicht Open Dicht Open, oftewel DODO, is een manier om van een lange tunnel met een zwaar veiligheidsregime, twee kortere tunnels onder lichter regime te maken. De grens ligt bij 250 meter. Zie het blog van Rosmuller.

Kennelijk geeft de wet steeds minder harde criteria om veiligheidseisen op te baseren en is de specifieke situatie ter plekke, met het daarbij behorende risicobeeld, leidend in het (moeten) nemen van maatregelen. Risicosturing noemen we dat, als tegenhanger van regelsturing, en eerlijk gezegd ben ik er zelf een voorstander van.

Alleen, bij het lezen van de blogs van Rosmuller en Weewer vroeg ik mij opeens wel af op welk deel van het risico eigenlijk gestuurd wordt. Op kans of op effect? Heeft iedereen dan wel hetzelfde beeld van wat risicosturing is? Ik werk de casus van de tankopslag uit het blog van Rosmuller iets verder uit om die vraag toe te lichten.

Tanks met een diameter groter dan 45 meter zijn volgens de milieuvergunning verplicht lid te worden van de industriële brandbestrijdingspool (het IBP), stelt Rosmuller. Maar de nieuw te bouwen tanks uit zijn voorbeeld zijn 30 cm korter. Daarmee vallen ze onder een lichter veiligheidsregime, terwijl de effecten bij een tankbrand precies hetzelfde zullen zijn.

En dat is precies het punt dat ik wilde maken. Voor de eigenaar van de tanks is het effect van een brand dus ook hetzelfde. Voor hen is het managen van de kans op een tankbrand daarom veel interessanter. Hoe kleiner de kans op een majeur incident, hoe groter de continuïteit en hoe groter het rendement van de opslag. De kostenbesparing op het effect is dan dus pure winst, verlaagt zijn kostprijs en vergroot zijn concurrentiepositie. Daarmee wordt het ondernemersrisico dus verlaagd.

Risicogericht sturen voor de markt

Dat is risicogericht sturen voor de markt: houdt kleine incidenten klein en voorkom de kans op majeure incidenten. Grote incidenten zijn namelijk toch een total loss en komen terecht in hele andere risicomanagement regimes van verzekeringen, aansprakelijkheid en schade afhandeling.

Voor hulpdiensten en veiligheidsinstanties is de effectbeheersing echter veel relevanter, zoals Weewer in zijn blog schrijft. Want als je bij een tankbrand of explosie arriveert, is er al 100% kans en kun je alleen nog op de effectkant van risico sturen. Terecht constateert hij dat de brand in het eco huis daarom geen les was voor de brandweer, want die weten dat al, maar voor wetgevers en adviseurs.

En voor politiek en bestuur, zou ik daar aan toe willen voegen. Want risicogericht sturen is mooi, maar het is wel handig dat iedereen dat op dezelfde manier interpreteert en de winst en verliesrekening in de gehele keten eerlijk verdeeld is. Bij uitstek een politiek vraagstuk.

© 2020 Rizoomes

Thema gemaakt door Anders NorenBoven ↑