Wanderings in crisis

Friendly Fire

Leestijd: 12 minuten

Friendly Fire is een klassiek boek uit de veiligheidswetenschap van Scott Snook. Daarin onderzoekt hij de omstandigheden waaronder twee Amerikaanse Black Hawk helikopters in 1994 door eigen F15’s uit de lucht werden geschoten. Het is een grondige analyse van een original accident die thuishoort in het Museum of Accidents.

At your highest moment, be careful. That’s when the devil comes for you

denzel washington

Dit blog volgt grotendeels de lijn van het boek. Eerst wordt het incident kort beschreven. Daarna volgt de formele analyse van het systeem: de individuele, groeps en organisatiefactoren. Met de conclusie dat het een normal accident in een high reliability organization was.

Dit beschrijvende stuk wordt vervolgd met een discussie over de factor irrationaliteit en in hoeverre je dat zou moeten meenemen in het ontwerp van veilige systemen en werkomgevingen. Dat miste ik namelijk in Friendly Fire toen ik het zat te lezen. Het popte als vanzelf in me op, mede door sommige gebeurtenissen uit mijn eigen praktijk waar ik geen rationele verklaring voor had.

De Shootdown

Op 14 april 1994 doorkruisten twee Amerikaanse F15’s de no-fly zone boven Noord Irak. Het luchtruim daar was onder controle van een Combined Task Force (CTF), die na Desert Storm onder de noemer Operation Provide Comfort veiligheid moest brengen aan Koerdische vluchtelingen.

De opdracht aan de jagers was “to perform an initial fighter sweep of the no fly zone to clear (sanitize) the area of any hostile aircraft prior tot he entry of coalition forces.” De kans op een treffen was niet heel groot. In 50.000 uren vliegen was er geen incident van betekenis geweest.

Rond 10.20 ontdekten de piloten via hun radar een vliegend object dat ze als een vijandelijke helikopter classificeerden. Hun bericht werd door de AWACS, de vliegende verkeersleiding, neutraal beantwoord; copy that. Dat is geen bevestiging van de classificatie, maar ook geen correctie.

De toestellen vliegen richting de helikopters om een visuele check uit te voeren. Die is positief: de leader meent om 10.27 met een vijandige eenheid van doen te hebben. Zelf neemt hij de eerste helikopter op de korrel, de wingman krijgt opdracht daarna de tweede uit te schakelen.

Een bizar moment.

Het is half elf in de morgen als beide helikopters met raketten uit de lucht worden geschoten. Er klinken twee explosies, daarna is het stil. De operatie is geslaagd.

Het waren alleen geen vijandige toestellen, maar Amerikaanse Black Hawks die met 26 VIP’s vanuit Turkije waren opgestegen, nadat ze zich bij de AWACS hadden aangemeld. Aan een periode van drie jaar zonder incidenten was door dit friendly fire een einde gekomen.

Finesterre

Ooit had Luitenant Kolonel Scott Snook zelf onder friendly fire gelegen. Nu was hij een professor op de United States Military Academy en wilde weten hoe dit ongeluk zich zo had kunnen voltrekken. Daarvoor trekt hij alles uit de kast wat er aan wetenschappelijke en praktische kennis te vinden is. Dat maakt het ook een persoonlijk verslag van iemand die uit ervaring weet waar hij het over heeft.

Voor praktijkmensen zoals ik is het daarom een prettig boek om te lezen. Al werkte ik nooit voor defensie zelf, dankzij mijn achtergrond bij de luchthavenbrandweer zat er veel herkenbaars in.

Ook tussen de regels.

Vanaf het begin schoot er zodoende al een alternatieve hypothese door mijn gedachten, die tegen mijn verwachting in niet in het boek voor kwam. Hoewel, misschien impliciet een beetje.

Laat ik eerst beginnen met wat er wel in Friendly Fire staat. Eén van de belangrijkste conclusies van Snook is dat dit een normal accident in een high reliability organization (HRO) is. Daarmee combineert hij de ideeën van Charles Perrow met die van Karl Weick. Ik ben daar zelf ook altijd een groot voorstander van geweest, maar in de wetenschappelijke discipline is dat nog geen gemeengoed.

Bij het zoeken naar foto’s voor dit blog kwam ik deze plaatjes tegen uit Ingen, op de Betuwe. Daar had op 18 juni 1986 een F15 een Conformal Fuel Tank laten vallen met zo’n 3000 liter kerosine. Zie het maar als een verhaaltje dat ik er tussenmeng bij gebrek aan foto’s over de shootdown.

Wat deze combinatie van normal accidents in een HRO oplevert is het besef dat je, wat je ook doet, aan het eind van je maatregelen altijd een stuk onvoorspelbaarheid overhoudt. Die onvoorspelbaarheid volgt uit de complexiteit van een systeem en de strakke koppeling tussen de samenstellende delen. In dat gebied, wat ik maar even Finisterre noem (naar dit blog), spelen toeval, geluk en pech een grote rol.

Dat Finisterre moet je trouwens niet deterministisch opvatten, maar probabilistisch. Er zijn omstandigheden waaronder de kans groter wordt dat het fout gaat. Dat wil dus niet zeggen dat het persé mis zal gaan.

Al zegt de Regel van Hermans dat dat wat niet mis kan gaan, ook mis zal gaan. Laten we ook die voortaan vooral probabilistisch interpreteren.

Snook noemt vier elementen die een groot aandeel hadden in de oorzaak van het ongeval. Dat begint met de piloten, die de helikopters verkeerd identificeerden als vijandelijk. Het tweede punt is dat de AWACS niet corrigeerden. Hun situational awareness was groter dan die van F15’s, toch grepen ze niet in. Dit is feitelijk een escalatiefactor: een beheersmaatregel die faalt.

Ten derde was de radiocommunicatie niet volledig geïntegreerd door verouderde apparatuur. Daardoor was er geen contact mogelijk tussen de F15’s en de Black Hawks. Ook het vierde punt is een technisch falen. Het IFF (Identify Friend or Foe) was stuk, zodat de automatische identificatie faalde.

Practical Drift

Achter deze min of meer directe oorzaken somt Snook vervolgens een groot aantal indirecte oorzaken op. Onervaren personeel in de AWACS, soms niet eens opgeleid. Te weinig mensen om een rooster te lopen. Onduidelijke commanders intent van de CTF. En nog veel meer, beschreven in drie aparte hoofdstukken die respectievelijk gaan over oorzaken op individueel niveau, groepsniveau en organisatieniveau.

Het was nog best een heel apparaat. Er vielen geen slachtoffers, alhoewel volgens het Leids Dagblad van 20 juni tot in de wijde omtrek alle planten door kerosine nevels de geest hadden gegeven. De verontreinigde grond moest worden afgegegraven en gereinigd.

In hoofdstuk zes combineert hij zijn bevindingen vervolgens tot een theorie over practical drift, die naar zijn mening een groot deel van de ongevalsoorzaak verklaart. Practical drift komt er in het kort op neer dat men in loosely coupled systems steeds verder gaat afwijken van de algemeen voorgeschreven regels en procedures. Zolang het systeem loosely coupled is, vormt dat geen probleem.

Maar zodra de boel in een stroomversnelling gaat, zoals bij de gevechtshandelingen in Friendly Fire, worden de koppelingen opeens strak en wordt het systeem gevoelig voor normal accidents. In zijn analyse van de ramp op Tenerife had Weick trouwens ook al eens die conclusie getrokken.

Practical drift lijkt veel op wat Diane Vaughan omschreef als normalization of deviation in haar analyse van de Challenger explosie. Ook drifting into failure van Sydney Dekker is een vergelijkbaar fenomeen, net als practical sailing bij Rasmussen. Om er maar eens paar te noemen.

Alleen al hierom is het voor de praktijk beter om het goede uit verschillende theorieën te combineren; je hoeft geen beste te kiezen.

Mensen uit operationele diensten en bedrijven kennen het verschijnsel van elastieken procedures trouwens ook. Zeker in grotere organisaties met verschillende eenheden of posten die normaliter redelijk autonoom werken. Dat leidt soms tot problemen als bij grote branden of ongevallen verschillende posten opeens moeten samenwerken onder tijdsdruk. Helemaal als er sprake is van interregionale bijstand.

Ongevalsomstandigheden

Vanwege deze practical drift schrijft Snook dat je minder leert van het zoeken naar een oorzaak, dan naar het beschrijven van de omstandigheden waaronder het ongeval zich vertrok.

Sowieso zit er achter elke directe oorzaak weer een andere. Welke je kiest is dus arbitrair. Hierover citeert hij Jens Rasmussen:

In causal explanations of an accidental occurrence, its origin will be backtracked upstream to find the “cause”. No objective stop rule can be devised to terminate this search. It is always possible to go one more step backwards in the search and the decision to stop and to accept an event as “the rootcause” depends on the discretion of the analyst.”

jens rasmussen

(Zo kwam in Nederland iedereen altijd uit bij Rutte. Als ik hem was, was ik al veel eerder gestopt)

In onderstaande afbeelding beschrijft Snook vervolgens om welke omstandigheden het ging bij Friendly Fire:

Dit is een interessante manier van kijken naar ongevallen. Zoek niet naar een directe oorzaak, want die is uiteindelijk toch onvoorspelbaar voor een volgende keer. Zoek daarentegen naar de omstandigheden waaronder de kans op een ongeval groter wordt, dat het systeem fragiel wordt. Want daar heb je altijd wat aan, aan die kennis.

Op deze derde foto is goed te zien hoe er toentertijd over schuimblussing werd gedacht: een klein vaatje SVM met een rechtstreekse inmenging in de straalpijp. Daar heb ik zelf ook nog mee staan knoeien tijdens mijn brandweeropleiding in 1991.

Deze benadering sluit trouwens ook weer naadloos aan op het idee van levenslooppaden en alternatieve geschiedenissen van Taleb. Er kan altijd heel veel gebeuren. Wat er precies gebeurt in een bepaalde situatie is toeval en had net zo goed iets anders kunnen zijn.

Mooi dus dat een boek van 30 jaar oud nog steeds zoveel actuele lessen kan leren. Precies daarom zou iedereen die werkzaam is in het veld van operational resilience en organizational safety dit boek moeten lezen.

Maar toch.

Er bleef bij mij iets knagen, al vanaf het begin. En dat zit bij die piloten. Want al die omstandigheden die Snook beschrijft zouden precies zo zijn als de helikopters niet zouden zijn neergeschoten. En dan was er niets gebeurd. Hoogstwaarschijnlijk tenminste, want de theorie van de alternatieve geschiedenis zegt wat anders.

Irrationaliteit

Wat gebeurde er in die paar minuten dat die piloten op jacht waren? Waarom identificeerden ze die Black Hawks verkeerd? Ze waren immers niet in gevaar en zo’n gevechtshelikopter is geen enkele bedreiging voor een F15. Waarom was er niet meer twijfel bij hen en pakten ze niet meer tijd? Want dat was er wel.

Mijn kortste antwoord is dit: als rationele antwoorden geen verklaring geven, dan blijven irrationele antwoorden over.

En laat ik daarbij gelijk aangeven dat irrationaliteit niet verwijtbaar is. Het is een integraal onderdeel van het mens-zijn. Het hoort erbij. En daarom moet je er ook rekening mee houden.

De mens is namelijk (ook) een irrationeel wezen, dat ie heel goed weet te maskeren met een soort van continue persoonlijkheid, waardoor het lijkt of alles logisch is wat je doet en denkt. Terwijl dat lang niet altijd zo is.

Resten van de Black Hawks. Foto van het Amerikaanse leger.

Dat mensen irrationeel zijn is echter niet algemeen aanvaard als verklaring in ongevalsonderzoek en veiligheidskunde. Desondanks is het een factor van belang, zag ik zelf tijdens onderzoeken van (soms fatale) ongevallen.

Helemaal als de koppelingen strak trekken. Dat vereist 100% rationeel gedrag.

Operationele mensen die betrokken raken bij een zeldzame, grote inzet, ongeacht of het nu defensie, brandweer of politie is, lopen het risico zich anders te gaan gedragen dan normaal. Dat is wat ik in de praktijk verschillende keren heb gezien.

Al helemaal als ze op scherp worden gezet met een commanders intent als in deze kwestie: “to perform an initial fighter sweep of the no fly zone to clear (sanitize) the area of any hostile aircraft prior tot he entry of coalition forces.”

Die irrationaliteit uit zich vervolgens in een kluwen van factoren die elkaar versterken; ze komen in een tunnel terecht, krijgen blindzicht en tijdcompressie, hun metacognitie verdwijnt en de situational awareness hapert. Alleen hebben ze dat zelf niet door. Dat laatste is een cruciale factor bij irrationaliteit.

De focus bij dergelijke situaties is volledig op het doel gericht, ze creëert een eigen werkelijkheid en ziet alleen dat wat de aannames bevestigen. Deze cocktail leidt tot irrationeel gedrag, waar men pas later, met een schok haast, uit ontwaakt. Daarna is er verbijstering (heb ik dat gedaan) en ongeloof, soms zelfs ontkenning en projectie. Dan is het de schuld van de onderzoeker die het verkeerd ziet.

Wat overigens niet altijd valt uit te sluiten, natuurlijk.

Collega’s uit de praktijk kennen het fenomeen ook. Die weten na verloop van tijd van al hun directe collega’s hoe ze zich op de spannende momenten gedragen. Alleen noemen ze het geen irrationaliteit, maar “bij die gaat soms de knikker in de kop.”

Snook heeft zich wel gebogen over de psyche van de vliegers, maar vermijdt de term irrationaliteit. Hij maakte dit plaatje, een keurig wetenschappelijk verantwoord plaatje.

 VID staat voor visual identification. Maar wat mij betreft staat ernaast, daar in het midden van het venn-diagram, irrationality. Want dat is een bijproduct van de factoren die ook de VID bepalen.

In dit blog over ‘alle crises ben jezelf’ noem ik vier factoren die door Weick zijn bestempeld als gevaarlijke omstandigheid waarin je je rationaliteit kunt verliezen. Dat zit hier dicht tegenaan, cq overlapt zelfs.

  • Als je iets verwacht
  • Als je iets graag wilt of een heel sterk doel hebt gezet
  • Als je ergens volledig door in beslag wordt genomen
  • Als je iets aan het afmaken bent

Het probleem van irrationaliteit Is dat je het niet voorspellen kan. Anders was het ook niet irrationeel. Daardoor is het een ramp voor regelmakers, die geen idee hebben hoe ze irrationaliteit moeten verwerken in hun voorschriften. Naar mijn idee zit de pratical drift dus standaard ingebakken in elke organisatie.

Museum of Accidents

Of zoals Virilio het zou zeggen in The Original Accident: de maker van de regel is ook de maker van de regelovertreding.

Dan komt de spreuk van Washington goed van pas; op de highest moment wordt het gevaarlijk, daar komt de duivel. Ken dus de highest moments, daar gaat het mogelijk eerder mis.

Vaak is dat dus een combinatie van factoren zoals tijdsdruk, afwijkingen, hoog ervaren taakopvatting (ik kan dit), weinig tot geen bijsturing horizontaal noch verticaal, tunnelvisie, groupthink en high stakes.

Irrationaliteit vergroot dus, net als alle andere redenen die Snook noemt in zijn boek, de kansen op een normal accident in een high reliability organization. Al noemt hij het misschien zelf niet zo expliciet, maar dat was dertig jaar geleden wellicht ook nog niet aan de orde.

Ik sluit het betoog van Snook af met deze laatste bladzijde van zijn boek; een pleidooi voor een Museum of Accidents. Al noemt hij het een library.

Deze casus van Friendly Fire en de Black Hawks komt er natuurlijk gewoon in. Omdat het de eerste is waar irrationaliteit als factor in is opgenomen. “At your highest moment, be careful. That’s when the devil comes for you.”

Eindoordeel

Friendly Fire is een belangrijk boek dat inmiddels bijna dertig jaar oud is. Dat het nog steeds verkrijgbaar is zegt wel iets over de waarde ervan. Het is geen gemakkelijk boek voor wie niet is ingevoerd in de belangrijkste theorieën uit de veiligheidskunde. Snook is een omgevallen boekenkast die veel van de grote namen voorbij laat komen.

Tegelijkertijd moet je af en toe wel even door de no-blame opvattingen heen kijken, vond ik zelf. Ook zoiets als irrationaliteit laat Snook alleen impliciet voorbij komen, terwijl het in deze casus wel degelijk een grote rol speelde.

Sterker nog, ik weet zeker dat in andere zeldzame situaties op het scherpst van de snede, zoals ook de bemanning van de Maddox ervaarde, irrationaliteit een grote rol speelt. Net als soms in politieke besluitvorming, waar vergaderingen net zo lang gerekt worden tot er iemand rare dingen gaat doen.

Wat heel sterk is aan Friendly Fire is de aandacht verleggen van de directe oorzaken en het zoeken van een rootcause, naar de omstandigheden waaronder een systeem fragiel wordt en daardoor de kans vergroot dat er ongevallen ontstaan. De normal accident in de high reliable organization.

Net zo sterk is dat Snook je tot denken aan zet. Door zijn persoonlijke betrokkenheid is het meer dan een wetenschappelijke verhandeling. Er zijn mensen die Friendly Fire daarom een minder goed boek vonden. Ik vond het er juist veel beter door. En raad het daarom iedereen aan die werkt in omgevingen waar het er regelmatig om spant.

Cijfer: 9

Zou ik het bewaren als de boekenkasten vol zijn en er geruimd moet worden: Zeker!

2 reacties

  1. Ruud

    Bedankt Ed.
    Het is weer een hele interessante blog waarin je de relatie (en overlap) tussen verschillende aspecten van de veiligheidskunde op een treffende wijze weet te leggen en te verwoorden.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

© 2024 Rizoomes

Thema gemaakt door Anders NorenBoven ↑