Premier épisode d’une série de billets de Christian Ignace consacrée aux biais cognitifs.

Clés de lecture : Les passages entre guillemets décrivent le déroulement de la catastrophe, ils sont tirés de l’article Wikipédia cité en référence. Les passages en italique décrivent le biais cognitif à l’œuvre qui explique chaque étape de la progression lente mais certaine vers cette catastrophe parfaitement évitable. Les numéros entre parenthèse font référence à la description des biais cognitifs disponible ici.

« Cet accident nucléaire est survenu le 26 avril 1986 à 1 h 23 min 45 s dans le réacteur n^o 4. L’essai d’alimentation des pompes de refroidissement du réacteur après un arrêt fait partie des tests requis avant la mise en exploitation du réacteur, mais il n’avait pas pu être mené à bien. Cet essai avait été tenté à trois reprises sans succès. Un quatrième essai est ensuite programmé pour avril 1986, à l’occasion d’un arrêt pour maintenance du réacteur. »

Fausses obligations : se fixer arbitrairement des buts sans importance (l’essai) ou au détriment de ce qui est le plus important (le contrôle du réacteur nucléaire) (47).

« C’est lors de cet essai, réalisé plus de deux ans après la mise en service commercial de la centrale, que la catastrophe a eu lieu. Alors que ce quatrième essai nécessite la désactivation de certains systèmes de sécurité, comme celui du refroidissement de secours du cœur du réacteur, il est considéré comme un essai purement électrique des turbo-alternateurs, n’impliquant pas la partie nucléaire »

Biais d’attention ou biais attentionnel :  désigne la manière dont certaines informations sont traitées différemment par le cerveau (filtrées) en fonction des préoccupations ou centres d’intérêt. (64)

« L’équipe de jour commence son service à 8h, alors qu’il ne reste que 15 des 167 barres de contrôle hors du cœur du réacteur. Selon les recommandations du constructeur, le réacteur aurait alors dû être arrêté car le nombre de barres non insérées dans son cœur était inférieur au nombre requis… »

Biais de normalité : Sous-estimer la probabilité d’une catastrophe, ses effets sur sa propre existence et son potentiel destructeur (25)

« …mais l’essai se poursuit en suivant la procédure de test qui ne demande pas l’arrêt du réacteur. Selon Igor Kazachkov, le chef de l’équipe de jour : « aucun d’entre nous n’a imaginé que cela pouvait provoquer un accident nucléaire. Nous savions qu’il était interdit [de retarder l’arrêt], mais nous n’y avons pas pensé » » Effet de preuve sociale : Nous orientons nos décisions en fonction de celles des membres de nos groupe d‘appartenance. (1)

 » 0h35 à 0h45, les premiers signaux d’alarme d’urgence concernant les paramètres thermo hydrauliques sont ignorés »

Biais d’optimisme : Croire que l’on est moins exposé à un événement négatif que d’autres personnes (15)

« à 1 h 15, les opérateurs désactivent des systèmes d’arrêt d’urgence et de refroidissement pour continuer l’essai ».

Biais de conformisme : le groupe a le pouvoir de nous faire choisir une solution, même évidemment mauvaise. (65)

« À 1 h 19, le débit de vapeur dépasse la limite minimale autorisée, déclenchant une alarme de faible pression de vapeur : l’équipe réagit […] en retirant manuellement d’autres barres de contrôle pour maintenir l’alimentation électrique dans les conditions de l’essai prévu »

Effet des couts irrécupérables : poursuivre des situations ou projets dans lesquels on a déjà investi significativement de l’argent, du temps ou des efforts, même si on n’en a plus envie ou que cela ne vaut plus le coup (77)

« il ne reste alors plus que 9 des 167 barres de contrôle dans le cœur du réacteur, rendant le réacteur hautement instable »

Loi de Weber : Notre perception des échelles évolue selon le logarithme des valeurs, soit ici un écart perçu de  ln (9) = 2.2 / ln(167) = 5.1   soit 43 %  au lieu de 9 / 167 = 5 % (51)

« A 1h23min 04s, l’essai proprement dit débute.
À 1h23min 40s, devant l’emballement du réacteur, le chef de quart de nuit appuie sur le bouton d’arrêt d’urgence. Les barres de contrôle commencent alors à descendre. Or, par un défaut de conception sur ce type de réacteur nucléaire, l’insertion complète des barres d’arrêt d’urgence dans le cœur du réacteur prend près de 20 secondes. En outre, par un second défaut de conception du système d’arrêt du réacteur RBMK, les extrémités de ces barres de contrôle en bore (matériau absorbant et ralentisseur de la fission) sont faites de graphite qui provoque au contraire, au début de leur insertion, une augmentation de la réactivité et donc de la puissance. »

Biais d’automatisation : Accorder une confiance disproportionnée envers de l’information offerte par une machine, un outil, un logiciel ou un processus, au détriment de l’observation ou de l’expérimentation (Le bouton d’arrêt d’urgence n’avait jamais été testé). (21)

« Le pic de puissance est atteint, dépassant de plus de 100 fois la puissance nominale du réacteur. A  1h23min 45 s, Une explosion se produit. Les 2 000 tonnes de la dalle de béton recouvrant le réacteur sont projetées en l’air et retombent de biais sur le cœur du réacteur qui est fracturé par le choc. »

« Les techniciens présents sur place, notamment l’ingénieur en chef adjoint, ne saisissent pas immédiatement l’ampleur de la catastrophe et pensent que le réacteur est toujours intact, de même que Viktor Brioukhanov, le directeur de la centrale réveillé à 1h30. A 02h00, deux ingénieurs nucléaires stagiaires constatent de visu la destruction du réacteur -et en seront mortellement irradiés-. De retour au centre de commande, la peau foncée due au hâle nucléaire y compris sous leurs vêtements, leurs constatations sont refusées par l’ingénieur en chef adjoint qui les traite d’incompétents. Le directeur général de la centrale, informé à 3h d’une mesure de radioactivité de 250 röntgens /heure, estime que le détecteur est défectueux.  De même, à 10h, il ne prendra pas en compte le fait que la tranche n°4 et donc le cœur du réacteur sont détruits. »

Biais de confirmation :  Écarter les faits ou les preuves qui pourraient réfuter nos convictions. (22)

« Dans les premières heures qui suivent la catastrophe, l’opacité créée par les différents échelons administratifs est totale. Mikhail Gorbatchev, secrétaire général du comité central du parti communiste, n’est informé officiellement que le 27 avril … L’évacuation des 49 360 habitant de Priopiat est officiellement annoncée le 27 avril 1986 à 11h00, soit plus de 33 heures après l’accident. »

Réactance psychologique : Mécanisme de défense psychologique mis en œuvre par un individu qui tente de maintenir sa liberté d’action lorsqu’il la croit ôtée ou menacée. Peut faire naître chez l’individu une attitude ou une croyance opposée à celle qui lui est suggérée, ou lui faire adopter des stratégies d’adaptation, basées sur les perceptions du risque de chaque individu, qui vont du déni total à la phobie, en passant par tous les degrés d’euphémisation — minimisation, mise à l’écart dans le temps ou l’espace. Ces stratégies traduisent le biais d’optimisme comparatif et constituent souvent la réaction à une dissonance cognitive. Quand ces perceptions sont associées à une menace de la liberté individuelle, les chercheurs peuvent observer un phénomène de réactance face à certains messages liés à des risques majeurs. (68)

A suivre dans de prochains épisodes :
« Sabotage, biais cognitifs et Lean : Introduction au manuel de sabotage de la CIA » puis « Sabotage, biais cognitifs et Lean : techniques de sabotage à l’usage des dirigeants » et enfin : « Sabotage, biais cognitifs et Lean : techniques de sabotage à l’usage des managers et superviseurs«