LE BIAIS D'AUTOMATISATION

Nouveau

"L'erreur est humaine, mais se reposer aveuglément sur la machine l'est encore plus."

Interpréter
LE BIAIS D'AUTOMATISATION
lightbulb

C’est quoi exactement ?

Le biais d'automatisation est notre tendance à faire une confiance excessive aux systèmes automatisés, comme les logiciels d'aide à la décision, les systèmes de navigation ou les correcteurs orthographiques, au point d'ignorer nos propres connaissances ou des informations contradictoires pourtant évidentes. Face à une suggestion de la machine, l'être humain part souvent du principe que celle-ci possède des capacités d'analyse supérieures aux siennes et qu'elle ne se trompe jamais.

Cette dépendance peut conduire à deux types d'erreurs majeures : les erreurs d'omission, où l'on ne remarque pas un problème parce que le système n'a pas déclenché d'alerte, et les erreurs de commission, où l'on suit aveuglément une recommandation erronée de la machine. Si cela prête à sourire lorsqu'on suit sans réfléchir un itinéraire vers un cul-de-sac, les conséquences peuvent être dramatiques dans des domaines critiques comme l'aviation ou la santé.
neurology

Pourquoi tombons-nous dans ce piège ?

Notre cerveau cherche constamment à économiser de l'énergie cognitive face à la complexité des décisions. C'est ce qu'on appelle l'hypothèse du « radin cognitif ». Déléguer une décision à un algorithme ou à une machine demande beaucoup moins d'effort que d'analyser soi-même tous les paramètres d'une situation. De plus, notre perception de la haute fiabilité de la technologie moderne engendre une forme de complaisance, abaissant notre niveau de vigilance car nous nous sentons faussement en sécurité.
search

Dans la vraie vie

Exemple
1

Jane suit aveuglément les indications de son système de navigation et finit par engager sa voiture sur une voie ferrée, ignorant les panneaux de signalisation routière évidents sur son chemin.

Exemple
2

John, un médecin chevronné, modifie un diagnostic correct qu'il avait posé initialement simplement parce que le logiciel d'aide médicale lui suggère une autre maladie, pourtant inexacte.

task_alt

Comment le contrer ?

Considérez toujours la machine comme un conseiller faillible et non comme un décideur absolu. Prenez l'habitude de vérifier les informations cruciales avec une deuxième source indépendante ou en faisant appel à votre propre jugement critique.

theater_comedy

Le saviez-vous ?

"Le saviez-vous ? Ce biais a été tragiquement illustré dans l'aviation. En 1983, un vol commercial a été abattu après avoir dévié de sa route, l'équipage s'étant reposé sur un pilote automatique mal configuré sans jamais vérifier manuellement la trajectoire de vol."

library_music

Ressources Multimédia

smart_display

Résumé Vidéo

Ouvrir dans une nouvelle fenêtre

Podcast Audio

00:00
quiz

Avez-vous bien compris ?

Testez vos connaissances sur LE BIAIS D'AUTOMATISATION avec ce court quiz de 5 questions.

arrow_back
arrow_forward