L’intelligence artificielle se développe avec une rapidité impressionnante. Si les avantages sont multiples, il en va de même pour les risques. L’IA continue de faire couler beaucoup d’encre quant aux accidents et dommages qu’elle cause. Inspirant un chercheur, Sean McGregor, pour la création d’une base de données : AI Accident Database. Afin de recenser les accidents liés à l’intelligence artificielle signalés dans les médias et rapports gouvernementaux.
Dans cet article, découvrez 10 accidents causés par l’Intelligence Artificielle.
1 : Vol fatal du Lion air en Indonésie en 2018
Rentrons dans le vif du sujet ! Le Boeing 737 Max du vol Lion Air 610 s’écrase seulement 13 minutes après son décollage de Jakarta. Résultat : 189 personnes tuées. A ce jour, c’est l’accident le plus meurtrier impliquant un 737. Un autre crash se produira 4 mois après.
Si des doutes planaient déjà sur les raisons du crash du vol Lion Air 610, les similitudes avec le second crash les ont confirmé. En cause, la défaillance d’un logiciel du système de commandes de vol de tous les 737. S’il est censé éviter le décrochage, il peut agir à tort sur le stabilisateur et faire piquer l’avion…
Après l’analyse des boîtes, et donc la confirmation des similitudes par la ministre des transports du pays, tous les Boeing 737 Max ont été interdits de vol.
2 : Deux piétons percutés par une Tesla Model S en Autopilot
Alors qu’il roulait dans une Tesla Model S avec le mode pilotage automatique activé, un conducteur de Tesla percute une Honda Civic et tue deux personnes dans la banlieue de Los Angeles. Sauf que le conducteur est inculpé cette fois-ci, pour la première fois aux Etats-Unis !
Malgré les critiques sur Tesla et sa façon ambiguë de communiquer sur les capacités d’Auto pilot et son système de surveillance, le conducteur a été inculpé. Deux chefs d’accusation ont été retenus. Le but étant de donner l’exemple : trop de chauffeurs n’utilisent pas l’Autopilot à bon escient.
Lors de l’été 2021, une enquête NHTSA a été ouverte pour 11 accidents impliquant des véhicules Tesla en Autopilot. Car l’homme doit rester responsable de sa machine.
3 : Un homme emprisonné à tort par une IA
Une erreur de reconnaissance faciale peut coûter cher ! C’est ce qu’a connu Randal Reid. Après une fausse correspondance de reconnaissance faciale, il se fait arrêter par la police locale en Géorgie. Le pauvre serait responsable d’un vol de sacs à main Chanel et Louis Vuitton survenu en Louisiane huit mois plus tôt. Alors qu’il n’y était jamais allé.
L’avocat de Reid, Tommy Calogero, accusa alors le coup. Expliquant que les détectives du bureau du shérif en Louisiane n’avaient pas suffisamment vérifié. Ils auraient alors tacitement admis leur erreur puis annulé le mandat. Reid passera tout de même une semaine en prison en tant que fugitif !
Voilà pourquoi, il ne faut pas faire l’impasse sur le travail humain pour éviter de tels accidents liés à l’intelligence artificielle.
4 : Le chatbot raciste et vulgaire de Microsoft
Il aura fallu seulement 24 heures d’apprentissage des interactions humaines pour mettre le chatbot Tay hors ligne ! Microsoft a sorti son chatbot, Tay, en 2016. Visant les 18-24 ans, l’objectif était d’élever la qualité des conversations, entre l’homme et la machine, sur les réseaux sociaux et les applications de messagerie.
Avec 96 000 tweets envoyés en 8 heures, Tay a démontré sa capacité à participer à des conversations variées. Malgré les réponses pré-faites, Tay restait basé sur des données accessibles publiquement pour construire ses réponses. Détail non négligeable, d’autant plus que les internautes en ont profité.
Tay a fini par déclarer sur Twitter : “Hitler avait raison de haïr les juifs.”. En 24 heures, les limites de ce chatbot auront bel et bien été atteintes.
5 : L’IA d’Amazon et sa préférence pour les hommes
Si Amazon est une entreprise pionnière en matière de recrutements assistés par IA, son système restera dans les annales des incidents causés par l’Intelligence Artificielle. Pour cause, le modèle conçu était biaisé en faveur des hommes ! Car les ingénieurs à l’origine du système n’avaient pas pris en compte certaines choses…
L’objectif de base était d’automatiser les processus de recrutement pour accélérer la sélection des candidats pour les milliers de postes à pourvoir. Honorable en théorie. Mais les données sur lesquelles l’IA s’entrainait étaient elles-mêmes déjà biaisées. Finissant par considérer le sexe de la personne comme un critère de sélection important.
Le revers fut brutal pour Amazon en termes de relations publiques. Voilà pourquoi s’il faut réguler ce genre de système, il faut continuer d’investir dans la recherche sur ces questions.
6 : Un PDG arnaqué par une IA
Raconté en premier dans un article publié par le Wall Street Journal, voilà un incident peu commun causé par une intelligence artificielle. Le PDG d’une entreprise énergétique basée au Royaume-Uni a envoyé 220 000 euros à un soi-disant fournisseur hongrois, dans l’heure. En voilà un transfert frauduleux conséquent !
L’arnaque ayant eu lieu par téléphone, le PDG n’a pas hésité à transférer les fonds. Si l’arnaque a été très vite découverte après, il sera trop tard pour récupérer l’argent. C’est la toute première fois que des criminels utilisent un logiciel basé sur l’apprentissage automatique pour imiter la voix de quelqu’un. A savoir celle du directeur général.
De tels incidents avec l’intelligence artificielle constituent désormais un nouvel enjeu de taille pour les entreprises. La vigilance étant la clé pour y faire face.
7 : Une voiture Uber sans chauffeur, meurtrière
Une première : accident de la route mortel est causé par une voiture Uber sans chauffeur ! Dans la ville de Temps, près de Phoenix en Arizona, un véhicule en mode autonome percute une femme. La malheureuse est entrée dans la rue à l’extérieur du passage piéton, surprenant à la fois la voiture. Elle succombera de ses blessures.
Uber avait choisi cette ville, avec Pittsburgh, San Francisco et Toronto au Canada, pour effectuer tous les tests concernant les voitures autonomes. L’accident est d’ailleurs survenu alors que la voiture était encore en phase de tests. Il en va donc de la responsabilité de l’entreprise.
A la suite de cet incident, Uber a suspendu tous ses tests de voitures autonomes dans la ville, ainsi que dans la Bay Area, Pittsburgh et Toronto.
8 : Le premier accident mortel causé par l'intelligence artificielle de Tesla
Accident meurtrier récent, un Tesla Model S avec le système de pilote automatique activé tue son conducteur en 2016. Sur une autoroute de Floride, la voiture et le conducteur sont surpris par un semi-remorque, causant un impact critique. Dans l’histoire, c’est le premier décès connu de Tesla où le pilote automatique était activé.
Le conducteur de la voiture est reconnu innocent par Tesla. L’entreprise a expliqué d’ailleurs que son système était encore en phase bêta publique à ce moment-là. Comme il n’y avait encore aucune règle, les risques étaient grands. Profitant de l’événement pour rappeler le rôle du conducteur, responsable de son véhicule.
Les accidents liés à l’intelligence artificielle à ces véhicules restent nombreux. Selon la NHTSA, il y en a eu 273 entre 2021 et 2022. De replacer les choses dans leur contexte.
9 : L'homme qui a été viré par une machine
Peu anodine, cet accident lié à l’intelligence artificielle n’a pas beaucoup fait rire le concerné. Ibrahim Diallo, développeur de logiciels californien, a raconté dans un article de blog avoir été licencié par une machine. A cause d’un concours de circonstances, personne n’a rien pu faire pour intervenir contre cette décision.
En cause, le renouvellement de son contrat de trois ans. Et son ancien directeur ne l’aurait pas fait à temps. La date butoir arrivant, la machine aurait pris le relais et l’aurait viré sans hésiter. S’il semblerait que ce soit l’un des incidents causés par l’intelligence artificielle les plus faciles à éviter, personne n’a rien pu faire.
Comme quoi, bien que l’automatisation possède de nombreux avantages pour une entreprise, il faut permettre aux humains de prendre le relais ! Au risque de perdre un très bon employé malgré soi…
10 : Un robot tue un ouvrier de l’usine Volkswagen
Un drame ! En voulant installer un robot sur une chaîne de montage dans une usine Volkswagen, un ouvrier allemand âgé de seulement 22 ans, a perdu la vie. Le robot l’aurait frappé à la poitrine, puis poussé contre une plaque métallique. Si certains ont essayé de le réanimer à l’usine, il succombera de ses blessures à l’hôpital.
Selon le constructeur automobile allemand, le robot en question était un ancien robot. De tels robots sont normalement confinés à l’écart des chaînes de montage. Situés à l’intérieur de cages de sécurité. Il semblerait donc que l’accident soit dû à une erreur humaine et non à un dysfonctionnement du robot.
Unique en son genre, les accidents avec des robots restent relativement rares sur les usines de production des pays occidentaux. Mais il faut se montrer vigilant dans la robotisation des usines.
Vous êtes à la recherche d’une mission freelance ?
Passez-donc par Upway.IO
