Grandeur et décadence de l’intelligence artificielle : le cas du Boeing 737 MAX

Capture d’écran 2019-04-25 à 10.48.21.png

Il aura fallu la mort de 346 personnes pour que les autorités en charge de la sécurité aérienne se penchent sur les logiciels équipant la nouvelle version de l’avion emblématique B 737 dont les premières versions firent leur apparition en 1967. Le « MAX » est équipé de moteur dont le diamètre à l’avant était de 100 cm en 1967 et est maintenant de 176 cm. Pour « loger » ce moteur sous les ailes les ingénieurs de Boeing ont fait preuve d’artifices variés qui ont eu pour but de déstabiliser l’aéronef. En effet et succinctement lorsque le pilote « met les gaz » les moteurs, tels qu’ils sont situés, ont tendance a faire cabrer l’avion. Il s’agit d’un simple problème d’aérodynamique apparu lors de l’installation de ces nouveaux moteurs moins gourmands en carburant et plus efficaces au niveau de la poussée exercée sur l’avion.

Or ce problème de cabrage a été corrigé à l’aide de diverses sondes d’assiette rajoutées pour alimenter le logiciel de pilotage de la puissance des réacteurs. Normalement ces modifications auraient du faire l’objet d’une nouvelle demande de certification auprès des autorités compétentes. Ce qui n’a pas été fait pour deux raisons : la procédure est longue et cette procédure est très coûteuse, de l’ordre de 20 millions de dollars. Comme Boeing a fait pression sur ces autorités en charge de la sécurité aérienne, considérant qu’un avion certifié en 1967 ( ! ) ne nécessitait pas de nouvelle procédure et bien qu’une multitude d’autres modifications aient été apportées au modèle initial du B737 les quelques 200 B737 MAX restent toujours cloués au sol.

Il faut ajouter à cette défaillance flagrante de Boeing le fait que les pilotes n’ont été que très partiellement informés sur la nature même du nouveau logiciel de commande de la puissance des moteurs et de l’assiette de l’avion. Boeing a fait confiance – les yeux fermés – à ce logiciel d’ « intelligence artificielle » supposé prendre le relais des décisions du pilote. On en est arrivé avec cet aveuglement à considérer qu’il n’y a tout simplement plus de pilote dans l’avion puisqu’il est devenu incapable d’intervenir sur les décisions » prises par l’ordinateur de bord.

Pourquoi Boeing a-t-il doublé d’ingéniosité pour pouvoir installer ces moteurs sur-dimensionnés par rapport aux ailes de l’avion qui n’ont pas fondamentalement changé depuis 1967 ? Pour une autre raison qui relève de la politique de marketing de cette société. Il a fallu en effet modifier la géométrie du bras de support et d’attache des moteurs pour que la distance les séparant du sol reste suffisante mais aussi et surtout pour que ces moteurs restent aisément accessibles lors des opérations de maintenance. Ces opérations sont en effet coûteuses et le simple fait que les nouveaux moteurs du B737 MAX se trouvent pratiquement à hauteur d’homme ce qui réduit les coûts de maintenance. Les 737 MAX resteront donc encore cloués au sol pour longtemps … espérant avoir fait l’économie d’une nouvelle certification Boeing se voit au contraire confronté à ses responsabilités. Cette histoire dégage des relents de corruption d’autant plus que Boeing est l’un des principaux acteurs du complexe militaro-industriel américain. S’en remettre à un logiciel aussi sophistiqué soit-il et qualifié d’intelligent pour faire voler en toute sécurité un avion est criminel et le cas du B 737 MAX en est une illustration.

Source : blog de Mish Shedlock

18 réflexions au sujet de « Grandeur et décadence de l’intelligence artificielle : le cas du Boeing 737 MAX »

  1. Cela sent mauvais pour Boeing. Mais heureusement, ils ont « the » Donald qui va arranger les pots cassés.
    Les USA ravalés au range de l’URSS, qui l’aurait cru ❗
    Connivence, corruption, incompétence, ego surdimensionné, tout y est.

  2. « Grandeur et décadence de l’intelligence artificielle … »

    Le titre est trompeur : l’IA n’est pas la cause ou en cause. C’était plutôt les limites d’un « cautère sur une jambe de bois », du « tape duck » pour réparer des erreurs de découpe, sans même ôter les bords coupants ! C’eut été miracle si cela avait marché.

    Cela me rappelle l’effort désespérée des soviétiques pour gérer par l’informatique d’alors les nombreux moteurs de leur fusée lunaire N1.

  3. Tout-à-fait d’accord sur l’analyse, après en avoir longuement causé avec des amis ingénieurs chez Safran, concepteur et fabricant des moteurs Leap 1B de CFM, sa filiale réacteurs cogérée avec l’américain GE. On a eu à faire à des moteurs plus gros et plus lourds déplaçant le centre de gravité de l’avion vers l’avant, ce qui selon les ingénieurs de Boeing demandait une nouvelle phase de conception de l’aérodynamique de l’avion, pour éviter d’avoir un avion qui se cabre trop et qui risque le décrochage. Mais, depuis 40 ans, dans ces grosses multinationales, le marketing commande la conception et les marketeurs d’aujourd’hui sont trop inexpérimentés et ont prié les ingénieurs conception américains d’aller se faire cuire un oeuf. Ils ont alors demandé à des ingénieurs informaticiens spécialisés dans les systèmes embarqués en temps réel de pallier informatiquement au problème. Souci de taille, ces ingénieurs ne sont également pas expérimentés, et n’ont pas les connaissances pointues requises en aéronautique. Ils ont fait ce qu’on leur a demandé, sans en parler aux équipes en charge des problèmes d’aérodynamisme, ce qui fait qu’ils sont passés à côté d’un problème crucial : à chaque fois que les calculateurs faisaient plonger l’avion, le pilote reprenait les commandes en manuel et agissait sur la gouverne de profondeur pour redresser le coucou. Ils ont programmé le système pour reprendre automatiquement la main sur le manche du pilote et de fil en aiguille, on esquinte par ces manoeuvres incessantes les moteurs de la gouverne. Bilan des courses, les moteurs grillent, la gouverne ne répond plus ou casse et l’avion fonce sur le sol en piqué.
    En assurance qualité, on appelle cela une erreur de conception majeure et cela traduit de grosses carences dans le management de l’entreprise. Quand on veut gérer des équipes techniques et marketing dans des business de haute technologie, on se débrouille toujours pour mettre des jeunes avec les vieux de la vieille, et on définit des procédures qui permettent de gérer les conflits de pouvoirs avec objectivité. Cette erreur (on parle de « coûts de non qualité ») coûtera à Boeing des milliards. Vu les manoeuvres d’espionnage que Boeing avait entamé vis-à-vis d’Airbus, avec Tom Enders qui était à leur solde, je trouve qu’il y a eu un juste retour de balancier, à ceci près que ces erreurs de débutants ont coûté la vie à des centaines de personnes innocentes.

    • Le Top Management savait forcément. L’Europe ( si elle servait à quelque chose et si elle défendait ses industries) porterait plainte pour obtenir des milliards$ .Ayant voulu éviter des frais d’homologation alors qu’ils savaient que c’était nécessaire témoigne d’une bien sale mentalité.Pour commencer la Direction de Boeing devrait être débarquée . Dans l’attente ,puisque l’on ne peut faire confiance à cette entreprise, il ne faudrait plus utiliser leurs avions.C’est aussi le rôle des consommateurs.C’est ce que je ferais ( comme pour le groupe VW/Audi d’ailleurs)

      • Evidemment que le top management était au courant 🙂
        Mon dernier voyage avec un Boeing 737, c’était un Roissy CDG – Birmingham chez British Airways.
        Il y avait du vent. Le zingue tournait sur une patte et j’ai bien cru qu’on allait taper une aile sur le sol et se scratcher à l’atterrissage vu les mouvements de tangage verticaux. Pas un seul mot sur les conditions de vol pourries de la part de l’équipage.
        Depuis, j’achète des tickets Air France avec un avion Airbus.

  4. Voilà la preuve directe que j’attendais patiemment de ce que je ne cesse, depuis des années, d’affirmer: les États-Unis-d’Amérique se trouvent dans une situation de délabrement avancée !
    Que ce soit ce Boeing 747 nouvelle mouture ou du F-35, cela montre une déstabilisation grandissante de la société étasunienne qui nous démontre, ici, son incapacité grandissante et, ce, pour ses seuls fleurons technologiques, que peut-il en être pour le reste?
    Je vais, d’ici peu, choisir un remplaçant français à Windows, tout simplement parce que le risque est aujourd’hui devenu trop important d’avoir des déconvenues techniques avec les outils informatiques qu’il propose.
    Quand à Trump, le pauvre, je n’arrête pas de répéter qu’il est le dernier réformateur impérial et il est vrai que le personnage fait montre d’une capacité d’action très limité, autant parce qu’il est en but à son oligarchie et à l’état-profond, que parce qu’il est, lui aussi, infiniment trop idéologiquement structuré pour avoir une réelle vision d’ensemble de la situation.
    Certes, ces problèmes d’avioniques que rencontre Boeing vient de ce que ce sont les commerciaux qui sont au commandes de l’entreprise, mais c’est bien parce que les ingénieurs n’ont pas pu avoir leurs mots à dire sur les choix qui furent faits que cette entreprise risque fort de disparaître corps et bien, ou au mieux de se retrouver nationalisée parce que ruinée, ce qui serait très cocasse au pays de Tonton Sam, n’est-il pas?
    Voilà ce qui arrive à force de répéter qu’il faut à tous prix rechercher le moins cher à toute chose.
    Combien de temps encore nos banques idéologiquement et structurellement adossées à celles outre-atlantique tiendront-elles?
    Quand de gros blocs comme ceux-là en viennent à choir, n’est pas sûr que le bâti tienne encore longtemps…

    • Mon cher theuric, je suis à 100 % d’accord avec votre intuition 🙂
      Quand l’avidité du gain prend le pas sur les gens qui conçoivent et mesurent la sécurité, on a en général des catastrophes, même si cette frontière est souvent large et difficile à franchir.
      Jacques Henry a parlé « d’intelligence artificielle » (IA)…en fait, cette appellation IA est du marketing informatique pour désigner des programmes qui apprennent à évoluer comme la pensée humaine mais en fait cette appellation est une escroquerie marketing pour désigner un programme informatique qui adapte ses sorties en fonction de ses entrées (à mon époque, on appellerait cela la dynamique des système de Ludwig Van Bertalanffy). L’intelligence de l’IA est nulle et est juste un programme informatique qui relie de façon variable les sorties avec les entrées dans une boîte noire. La boite noire est en fait l’intelligence du système crée par des gens qui savent ce dont ils parlent. Jacques Henry voulait dire je pense que des informaticiens ne sauront jamais comment un avion doit se comporter si des ingénieurs en aéronautique n’expliquent pas aux informaticiens ce dont il s’agit.
      Corriger l’aérodynamisme d’un avion avec un programme informatique est possible, c’est ce que les américains ont fait avec leurs derniers avions secrets comme le F22 raptor qui est un fer à repasser qui peut voler uniquement grâce à des programmes informatiques sophistiqués (qui marchent contrairement à ceux du Boeing 737 Max, voir mon commentaire ci-dessus).
      Les américains en ont déduit qu’on peut faire voler n’importe quoi pourvu qu’on ait des programmes informatiques. D’où le F-35 qui possède un logiciel de 35 millions de lignes de codes.
      Problème : dans autant de lignes de codes, les bugs sont très nombreux, d’où les crashs de ces avions récemment. Idem pour le Boeing 737 Max où la qualité de vol ne dépend que de la capacité des informaticiens qui l’ont très très mal programmé (d’ailleurs, la nouvelle version logicielle qui a mis à peine une semaine à arriver montre que ces informaticiens avaient déjà prévu que leur premier jet était une grosse merde et l’avaient ensuite corrigée grâce aux ingénieurs conceptions traditionnels de chez Boeing).
      Les russes ont une approche différente : l’état -major veut des avions très maniables (donc très aérodynamiques) et ensuite ils les informatisent. Aujourd’hui, le meilleur avion de chasse militaire est le SU-57 (SU = Sukhoï). Je ne parle même pas des SU-35, 27 et autres MIG qui mettent une pâtée à n’importe quel avion américain pour un prix en général 2 à 3 fois inférieur.
      Les russes sont des gens à cheval sur l’ingénierie qui fonctionne parfaitement sur un plan opérationnel et les histoires d’argent passent toujours en second plan. C’est pourquoi leur armée est de mon point de vue largement supérieure aujourd’hui à l’armée américaine qui ne survit que par les menaces et une pléthore d’unités qui montrent les muscles mais qui ne feront pas long feu dans un réel combat de haute intensité.

  5. En effet , bel exemple de perversité de notre cupidité générale qui passe par la spécialisation et la séparation des savoirs. Ayant travaillé au sein du département Conception de Produits Nouveaux à l’ENSAM, une des difficultés était de rapprocher les talents des uns et des autres avec les contraintes techniques et budgétaires dans une coordination qui s’appelle de l’ingénierie. Un mot en voie d’obsolescence … programmée ? lol

    • Les polytechniciens et les centraliens étaient supposés apprendre diverses disciplines industrielles pour justement acquérir cet esprit critique global qui s’est perdu au fil des années. Un de mes oncles « piston » (centralien) connaissait parfaitement le fonctionnement des locomotives à vapeur et quand celles-ci furent remplacées par des diesel il n’eut aucune peine à s’adapter car ses connaissances acquises à Centrale lui servirent. Aujourd’hui allez demander à un centralien de construire une locomotive à vapeur, j’en ris d’avance … Ces ingénieurs font tous de l’informatique et de la finance !

      • Ca me rappelle que quand j’étais élève ingénieur dans une ENS, j’avais des amis de l’école des mines qui n’avaient que deux matières : les maths et l’informatique. Moi j’en avais une quarantaine pour 40 heures de cours/TP/TD par semaine.
        Je me souviens leur avoir demandé s’ils savaient percer des galeries pour trouver des minerais (donc avoir des connaissances en géologie et en physique du solide). Ils m’ont regardé comme si j’étais un extra-terrestre…tout ce qui sort du calcul numérique et de l’algorithmique était chez ces mecs là une insulte à leur intelligence.
        LOL.

  6. @camembert
    Mes principaux voyages sont Canaries-Tokyo et parfois Canaries-Paris
    Pour le Japon je ne voyage plus que sur Iberia avec escale à Madrid (750 euros AR) étant devenu irrémédiablement allergique à Roissy
    Pour Paris je vole sur Vueling via Barcelone pour Orly ouest (150 euros AR), aéroport qui est aussi devenu un vrai foutoir surtout si on a une valise à mettre en soute …

  7. Cet article qui vient de sortir confirme mon analyse ci-dessus sur la compétence des informaticiens qui ont pondu le logiciel de correction d’assiette. Pour de viles raisons de réduction de coûts mal pensées, Boeing vire les ingénieurs expérimentés et les remplace par des gamins :
    https://www.businessinsider.fr/le-logiciel-du-boeing-737-max-aurait-ete-concu-par-des-interimaires-sous-payes/
    On a vu le résultat de cette politique de gestion des ressources humaines.

Répondre à jacqueshenry Annuler la réponse.

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s