Les risques existentiels encourus par l’humanité : une évaluation.

Capture d’écran 2017-02-15 à 16.38.41.png

Un petit groupe d’universitaires comprenant des mathématiciens, des biologistes, des informaticiens, des juristes ou encore des philosophes a constitué à l’Université de Cambridge une équipe très spéciale dont la mission est d’étudier les risques existentiels, en d’autres termes les menaces auxquelles l’humanité peut être confrontée dans un futur indéterminé. Tous les aspects de la politique, des sciences et des technologies ont été abordés par ce centre pour l’étude des risques existentiels (CSER, acronyme de Center for the Study of Existential Risk). Selon les évaluations qui ressortent de leurs travaux il est urgent de sensibiliser l’opinion au sujet de ces risques qui ne sont pas ceux que l’on croit communément.

# 1 Intelligence artificielle

Le plus grand risque que court l’humanité serait l’intelligence artificielle prise globalement, non pas seulement des super-ordinateurs dans lesquels des algorithmes complexes influencent nos choix, ce qui est déjà le cas avec Google, ayant pour conséquence un appauvrissement de notre liberté de décision, mais également les machines considérées globalement en particulier les robots. Le risque serait, si aucun contrôle n’est organisé à l’échelle planétaire dès aujourd’hui, une prise en otage de l’ensemble de l’humanité. Les machines décideraient entièrement pour nous. Ce n’est pas de la science-fiction du genre « Terminator » mais bien une réalité qui nous concerne tous et le CSER classe l’intelligence artificielle comme la plus grande menace pour l’humanité dès 2075.

# 2 Risque biologique

Le développement inimaginable il y a encore 30 années de la biologie moderne constitue le second plus grand risque pour l’humanité. Les outils modernes de la biologie moléculaire ont ouvert la boite de Pandore. Les biologistes sont capables, notamment à l’aide de l’outil CRISPR-cas9 de créer des virus nouveaux et de modifier des bactéries anodines pour les transformer en facteurs pouvant provoquer une pandémie totalement incontrôlable qui décimera en quelques années l’ensemble de l’humanité. Ce que craint le CSER est que la banalisation des outils de la biologie moléculaire permette à n’importe quel biologiste un tant soit peu expérimenté de procéder dans son garage à ce genre d’approche sans qu’aucun contrôle puisse être mis en place. Le risque biologique existe déjà et il est classé comme très élevé.

1620.jpg

# 3 Les armes autonomes

Ce risque, aussi, existe déjà : la perte de contrôle d’armements intelligents. Juste un exemple pour situer ce risque. L’armée sud-coréenne surveille sa frontière la séparant de la Corée du Nord à l’aide de robots construits par la firme Samsung. Ces machines sont capables de reconnaître un individu tentant de traverser cette frontière et de l’abattre sans l’autorisation d’une hiérarchie inexistante devenue inutile. Le CSER a imaginé les pires scenarii. Il suffirait de quelques camions remplis de robots intelligents pour détruire une ville entière. À l’extrême limite il deviendrait impossible d’identifier l’ennemi. Durant la guerre froide la stratégie était d’empiler des bombes nucléaires pour dissuader l’ennemi d’attaquer. Aujourd’hui il est tout à fait réaliste d’imaginer des armées sans combattants, des machines feront le travail en lieu et place des combattants traditionnels. Ce risque de guerre robotisée à l’aide de drones intelligents est déjà présent et devra faire l’objet de traités internationaux pour en limiter la portée. C’est l’une des retombées majeures du risque # 1.

# 4 Conflit nucléaire

Le CSER considère que le risque de conflit nucléaire entre les deux puissances (USA et Russie) possédant à elles deux plus de 90 % des armes nucléaires existant dans le monde serait surtout la conséquence d’une fausse alerte. Statistiquement et selon les leçons du passé la probabilité d’une fausse alerte initiant par erreur un conflit nucléaire conduisant à la disparition de l’humanité est de une fausse alerte tous les 14 ans. Il est donc loin d’être nul et l’équipe de Cambridge préconise une remise en question globale du risque de fausse alerte de la part des autorités russes et nord-américaines mais aussi chinoises, pakistanaises et indiennes. Sachant qu’un conflit nucléaire généralisé conduirait à une destruction totale de l’humanité le CSER classe pourtant ce risque comme peu élevé.

# 5 Risque climatique

Pour le CSER le risque du changement climatique d’origine humaine sur l’organisation de la société dans son ensemble doit être pris en considération mais il existe trop d’incertitudes pour évaluer l’ampleur de ce réchauffement ainsi que son impact sur l’humanité. Si ce risque existe déjà il est classé comme peu préoccupant par cet organisme de prospective.

# 6 Impact d’un astéroïde

Considéré comme probable au cours des 50 à 100 millions d’années à venir, classé très faible mais potentiellement aussi dévastateur que celui qui provoqua la disparition des dinosaures.

# 7 Invasion d’extra-terrestres

Si la probabilité de formes de vie intelligentes dans l’Univers n’est pas nulle une invasion de la Terre par des extra-terrestres a été considérée par le CSER mais classée imprévisible et extrêmement faible, ouf !

# 8 Manque de nourriture et famines massives

Compte tenu des prévisions de croissance de la population mondiale – 9,6 milliards d’habitants en 2050 – le risque de famine est loin d’être négligeable d’autant plus que l’accroissement des rendements agricoles de près de 70 % depuis la fin des années 60 repose entièrement sur la disponibilité en pétrole pour la production d’engrais et de produits chimiques permettant de combattre les ravageurs. Cette amélioration du rendement des cultures vivrières a probablement atteint son maximum et le risque étudié par le CSER est une attaque virale ou fongique massive de l’une ou l’autre des trois céréales les plus cultivées dans le monde, riz, maïs ou blé qui provoquerait une famine aux conséquences incontrôlables. La recherche et l’amélioration génétique des plantes afin qu’elles soient prémunies contre de tels dangers biologiques paraît nécessaire sinon urgente. Le CSER a évalué la venue de ce risque majeur vers les années 2050.

# 9 La rumeur des accélérateurs de particules

Un accident dans un accélérateur de particules comme celui du CERN « ferait » apparaître un petit trou noir qui finirait pas avaler tout ce qui l’entoure et au final jusqu’à la Terre entière. Sur le papier ce serait en théorie possible mais la probabilité qu’un tel évènement puisse arriver reste du domaine de la pure spéculation.

# 10 Un tyran planétaire

L’arrivée d’un homme à la tête d’une grande nation qui nierait les évidences scientifiques et technologiques pour accaparer pour lui et ses complices l’ensemble des richesses de la planète, une hypothèse qui semble avoir été abordée par le CSER dans la foulée de l’élection de Donald Trump qui a promis de mettre à plat l’affaire du réchauffement climatique. Comme des dizaines de milliers de chercheurs universitaires vivent de crédits alloués pour conforter l’hypothèse du réchauffement climatique d’origine humaine ils se sentent donc directement concernés et à leurs yeux un homme comme Donald Trump est dangereux car « il nie les évidences scientifiques ».

Cette énumération appelle quelques remarques. D’abord le dixième risque me paraît un peu spécieux. Qu’un groupe d’intellectuels considère que Donald Trump représente un danger pour la communauté scientifique parce qu’il doute de la véracité de la théorie du réchauffement climatique d’origine humaine me paraît excessif. J’aurais préféré un classement différent de ces risques en y incluant le risque d’un refroidissement du climat n’en déplaise aux tenants du dogme du réchauffement. La robotique, les machines intelligentes, les drones feront l’objet d’une étude internationale et de la mise en place d’un comité d’éthique ad hoc pour réguler les applications de ces technologies aussi bien que faire se peut de même qu’il existe des comités d’éthique qui se penchent sur l’utilisation des cellules embryonnaires humaines. Il s’agira d’une prise de conscience internationale quels que soient les intérêts industriels ou financiers en jeu. Personnellement je ne pense pas que l’asservissement de l’humanité toute entière par des machines puisse être plausible ni possible à moins que les hommes aient atteint un degré de dégénérescence intellectuelle avancé.

Les deux risques les plus préoccupants me paraissent être une attaque des grandes cultures vivrières par un ou des ravageurs incontrôlables comme c’est déjà le cas pour les frênes, les oliviers et les bananiers. Comme pour le phylloxéra et la vigne, l’ingéniosité humaine trouvera une parade mais un tel évènement laissera des traces douloureuses. Les risques « biologiques » pouvant se matérialiser par des expérimentations réalisées par un fou irresponsable sont également à craindre mais mettre au point un virus hautement pathogène tuera son inventeur avant qu’il ne se disperse dans la nature, un virus nécessite un « réservoir » et un vecteur. Je mettrai donc un gros bémol dans l’évaluation du risque # 2. Restent donc les risques # 5 et 8 qui se rejoignent dans le mesure où le refroidissement du climat annoncé par de nombreux géophysiciens et astrophysiciens aura pour conséquence une famine généralisée et une totale et profonde désorganisation de l’ordre mondial. Si j’étais membre du CSER je classerai ce risque en première urgence car apparaissant en 2025 au plus tard comme l’ont avancé des géophysiciens éminents.

Source et illustrations : Wired

Première illustration, quelques membres du CSER dans la prestigieuse bibliothèque de l’Université d’Oxford qui sent l’encaustique et le vieux parchemin. De gauche à droite Julius Weitzdörfer du CSER, Beth Barnes de la Future of Sentience Society, Stephen Cave du Leverhulme Center for Future Intelligence, Anders Sandberg, écrivain futuriste, Huw Price de l’Université de Cambridge et Jane Heal du CSER.

14 réflexions au sujet de « Les risques existentiels encourus par l’humanité : une évaluation. »

    • Il y en a plusieurs, tous en activité, et quelques-un sous grande surveillance en raison de leur « gonflement » : champs phlégréens à côté de Naples, Yellowstone, etc.
      Le risque est certain, seule la date est imprévisible.

  1. J’aime beaucoup le cinéma de science fiction. Souvent ces risques sont abordés sous l’aspect de la catastrophe pour l’humanité. La saga Terminator en est un bon exemple.
    Mais le magnifique « Transcendance » avec Johnny Depp est de loin mon favori : il est le seul, à ma connaissance, à avoir montré qu’une IA en développement exponentiel (Benoît Rittaud me pardonnera le qualificatif) à toute les chances d’être bienveillante envers nous, et pas le contraire.
    Le pire risque auquel nous sommes exposé est celui des décideurs qui laissent une poignée de chercheurs brillants mais alarmistes exposer de telles listes de risques. Décideurs qui vont ensuite médiatiser des choses improbables, prendre des décisions sclérosantes et bloquant la responsabilité de la recherche et de la technique,
    Le risque de l’homme, c’est bien l’homme lui-même…

    • En effet, curieusement les volcans et les tempêtes solaires ont été oubliés dans cette énumération. L’un des volcans les plus prometteurs pour ses effets catastrophiques en cas d’explosion est le Yazur situé sur l’île de Tanna au Vanuatu. Il y a près de 20 ans il y avait au fond du cratère de ce volcan un lac de lave permanent spectaculaire que j’ai eu le privilège de voir à plusieurs reprises. Il a disparu il y a quelques années et la pression du magma ne cesse d’augmenter. Quand ce volcan explosera, la moitié de l’ile de Tanna sera rayée de la carte un peu comme ce qui eut lieu en 1452 ou 1453 dans le même archipel au nord de l’ile d’Efate.
      Lorsque James Cook mouilla avec son bateau dont j’ai oublié le nom dans la baie qu’il appela « Resolution » juste au sud du Yazur il mesura une profondeur de 200 brasses soit environ 360 mètres. Actuellement la profondeur de cette baie fréquentée par un troupeau de dugongs très familiers n’est que d’une dizaine de mètres ce qui signifie que la poche de magma a soulevé le sud de l’île de plus de 300 mètres, ce qui est considérable en termes de temps géologique. Si le Yazur n’arrive plus à expulser de matière comme c’était le cas il y a 20 ans il explosera. Et il s’agira d’un cataclysme planétaire aussi dévastateur que l’explosion du Tambora …

  2. Le risque existentiel le plus grand , de mon point de vue , n’est même pas listé ici …
    Dans très peu d’années , j’en suis convaincu , la production de pétrole et de gaz va commencer à diminuer. Et la population humaine avec elle.

    • C’est la raison pour laquelle les grandes firmes pétrolières s’intéressent aux réacteurs nucléaires de faible puissance montés en série. Les estimations des réserves de pétrole et de gaz sont largement inconnues. Les spécialistes parlent de 50 années de réserves. Le pétrole peut être facilement remplacé par le charbon dont les réserves sont immenses et beaucoup d’entre elles non exploitables dans l’état actuel de la technologie. Je suis convaincu à juste titre pour avoir travaillé dans l’énergie nucléaire que seul l’uranium et le thorium peuvent remplacer les usages triviaux du pétrole et du gaz, c’est-à-dire produire de la chaleur (centrales électriques et véhicules automobiles) …

      • Comme quoi, on peut enseigner à Oxford et être de parfaits crétins. Le risque principal est bien de nature humaine et l’échéance des catastrophes à venir se situe à très court terme, une vingtaine d’années tout au plus. La pollution des eaux et de l’atmosphère couplée à l’automatisation, à l’explosion démographique et à la pénurie des matières premières au premier titre du pétrole, entraîneront la diminution de la consommation et l’explosion de pandémies. C’est tout le Système qu’il faut détruire. Finalement, il le sera. Le tout est de savoir quand la Grande Purge commencera.

        Un petit indice, 18, 6 x 2 = ? À vous de découvrir le point de départ…

      • J’ai tout de suite compris le sens de votre énigme …
        Je ne pense pas que les Rose-Croix ou les Franc-Maçons y soient pour quelque chose dans la propagande du réchauffement climatique qui est une conséquence du malthusianisme affiché d’organisations comme le WWF ou le Club de Bilderberg. Seul le développement économique permettra d’atteindre une régulation naturelle des naissances : Japon et Europe en sont un exemple.

      • Non mon brave. Vous n’avez strictement rien compris. Mais ce serait vain de tenter de vous éclairer quand on constate votre effroyable ignorance en matière économique aussi bien qu’ésotérique. Restez-donc figé dans la satisfaction béate de celui qui croit savoir et qui ne connaît rien. Le réveil surviendra bien plus tôt que vous l’imaginez. Salutations.

  3. Il manque aussi un élément qui peut nous sembler présent en grosses quantités, mais dont la gestion souvent mauvaise peut faire craindre le pire : il s’agit de l’eau douce.
    Pas d’eau douce, pas de vie.
    La pénurie d’eau douce commence à se faire sentir dans certains pays industrialisés comme l’Espagne.

    • Actuellement, après un hiver exceptionnellement pluvieux et maussade toutes les réserves d’eau ont fait le plein dans la péninsule ibérique ! Dans l’archipel des Canaries il existe de nombreuses installations de dessalage de l’eau de mer par osmose inverse.
      Je suis un adepte de l’énergie nucléaire et des unités de production d’électricité situées en bord de mer pourraient être mises à profit pour dessaler l’eau de mer compte tenu du fait que le processus est plus efficace si l’eau est préalablement réchauffée. Avec une énergie électrique bon marché et disponible 24/24 c’est-à-dire d’origine nucléaire il n’y aura pas de problèmes d’eau douce à l’avenir …

  4. J’admire ton optimisme quant au nucléaire.
    Je conviens volontiers que le procédé des réacteurs à sels fondus et neutrons rapides (celui de Creys Malville amélioré par les russes) peut fournir de l’énergie relativement propre pendant des siècles, et en grandes quantités.
    Mais tout n’est pas si bucolique.
    Imagine que des méchants bien informés envoient un discret missile, simplement conventionnel, sur les échangeurs de refroidissement des piscines du centre de retraitement de la Hague, où baignent, selon l’état du marché, entre mille et deux mille tonnes de « combustible irradié » très actif et riche en Pu, voire pas très loin de la criticité.
    Sachant qu’autour il y a les ateliers de cisaillage et environ 29000 tonnes de matériaux fissiles plus ou moins concentrés, de divers niveaux d’activité : si le vent souffle de Nord-Ouest, crois-tu que les français courront assez vite pour échapper au nuage ?
    Il n’y a même pas de modèle pour ce genre de bérézina, combien de millions de morts peut-elle provoquer ?
    Je ne veux pas être alarmiste, mais je trouve étrange qu’il n’y ait pas de S-400 autour de la Hague.
    Jean Claude

    • Juste une question : d’où proviendraient ces missiles ? De Corée du Nord, de Russie (la Russie n’est pas un ennemi de l’Europe) ? Pénétrer indument à l’intérieur de l’usine de la Hague est mission impossible. L’espace aérien est protégé et il existe un périmètre de sécurité autour des installations. Votre scénario est du genre catastrophisme si cher à Greenpeace …
      J’ai déjà mentionné dans mon blog que l’éventration accidentelle d’un wagon de 80 tonnes d’acide cyanhydrique dans la gare de triage située au sud de l’agglomération lyonnaise provoquerait tellement de morts qu’il n’existe aucun plan d’évacuation de la population pour ce genre d’accident. L’industrie chimique est dans son ensemble beaucoup plus dangereuse (potentiellement) que l’industrie nucléaire. Voir à ce sujet le billet de demain mercredi 22 sur mon blog.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s