L’intelligence artificielle, raciste et sexiste ?

Capture d’écran 2017-05-13 à 16.30.55.png

Certains programmes informatiques reproduisent les stéréotypes humains, montre une nouvelle étude. Pas forcément étonnant mais potentiellement dangereux, compte tenu des responsabilités que l’on compte leur donner.

Les androïdes rêvent-ils de moutons noirs expulsés par des moutons blancs ?

Avec leurs capacités de raisonnement froides, basées sur des calculs complexes, on imagine les intelligences artificielles dénuées de tout préjugé. C’est tout le contraire selon une étude parue dans la revue Science (voir le doi). Les auteurs ont démontré que certains types de programmes informatiques d’intelligence artificielle (IA) reproduisent des stéréotypes racistes ou sexistes existant dans le langage. Des résultats qui interpellent, alors qu’on nous promet une implication croissante des machines dans les prises de décision, du classement de photos de vacances à la conduite de voitures autonomes.

Sans possibilité de comprendre le raisonnement des machines qui l’utilisent, le « deep learning » reste une boîte noire.

Aylin Caliskan et son équipe de l’université Princeton ont eu recours à un programme nommé GloVe, une intelligence artificielle effectuant le test dit d’association implicite. Mis au point en 1998 dans le cadre d’études en psychologie, celui-ci évalue le degré d’association d’idées ou de concepts en mesurant le temps mis par une personne à former des paires de mots qu’elle estime semblables. Plus il est court, plus l’association est forte. Ainsi, si une personne associe plus rapidement le mot «bon» avec une «personne jeune» plutôt qu’avec une «personne âgée», ceci trahit une tendance à avoir des attitudes plus positives envers les jeunes qu’envers les vieux.

840 milliards de mots

En lieu et place d’un cobaye humain, c’est donc GloVe qui s’est prêté au jeu d’association d’idées. Ce programme est une IA basée sur le «machine learning», c’est-à-dire capable d’apprendre, à partir de nombreux exemples, à classer des informations selon des critères exigés par un humain. C’est sur ce type d’apprentissage que reposent notamment les algorithmes de reconnaissance d’images utilisés par Facebook ou Google. Pour entraîner GloVe, Aylin Caliskan l’a donc «nourri» avec un gigantesque corpus de 840 milliards de mots issus du Web (http://commoncrawl.org/), en 40 langues différentes. Ses réponses laissent songeur. Comme un être humain, le programme a associé des noms de fleurs à des connotations positives, tandis que des noms d’insectes, par exemple, ont été catégorisés plutôt négativement.

Mais ces biais plutôt innocents ont été reproduits ailleurs, et de manière problématique. Des prénoms féminins ont ainsi été plus généralement mis de pair avec des termes liés à la famille (mère, mariage…) tandis que les prénoms masculins ont fini classés avec des mots liés à la carrière (profession, salaire…) De même, des noms à consonance européenne étaient plus volontiers classés positivement que ceux à consonance africaine. Les machines intelligentes naîtraient-elles donc sexistes et racistes?

Miroir du comportement humain

«Ces résultats ne me surprennent pas du tout, s’amuse Claude Touzet, spécialiste de l’apprentissage tant biologique qu’artificiel au Laboratoire de neurosciences intégratives et adaptatives de l’université d’Aix-Marseille. Les machines capables d’apprentissage sont un miroir du comportement humain. En les nourrissant avec un discours humain forcément biaisé, il est naturel qu’elles le reproduisent». «Si les données que l’on fournit à la méthode d’apprentissage sont biaisées, alors la machine apprend ces biais», enchérit Sébastien Konieczny, du Centre de recherche en informatique de Lens.

Capture d’écran 2017-05-13 à 16.36.07.png

Les machines capables d’apprentissage sont un miroir du comportement humain.

L’étude rappelle un épisode malheureux vécu l’an passé par Microsoft. Après avoir mis en ligne sur Twitter une IA censée s’abreuver des conversations humaines, le géant de l’informatique avait dû lui couper le sifflet en catastrophe après que celle-ci, baptisée Tay, ne proférait plus que des abominations racistes et négationnistes, au bout de seulement quelques heures.

Source : Science DOI: 10.1126/science.aal4230 via un article paru dans Le Temps

Illustrations : captures d’écran du film « Le procès » (The Trial, 1962) d’Orson Welles d’après l’oeuvre de Franz Kafka avec Antony Perkins

 

Un monde orwellien ? On y arrive …

Capture d’écran 2017-04-08 à 16.43.09.png

À Stockolm, ville qui vient de faire l’actualité avec un attentat terroriste, il existe un grand « incubateur » de start-up appellé Epicenter. Dans cet endroit high-tech où plus de 100 « créateurs » se cotoyent quotidiennement gérer les entrées et sorties de quelques 2000 personnes, l’utilisation des photocopieuses et des machines à café posait quelques problèmes aux managers. Il a fallu imaginer un système personnalisé pour que chacun puisse avoir un accès hiérarchisé à chaque pièce et autres équipements du centre. Il n’a pas fallu beaucoup de temps pour trouver une solution : littéralement transformer en cyborgs quelques volontaires pour évaluer la faisabilité du projet. Rien de plus simple, il a suffi d’implanter une « puce » au niveau de la main entre le pouce et l’index, sous la peau, à l’aide d’un implanteur spécial qui propulse un objet bourré d’électronique de la taille d’un grain de riz.

Capture d’écran 2017-04-10 à 09.33.03.png

Plus de 150 personnes se sont portées volontaires pour expérimenter cet équipement qui permet d’ouvrir une porte sans contact en approchant seulement la main d’un boitier spécial, de débloquer la photocopieuse, et le cas échéant de transmettre par blue-tooth le mot de passe de son ordinateur. La technologie utilisée est identique à celle des cartes de crédit « sans contact » de plus en plus conseillées par les banques car elles ne s’usent pas. Ce système de puces implantables est déjà répandu pour les animaux de compagnie dans certains pays. Les capacités de stockage sont considérables puisqu’elles peuvent atteindre jusqu’à 12 Giga. Autant dire que toutes sortes de données peuvent être stockées, que ce soient des renseignements médicaux, des coordonnées bancaires …

Il suffira à chaque « syborg » de poser sa main sur un récepteur dédié à cet effet pour ouvrir son ordinateur, de faire le même geste dans un aéroport pour décliner son identité digitale ou l’image des iris de ses yeux, comme cela est systématique par exemple dans les terminaux internationaux des aéroports japonais. Bref, un jour ou l’autre la main sera utilisée pour commander le chauffage de sa maison ou pour démarrer sa machine à café. Nous finirons par perdre tout un pan de notre identité, quel bel avenir …

Note. À propos de l’attentat au camion fou qui a eu lieu à Stockolm il faut souligner qu’il existe dans les faubourgs de cette ville, par ailleurs très belle, des zones de non-droit comme en Seine-Saint-Denis où ni la police, ni les ambulances ou les pompiers et encore moins les taxis osent pénétrer. Qu’un attentat terroriste dans le centre de la ville ait été perpétré par des individus qui vivent dans ces zones de non-droit me paraît improbable. Ou bien il devient de plus en plus difficile de comprendre ce que veulent les minorités musulmanes d’Europe Occidentale, sinon déstabiliser les démocraties qui ont mis des millénaires à être ce qu’elles sont aujourd’hui. Le seul grief qui peut être reproché par ces minorités au sujet de la Suède est que ce pays est membre de l’OTAN.

De l’utilité des voitures sans chauffeur …

Hands-free_Driving.jpg

Plusieurs accidents provoqués par des voitures sans chauffeur viennent de faire la une de l’actualité et une voiture s’est même autorisée à faire un refus de priorité à une autre automobile, celle-là avec chauffeur ! Etymologiquement automobile signifie véhicule qui se meut tout seul par opposition à un véhicule hippomobile tiré par un cheval ou éventuellement une paire de boeufs. Il n’y a pas encore de néologisme pour différencier une voiture sans chauffeur. On pourrait dire dronomobile en rapprochant ce cas des avions sans pilote de l’armée américaine qui sont commandés à des milliers de kilomètres des théatres d’opérations militaires pour assassiner au mépris de toutes les conventions internationales des innocents.

Je me pose la question de l’utilité des automobiles autonomes. Quand je conduis la voiture de ma copine c’est pour moi un réel plaisir bien que mon permis de conduire français ne soit plus valable car je devrais me soumettre à une visite médicale tous les ans, étant maintenant septuagénaire, c’est la loi. Pour avoir le plaisir de me déplacer en voiture et pouvoir faire des mots croisés en toute quiétude comme je le fais dans un autobus faudrait-il que j’achète une voiture sans chauffeur ? Je suis intimement convaincu que ces voitures réservées à une élite en raison de leur prix extravagant et dont la fiabilité est donc loin d’être irréprochable sont une monstruosité technologique inutile et sans avenir. Qu’il y ait des véhicules totalement robotisés dans les immenses halls des centres de distribution d’Amazon, je veux bien, mais sur les routes et les autoroutes, franchement quelle en est l’utilité ?

Il y a quelques semaines je parlais au téléphone avec ma petite-fille qui a commencé à prendre des leçons de conduite alors que son père, ayant toujours vécu à Paris, n’a même pas de permis de conduire. Et je lui disais que le plus grand danger pour un conducteur de voiture dans la rue ou sur une route provient des autres conducteurs qu’il faut toujours considérer comme imprévisibles et donc dangereux. Comment un véhicule sans chauffeur va-t-il détecter la conduite dangereuse d’un autre conducteur ? Franchement je me le demande … À quel « style » de conduite est programmée une voiture sans chauffeur ? Question intéressante ! Quand je conduis la voiture de ma copine et que nous nous trouvons sur l’autoroute le long duquel la vitesse maximale est limitée à 120 km/h je me permets de rouler à 90 km/h et ma copine me reproche de ne pas rouler à la vitesse maximale autorisée. Qu’on respecte la limite de vitesse autorisée est une chose mais se croire obligé de toujours se déplacer à cette vitesse maximale autorisée me semble être une aberration totale. D’abord la consommation d’essence croit exponentiellement avec la vitesse de conduite et la simple indication de la vitesse maximale autorisée fait perdre au conduction tout sens critique au mépris d’ailleurs de sa sécurité.

En conclusion je suis convaincu que ces voitures sans chauffeur ont été inventées pour utiliser le GPS qui indique au mètre près les limites de vitesse, les signalisations variées comme les « laissez-le-passage », les stops ou les signalisations tricolores. Pire encore, des monstres de la technologie comme Google vont pouvoir réaliser encore plus de profits puisque cette société a tout fait pour que les voitures sans chauffeur utilisent son service « Google-street ». Encore un autre asservissement de l’homme par la technologie avec son consentement total, quelle régression !

Nouvel éclatement d’une « bulle » internet ?

Capture d’écran 2017-02-16 à 21.32.51.png

Snapchat, nouveau venu dans le monde d’internet s’est introduit en bourse et espère « lever » 15 milliards de dollars pour arriver à une capitalisation strictement adossée sur du vent de 20,8 milliards. Ça sent le délire et l’éclatement très proche d’une nouvelle « bulle » internet. Les grands de la Silicon Valley se feront balayer en quelques jours, que ce soient Google, Facebook, Tweeter, Whatsapp, Apple ou encore LinkedIn. À elles seules ces six sociétés (et je ne parle pas de Microsoft) capitalisent plus que l’équivalent du PIB de la France, n’est-ce pas indécent pour des entités commerciales qui ne réalisent leur chiffre d’affaire que sur la publicité et des services divers, entre autres fournir en temps réel des renseignements à la CIA et la NSA, ça me donne la nausée chaque fois que je reçois des mails de ces « grands » du Camino Real, la route qui relie San Francisco à San Jose !

Cette situation est devenue tellement caricaturale qu’elle ne peut que s’effondrer sur elle-même. Franchement, de vous à moi, vous est-il vraiment nécessaire d’aller quotidiennement voir ce qui se passe sur Facebook ? Avez-vous vraiment besoin d’être orienté chaque fois que vous faites une interrogation sur internet qui vous renvoie automatiquement à Google et vous précise les 20 sites les plus aptes à même de vous satisfaire ? J’enrage quand je tente une opération comme par exemple transférer des photos de mon appareil Fuji X10 dans mon MacBook. Apple m’explique ce qu’il faut faire ! Je n’ai pas le choix et à la limite je vais devoir payer pour mettre mes photos sur « iCloud », c’est tout simplement indécent et insupportable.

Tout ça parce que chaque fois que vous allumez votre ordinateur vous êtes sans le vouloir scruté, filtré, mémorisé et introduit dans un algorithme hautement sophistiqué qui a cerné presque totalement votre personnalité. Si en ce moment vous regardez la télévision connectée à internet via votre abonnement multimédia ces grands du web et les compagnies de télévision qu’ils ont asservi savent quel programme vous avez choisi et le lendemain quand vous ferez une interrogation anodine avec Google par exemple vous n’aurez même pas la surprise de constater qu’il ne vous faut plus aucun effort pour trouver exactement ce que vous désirez … Car votre personnalité et vos désirs sont mémorisés dans les méga-ordinateurs de Facebook, de Tweeter, de Whatshapp et de Google. Chaque fois que vous envoyez un message électronique – on dit courriel en bon français – vous êtes également scruté, analysé et classé parmi les bons ou les méchants. Et quand vous tenez un blog, comme votre serviteur, vous pouvez être privé de toile, je veux dire de web, ça risque de m’arriver car je suis un blogueur méchant et non conformiste qui dit des choses tout haut (écrites) qu’on ne devrait pas dire même tout bas …

Je ne suis pas parano mais quand je constate que l’introduction d’une société comme Snaptchap peut lever l’équivalent du capital nécessaire à la construction de deux centrales nucléaires, je suis tout simplement révolté … Je paye 47 euros par mois pour avoir chez moi avec un débit plus que lent une connexion internet y compris un téléphone portable dont je ne me sers jamais (imposé quand on souscrit un abonnement à internet) et un téléphone fixe, presque maintenant une curiosité, que j’utilise très rarement aussi et pas de télévision chez moi, je ne peux plus supporter cet outil de propagande orwellien, quel pourcentage revient à ces soit-disant fournisseurs de service car par exemple chaque fois que je vais sur Google pour faire une recherche il faut bien que ce site soit rémunéré d’une manière ou d’une autre, rien n’est gratuit … Si un de mes lecteurs peut me fournir des éléments de réponse je lui en serai très reconnaissant. Hier je suis allé manger des sardines grillées dans un petit restaurant très fréquenté par les touristes, et pour cause il y a le petit logo bleu Facebook très visible sur la porte ainsi que toutes les cartes de crédit acceptées et le logo « Tripadvisor », il paraît que c’est gratuit mais permettez-moi d’en douter …

Vivement que cette nouvelle « bulle » internet explose, Zuckerberg pourra aller se faire voir, je ne verserai pas une larme pour lui !

L’ondophobie a de beaux jours devant elle …

Capture d’écran 2016-02-16 à 15.26.48.png

Quand je regarde ma table de « travail » (oui, j’ai une table de travail parce que tenir mon blog quotidiennement demande plusieurs heures de travail chaque jour) il y a une souris blue-tooth, un clavier blue-tooth, un MacBook connecté à mon routeur en wifi, un téléphone fixe mais fonctionnant sans fil et mon téléphone portable. Pour ne pas recevoir d’alertes de Google chaque jour j’ai fini par connecter directement mon iMac au routeur avec un câble ethernet. Depuis le balcon de mon modeste logement je peux voir situés sur des buildings, mais qu’on ne peut pas apercevoir de la rue, trois amas d’antennes relais, c’est mieux et c’est rassurant pour le chaland. Enfin quand je réinitialise l’un de mes ordinateurs et les paramètres réseau, je ne sais plus combien de signaux wifi sont reconnus, au moins une bonne trentaine.

Ça fait beaucoup d’appareils (et d’ondes) à proximité de mes neurones vieillissants ! Je me porte encore pas trop mal pour mon âge malgré cet environnement électromagnétique intense dans lequel chacun d’entre nous baigne en permanence, un « électrosmog », c’est nouveau, ça vient de sortir. On ne peut plus y échapper, il y a de par le monde 6 milliards de téléphones mobiles qui tous émettent des « ondes » et le nombre d’appareils connectés autres que des téléphones croit exponentiellement. Mais il ne faut pas non plus que ça nous monte à la tête malgré ce que des « experts » prétendent. Cependant, pour entretenir la phobie des ondes, l’ondophobie, des journalistes qui ne savent pas ce qu’est une onde électromagnétique font des piqûres de rappel périodiquement dans les médias dans le seul but d’alarmer la population. Ces mêmes journalistes ont probablement deux ou trois téléphones portables dans leur besace mais ils sont payés pour écrire des scoops.

La nouveauté sur laquelle s’appuient ces professionnels de l’angoisse est le manque de données relatives aux cancers du cerveau dans les tranches d’âge comprises, disons, entre 0 et 20 ans puisque ces jeunes générations ont été depuis leurs premiers pas plongées dans un univers électromagnétique dont ils ne peuvent se protéger. Depuis que l’IARC (CIRC, mes lecteurs savent ce que je pense de cet organisme) a classé les ondes électromagnétiques « possibles carcinogènes » la psychose ne fait qu’amplifier à tel point que le Docteur Devra Davis, éminente épidémiologiste qui s’intéresse de très près aux cancers, a tiré la sonnette d’alarme, encore une fois. Cette personne respectable n’est pas n’importe qui : elle a été nobélisée en même temps qu’Al Gore en 2007 pour sa contribution hautement significative à la paix dans le monde … C’est une scientifique membre de l’Académie des Sciences américaine et en tant que prix Nobel elle s’active pour établir une relation de cause à effet entre les cancers du cerveau et les téléphones portables. Cette dame alerte les parents sur les plateaux de télévision en les culpabilisant par des propos contestables. Même les écoles sont des électrosmogs notoires et les parents sont involontairement consentants en exposant leurs enfants aux ondes électromagnétiques. On croit rêver.

Cette Devra Davis ne sait probablement pas que les ondes électromagnétiques ne peuvent que se dissiper sous forme de chaleur, une énergie thermique qui se mesure en micro-watts, très exactement comme ce qui se passe dans un four à micro-ondes qui est un émetteur d’ondes de type radar des milliards de fois plus puissant qu’un téléphone portable. En effet, si la longueur d’onde des photons émis par un téléphone cellulaire est relativement proche de celle émise par le magnetron d’un four, le four est un espace clos alors que l’atmosphère est un espace ouvert. L’énergie émise par un téléphone est très rapidement dissipée dans toutes les directions et une très faible fraction de celle-ci atteindra le lobe de l’oreille ou éventuellement les os du crâne.

Le seul effet connu pour un chimiste ou un physicien est une agitation des molécules d’eau qui ont la propriété d’entrer en résonance avec ces ondes d’une fréquence de 2,45 GHz (32,8 centimètres de longueur d’onde) et de se transformer en énergie thermique. Ce n’est pas le cas avec les téléphones portables et les autres appareils wifi ou blue-tooth puisque les fréquences communément utilisées se situent entre 900 et 1900 MHz, fréquences auxquelles ne réagit que très modérément la molécule d’eau. Jamais un chimiste n’a pu noter de modifications au niveau moléculaire de composés chimiques simples ou complexes avec les micro-ondes d’un four commercial ou industriel. Prétendre que les ondes électromagnétiques émises par un téléphone portable peuvent induire des modifications de l’ADN cellulaire et provoquer des cancers relève tout simplement de la fausse science.

Pourtant Devra Davis, activiste climatique auréolée de sa distinction partagée de prix Nobel, ne l’entend pas de cette oreille. Pour elle il faut respecter l’exécrable principe de précaution : puisqu’on ne sait pas, il ne faut pas prendre de risques. Et de faire allègrement l’amalgame entre le tabac, l’amiante et les téléphones cellulaires. Pour cette fanatique de l’environnement la seule issue possible est la régression technologique avec une forte teinte de malthusianisme si cher aux écologistes. Pour elle, on ne sait pas combien de centaines de millions de jeunes d’aujourd’hui développeront un cancer du cerveau dans 20 ou 30 ans. Faut-il alors interdire une console Wii, une tablette ou un téléphone portable aux enfants ? Décidément la pseudo-science envahit tous les aspects de notre vie quotidienne …

Dernières nouvelles du CES de Las Vegas : la France se distingue dans le gadget inutile !

-1x-1.jpg

Au salon des technologies qui se tient à Las Vegas des start-up françaises continuent contre vents confiscatoires et marées fiscales mis en place à grands coups d’éoliennes par le gouvernement socialiste depuis bientôt 4 ans à se distinguer dans l’innovation. C’est à peu près tout ce que la France est encore capable de produire : des gadgets hi-tech totalement inutiles ! Et si par un hasard extraordinaire compte tenu du marasme économique généralisé qui sévit sur toute la planète et encore plus en France ces start-up arrivaient à remplir un confortable carnet de commande elles s’expatrieraient immédiatement. L’une des attractions peu convaincantes sur le plan de son utilité a été présentée par la petite société parisienne Sensortech financée par Google dont voici le lien pour les curieux : http://sensorwake.com/store/fr/ .

Sur la photo (Sensortech) on voit une cartouche orange qui contient des petits granulés chargés de parfums variés produits par un parfumeur français qui a voulu rester anonyme. On n’est plus réveillé par des bip-bip désagréables mais par des senteurs agréables : croissant chaud pur beurre parisien, expresso, menthe poivrée, chocolat …

J’ai tout de suite pensé, en voyant la vidéo fournie par Bloomberg (voir le lien) au film « Le Parfum » de Tom Tykwer, la fameuse histoire de Jean-Baptiste Grenouille tirée du non moins fameux roman de Patrick Süskind.

Pourquoi ne pas matérialiser sous forme de petites pastilles volatiles le parfum (ou la senteur) du plaisir et du désir, objet finalement de ce film tiré du roman du même nom ? Au réveil, par un matin hivernal maussade, quoi de plus réjouissant avant de partir souvent de nuit au travail pour une autre journée de labeur d’où on revient également chez soi de nuit qui ne sert en majorité qu’à payer ses impôts, que d’emplir son nez de ce parfum indéfinissable matérialisé par JB Grenouille et de bien commencer la journée, je vous laisse deviner …

Il faut que Sensortech diversifie ses petites cartouches de parfum pour faire un malheur commercial. Par exemple l’odeur de sang chaud et de poudre à canon pour les militaires et les djihadistes, celle d’un moteur automobile pour les aficionados de la formule 1, celle du gazon fraîchement tondu pour les amateurs de golf, pour les Japonais accros des machines à sous celle de l’atmosphère très spéciale des Pachinkos, pour les voyageurs au long cours celle du kérosène ou de la fumée que recrache la cheminée du cruiser-ship, pour les climato-alarmistes celle des ours blancs ou des marmottes des alpages d’altitude et enfin pour les politiciens celle de l’argent mais ce sera difficile car il paraît que l’argent n’a pas d’odeur … Tout un programme de marketing à étudier très sérieusement !

http://www.bloomberg.com/news/articles/2016-01-05/sensorwake-alarm-clock-wakes-you-with-the-smell-of-fresh-croissants