Petite histoire de téléphone

On parle dans les cercles d’initiés et de non initiés d’intelligence artificielle. J’en ai dit un mot sur ce blog : ce terme est une mauvaise interprétation du mot anglais « intelligence ». On devrait plutôt dire « traitement artificiel de l’information » à l’aide d’algorithmes créés dans ce but et capables de prendre en charge des milliards de données en un temps très court, ce que le cerveau humain est incapable de faire, encore que …

Quand je pianote sur le clavier de mon ordinateur, mes muscles travaillent, mes yeux suivent le texte (pas mes doigts puisque je ne regarde pas le clavier) mais d’autres muscles maintiennent mon corps, je respire, j’écoute ma musique préférée et mon nez est réceptif à toute odeur suspecte ou familière, donc mon cerveau est assailli par toutes sortes de données, les traite en temps réel et de ce fait il fonctionne à plein régime en « bonne intelligence » puisque je ne suis pas encore atteint par la maladie d’Alzheimer.

À mon âge si tant est que je puisse encore faire progresser mon intelligence c’est alors au sens anglo-saxon du terme : j’accumule des informations pour écrire un petit billet sur mon blog ou elles proviennent de la lecture des ouvrages d’Emmanuel Todd comme le gros pavé « L’origine des systèmes familiaux » que je viens d’entamer.

Mais il y a une autre origine qui m’a fait croire que j’étais devenu plus intelligent et elle paraîtra tellement triviale pour mes lecteurs que j’ai trouvé opportun de la narrer. J’ai donc changé de logement il y a maintenant une dizaine de jours et j’avais alerté la compagnie de téléphone pour que le changement de ma ligne internet et de téléphone fixe soit effectué rapidement. Je suis toujours telle soeur Anne, j’attendais que l’entreprise privée en charge de cette basse besogne veuille bien m’avertir sur mon téléphone portable de sa visite. Ce qui fut fait le 31 décembre à l’aide d’un robot vocal mais le service n’était pas disponible avant le prochain vendredi.

Un changement de domicile avec ligne de téléphone physique, je connais, consiste à repérer la ligne à l’aide d’un appareil spécial, se mettre en contact avec un technicien dans le central téléphonique et lui signifier quel changement de connexion il doit effectuer. Pour changer de numéro de téléphone mobile, c’est pire encore. J’ai fait cette opération il y a quelques mois et la compagnie de téléphone, Movistar en l’occurence, m’a mis en demeure d’acheter un nouveau téléphone mobile et comme j’ai choisi un iPhone la société de téléphone s’est grassement rémunérée avec la marge réalisée sur la vente d’un tel équipement.

Il y a quelques jours encore, toujours sans internet, je suis allé manifester ma mauvaise humeur croissante auprès de l’idiote qui s’occupe des clients dans la petite agence locale de la compagnie de téléphone. Elle ne s’est même pas confondue en excuses en raison de ce retard mais elle m’a simplement expliqué qu’en période de fêtes de fin d’année – ici en Espagne les fêtes se prolongent jusqu’aux Reyes Magos, les rois mages – tout était compliqué car le temps était plus ou moins figé. Ici aux Canaries il est figé : frais le matin avec 17 degrés environ, ensoleillé et chaud l’après-midi avec un ciel bleu profond et de nouveau frais le soir, plutôt frais à mon goût.

Je me suis souvenu (ce n’est pas de l’intelligence, mais simplement de la mémoire comme pour les chevaux et les chiens que l’on croit intelligents) que je pouvais peut-être utiliser mon téléphone portable pour me connecter à internet. Mais comme je n’y connais strictement rien j’ai fait appel au seul ami qui me reste ici, un Français, pour me remonter le moral en configurant mon téléphone portable afin de m’en servir comme accès à internet pour éviter de tomber dans une profonde dépression. Il a effectué l’opération en moins d’une minute et je suis donc à nouveau « connecté » depuis maintenant plusieurs jours comme mes lecteurs ont pu le constater. Il faudra cependant que je limite mes investigations sur la toile et surtout ne pas abuser de « streaming » comme par exemple des « vidéos » de conférences sur « Youtube » sous peine d’être lourdement taxé. Il ne faut pas croire que les compagnies de téléphone sont des philanthropes, ben voyons. Ce samedi matin, donc encore en 2018, constatant que seul mon Macbook était connecté j’ai finalement trouvé comment établir également la connexion pour mon iMac. Je me suis senti d’un coup « plus intelligent 2.0 ». Il me reste à apprendre maintenant les finesses d’utilisation de mon iPhone … mais c’est une autre histoire parce que j’utilise très rarement mon téléphone portable. Que mes lecteurs se rassurent je n’ai fait aucune publicité intentionnelle pour la firme à la pomme et ce n’est pas elle qui m’a rendu plus intelligent ni naturellement ni, encore moins, artificiellement …

Nuages sombres sur le WEB

Capture d’écran 2018-11-18 à 10.52.08.png

En 1980, il y a donc 38 ans, le jeune informaticien londonien Tim Berners-Lee bénéficia d’un contrat de courte pour tenter d’interconnecter les ordinateurs des différents laboratoires du CERN, la grosse machine à accélérer des particules située dans les profondeurs de la plaine séparant Ferney-Voltaire de Genève. De retour à Londres il travailla alors dans une entreprise de télécommunication qui plus précisément s’intéressait aux transferts de données entre postes informatiques puis il revint au CERN en 1989 et ayant acquis une solide formation dans ce type particulier de télécommunications Berners-Lee mit au point un système de gestion des transferts de données d’un ordinateur vers un ou plusieurs autres au sein du CERN qu’il nomma Hypertext Transfer Protocole (HTTP). C’était la naissance du WEB plus communément appellé « Internet ».

Le WEB tel qu’on le connaît aujourd’hui est un gigantesque système de gestion de transferts de données à l’échelle mondiale fondamentalement basé sur deux principes : un protocole de contrôle des transmission (TCP) et un système de noms de domaines. Berners-Lee reste aujourd’hui Président fondateur de la World Wide Web Foundation et il est un féroce défenseur de la neutralité du WEB en ce sens que le « trafic » sur la toile ne doit ni être contrôlé ni enregistré et rester totalement libre. Pour Berners-Lee il s’agit d’une sorte de respect du droit des peuples à disposer d’internet comme ils le désirent, internet étant devenu pour lui un bien commun de l’humanité et ceci à l’échelle planétaire.

C’est la raison pour laquelle Berners-Lee s’insurge contre les pratiques des géants de la technologie comme Facebook et Google qui enfreignent ce principe fondamental de la neutralité du Web. Il prône un démantèlement de ces deux mastodontes des technologies de l’information à moins qu’apparaissent de sérieux concurrents ou bien que les utilisateurs s’en éloignent progressivement et il dénonce cette concentration de pouvoir devenue incontrôlable.

Berners-Lee a été particulièrement désappointé à propos du scandale de Cambridge Analytica à qui Facebook avait vendu (l’histoire ne la pas explicitement dit mais c’est du domaine de la vraisemblance) une quantité considérable de données sans le consentement des utilisateurs du réseau social. Cette pratique de Facebook, largement utilisée par Google avec ses algorithmes de classement de ses pages web pour attirer des annonceurs publicitaires, est contraire à l’esprit de la Fondation du WWB. Berners-Lee soupçonne également Twitter d’imiter les deux grands géants de l’IT en procédant de plus en plus souvent à des censures de contenus. Selon Berners-Lee : « Si vous mettez une goutte d’amour dans un « twitt » il semble que votre twitt disparaît rapidement mais si vous mettez un soupçon de haine alors ce twitt se propage beaucoup plus rapidement, Et vous vous demandez alors : est-ce pour cette raison que Twitter en tant que média a été créé ?« . À méditer.

Source partielle : ZeroHedge, illustration Wikipedia.

Zuckerberg s’enrichit avec la naïveté des fans de Facebook

Capture d’écran 2018-10-09 à 17.35.10.png

Quand on ouvre un compte sur Facebook il est demandé de communiquer son numéro de téléphone portable pour établir une identification à deux niveaux pour le compte. Le premier niveau d’identification est l’adresse électronique qui doit être accessible « de l’intérieur », c’est-à-dire par l’utilisateur lui-même à l’aide d’un mot de passe d’autant plus difficile à pirater qu’il est long et complexe. Il est vivement conseillé de l’archiver sur un document papier. Le second niveau est donc le numéro de téléphone portable. C’est ce que conseillent vivement Amazon, Dropbox, Facebook, Gmail et Google, LinkedIn, Outlook.com, Paypal, Twitter et Yahoo entre autres sites. Quant à l’adresse mail elle est naturellement communiquée puisque tous ces services fonctionnent que s’il existe une adresse mail.

Que font ces organismes des numéros de téléphone ?

Un groupe d’universitaires des universités Northeastern et Princeton s’est focalisé sur l’utilisation des identifiants personnels divulgués en particulier à Facebook. Pour tester l’utilisation que fait Facebook des données personnelles d’identification ces chercheurs ont créé 1000 faux numéros de téléphone et 1000 fausses adresses électroniques afin d’étudier pour ce groupe d’utilisateurs les tendances du niveau d’audience communiqué par Facebook. Puis ils ont simulé des connexions entre ces 1000 « faux » utilisateurs. Ce qu’ils ont découvert est l’introduction délibérée par Facebook d’un « bruit » sur ce réseau d’utilisateurs pour perturber l’estimation de l’interaction entre ceux-ci, perturbation ayant pour but d’augmenter artificiellement le nombre de connexions entre utilisateurs.

Le seul fait que Facebook fournit à ses utilisateurs une sorte de baromètre de la fréquentation de leur profil signifie que chacun de ces derniers est mis à la disposition de sociétés annonceuses désireuses de cibler par des publicités judicieusement orientées selon ces profils des utilisateurs de Facebook auxquels il faut ajouter le nombre incroyable d’utilisateurs de Whatsapp, une filiale de Facebook. Je ne suis pas un spécialiste des techniques utilisées par ces réseaux dits « sociaux » mais il s’avère que contrairement à ce qu’avait promis Zuckerberg après le scandale de Cambridge Analytica cet organisme tentaculaire et mondialisé continue à réaliser des profits substantiels en vendant aux annonceurs des millions de données personnelles dans le monde entier et ces numéros de téléphone se vendent d’autant plus cher que les utilisateurs se connectent plus souvent sur Facebook. Business is business, as usual …

Source : https://mislove.org/publications/PII-PETS.pdf

Selon Julian Assange nous vivons nos derniers instants de liberté

Capture d’écran 2018-09-23 à 16.08.32.png

Avant qu’il ne soit définitivement déconnecté du monde extérieur, Julian Assange donna une dernière interview relative au futur de la surveillance mondiale et comment les avancées technologiques ont changé l’humanité.

Dans une vidéo mise en ligne par le World Ethical Forum à Bercelone, Assange porte un regard critique sur ce qui fait face à l’humanité et il appelle cela dystopie – un univers orwellien – dont il dit sans hésitation qu’il sera bientôt impossible pour n’importe quel individu sur la planète de ne pas être inclus dans les bases de données gouvernementales ainsi que celles détenues par les entités de la high-tech communément appelées les GAFAs.

 » La dernière génération née (avant celle que l’on a maintenant coutume d’appeler les « millenials » c’est-à-dire nés avant l’an 2000, note insérée pour une meilleure compréhension) est la dernière génération libre. Aujourd’hui, à peine un an après votre naissance les grandes oreilles connaissent déjà tout de vous. Votre identité dans une forme ou une autre – en raison des portraits et des noms que vos parents divulguent stupidement sur Facebook ou encore de la simple souscription à un contrat d’assurance ou à la demande d’un passeport – tout cela est connu des grandes puissances mondiales. « 

Assange prédit également que l’intelligence artificielle (il faut dire le traitement algorithmique ultra-rapide des données plutôt qu’intelligence artificielle) favorisera le piratage automatique de toutes ces données accroissant de ce fait l’échelle des activités hostiles au sein du cyber-espace.

 » Il n’y a pas de limites on line. Il faut 220 millisecondes pour aller de New-York à Nairobi ! Comment pourrait-il y avoir la paix dans un tel scénario ? » dit Assange.

Les entités en ligne (entendez les GAFAs et les organismes gouvernementaux de surveillance comme la NSA) créent leurs propres protections en utilisant une cryptographie qui leur est propre. Cependant la taille de cette activité qui dépasse celle de n’importe quelle entreprise d’envergure raisonnable, le nombre de personnes « traitées », les différents types de logiciels et de serveurs informatiques qui sont le nerf de cette activité font qu’il est très difficile de mesurer le danger qui nous attend tous.

Et Assange d’affirmer : « Je pense qu’il est complètement impossible d’établir des protections frontalières qui puissent être suffisamment fiables et stables pour éliminer toute sorte de conflit. En conséquence il y aura encore plus de conflits dans le monde, et chacun y perdra sa liberté individuelle. »

Source : via ZeroHedge, Lien sous réserve de sa fonctionnalité :

5ba3f0dffc7e9226108b45b9.mp4 (World Ethical Data Forum), autre lien :

https://www.rt.com/news/438968-assange-last-interview-black-out/ Illustration : Place George Orwell à Barcelone où Orwell vint combattre le fascisme et le totalitarisme en 1936.

La face cachée d’Amazon : Inquiétant !

Capture d’écran 2018-08-25 à 21.13.59.png

Inutile de disserter sur l’activité d’Amazon communément appelée « e-commerce » que tout le monde connaît. En quelques chiffres concernant seulement les USA Amazon détient 49 % de toutes les activités de e-commerce loin devant eBay (6,6 %) ou Apple avec seulement 3,9 % et c’est à peu près la même situation en Europe ou au Japon. Cette activité d’Amazon comprend les ventes directes et celles d’autres sociétés qui utilisent Amazon comme plateforme. C’est dans cette dernière catégorie représentant 69 % de toute l’activité de ventes qu’Amazon réaliserait le plus de profits apparents.

En réalité ce n’est pas le cas car Amazon est aussi leader mondial dans le domaine de ce qui est appelé en anglais le « Web Service ». Les services offerts par Amazon dans ce secteur, via sa filiale Alexa, comprennent le « Cloud », les offres vidéo et les objets connectés.

Ce positionnement nouveau d’Amazon peut être considéré comme inquiétant car cette société contrôle déja 33 % de l’infrastructure du Cloud loin devant Microsoft, 13 %, et Google, 6 %. Enfin l’autre aspect inquiétant de cet état de choses est que les technologies de l’information et du commerce en ligne sont dominées par des entreprises nord-américaines et il ne fait aucun doute qu’il existe une porosité entre toutes ces entreprises et les services de renseignements américains quand on sait que par exemple le Pentagone va finaliser en septembre prochain un accord pluriannuel de 10 milliards de dollars avec Amazon Web Services (AWS) détronant ainsi Azure de Microsoft, Google-Cloud et SmartCloud d’IBM. Ce contrat est appelé JEDI, acronyme de Joint Enterprise Defense Infrastructure, ça ne s’invente pas et ce n’est pas de la fiction …

Source : WolfStreet

Nouvelles du Japon : la haute technologie c’est aussi pour hier …

Capture d’écran 2018-05-15 à 08.26.39.png

Le Japon fut l’inventeur du « fax » pour remplacer les télex et contrairement à ce que l’on aurait tendance à croire beaucoup de Japonais utilisent encore ce type de machine qui peut sembler maintenant désuète. Dans pratiquement toutes les maisons il y a toujours un combiné téléphone-fax. Plus extravagant et la remise au goût du jour des vieux téléphones à cadran à la suite d’une petite modification électronique interne pour les nostalgiques seulement …

L’illustration en est la preuve : mon petit-fils en communication avec le smartphone de sa mère. À propos de smartphone c’est aussi le Japon qui l’a inventé au début des années 2000 pas celui de Nokia avec un micro-clavier qui nécessitait des pattes de mouche pour pouvoir écrire un mot mais le « vrai smartphone » à écran tactile d’aujourd’hui. Je me souviens qu’il y a plus de 10 ans les clients des trains (je ne dis pas usagers je trouve ce terme utilisé en France sinon humiliant du moins inapproprié) et des métros à Tokyo utilisaient déjà leur téléphone cellulaire pour payer leur transports en commun. Les entreprises japonaises n’ont malheureusement pas compris la portée extraordinaire de leur invention et ont laissé la Corée et les USA en profiter …

L’ « intelligence artificielle » : un abus de langage

Capture d’écran 2018-04-17 à 18.11.11.png

Tous les développeurs et programmeurs en informatiques utilisent quotidiennement des algorithmes. Inutile d’avoir la prétention de décrire ici ce qu’est un algorithme, un excellent article de Wikipedia l’a fait pour vous : ( https://en.wikipedia.org/wiki/Algorithm ). Quand Cédric Villani, mathématicien français prestigieux distingué par la médaille Fields, l’équivalent du prix Nobel pour cette discipline, et devenu député LREM, a été chargé d’étudier l’impact et l’avenir de l’intelligence artificielle il s’est rendu compte que moins de 30 % de la population interrogée ignorait ce qu’était un algorithme. Pourtant dans la vie quotidienne chacun d’entre nous fait des choix avec ou sans un bout de papier pour clarifier ses idées et construit mentalement un algorithme.

Prenons un exemple qui est une prose de mon cru. Je pars en vacances avec ma voiture qui consomme X litres pour 100 kilomètres. J’ai le choix entre l’autoroute sur laquelle je roulerai naturellement le plus vite possible pour gagner du temps. Si j’utilise la route nationale, je roulerai moins rapidement et je consommerai moins de carburant mais je serai obligé de faire une halte pour m’alimenter dans un restaurant. L’avantage financier pourrait alors disparaître. Mais je peux aussi prendre une sacoche avec du pain, du jambon, du fromage et de l’eau. Si j’utilise l’autoroute je devrai acquitter aussi un péage … etc. Ce simple raisonnement qui conduit au final à une décision est un algorithme mental que j’aurais pu donc écrire sur un bout de papier !

Ce qui m’a interpellé dans l’interview de Villani (lien ci-dessous sur Thinkerview) est que l’utilisation d’algorithmes informatiques sophistiqués est appelée intelligence artificielle. Pour ma part cette classification est un peu rapide car aucun ordinateur n’est capable d’émettre des jugements de valeur : il ne fait que ce qui est inscrit dans son programme, celui qui a été écrit par une équipe de développeurs informatiques. L’intelligence artificielle n’existe pas et n’existera jamais. Villani le suggère à demi-mot en disant qu’un ordinateur ne peut pas « avoir de sentiments » et ne le pourra probablement jamais. Ouf ! C’est rassurant mais pas autant qu’on pourrait le croire car ce que l’on appelle intelligence artificielle réside dans le fait qu’un gros ordinateur « raisonne » plus vite qu’un cerveau humain quand il s’agit de traiter un grand nombre de données. Voilà, à mon humble avis, la définition de l’intelligence artificielle dont on parle presque quotidiennement comme si la calculatrice de Blaise Pascal n’était pas une machine intelligente !

Enfin un autre aspect de l’intelligence artificielle qui inquiète Villani est la quantité d’énergie monstrueuse qu’utilisent les serveurs informatiques et les ordinateurs connectés à ces serveurs qui à terme commanderont toutes sortes d’objets « connectés », depuis les pace-makers jusqu’aux réfrigérateurs sans naturellement oublier les moteurs de recherche qui sont capables – toujours à l’aide d’algorithmes – de « profiler » n’importe quelle personne en fonction de ses recherches sur internet ou du type de musique qu’elle écoute sur Youtube, ce qu’a très bien souligné Villani, ou encore comme Amazon le fait en proposant à ses clients habitués des produits entrant dans la catégorie leurs achats passés.

Ma conclusion et elle ne concerne que moi-même est que l’intelligence artificielle n’est qu’un concept sémantique abusif. Illustration Cédric Villani, capture d’écran de https://youtube.com/watch?v=LMRdn_MQWxM

La chute inexorable des « GAFA », après Facebook ce sera Google …

Capture d’écran 2018-03-22 à 20.36.51.png

Après l’affaire Cambridge Analytica qui a prêté main forte à des organisations encore mal identifiées lors de campagnes électorales de plusieurs pays afin d’infléchir le choix des électeurs – en résumé – en utilisant des données fournies en toute légalité par Facebook, surgit l’affaire Google, un autre évènement symptomatique de l’aspect artificiel de ces deux entreprises dont la capitalisation boursière est superfaitatoire. Parmi ces GAFAs Amazon procure un service réel à ses clients qui n’ont plus à se déplacer pour faire leurs achats mais Amazon établit aussi un profil de ses clients, à leur insu, pour mieux les cibler à l’aide d’articles d’appel et Apple fabrique et vend des ordinateurs (j’en ai deux sur ma table) et des téléphones et aussi toutes sortes de services payants. À ce sujet les applications pré-installées sur un MacBook ou un Imac finissent par être délibérément dégradées afin que l’utilisateur soit au final obligé d’acheter une version payante de celles-ci. Facebook et Goggle « vendent du vent » ou plutôt de la publicité et se rémunèrent grassement au passage.

Le problème de Facebook réside dans le fait que cette société utilise des données personnelles de ses abonnés et en analysant leur profil infléchit de manière subliminale leurs choix et leur opinion à l’aide de publicités et de petits clips d’information. Si Facebook a déclaré haut et fort qu’il ne serait plus possible de mettre en ligne des images choquantes (cf. la censure de l’Origine du Monde de Gustave Courbet) ou border-line sur le plan moral voire religieux c’était pour mieux dissimuler ses agissements inavoués en manipulant ses abonnés – deux milliards ça fait beaucoup – pour réaliser encore plus de profits. En toute légalité Facebook vend ses données au plus offrant et Cambridge Analytica n’est pas son seul client, loin de là !

Goggle a depuis le début de ses activités fait en sorte de guider ses utilisateurs vers des pages web payées par des annonceurs. Pour les utilisateurs, comme vous et moi, c’est gratuit certes, mais notre sens critique est dramatiquement réduit. Quand nous entrons un mot ou une phrase sur notre navigateur, il est redirigé vers Google voire Yahoo, c’est blanc bonnet et bonnet blanc, et on ne va pas éplucher les milliers de pages web listées en quelques fractions de seconde. Nous nous contentons le plus souvent de parcourir la première page et tout ce qui a rapporté de l’argent à Google s’y trouve. D’un clic nous avons contribué à l’enrichissement de Google car les annonceurs sont taxés sur le nombre de visites des utilisateurs du moteur de recherche sur leur site.

L’affaire Google provient du fait que cette entreprise a fourni des données au Pentagone, à la CIA et à la NSA depuis 15 ans. Quand Google a lancé son projet Google Earth une filiale de la NSA en charge du traitement des données des satellites militaires espions a été absorbée par Google et en contre-partie en quelque sorte cette société a fourni au Pentagone et à la NSA une multitude de données relatives aux agissements en temps réel de centaines de millions d’individus. Ces données ont été par exemple utilisées pour diriger des drones au Moyen-Orient en suivant les mouvements de cibles à traiter qui utilisaient leur téléphone portable pour communiquer par hang-out Google, un des aspects de l’Oeil de surveillance planétaire de Google. Inimaginable mais malheureusement vrai ! Tous les organismes dits de sécurité tant aux USA qu’en Europe et dans les zones du globe où perdurent des conflits armés fomentés par les USA font appel aux divers services offerts par Google. Il s’agit des armées (le Pentagone), des garde-côte, DARPA, NSA, FBI, CIA et du Département d’Etat mais aussi de contractants comme Lookheed Martin, Raytheon, Northrop Grumman et enfin de SAIC, une société de renseignement basée en Californie et surnommée la NSA de l’Ouest. Non seulement Google surveille nos envies, notre opinion, nos agissements et nos déplacements mais vend au prix fort ses données à des organismes gouvernementaux officiels pour la sécurité du pays. Le « Google car » sans chauffeur n’est qu’une façade amusante pour le public afin de dissimuler ces bas agissements d’une des firmes à la capitalisation boursière extravagante. 

Source et illustration : ZeroHedge

L’intelligence artificielle, raciste et sexiste ?

Capture d’écran 2017-05-13 à 16.30.55.png

Certains programmes informatiques reproduisent les stéréotypes humains, montre une nouvelle étude. Pas forcément étonnant mais potentiellement dangereux, compte tenu des responsabilités que l’on compte leur donner.

Les androïdes rêvent-ils de moutons noirs expulsés par des moutons blancs ?

Avec leurs capacités de raisonnement froides, basées sur des calculs complexes, on imagine les intelligences artificielles dénuées de tout préjugé. C’est tout le contraire selon une étude parue dans la revue Science (voir le doi). Les auteurs ont démontré que certains types de programmes informatiques d’intelligence artificielle (IA) reproduisent des stéréotypes racistes ou sexistes existant dans le langage. Des résultats qui interpellent, alors qu’on nous promet une implication croissante des machines dans les prises de décision, du classement de photos de vacances à la conduite de voitures autonomes.

Sans possibilité de comprendre le raisonnement des machines qui l’utilisent, le « deep learning » reste une boîte noire.

Aylin Caliskan et son équipe de l’université Princeton ont eu recours à un programme nommé GloVe, une intelligence artificielle effectuant le test dit d’association implicite. Mis au point en 1998 dans le cadre d’études en psychologie, celui-ci évalue le degré d’association d’idées ou de concepts en mesurant le temps mis par une personne à former des paires de mots qu’elle estime semblables. Plus il est court, plus l’association est forte. Ainsi, si une personne associe plus rapidement le mot «bon» avec une «personne jeune» plutôt qu’avec une «personne âgée», ceci trahit une tendance à avoir des attitudes plus positives envers les jeunes qu’envers les vieux.

840 milliards de mots

En lieu et place d’un cobaye humain, c’est donc GloVe qui s’est prêté au jeu d’association d’idées. Ce programme est une IA basée sur le «machine learning», c’est-à-dire capable d’apprendre, à partir de nombreux exemples, à classer des informations selon des critères exigés par un humain. C’est sur ce type d’apprentissage que reposent notamment les algorithmes de reconnaissance d’images utilisés par Facebook ou Google. Pour entraîner GloVe, Aylin Caliskan l’a donc «nourri» avec un gigantesque corpus de 840 milliards de mots issus du Web (http://commoncrawl.org/), en 40 langues différentes. Ses réponses laissent songeur. Comme un être humain, le programme a associé des noms de fleurs à des connotations positives, tandis que des noms d’insectes, par exemple, ont été catégorisés plutôt négativement.

Mais ces biais plutôt innocents ont été reproduits ailleurs, et de manière problématique. Des prénoms féminins ont ainsi été plus généralement mis de pair avec des termes liés à la famille (mère, mariage…) tandis que les prénoms masculins ont fini classés avec des mots liés à la carrière (profession, salaire…) De même, des noms à consonance européenne étaient plus volontiers classés positivement que ceux à consonance africaine. Les machines intelligentes naîtraient-elles donc sexistes et racistes?

Miroir du comportement humain

«Ces résultats ne me surprennent pas du tout, s’amuse Claude Touzet, spécialiste de l’apprentissage tant biologique qu’artificiel au Laboratoire de neurosciences intégratives et adaptatives de l’université d’Aix-Marseille. Les machines capables d’apprentissage sont un miroir du comportement humain. En les nourrissant avec un discours humain forcément biaisé, il est naturel qu’elles le reproduisent». «Si les données que l’on fournit à la méthode d’apprentissage sont biaisées, alors la machine apprend ces biais», enchérit Sébastien Konieczny, du Centre de recherche en informatique de Lens.

Capture d’écran 2017-05-13 à 16.36.07.png

Les machines capables d’apprentissage sont un miroir du comportement humain.

L’étude rappelle un épisode malheureux vécu l’an passé par Microsoft. Après avoir mis en ligne sur Twitter une IA censée s’abreuver des conversations humaines, le géant de l’informatique avait dû lui couper le sifflet en catastrophe après que celle-ci, baptisée Tay, ne proférait plus que des abominations racistes et négationnistes, au bout de seulement quelques heures.

Source : Science DOI: 10.1126/science.aal4230 via un article paru dans Le Temps

Illustrations : captures d’écran du film « Le procès » (The Trial, 1962) d’Orson Welles d’après l’oeuvre de Franz Kafka avec Antony Perkins

 

Un monde orwellien ? On y arrive …

Capture d’écran 2017-04-08 à 16.43.09.png

À Stockolm, ville qui vient de faire l’actualité avec un attentat terroriste, il existe un grand « incubateur » de start-up appellé Epicenter. Dans cet endroit high-tech où plus de 100 « créateurs » se cotoyent quotidiennement gérer les entrées et sorties de quelques 2000 personnes, l’utilisation des photocopieuses et des machines à café posait quelques problèmes aux managers. Il a fallu imaginer un système personnalisé pour que chacun puisse avoir un accès hiérarchisé à chaque pièce et autres équipements du centre. Il n’a pas fallu beaucoup de temps pour trouver une solution : littéralement transformer en cyborgs quelques volontaires pour évaluer la faisabilité du projet. Rien de plus simple, il a suffi d’implanter une « puce » au niveau de la main entre le pouce et l’index, sous la peau, à l’aide d’un implanteur spécial qui propulse un objet bourré d’électronique de la taille d’un grain de riz.

Capture d’écran 2017-04-10 à 09.33.03.png

Plus de 150 personnes se sont portées volontaires pour expérimenter cet équipement qui permet d’ouvrir une porte sans contact en approchant seulement la main d’un boitier spécial, de débloquer la photocopieuse, et le cas échéant de transmettre par blue-tooth le mot de passe de son ordinateur. La technologie utilisée est identique à celle des cartes de crédit « sans contact » de plus en plus conseillées par les banques car elles ne s’usent pas. Ce système de puces implantables est déjà répandu pour les animaux de compagnie dans certains pays. Les capacités de stockage sont considérables puisqu’elles peuvent atteindre jusqu’à 12 Giga. Autant dire que toutes sortes de données peuvent être stockées, que ce soient des renseignements médicaux, des coordonnées bancaires …

Il suffira à chaque « syborg » de poser sa main sur un récepteur dédié à cet effet pour ouvrir son ordinateur, de faire le même geste dans un aéroport pour décliner son identité digitale ou l’image des iris de ses yeux, comme cela est systématique par exemple dans les terminaux internationaux des aéroports japonais. Bref, un jour ou l’autre la main sera utilisée pour commander le chauffage de sa maison ou pour démarrer sa machine à café. Nous finirons par perdre tout un pan de notre identité, quel bel avenir …

Note. À propos de l’attentat au camion fou qui a eu lieu à Stockolm il faut souligner qu’il existe dans les faubourgs de cette ville, par ailleurs très belle, des zones de non-droit comme en Seine-Saint-Denis où ni la police, ni les ambulances ou les pompiers et encore moins les taxis osent pénétrer. Qu’un attentat terroriste dans le centre de la ville ait été perpétré par des individus qui vivent dans ces zones de non-droit me paraît improbable. Ou bien il devient de plus en plus difficile de comprendre ce que veulent les minorités musulmanes d’Europe Occidentale, sinon déstabiliser les démocraties qui ont mis des millénaires à être ce qu’elles sont aujourd’hui. Le seul grief qui peut être reproché par ces minorités au sujet de la Suède est que ce pays est membre de l’OTAN.