Sans but précis un algorithme restera stupide

L’un des problèmes avec l’intelligence artificielle réside dans la difficulté à transmettre les bons objectifs à la machine. C’est pourtant un élément clé pour son utilisation, alors qu’elle n’est nullement dotée de ce que nous appelons le «bon sens commun» pour déduire ce qui est important et ignorer ce qui ne l’est pas. Sans but à atteindre, un algorithme demeurera stupide!

C’est un principe aussi important que la quantité de données que nous mettons à disposition de l’IA pour son autoapprentissage ou encore la qualité des algorithmes.

Pour l’illustrer autrement qu’avec le jargon de mon domaine du marketing numérique, je vais vous raconter une anecdote personnelle que chacun pourra expérimenter avec son smartphone.

J’utilise l’application Apple Musique pour écouter de la musique en streaming. Comme son rival Spotify, elle recourt à l’intelligence artificielle pour apporter des recommandations et faciliter les recherches.

Chaque semaine, l‘application me propose une playlist avec les nouveautés musicales qui sont censées me plaire. Cette liste je l’attends avec une certaine impatience, car grâce à elle j’ai déjà découvert de nombreuses perles musicales.

Mais voilà qu’un beau matin en écoutant ma liste hebdomadaire de recommandations, je tombe sur le titre Zuma Zoum de Patrick Sébastien :

Je peux vous assurer que j’ai zéro affinité avec l’oeuvre du chansonnier français. Mais comment un algorithme supposément intelligent est-il parvenu à me proposer cette chanson?

Non, ce n’est pas un bug informatique: l’algorithme intelligent est programmé pour atteindre un but prédéfini par un ingénieur (celui que j’appelle le dresseur d‘IA). Chez Apple, quelqu’un lui a certainement donné pour objectif de me proposer des morceaux similaires à ceux que j’écoute. Mais il se trouve que c’est un très mauvais choix: cela ne signifie aucunement que ce sont ceux-là que je préfère!

Heureusement, à la fin de l’histoire mon honneur est sauf et j’ai finalement compris pourquoi mon smartphone m’avait proposé cette rengaine de bal musette: j’ai une fille de cinq ans et cet été elle a invité ses camarades à la maison pour une petite fête. Les mouflets ont guinché sur de la musique dans le genre «Disco Kids». C’était donc ça, mais hélas le mal était fait: l’IA l’avait pris pour un signal de préférence personnelle et depuis, influencé par ces écoutes parasites, elle me propose sans vergogne des titres similaires. Une vraie plaie.

Et persévérant dans son erreur, il me propose également des «musiques pour la relaxation». C’est vrai que j’en écoute régulièrement en travaillant, mais le genre ne présente aucun intérêt musical pour moi et dès lors ce n’est pas la peine de m’en proposer dans une playlist de « découvertes musicales ».

Ce résultat est d’autant plus absurde qu’Apple connait mes morceaux préférés, j’en ai ainsi signalé plusieurs milliers par des ❤️ (j’aime) depuis une quinzaine d’années. Manifestement, chez Apple ils ne prennent pas en compte les bons signaux pour éduquer leur algorithme de recommandation. Ou en tout cas pas pour moi.

L’avènement de l’intelligence artificielle nous rappelle l’importance de fixer les bons objectifs et de les prioriser.

Si par exemple dans une entreprise les objectifs n’ont pas été clairement définis, s’ils sont ne sont pas connus de tous les collaborateurs ou s’il s’avère que les dirigeants ne sont pas alignés avec ces objectifs, il est fort probable qu’elle ne les atteindra jamais!

 

 

Tous dresseurs d’intelligence artificielle?

Lorsque nous nous penchons sur un problème pour le résoudre, nous n’avons pas conscience des millions de neurones qui s’activent dans notre cerveau. Ainsi, nous ignorons presque tout sur le fonctionnement de notre intelligence; d’où nous provient tel éclair de lucidité et quels sont les mécanismes qui régissent nos réflexions. Être méthodique, avoir un haut QI et être instruit peut certes aider, mais avant tout nous devons savoir ce que nous cherchons à élucider.

La boîte noire de l’intelligence artificielle

On découvre une étonnante similitude dans le domaine de l’intelligence artificielle (IA): les chercheurs parviennent à mesurer l‘efficacité des algorithmes de machine-learning pour résoudre un problème, mais ils peinent à démontrer leur logique, à entrevoir ce qui pourrait ressembler à un«raisonnement» derrière le cheminement pris par la machine. En marche, la créature échapperait à ses créateurs.

Dans mon activité professionnelle, lorsque j‘interroge mes contacts chez Google sur certains comportements de la plateforme publicitaire Adwords, j’entends de plus en plus fréquemment: «Navré, on n‘en sait pas pourquoi cela fonctionne de cette façon». Et parfois d’avouer: «Avec le machine learning, personne ne sait en fait vraiment comment ça marche.»

«Des techniques d’autoapprentissage qui font penser à une nouvelle forme d’alchimie», raconte au magazine Science un chercheur en IA chez Google. L’IA fonctionne de manière plus empirique que mathématique et avance par des millions de tâtonnements successifs («computers learn through trial and error») jusqu’à atteindre sa finalité. Alimentée par un océan de données, elle s’oriente avec des signaux qui lui indiquent si elle est sur la bonne piste pour un succès, ou si au contraire elle s’en éloigne.

Dompter la machine pour qu’elle atteigne le but fixé

Comme nous autres, la machine restera improductive sans une mission précise, sans un cap qu’elle pourra garder dans son viseur. Les livres sur le management et le développement personnel rappellent l’importance de fixer des objectifs clairs et atteignables. Une étape incontournable avant de démarrer avec un plan d’action.

«Setting goals is the first step in turning the invisible into the visible.» — Tony Robbins

Vers des managers d’IA

Le rôle du manager d’IA consiste à définir les objectifs pour la machine, de s’assurer qu’ils sont les plus pertinents et vérifier qu’elle en fera le meilleur usage. Le cas échéant, il devra revoir ses objectifs ou prévoir des buts intermédiaires, par exemple si l’objectif initialement fixé se révèle trop élevé, hors d’atteinte d’un premier coup.

Sans intention préalable, la machine n’est capable d’aucun miracle technologique; elle échouera et encore plus rapidement que si les décisions avaient été humaines.

Alors que l’automatisation va transformer les métiers en profondeur, les écoles doivent former sans tarder les étudiants à devenir des coaches d’intelligence artificielle. Les entreprises ont désormais besoin de leaders qui savent intégrer, diriger et accompagner les cerveaux de silicium. Et, qui sait, un jour les inspirer.

«In a company, hundreds of decisions get made, but objectives and goals are thin.» — Ben Horowitz

Mon expérience patient en 2035

Ce billet est celui d’un patient hyperconnecté qui imagine son rapport à la santé dans une vingtaine d’années.

7 Avril 2035, mon fils vient d’avoir 18 ans. Une notification fait vibrer ma montre: c’est mon médecin qui me propose une téléconsultation. L’indicateur principal sur mon état de santé vient de passer du vert à l’orange.

Mon assistant de santé personnel s’appelle Hector et c’est un produit de la division Google Health avec laquelle j’ai souscrit un abonnement Premium (celui avec un minimum de publicité).

Hector vient d’identifier un risque d’AVC. Heureusement pas pour tout de suite, mais il pourrait survenir dans une période estimée entre 8 et 12 ans. L’alerte est annoncée avec un taux de fiabilité de 93%; il n’y a pas de temps à perdre.

Hector me propose trois spécialistes pour m’accompagner (dont deux sont localisés dans ma ville). J’ai cependant préféré recevoir l’avis de mon médecin de famille qui a réagi rapidement; il est déjà installé dans mon salon via une projection holographique. Son ton se veut rassurant: « un traitement préventif associé à des modifications dans votre comportement alimentaire, des exercices physiques ciblés et de la relaxation seront capables d’endiguer la menace avec 86% de chances de succès ». Sournois et souvent détecté trop tard, cela m’aurait sans doute été fatal au siècle dernier.

Dopé à l’intelligence artificielle, Hector m’a instantanément préparé un programme sur mesure. Mon praticien le supervisera et m’assistera dans son application; je peux compter sur lui pour répondre à mes questions d’humain à humain, pour me guider et me motiver, sans prise de rendez-vous.

Quand la santé devient la première préoccupation du quotidien

Chaque matin au réveil, Hector me concocte un podcast personnalisé (ce que nous appelions jadis une « émission de radio »). Après la météo et les actualités, j’écoute le bulletin de santé du jour, avec un plan d’action pour les 24 prochaines heures. Il contient diverses mises en garde, des conseils nutritionnels (adaptés à l’état du stock de mon frigo). Il me suggère notamment des activités sportives accommodées selon la météo et mon emploi du temps, des conseils pour influer sur mon niveau de stress ou un sentiment de fatigue naissant. Il me dicte la posologie des éventuels médicaments à prendre au cours de la journée (une notification sur ma montre me le remémorera au moment venu).

En tout temps, il est possible de demander des explications ou d’interroger son conseiller de santé virtuel. Normal, Hector est un agent conversationnel; il comprend et parle un langage tout à fait naturel. Et en cas de doutes ou d’incompréhension, mon médecin se joindra à notre dialogue.

La santé n’a jamais occupé une place aussi significative dans notre quotidien, devenant la principale préoccupation chez les biens portants. Prendre soin de soi peut par moments être ludique, à la manière du jeu vidéo des Sims ou les Tamagotchis de mon enfance; ces personnages dont il fallait s’occuper et ne pas laisser mourir en surveillant quelques indicateurs.

La file d’attente du cabinet médical appartient au passé; comme d’ailleurs les journaux et les brochures commerciales qui jonchaient les salles d’attente. La consultation est moins associée à un état de santé défaillant ou à la maladie, mais elle a évolué en une sorte d’assurance vie, au sens littéral.

Au-delà d’un thérapeute, on va consulter l’équivalent d’un coach de vie. Ce guide humain, que certains considèrent comme leur « ange gardien » dans un monde dématérialisé et robotisé, m’aide dans mes démarches curatives. Il m’oriente dans la fabrication d’obstacles face aux maladies du vieillissement, afin d’inhiber la maladie d’Alzheimer, de repousser les limites de ma mort et des usures du corps. Pour au final profiter pleinement d’une espérance de vie inédite dans l’histoire de l’humanité.

Longtemps décrié par les professionnels de la santé, l‘autodiagnostic par les données s’est naturellement imposé par son efficacité sans égal, et inévitablement pour des raisons économiques. Si cela a créé au passage toute une série de nouveaux défis à la société, le fantasme d’une médecine d’abord préventive est finalement devenu réalité.

Mon corps, cette source intarissable de données

Auparavant, on m’envoyait faire des analyses de sang (ou d’urine) à la fréquence d’une ou deux fois par décennie. Elles sont maintenant réalisées en temps réel, tout au long de la journée. Des micro-capteurs mesurent mon taux de glycémie, ma masse graisseuse et musculaire, le nombre de globules et de plaquettes, les minéraux et autres marqueurs d’infection ou d’inflammation. Ils détectent des anomalies dans ma tension ou mon rythme cardiaque et tout indice de fatigue ou de stress. La nuit, ils jaugent l’efficacité de mon sommeil. En bref, ils scrutent ma qualité de vie.

Avec l’essor des nanocapteurs, je transporte l’équivalent d’un laboratoire d’analyse de niveau hospitalier du début du siècle dans un tout petit centimètre carré. Plus discret qu’un piercing, on le distingue à peine sous la peau de ma nuque où sont logées les cellules électroniques qui veillent sur mon état de santé 24/7. Énergiquement autonomes, elles se rechargent lors de chaque mouvement de mon corps. Ce sont elles qui transmettent des millions de données chaque jour au système de santé.

La recherche de symptômes a toujours comporté une part de subjectivité. Un élément que la société et les organes de régulation ont décidé de ne plus tolérer (à l’instar de la conduite de véhicules en mode manuel qui est bannie depuis une dizaine d’années). Elle a progressivement été remplacée par le diagnostic d’une intelligence artificielle guidée par trois types de données: les signaux produits en nombre par notre corps, le génome, la corrélation d’un cas avec des millions de précédents à travers le monde.

Il serait impossible de traiter manuellement, ne serait-ce qu’une infime partie, de la montagne de données recueillies. Imprimé, mon dossier médical tiendrait sur plusieurs millions de pages au format A4. La tâche dépasse désormais l’entendement humain.

Le traitement de nos données médicales par les géants de l’intelligence artificielle (Google, Apple, Facebook, Amazon, Microsoft, Yandex, Baidu, etc.) a bien rencontré des résistances au début, mais la majorité d’entre nous a préféré choisir les bénéfices de ces nouvelles technologies, notamment dans les régions où les médecins avaient disparu.

Un nouveau rôle pour le médecin

Dans le domaine de l’aviation, les pilotes de ligne naviguent depuis longtemps en mode automatique. Ils supervisent des instruments de vol et sont formés pour intervenir en cas de grave complication. Ils rassurent l’équipage et les passagers lorsque survient un imprévu. Mon médecin veille sur moi comme l’aiguilleur du ciel qui suit des centaines d’avions sur son écran radar. Il est alerté dès les premiers signes de turbulence, avant même la dégradation de l’état de santé de ses patients. En aval d’un diagnostic automatique, il entre en scène suivant les recommandations dictées par le système de santé.

Jour après jour, c’est une véritable collaboration qui s’instaure avec mon health manager. On partage et l’on échange autour d’une connaissance largement accessible via les systèmes experts de santé et les communautés en ligne. Il m’accompagne ainsi dans toutes les étapes de ma vie et m’aide à interpréter, à relativiser l’expertise implacable des systèmes intelligents de santé.

Le professionnel a dû simplifier son discours, naguère trop professoral, pour endosser un rôle de pédagogue. L’empathie n’est plus une qualité en option chez mon docteur, elle est au coeur de sa prestation.

Avec des progrès certainement trop brutaux, les gens rechignent à s’en remettre complètement à la décision des machines, aussi fiables soient-elles. Sa première mission est alors d’expliquer et de recréer des liens de personne à personne, par un dialogue constant.

Débarrassé des tâches répétitives et sans valeurs ajoutées, le praticien peut se concentrer sur ce qui le rend irremplaçable: un regard humain et extérieur sur la façon dont je « traite mon corps », avec le sens critique qui le distingue encore de la machine.

La santé, au-delà de la fatalité

Avec une expertise médicale qui s’est démocratisée et des systèmes de santé intelligents nourris au big data, l’espérance de vie a été repoussée au-delà de ce que nous pouvions autrefois considérer comme des limites franchissables.

La maladie et le vieillissement ne sont plus considérés comme des fatalités, mais des erreurs de parcours. Des fautes par négligence qui incombent souvent à sa propre responsabilité plutôt qu’à un coup du sort. La mort est une notion toujours plus lointaine; on en viendrait à culpabiliser qu’elle arrive un jour.

 

 

A paraître également dans la revue Swiss Sports & Exercise Medicine, 4/2017

Les enjeux colossaux de la conversation homme-machine

Le web est né il y a exactement un quart de siècle au CERN à Genève, mais étonnamment nous utilisons toujours une souris et un clavier électromécaniques pour naviguer dans cette gigantesque toile de données. Si l’émergence des écrans tactiles n’a pas vraiment révolutionné son fonctionnement, les balbutiements de Siri et Google Now nous montrent une nouvelle voie.

Les limites du web actuel

Les améliorations de son interface, des graphismes ou ce qu’on désigne comme l’expérience utilisateur ne sont en fait que des béquilles pour pallier l’impossibilité de converser naturellement avec nos appareils. Non, l’usage du web et des applications mobiles n’est pas intuitif lorsqu’il s’agit de résoudre des problèmes un tantinet complexes, dans un contexte donné.

Prenons l’exemple des achats en ligne: le processus ne répond actuellement pas au comportement inné du consommateur, mais à une inepte logique applicative et des contraintes visuelles. Dans un futur proche, une demande pourra être finalisée à partir de simples échanges en langage naturel, sur une messagerie instantanée. Imaginons cet échange avec le bot Alexa :

– Alexa, je veux le short de Stan Wawrinka, celui qu’il portait lorsqu’il a gagné Roland Garros.

– OK Blaise. Il peut vous être livré demain dans votre taille, pour 90 CHF, frais de port offerts. Pour confirmer l’achat avec votre carte VISA, dites « commande ».

– Euh, c’est pour offrir. J’en ai besoin en taille XL et avec un paquet cadeau.

– D’accord Blaise, pour confirmer dites « commande ».

– Commande.

– Merci Blaise, votre voix a été authentifiée et le paiement est validé.

Au-delà de la parole, maîtriser la distribution

Les géants du net ont entamé une course à la recherche et au développement. Celui qui aura dompté en premier la conversation homme-machine prendra un avantage compétitif déterminant.

L’enjeu n’est pas des moindres: dominer les futurs canaux de distribution des biens et des services, se passer des intermédiaires.

Ainsi, Google travaille sur une application de messagerie dédiée, Amazon a déjà lancé une première mouture de son assistant virtuel Echo, Facebook planche sur une version intelligente de Messenger baptisée « M ». Sans oublier Siri chez Apple et l’évolution attendue de la messagerie Whatsapp. Quant à l’outsider Viv, il serait en avance sur la mêlée selon des blogs spécialisés.   

Une rupture pour les acteurs du digital

La diminution de notre dépendance aux écrans va bouleverser nos habitudes de consommation. Bientôt, des conseillers personnels omniscients guideront nos achats en ligne vers le produit le plus adapté à un besoin que nous aurons intuitivement exprimé, par oral ou par écrit. Le conseiller-robot aura réponse à presque tout, partout où nous avons besoin de lui: dans notre salon, la cuisine, la voiture, etc.

A l’heure où la transformation digitale devient une priorité pour l’industrie traditionnelle, le secteur du numérique devra lui aussi se redéfinir sous le diktat de l’intelligence artificielle. Les acteurs du digital que sont les spécialistes en référencement, les agences de marketing ou les professionnels du e-commerce peuvent déjà songer à se réinventer s’ils ne veulent pas être exclus de la discussion.


Photo: Her de Spike Jonze – 2013