Avant l'âge où l'histoire a été écrite, elle a été tissée dans des récits longs et riches racontés avec beaucoup de soin et ayant servi à perpétuer l'histoire elle-même. Comment cette interaction change-t-elle à une époque où tout semble être enregistré et stocké? Nous prenons des milliers de photos, mais pouvons-nous trouver celle qui frappe l'émotion du moment? Comment notre monde change-t-il à mesure que plus de choses deviennent numériques? Je m’attarde à certains risques et opportunités dans l'article Do Robots with Viruses Get Sick Days?
Les craintes du passé : Les ordinateurs deviendront plus intelligents que l’être humain
En 2011, le champion en titre de la populaire émission de télévision Jeopardy a été vaincu par Watson, la superstar de l’IA d’IBM. Des victoires similaires par les machines ont été enregistrées comme lorsque Deep Blue a battu le champion d'échecs en titre en 1997 et l'année dernière, lorsque le jeu chinois de Go (dont certains disent est un ordre de grandeur plus difficile que l'échec) était dominé par Google AlphaGo. Dans tous ces cas, de nombreux articles ont été écrits sur la façon dont les machines étaient finalement « plus intelligentes » que les gens.
Pourtant, dans la « victoire », la machine en question a été conçue pour faire une chose particulière extrêmement bien. Elle a vaincu un humain avec un cerveau humain, mais seulement à cette tâche très spécifique. Il serait déraisonnable de s'attendre à ce que Watson interprète avec succès l'impact émotionnel d'un opéra, qui est personnellement personnel, et souvent difficile pour les amoureux de la forme d'expliquer leur propre réaction.
Un autre argument qui tend à orienter l'humanité est celui de l'évolution. La chose que nous, les humains, avons l'habitude de faire bien, est généralement de s'améliorer. La plupart des algorithmes de machine d’IA ont également une méthode d'amélioration, soit par une formation supplémentaire des humains, soit par l'observation de nombreuses itérations de données. AlphaGo, par exemple, est spécialement conçu pour apprendre à regarder le comportement humain ou à jouer contre lui-même et à apprendre des positions qui apparaissent dans ces jeux. Cependant, ce type d'apprentissage est encore largement contraint à un problème ou à un objectif particulier. Cette caractéristique de l'apprentissage par machine change quelque peu avec des méthodes neuromorphes, conçues pour imiter le fonctionnement du cerveau humain, mais même ces méthodes sont contraintes à un type d'évolution très spécifique, très préconçu.
Dans le passé, notre perception de la numérisation était en grande partie basée sur l'amélioration : faire plus vite que les gens. Avec le temps, la capacité de la machine a évolué pour permettre aux machines de faire des choses que les gens ne pouvaient pas faire du tout. Néanmoins, la capacité de la machine reste fortement axée sur une capacité prédéterminée ou une méthode d'apprentissage. Certaines fonctionnalités qui reposent sur une émotion ou une polyvalence humaine sont toujours bien en dehors de la gamme d'automatisation.
Les craintes du jour : Les ordinateurs changent l’humanité
Dernièrement, il semble qu'il y ait des dispositifs numériques partout. La technologie est stupéfiante. Les appareils numériques rendent l'eau propre, contribuent à éduquer les enfants dans les régions éloignées et augmentent l'assistance médicale aux individus autrement marginalisés. Ce n'est pas nécessairement bon. On s'inquiète d'avoir trop de « dispositifs », que les enfants ne passent pas suffisamment de temps aux activités physiques, et de la perte d'intimité dans la communication et l'érosion de la vie privée.
De plus en plus, il semble que les machines devront s'expliquer afin d’être pertinentes pour les humains et que les humains leur fasse confiance. Lors d’une récente session du Churchill Club que j’ai dirigée avec Dr Inderal Bhandari, chef mondial des données chez IBM, il a exposé le défi très succinctement en déclarant : « Les plus grands exemples vont réellement être dans le domaine de l'effort humain et de la capacité à suivre le rythme des données, d’établir un contexte et d'utiliser ces agents afin de renforcer cette intelligence. Je pense que c'est là que l'aspect explicatif deviendra vraiment critique. Vous savez que vous ne pouvez pas avoir l'agent sans qu'il soit en mesure d'expliquer ce qu'il présente à la personne. »
Nous vivons à une époque où il devient de plus en plus important de comprendre non seulement ce que font nos agents numériques, mais aussi comment ces agents peuvent changer la façon dont nous agissons et réagissons. C'est ainsi que nous mettons en œuvre la technologie et la façon dont nous comprenons les actions de nos agents électroniques et leur impact sur l’avenir de l’humanité.
Les craintes de l’avenir : Mon responsable est un robot
Comme n'importe quel domaine émergent, tout le monde n'est pas d'accord sur la meilleure voie à suivre. Récemment, certains des plus grands esprits, tels que le Dr Stephen Hawking, ont prévenu que l'IA pourrait effectivement mettre fin à l'humanité si elle n'était pas correctement gérée. Je prends ces avertissements très au sérieux, mais je pense qu'il y a de l'espoir.
Ma plus grande préoccupation est que nous devenions complaisants. Je ne m'inquiète pas de prendre une direction (dans une certaine mesure) d'un robot. Je prends déjà la direction de l'automatisation. Mon téléphone m'indique une réunion à venir et j’y vais. Mon moniteur de conditionnement physique me dit que je ne me déplace pas assez, alors je me lève et je marche. Le danger, il me semble, est de rendre notre volonté à une machine et de permettre à cette reddition d'être une excuse pour la pensée rationnelle. Si mon GPS me dit de prendre un mauvais chemin dans une rue à sens unique, je ne suis pas absous d'ignorer cette direction parce qu'elle défie le comportement rationnel.
De la malversation numérique à la complaisance qui vient avec l'attente de tous les problèmes difficiles à résoudre par les machines, nous avons clairement la preuve d'un changement dans nos points de vue et de nos attentes des machines dans nos vies. Au fur et à mesure que l'IA continue de progresser, que l'Internet des objets continue de relier des éléments qui étaient autrement isolés et non synchronisés, et à mesure que de nouveaux progrès en informatique franchissent des étapes jamais imaginées auparavant, nous avons du travail à faire pour nous assurer que nous utilisons les capacités de l'être humain pour nous améliorer et améliorer le monde dans lequel nous vivons.
La numérisation n'est ni bonne ni mauvaise. La mesure dans laquelle elle aura un impact positif ou négatif sur la société et le monde dépend entièrement des créateurs de nouvelles technologies et des consommateurs de cette capacité.
Le défi, tel que je le perçois, est d'adopter l'évolution numérique qui se déroule autour de nous, mais de réfléchir sur la façon dont cette numérisation peut exacerber la marginalisation, chasser la créativité ou entraîner des conséquences involontaires. Il y a encore de nombreuses occasions de servir les personnes mal desservies, de réfléchir à de nouvelles idées et d'innover de manière à dépasser de loin la capacité de la machine. Le choix est entièrement le nôtre.