Fin mars, avec deux autres chercheurs, le philosophe a publié une lettre ouverte au sujet de l’intelligence artificielle, il prévient, « un voile d’illusion pourrait tomber sur l’humanité sans qu’elle puisse plus le percer, sans qu’elle ne se rende même compte que l’IA la recouvre ».
Tout un Monde: est-ce que cela signifie que l’on risque de perdre le contact avec la réalité?
Yuval Noah Harari: Oui, car l’IA est fondamentalement différente de toutes les inventions de l’histoire de l’humanité. Les technologies, inventées dans le passé, nous ont toujours donné du pouvoir, parce qu’aucun outil n’était capable de prendre des décisions par lui-même, ni de générer de nouvelles idées.
Yuval Noah Harari, historien israélien et philosophe
L’IA est radicalement différente, elle peut se programmer elle-même, produire une intelligence artificielle plus puissante, elle peut aussi décider ce qu’elle veut faire de nous ou encore créer de nouvelles idées par elle-même.
Jusqu’à maintenant, nous vivions dans un cocon culturel créé par d’autres humains. Mais que signifierait pour l’humanité de vivre dans un monde où la plupart des produits culturels seraient créés par une intelligence non humaine?
Beaucoup de gens disent que l’IA ne fait que reprendre nos créations et les combiner. Pourtant, c’est aussi vrai pour les humains. Si vous réfléchissez à la création musicale, les humains prennent également des produits antérieurs. Par exemple, Bach a créé en s’inspirant d’anciennes créations, de la littérature ou de la Bible. Les humains prennent donc aussi des produits antérieurs, les recombinent et les extrapolent en quelque chose.
Yuval Noah Harari, historien israélien et philosophe
L’IA peut aller beaucoup plus loin. Aucun être humain ne peut écouter toute la musique qui a été enregistrée. Elle est capable d’absorber et de digérer très rapidement toute la culture humaine, tout ce qui s’est produit depuis des milliers d’années. Puis commencer à rejaillir un flot de nouveaux produits culturels, qui seront de plus en plus différents des prototypes humains originaux.
Ce n’est pas entièrement mauvais, bien sûr, car ça peut aussi nous apporter des choses merveilleuses sur le plan culturel, technologique ou trouver de nouveaux remèdes contre le cancer ou autre chose. Il s’agit d’un pouvoir immense, nous devons le comprendre et le réglementer, parce qu’il présente également un potentiel très, très dangereux.
Tout un Monde: Croyez-vous qu’il existe encore un moyen de neutraliser les risques pour ne retenir que le potentiel ?
Yuval Noah Harari: C’est difficile, mais c’est possible. Il y a beaucoup de règles très basiques, mais essentielles que nous devrions respecter. Par exemple, à chaque fois que nous interagissons avec une intelligence artificielle, nous devrions savoir qu’il s’agit d’une IA.
Parlons de l’avenir de la démocratie. La démocratie, en fin de compte, c’est une conversation publique. De nombreuses personnes discutent de ce qu’il faut faire en matière d’économie, de relations extérieures, etc.
Yuval Noah Harari, historien israélien et philosophe
Aujourd’hui, une grande partie de cette conversation se déroule en ligne alors qu’aujourd’hui l’IA peut déjà se faire passer pour un être humain. Imaginez, vous allez en ligne, vous avez une discussion politique sur le changement climatique, l’invasion russe ou n’importe quoi, et vous pensez qu’il s’agit d’un être humain, alors qu’en réalité, il s’agit d’une IA.
C’est extrêmement dangereux parce qu’il est inutile pour un humain d’essayer de changer les opinions d’un robot, qui concrètement est au service d’un parti politique ou peut-être d’un gouvernement étranger. Mais plus vous discutez avec lui, mieux il vous comprend et sait comment vous faire changer d’avis.
Tout un Monde: La machine nous donne l’illusion qu’elle peut penser, quelle est la différence avec l’humain?
Yuval Noah Harari: La différence ne se porte pas sur l’intelligence, mais sur la conscience. Chez les humains, la conscience et l’intelligence vont de pair. Nous résolvons souvent les problèmes en éprouvant des sentiments, ce qui nous amène à les confondre.
Yuval Noah Harari, historien israélien et philosophe
Aujourd’hui, les ordinateurs deviennent plus intelligents que nous dans de nombreux domaines, mais ils n’ont même pas l’ombre du début d’une conscience, ils ne ressentent rien.
Ils peuvent nous battre aux échecs, dans la composition musicale, mais ils ne ressentent ni tristesse, ni joie, ni douleur, ni plaisir. C’est pourquoi ils n’ont pas de droits éthiques et politiques, parce qu’en fin de compte, l’éthique et la politique ne sont pas une question d’intelligence, c’est une question de souffrance.
L’IA et les ordinateurs ne ressentent rien. Donc, si vous détruisez un ordinateur, vous détruisez un robot. C’est peut-être une violation des droits de leur propriétaire, mais il n’y a pas de question éthique sur le fait que l’ordinateur souffre. C’est là la différence majeure. C’est pourquoi ils n’ont pas de droits politiques et éthiques.
Lire aussi: Elon Musk et des centaines d’experts réclament une pause dans l’IA
Propos recueillis par Eric Guevara-Frey
Adaptation web: Miroslav Mares
« Je suis une IA, je ne suis pas humain »
Yuval Noah Harari: Lors des dix dernières années, les réseaux sociaux se sont battus pour capter l’attention humaine. Des algorithmes ont été utilisés, ce qui a augmenté la colère, la haine et la peur dans la société.
Mais ces algorithmes de réseaux sociaux ne pouvaient pas créer de contenus. Ils se contentaient de sélectionner les vidéos et les textes produits par les humains.
La nouvelle intelligence artificielle peut produire des contenus par elle-même. Elle peut également nouer des relations intimes avec les gens.
La première chose à faire est donc de dire à Elon Musk chez Twitter et à Mark Zuckerberg chez Facebook, entre autres, de se débarrasser de tous les bots. Et si vous avez encore des bots sur votre plateforme, ils doivent, chaque fois qu’ils sont en contact avec un être humain, s’identifier d’abord en disant « Je suis une IA, je ne suis pas humain ».