Chaque fois qu’une nouvelle technologie apparaît, les gens se divisent : les uns la craignent, les autres la portent aux nues. Et nous posons rarement la question la plus importante : qui la tient en main ?

Pensez avec moi au couteau de cuisine : il sert à couper le pain et à préparer les repas, et il peut aussi blesser quelqu’un ; blâmons-nous le couteau ? Bien sûr que non. Nous blâmons la main, et nous blâmons l’intention ; et l’intelligence artificielle, si éblouissante soit-elle, ne diffère pas en cela du couteau.

Ceux qui ont créé ces programmes perfectionnés voulaient le plus souvent le bien, « une science plus rapide, des traitements plus précis et un savoir qui arrive dans chaque foyer », mais la bonne intention du fabricant ne protège personne du mauvais usage qu’en font d’autres.

Et c’est ce que nous voyons aujourd’hui : une voix imitée pour tromper les gens, une image truquée pour salir une personne et des nouvelles fabriquées pour attiser la discorde ; l’outil est le même, mais les mains ont changé.

Et je voudrais ici attirer notre attention sur un point ! Le plus dangereux n’est pas que la machine « pense » comme nous, mais que nous cessions de penser, que nous croyions tout ce qu’on nous présente parce que cela paraît soigné. Que nous disions, face à l’erreur : « c’est la machine qui l’a fait », comme si personne ne l’avait programmée, ne l’avait dirigée et n’avait appuyé sur le bouton.

Qui est donc responsable ? La réponse est que nous en sommes tous partenaires :

Les entreprises qui fabriquent ces outils doivent veiller à ce qu’ils ne deviennent pas une arme entre les mains de ceux qui veulent nuire, et être franches sur ce qu’elles fabriquent.

L’État doit fixer des règles claires qui n’aient pas des années de retard sur la technologie, et dissuader ceux qui l’exploitent contre les gens.

Nous, individus et familles, devons vérifier avant de croire, et apprendre à nos enfants à poser des questions au lieu de se contenter de recevoir.

Nous n’appelons ni à craindre le progrès ni à s’en éloigner, car celui qui arrête la roue de la science prend du retard ; je vous invite seulement à garder la question avec vous à chaque fois : pourquoi est-ce que j’utilise cet outil ? Et qu’est-ce qui découlera de ce que j’en fais ?

La puissance sans valeurs est une arme sans boussole, et l’intelligence artificielle est en fin de compte un miroir : elle reflète ce que nous lui apportons ; si nous lui apportons le bien, elle le multiplie, et si nous lui apportons le mal, elle le multiplie aussi.

Prenez donc garde : vous n’utilisez pas seulement un outil, vous choisissez ce que vous allez devenir.