Il y a quelques jours, Elon Musk a annoncé qu’il n’y a « plus d’IA » et que le terme le plus juste est « SI », c’est-à-dire la superintelligence, et ce après une directive officielle américaine prescrivant d’employer ce terme dans la correspondance administrative.
Cela peut sembler un simple changement de nom, mais les noms créent des attentes : quand nous disons « super », nous attendons davantage de la technologie, nous lui accordons plus de confiance et peut-être l’interrogeons-nous moins.
Et c’est là qu’il faut être vigilant : le vrai danger n’est pas une machine qui se rebelle, car la machine n’a ni volonté ni sentiment ; le danger, c’est qu’elle exécute ses ordres à la lettre sans comprendre ce que nous voulons dire.
Les choses se compliquent quand des systèmes intelligents interagissent sans contrôle : un système s’appuie sur l’erreur d’un autre, et l’erreur grossit sans que personne ne s’en aperçoive.
Nous avons vu quelque chose de semblable sur les marchés financiers, lorsque des programmes de trading automatique ont interagi plus vite que les humains ne pouvaient intervenir, provoquant des pertes en quelques minutes sans qu’aucun humain ne l’ait décidé.
Nous ne savons pas si nous avons atteint la superintelligence ou si nous sommes encore en chemin, mais nous vivons les débuts de ses effets, et cela suffit à nous inciter à la prudence.
Ce qu’il faut, ce n’est ni la peur de la technologie ni la ruée vers elle, mais des règles claires, un contrôle humain et la responsabilité de ceux qui la mettent en circulation. La direction n’est pas fixée par la machine, mais par celui qui tient le volant.
Le changement de nom, c’est-à-dire qu’ils procéderont à ce changement, sans en fixer la date.
