La semaine dernière, j’ai ouvert Skype sur mon ordinateur et, à ma grande surprise, le chatbot IA de Bing de Microsoft avait infiltré mes messages directs, désireux de converser avec moi. Quelques jours plus tard, en ouvrant Google Docs pour rédiger cette chronique, le service insistait pour « m’aider à écrire ». Soudainement, les chatbots IA sont partout, s’immisçant dans chaque recoin de notre vie numérique. Et ce n’est que le début.

L’Évolution des Chatbots IA

Fin mai, Microsoft a tenu sa conférence DEVELOP, une vitrine pour les nouvelles offres destinées aux centaines de milliers de développeurs qui créent des applications et des utilitaires pour les logiciels extrêmement populaires de Microsoft, comme Office, et son système d’exploitation omniprésent, Windows. Satya Nadella, le PDG de Microsoft, a pris la parole lors de la keynote d’ouverture, vantant les mérites des dernières révisions de ses produits, notamment l’utilisation d’outils IA « génératifs ».

Le Sommet de l’Effort de Microsoft

Nadella a conclu avec un effet de style à la Steve Jobs, révélant le summum des efforts de Microsoft pour apporter des chatbots IA à chacun de ses clients : Windows Copilot.

Les Échecs Passés

Microsoft a déjà lancé son propre chatbot IA, Bing Chat, exclusivement disponible sur les navigateurs Microsoft. C’est un Frankenstein de l’IA, un hybride de technologies IA développées en interne et externalisées. Microsoft travaille sur les chatbots IA depuis un quart de siècle, remontant à l’échec notoire de « Clippy », un « assistant de bureau » conçu pour accélérer les tâches courantes de l’utilisateur, mais qui est rapidement devenu plus un irritant qu’une aide à la productivité.

Les Limites des Garde-fous

Comment Bing Chat filtre-t-il le bon du mauvais et/ou de l’illégal ? Lorsque vous tapez une « invite » dans le chatbot, il crée une « incrustation » de l’invite, une abstraction mathématique multidimensionnelle, puis compare cette incrustation à des centaines de millions d’autres incrustations (ses « garde-fous ») à la recherche de similitudes.

Les Risques de Sécurité

Fin juillet, un groupe de chercheurs de l’Université Carnegie Mellon a publié un article intitulé « Attaques universelles et transférables sur les modèles de langage alignés ». Ce qu’ils disent – et ont prouvé – c’est que les garde-fous d’un chatbot IA sont plus notionnels que réels.

Conclusion

Avec l’arrivée imminente de Windows Copilot sur près d’un demi-milliard de PC dans le monde, il est plus que temps pour nous tous d’apprendre à avoir une conversation sécurisée avec un chatbot IA. Skype et Google Docs ne sont que les précurseurs d’une transformation qui apportera une intelligence idiosyncratique à tous nos outils numériques. Il est temps d’agir avec prudence, réflexion et rapidité.