Naviguer sur les réseaux sociaux est devenu pour beaucoup un véritable parcours du combattant, semé de contenus indésirables et trompeurs. Une récente étude a mis en lumière l’existence de bots sophistiqués, alimentés par des modèles d’IA comme ChatGPT, qui propagent activement des fausses informations. Examinons de plus près cette menace silencieuse qui brouille les frontières entre réalité et fiction.

Les Bots Alimentés par l’IA : Difficiles à Détecter

Les chercheurs de l’Université d’Indiana ont identifié plus de 1 140 bots utilisant ChatGPT pour créer et diffuser des contenus trompeurs sur les réseaux sociaux, notamment en ce qui concerne la cryptomonnaie et la blockchain. Ces comptes de bots sont particulièrement difficiles à distinguer des comptes humains authentiques, ce qui rend leur détection d’autant plus complexe et leur impact potentiellement plus dévastateur.

Des Profils Trompeusement Réalistes

Ces bots sont conçus pour ressembler à de vrais utilisateurs, avec des photos de profil et des biographies détaillées. Ils publient régulièrement des contenus générés par l’IA, détournent des images et interagissent même entre eux, rendant leur identification encore plus ardue.

Les Limites des Outils de Détection de Bots

Les outils traditionnels de détection de bots, tels que Botometer, peinent à identifier ces comptes sophistiqués. Cependant, un outil s’est distingué : le classificateur IA d’OpenAI, capable de repérer certains tweets générés par des bots.

Comment Reconnaître un Bot ?

Les bots partagent des comportements similaires, comme l’utilisation de liens et de hashtags identiques, et interagissent même entre eux. L’étude a également révélé que 81 % de ces bots utilisaient une phrase apologétique spécifique, indiquant qu’ils étaient programmés pour générer du contenu nuisible.

Les Signaux d’Alerte

Trois sites web ont été fréquemment cités par ces bots, tous enregistrés à la même période et présentant des signaux d’alerte, tels que des popups incitant à installer des logiciels suspects.

Les Techniques de Propagation Malveillante

Ces bots utilisent des techniques avancées pour se propager, notamment en postant des liens malveillants ou en volant des cookies de session, exploitant ainsi les contacts d’un utilisateur et automatisant les demandes d’abonnement.

Concluons

La menace posée par les bots alimentés par l’IA sur les réseaux sociaux est réelle et en constante évolution. Il est donc crucial de rester vigilant et informé pour se protéger contre ces acteurs malveillants.