Dans un monde où la désinformation et les usurpations d’identité sont monnaie courante, une start-up israélienne, Cyabra, se positionne comme un gardien de la vérité. Elle a développé un outil innovant qui utilise l’intelligence artificielle pour détecter les comptes de bots, les spams et les contenus frauduleux générés par des machines.

Un outil pour démasquer les imposteurs numériques

En 2022, lorsque le milliardaire Elon Musk cherchait à évaluer la présence de bots et de comptes spam sur Twitter dans le cadre de l’acquisition de la plateforme par son groupe, il s’est tourné vers Cyabra. L’outil de cette entreprise, nommé botbusters.ai, est capable de détecter les textes, images et faux profils générés par l’IA, avec des capacités de détection vidéo en cours de développement.

« Nous voulons être le chien de garde de ce qui se passe là-bas, » a déclaré Dan Brahmy, PDG de Cyabra. Selon lui, botbusters.ai est une solution gratuite qui permet aux individus et aux entreprises du monde entier de déterminer si des contenus ont été créés par des humains ou des ordinateurs.

La facilité de créer des deepfakes

Brahmy souligne qu’il est « vraiment très facile » d’utiliser des outils d’IA pour créer des deepfakes et des canulars à une vitesse vertigineuse. Ces outils peuvent servir d’armes pour propager des désinformations ou perpétuer des escroqueries.

Une IA pour combattre l’IA

Les outils de Cyabra utilisent une forme d’IA qu’ils appellent « apprentissage machine semi-supervisé ». Botbusters.ai dispose d’environ 800 paramètres d’apprentissage machine pour détecter si des textes, images ou profils ont été créés à l’aide de l’IA ou s’ils se livrent à des activités semblables à celles des bots.

Les trois visages de l’activité des bots

Selon Brahmy, les trois types d’activités de bots les plus répandus que Cyabra a rencontrés sont les usurpations d’identité d’entreprises, les bots parrainés par des États à des fins géopolitiques, et la création de chaos apparemment aléatoire destinée à détourner l’attention de lancements de produits, par exemple.

Les entreprises et les cadres, des cibles de choix

Les entreprises et leurs dirigeants sont également la cible d’escroqueries par usurpation d’identité qui exploitent les outils d’IA. Brahmy a révélé que ces usurpations d’identité sont devenues si courantes qu’elles ont probablement déjà touché une grande partie des entreprises figurant sur la liste Fortune 2000.

L’IA au service de la désinformation géopolitique

Les acteurs étatiques, ou les gouvernements étrangers, sont des auteurs fréquents d’activités de bots dans le but de propager la désinformation ou la propagande en utilisant des bots. Brahmy a souligné que ces activités sont particulièrement intenses dans les régions Asie-Pacifique, Europe et États-Unis, où les enjeux politiques sont extrêmement élevés.

Conclusion

À une époque où la désinformation est omniprésente et où les outils d’IA sont de plus en plus accessibles, la mission de Cyabra est plus cruciale que jamais. En fournissant un outil capable de détecter les contenus générés par l’IA, cette start-up israélienne se positionne comme un acteur clé dans la lutte contre les bots et la désinformation à l’ère numérique.