Découvrez comment la Chine utilise ChatGPT pour surveiller et propager sa propagande

À l’heure où l’usage de l’intelligence artificielle (IA) se généralise, les régimes autoritaires exploitent ces technologies pour affiner leur contrôle. La Chine, en particulier, a pris des mesures notables pour surveiller ses citoyens et influencer l’opinion publique, à la fois à l’intérieur et à l’extérieur du pays. OpenAI, la société mère de ChatGPT, a récemment révélé que plusieurs utilisateurs malintentionnés basés en Chine ont été bannis de sa plateforme, ayant détourné l’outil pour alimenter un système de censure et de désinformation. Cet article plonge au cœur de cette dynamique, explorant comment des outils comme ChatGPT sont utilisés à des fins de surveillance et de propagande.

La surveillance via l’IA en Chine

La surveillance est devenue un enjeu majeur en Chine, où l’État utilise des technologies avancées pour surveiller les interactions en ligne des citoyens. L’utilisation de ChatGPT par des groupes chinois a permis le développement d’outils sophistiqués de contrôle social. En utilisant le programme, ces utilisateurs ont pu créer un système capable d’analyser en temps réel les contenus sur les réseaux sociaux, signalant des messages sensibles aux autorités gouvernementales.

Le système de ‘Peer Review’

Un des outils découverts par OpenAI, dénommé “Peer Review”, est médicalement conçu pour identifier et traiter les discours de soutien aux droits de l’homme ou d’autres mouvements jugés subversifs par le régime. Grâce à cette IA, des messages sur des plateformes comme Facebook, Instagram ou Twitter sont surveillés, permettant ainsi à l’État de réagir rapidement aux manifestations d’opposition. Cette pratique soulève des questions éthiques majeures concernant l’usage de l’IA pour renforcer les mécanismes de censure en Chine.

Le profil des utilisateurs bannis

Les utilisateurs ciblés par OpenAI semblent fonctionner selon un modus operandi précis. En analysant les comportements de groupes d’utilisateurs qui se connectent principalement durant les heures de bureau chinoises, il est apparu que la plupart d’entre eux sont activement impliqués dans des opérations de désinformation. Ces comptes ont pour but de reproduire des narratives favorables au Parti Communiste Chinois, tout en discréditant les voix dissidentes.

Les plateformes ciblées

Les autorités chinoises surveillent des plateformes variées, y compris les réseaux sociaux mentionnés précédemment, avec une attention particulière portée à des thématiques comme les droits des Ouïghours ou les tensions géopolitiques en Indo-Pacifique. Des pays tels que les États-Unis, l’Allemagne et le Royaume-Uni sont également surveillés à travers ce prisme. En ce sens, l’IA devient un outil puissant non seulement pour contrôler les discours internes, mais également pour influencer les perceptions à l’international.

Les ramifications de l’utilisation de ChatGPT pour la propagande

L’utilisation d’outils comme ChatGPT pour la génération de contenu à des fins de propagande soulève de nombreuses interrogations sur l’impact de ces technologies sur l’information mondiale. Équiper des acteurs malveillants de technologies IA pose la menace d’une désinformation structurée et audacieuse, exploitant un large éventail de langues et de formats.

Création de contenu de désinformation

Des acteurs chinois ont réussi à produire des contenus massifs en utilisant ChatGPT pour crédibiliser leurs narrations. En récupérant des articles existants, ils les traduisent et les adaptent pour les publier dans des médias locaux au Mexique, au Pérou ou en Équateur. Cette stratégie permet de détourner l’attention sur des sujets problématiques, redirigeant la conversation publique et renforçant la vision officielle du gouvernement.

L’impact à l’international

La création d’une armée de ‘trolls virtuels’ issus de cette manière est préoccupante. Avec une capacité à publier des contenus sous la forme d’articles ou de posts sponsorisés, ces utilisateurs influencent des débats critiques, rendant la réalité politiquement biaisée. L’utilisation d’IA pour diffuser de la propagande à grande échelle doit inciter à une vigilance accrue.

La réponse d’OpenAI et des autorités

Face à ces menaces, OpenAI a pris des mesures pour restreindre l’accès des utilisateurs malveillants. Cependant, la lutte contre la désinformation est complexe et nécessite une collaboration intergouvernementale. Les rapports de sécurité publiés par OpenAI témoignent d’un engagement à empêcher l’utilisation de technologies IA par des régimes autoritaires pour renforcer leur pouvoir. C’est une bataille continue entre innovation technologique et la préservation de la démocratie.

Des sociétés face à un dilemme technologique

Les implications de l’usage d’outils comme ChatGPT par la Chine posent un dilemme pour les sociétés démocratiques. Alors que Big Tech continue d’innover, la question de la responsabilités sociale des entreprises technologiques ne peut être ignorée. Les risques que pose l’IA en matière de surveillance et de désinformation doivent devenir une priorité dans le débat public.

Un appel à la réglementation

La nécessité d’une réglementation sur l’utilisation de l’IA est essentielle. Les gouvernements doivent travailler ensemble pour définir des normes qui empêchent le détournement de ces technologies. Cela pourrait inclure la mise en place de protocoles stricts pour l’utilisation des outils d’IA certains, comme ceux développés par OpenAI, afin de réduire les risques associés à leur utilisation par des acteurs malveillants.

Le rôle des citoyens

Le public doit également être conscient des implications de la technologie sur l’échange d’informations. L’éducation, la transparence et la sensibilisation à l’utilisation des IA pour la désinformation et la manipulation doivent être renforcées. Les citoyens sont responsables de vérifier les sources et de s’informer correctement, afin de ne pas devenir des vecteurs de propagande.

Un avenir incertain

La frontière entre innovation technologique et éthique est mince, et les décisions d’aujourd’hui façonneront le paysage médiatique de demain. Les dangers d’un monde où l’IA est utilisée pour le contrôle social et la censure en Chine sont réels et pressants. Des organisations comme OpenAI et d’autres doivent continuer à innover tout en tenant compte de l’impact de leurs technologies sur la société.

Les enjeux de l’avenir face à la technologie IA

En conclusion, la lutte contre les abus liés à l’usage de l’IA en Chine et ailleurs doit être une priorité globale. Les technologies doivent être au service des humains, pas l’inverse. Face aux avancées incessantes de l’intelligence artificielle, il est crucial de nous informer et de mobiliser pour une utilisation responsable de ces outils. Les conséquences de nos choix d’aujourd’hui détermineront notre futur en tant que société numérique.