À l’ère des réseaux sociaux et de l’intelligence artificielle (IA), le poids de la technologie sur la transformation des paysages politiques est redéfini. L’IA peut renforcer l’engagement politique mais crée également des vulnérabilités exploitables à des fins de manipulation. L’une des principales préoccupations concerne le désordre informationnel, qui inclut la mésinformation (diffusion involontaire de fausses informations) et la désinformation (mensonge délibéré). Les deepfakes (contenus fabriqués qui semblent réels) et les bots (comptes automatisés imitant l’activité humaine) facilitent la manipulation du public. Selon le Rapport sur les risques mondiaux 2024 du Forum économique mondial, la més/désinformation est l’un des dangers les plus urgents à court terme, notamment à l’approche d’importantes élections dans de nombreux pays.
En Asie, les campagnes de propagande utilisant l’IA, comprenant des deepfakes et des messages amplifiés par les algorithmes, se multiplient. La Suisse est confrontée à des risques similaires, car la désinformation générée par l’IA manipule les résultats de recherche, fabrique des scandales politiques et menace la démocratie directe en influençant les référendums et les élections (Ibrahim, 2024). Dans ce contexte, les Philippines offrent des pistes précieuses pour comprendre comment l’IA peut être utilisée dans des environnements numériques politiquement actifs et comment en limiter les effets négatifs sur les processus démocratiques.
Démarche de recherche
Cette étude repose sur une revue de la littérature et sur des études de cas centrées sur les Philippines, où les réseaux sociaux jouent un rôle central dans la vie politique. Les phénomènes de més/désinformation à caractère politique y sont fréquents. Notre recherche analyse comment l’IA est détournée à des fins de més/désinformation et met ainsi en lumière le rôle des messages alimentés par l’IA dans la formation du discours public. Les Philippines sont une étude de cas essentielle pour comprendre les implications de l’IA dans les démocraties en raison de l’évolution constante de leur réglementation ainsi que de la vulnérabilité du pays face à la manipulation numérique.
Résultats et discussion
L’analyse révèle que la més/désinformation facilitée par l’IA est profondément ancrée dans la politique philippine. Dès les élections de 2016, les bots et les algorithmes ont joué un rôle clé dans la victoire de Rodrigo Duterte. Avec les avancées de l’IA, ces pratiques se sont intensifiées.
Les outils d’IA accessibles au grand public facilitent la manipulation de l’information, notamment avec des clonages vocaux imitant les voix de figures politiques comme l’actuel président Bongbong Marcos ou Duterte. Les deepfakes sont utilisés pour générer de faux soutiens à des escroqueries. La satire politique générée par l’IA s’est répandue. La frontière entre humour et réalité est souvent floue, complexifiant le débat public. L’expérience philippine montre comment l’IA peut être exploitée pour manipuler la réalité et creuser les divisions politiques (Tableau 1).
Tableau 1 : Més/désinformation alimentée par l’IA dans la politique philippine
| Type d’IA | Usage politique | Exemple dans le cas philippin |
|---|---|---|
| IA générative | Création de fake news | De vraies vidéos sont manipulées par le biais de montages ou par l’ajout d’audios pour soutenir de fausses narrations. |
| Deepfakes | Alimentation des campagnes de més/désinformation | Des IA permettent de générer des voix de personnalités politiques. Des vidéos manipulées de figures politiques sont utilisées pour faire la promotion d’escroqueries. |
| Satire politique générée par l’IA | Altération de la frontière entre humour et mensonge | Les mèmes politiques satirisent ou critiquent des figures publiques en lien avec des controverses en cours. |
| Bots et algorithmes | Amplification de messages mensongers | Des bots sont utilisés pour diffuser des fausses informations et intimider les critiques. |
Tableau: Sophie De Stefani, DeFacto · Source : Distor & Neumann.
Les risques liés à l’IA ne sont pas propres aux Philippines : des tendances similaires sont observées aux États-Unis, en Indonésie, en Chine et en Inde. L’essor de la més/désinformation générée par l’IA fragilise la confiance envers les institutions et induit en erreur les individus ayant une moindre capacité d’analyse critique et un faible engagement politique. La satire politique générée par l’IA alimente les divisions idéologiques tandis que les deepfakes et le microciblage sont utilisés pour manipuler les élections.
Lutter contre la més/désinformation générée par l’IA demande des réformes politiques, des solutions technologiques et des mesures d’éducation aux médias. Il est souhaitable que les gouvernements renforcent la régulation de l’IA sans restreindre la liberté d’expression. Aux Philippines, certaines avancées ont été réalisées, comme la mise en place de mesures de transparence sur l’usage de l’IA dans les campagnes politiques et des efforts de fact-checking par les médias. Toutefois, des défis persistent.
En 2023, le Conseil national suisse a estimé qu’il n’était pas encore nécessaire de réglementer les contenus générés par l’IA comme les deepfakes. Pourtant, l’exemple des Philippines montre que ces menaces sont bien réelles. En tirer des enseignements permettrait à la Suisse, comme à d’autres démocraties, d’anticiper les risques.
Références
- Distor, C. & Neumann, O. (Forthcoming). Ctrl + Alt + Deceive? A Look at Artificial Intelligence-Enabled Mis/Disinformation in Philippine Political Affairs. In N. Jalli (Ed.), AI, Technology, and Political Dynamics in the Asia Pacific.
- Ibrahim, S. (2024, September 26). US disinformation surge rings alarm bells for Swiss direct democracy. SwissInfo.ch. https://www.swissinfo.ch/eng/democracy/us-disinformation-surge-rings-alarm-bells-for-swiss-direct-democracy/87613037.
- OECD. (2024). The OECD Truth Quest Survey Methodology and Findings: OECD Digital Economy Papers No. 369. https://www.oecd.org/content/dam/oecd/en/publications/reports/2024/06/the-oecd-truth-quest-survey_a1b1739c/92a94c0f-en.pdf.
- The Swiss Parliament. (2023). Regulating “deep fakes”. https://www.parlament.ch/en/ratsbetrieb/suche- curia-vista/geschaeft?AffairId=20233563.
Note: cette contribution est tirée du dixième Policy Brief de l’IDHEAP. Elle a été éditée par Robin Stähli.
Image: unsplash.com
