Comment l’émergence des intelligences artificielles génératives, en particulier dans le domaine visuel, redéfinit-elle nos représentations, notre rapport à l’information, et impacte-t-elle les sphères sociales et politiques par ses usages?
Vous êtes-vous déjà surpris à devoir compter le nombre de doigts de la main d’une personne pour attester de l’authenticité d’une photo ? Avez-vous déjà porté une attention particulière au grain, à la lumière ou à l’aspect plus ou moins lisse d’une image, dans le but de débusquer une image photoréaliste générée par artificielle ?
En ligne, nous pouvons parfois manquer de prudence face à ce que nous voyons. Il s’agit d’une inquiétude fondée et récurrente, qui tombe souvent dans le lieu commun, l’évidence. Et pourtant, il serait difficile de traiter du sujet de l’image sans confronter d’une part l’évolution galopante des moyens technologies de création visuelle, et d’autre part l’ensemble des représentations mentales et des biais sociaux qui conditionnent la réception de l’information, son traitement et sa circulation.
Les Intelligences Artificielles (IA) génératives sont des innovations qui s’implantent durablement dans nos quotidiens. Pour fonctionner, ces algorithmes s’appuient sur des bases de données gigantesques pour générer un rendu qui est le plus susceptible de correspondre à la suggestion initiale posée par l’humain, le prompt. Expliqué simplement, l’IA s’entraîne de nombreuses fois sur des données humaines pour générer ce qui est le plus probable de correspondre à ce qui lui est demandé.
Les modèles de langage sont des IA génératives qui vont piocher dans les contenus à disposition, comme des dictionnaires, ouvrages, encyclopédies, thèses ou autres commentaires et discussions en ligne, pour produire l’enchaînement de mots le plus probable d’après le prompt. Le modèle GPT3, alimentant ChatGPT, est ainsi devenu en quelques mois un modèle connu du grand public et facile d’utilisation.
Du côté des IA génératives visuelles, à l’instar de Midjourney ou Dall-E, leur fonctionnement est analogue. S’appuyant sur des archives colossales, ces logiciels apprennent à partir d’un ensemble aléatoire de pixel pour arriver, par le processus de débruitage, à générer un rendu qui sera le plus susceptible de correspondre à la demande humaine. En 2024, il est possible de générer des images en haute définition et au style photo réaliste, ce qui les rend d’autant plus difficiles à distinguer de véritables photographies.
Ces technologies sont d’ores et déjà des outils accessibles et peu coûteux pour les initié.e.s, et on peut postuler que les IA génératives auront un impact considérable sur notre rapport aux images et sur les représentations mentales des individus, tel la photographie, le cinéma ou la retouche photo. Ces contenus ne sont pourtant pas à considérer hors du monde social. Du choix de la base de données à la formulation du prompt et jusqu’à la diffusion et la réception du visuel, l’humain intervient à chaque étape de ce nouveau processus.
Traités comme des outils de composition visuelle, nous pouvons donc nous questionner sur les effets cognitifs, sociaux et politiques des IA génératives d’images, à la fois modelés par l’humain et transformant considérablement en retour le rapport à l’authenticité et à l’expression visuelle d’une information et d’une opinion. Dans notre podcast de L’Oeil Critique, nous abordons dans un premier temps les fondements technologiques et sociaux des intelligences artificielles génératives, en explorant leur émergence, les acteurs engagés ainsi que leur fonctionnement. Puis, nous nous penchons sur la manière dont les images en général (et également les images générées par IA) influencent notre perception de l’information et impactent les notions de véracité et d’authenticité. Enfin, nous examinons les enjeux sociaux et politiques qui découlent de ce contenu généré par IA, en abordant notamment la propagation des fausses informations, les biais inhérents à ces technologies, ainsi que leur potentiel en tant qu’outil de manipulation dans les discours politiques modernes.
Bonne écoute !
Le fils de Donald Trump publie une photo de son père générée par l’IA.
https://images.bfmtv.com/Ir9_6QvKHgkG4ebpLiHV0IfMDws=/0x224:1024x800/1024x0/images/Trump-image-generee-par-IA-1612527.jpg
**
Exemples marquants d’images générées par IA, en 2023.
https://lh7-rt.googleusercontent.com/docsz/AD_4nXfZiFFZaMGtl9DLRF9dMd98EF-5wIj4QpLT7LOrqLheYdMzPXGWv83koRpIgHO5yKEZ9qplVIleh12XXOpcEZPdb_WxN5WpuX_QySY2e4PxJX7fEeSnnOrxaHjWLQ_ZXDrmVIs_?key=gZ_Xma_tEjNymAnyo5EdQQ
Bibliographie
Barge, Stéphane. « IA : comment ChatGPT, Midjourney et ElevenLabs pourraient saboter les élections européennes ». 10 février 2024. En ligne : https://www.capital.fr/economie-politique/ia-comment-chatgpt-midjourney-et-elevenlabs-pourraient-saboter-les-elections-europeennes-1491960 [consulté le 17 novembre 2024].
CNIL. “Intelligence artificielle, de quoi parle-t-on ?” En ligne : https://www.cnil.fr/fr/intelligence-artificielle/intelligence-artificielle-de-quoi-parle-t-on [consulté le 15 novembre 2024].
Crossdata.tech. “Les acteurs d’un projet d’intelligence artificielle réussi”. 27 janvier 2023. En ligne : https://www.crossdata.tech/acteurs-projet-intelligence-artificielle/ [consulté le 16 novembre 2024].
Gabriel Turinici. “Impact de l’IA dans les médias : outils, enjeux et pratiques actuelles dans les rédactions”. 27 novembre 2023. En ligne : https://dauphine.psl.eu/eclairages/article/impact-de-lia-dans-les-redactions-outils-enjeux-et-pratiques-actuelles-dans-les-redactions [consulté le 15 novembre 2024].
Greg Pavlik. “Qu’est-ce que l’IA générative ? Quel est son fonctionnement ?” 2023. En ligne : https://www.oracle.com/fr/artificial-intelligence/generative-ai/what-is-generative-ai/ [consulté le 15 novembre 2024].
Grande Ecole du numérique. Qu’est-ce que l’IA générative ? 2024. En ligne : https://www.grandeecolenumerique.fr/les-metiers-porteurs/qu-est-ce-ia-intelligence-artificielle-generative [consulté le 15 novembre 2024].
Jacobsen, Benjamin N. et Jill Simpson. “The tensions of deepfakes”, Information, Communication & Society. 25 avril 2024, vol.27 no 6. p. 1095‑1109. En ligne : https://www.tandfonline.com/doi/full/10.1080/1369118X.2023.2234980 [consulté le 15 novembre 2024].
Kreps, Sarah, R. Miles McCain, et Miles Brundage. “All the News That’s Fit to Fabricate: AI-Generated Text as a Tool of Media Misinformation”, Journal of Experimental Political Science. 2022, vol.9 no 1. p. 104‑117. En ligne : https://doi.org/10.1017/XPS.2020.37 [consulté le 15 novembre 2024].
RFI. “Les dessous de l’infox, la chronique - Élections aux États-Unis: l’IA générative comme outil de propagande politique”. 2024. En ligne : https://www.rfi.fr/fr/podcasts/les-dessous-de-l-infox-la-chronique/20240906-%C3%A9lections-aux-%C3%A9tats-unis-l-ia-g%C3%A9n%C3%A9rative-comme-outil-de-propagande-politique [consulté le 16 novembre 2024].
Sarhan, Habiba, et Simon Hegelich. “Understanding and evaluating harms of AI-generated image captions in political images”. Frontiers in Political Science. 20 septembre 2023, vol.5. En ligne : https://doi.org/10.3389/fpos.2023.1245684 [consulté le 15 novembre 2024].
Smallman, H. S., and M. St. John. 2005. “Naïve Realism: Misplaced Faith in Realistic Displays.” Ergonomics in Design: The Quarterly of Human Factors Applications. En ligne: https://doi-org.acces-distant.sciencespo.fr/10.1177/106480460501300303 [consulté le 13 novembre 2024].
Thomson, T. J., Ryan J. Thomas, et Phoebe Matich. “Generative Visual AI in News Organizations: Challenges, Opportunities, Perceptions, and Policies”, Digital Journalism. 8 avril 2024. p. 1‑22. En ligne: https://doi.org/10.1080/21670811.2024.2331769
Comment l’émergence des intelligences artificielles génératives, en particulier dans le domaine visuel, redéfinit-elle nos représentations, notre rapport à l’information, et impacte-t-elle les sphères sociales et politiques par ses usages?#
En ligne, nous pouvons parfois manquer de prudence face à ce que nous voyons. Il s’agit d’une inquiétude fondée et récurrente, qui tombe souvent dans le lieu commun, l’évidence. Et pourtant, il serait difficile de traiter du sujet de l’image sans confronter d’une part l’évolution galopante des moyens technologies de création visuelle, et d’autre part l’ensemble des représentations mentales et des biais sociaux qui conditionnent la réception de l’information, son traitement et sa circulation.
Les Intelligences Artificielles (IA) génératives sont des innovations qui s’implantent durablement dans nos quotidiens. Pour fonctionner, ces algorithmes s’appuient sur des bases de données gigantesques pour générer un rendu qui est le plus susceptible de correspondre à la suggestion initiale posée par l’humain, le prompt. Expliqué simplement, l’IA s’entraîne de nombreuses fois sur des données humaines pour générer ce qui est le plus probable de correspondre à ce qui lui est demandé.
Les modèles de langage sont des IA génératives qui vont piocher dans les contenus à disposition, comme des dictionnaires, ouvrages, encyclopédies, thèses ou autres commentaires et discussions en ligne, pour produire l’enchaînement de mots le plus probable d’après le prompt. Le modèle GPT3, alimentant ChatGPT, est ainsi devenu en quelques mois un modèle connu du grand public et facile d’utilisation.
Du côté des IA génératives visuelles, à l’instar de Midjourney ou Dall-E, leur fonctionnement est analogue. S’appuyant sur des archives colossales, ces logiciels apprennent à partir d’un ensemble aléatoire de pixel pour arriver, par le processus de débruitage, à générer un rendu qui sera le plus susceptible de correspondre à la demande humaine. En 2024, il est possible de générer des images en haute définition et au style photo réaliste, ce qui les rend d’autant plus difficiles à distinguer de véritables photographies.
Ces technologies sont d’ores et déjà des outils accessibles et peu coûteux pour les initié.e.s, et on peut postuler que les IA génératives auront un impact considérable sur notre rapport aux images et sur les représentations mentales des individus, tel la photographie, le cinéma ou la retouche photo. Ces contenus ne sont pourtant pas à considérer hors du monde social. Du choix de la base de données à la formulation du prompt et jusqu’à la diffusion et la réception du visuel, l’humain intervient à chaque étape de ce nouveau processus.
Traités comme des outils de composition visuelle, nous pouvons donc nous questionner sur les effets cognitifs, sociaux et politiques des IA génératives d’images, à la fois modelés par l’humain et transformant considérablement en retour le rapport à l’authenticité et à l’expression visuelle d’une information et d’une opinion. Dans notre podcast de L’Oeil Critique, nous abordons dans un premier temps les fondements technologiques et sociaux des intelligences artificielles génératives, en explorant leur émergence, les acteurs engagés ainsi que leur fonctionnement. Puis, nous nous penchons sur la manière dont les images en général (et également les images générées par IA) influencent notre perception de l’information et impactent les notions de véracité et d’authenticité. Enfin, nous examinons les enjeux sociaux et politiques qui découlent de ce contenu généré par IA, en abordant notamment la propagation des fausses informations, les biais inhérents à ces technologies, ainsi que leur potentiel en tant qu’outil de manipulation dans les discours politiques modernes.