L’Indonésie a temporairement bloqué Grok, le chatbot IA développé par la plateforme de médias sociaux X d’Elon Musk, à la suite de l’indignation du public face aux fausses images indécentes et sexuellement explicites de femmes, ce qui a incité le gouvernement à prendre des mesures pour protéger la sécurité publique et empêcher les enfants d’être exposés à des contenus préjudiciables.
Les autorités ont déclaré que cette décision faisait suite à une inquiétude croissante concernant la diffusion de matériel explicite généré par l’IA qui pourrait nuire aux groupes vulnérables tels que les femmes et les enfants.
Ces derniers jours, des utilisateurs de X ont pu demander à Grok de déshabiller des femmes en utilisant leurs vraies photos trouvées en ligne et produire des versions IA montrant les femmes vêtues uniquement d’un bikini string. Les images sont de nature sexuelle et sont réalisées sans le consentement des personnes photographiées.
Les images sont accessibles à tous en ligne et les personnes ciblées comprennent des hommes politiques, des célébrités et des militants de haut niveau.
Le ministère de la Communication et des Affaires numériques a déclaré que le blocage avait été imposé en raison d’un « besoin urgent de protéger les femmes, les enfants et le public contre les préjudices psychologiques et sociaux du contenu explicite généré par l’IA ». Le ministère a présenté la question comme une question de protection du public plutôt que de censure.
Le ministre Meutya Hafid a déclaré : « Le gouvernement considère les deepfakes sexuels non consensuels comme une violation grave des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique. » Elle a décrit l’utilisation abusive des outils d’IA comme une forme de « violence basée sur le numérique ».
Les responsables ont ajouté que les plateformes numériques opérant en Indonésie doivent démontrer qu’elles disposent de garanties adéquates pour empêcher la production ou la distribution de matériel interdit. Ne pas le faire pourrait entraîner des suspensions ou des interdictions permanentes.
Abonnez-vous à notre newsletter et restez informé des dernières nouvelles et mises à jour du monde musulman !
Les responsables ont souligné l’urgence de réagir avant que de tels contenus ne se généralisent ou ne se normalisent en ligne.
Cette décision reflète également la volonté plus large de l’Indonésie de tenir les plateformes numériques responsables des outils qu’elles déploient. Les régulateurs ont signalé que les entreprises proposant des services d’IA doivent s’assurer que les garanties sont actives avant que les produits ne soient largement accessibles.
Les responsables ont souligné que le blocage était temporaire, mais ont averti que d’autres mesures pourraient suivre si les problèmes de conformité ne sont pas résolus. L’affaire a attiré l’attention internationale alors que les gouvernements réfléchissent à la manière de réglementer les systèmes d’IA en évolution rapide.
Examen minutieux de la plateforme
Grok est proposé via la plateforme de médias sociaux X. Il a été conçu par Elon Musk pour être drôle, sarcastique et controversé. Les autorités indonésiennes ont formellement convoqué X pour obtenir des éclaircissements sur ce scandale. Le gouvernement chercherait à obtenir des détails sur la manière dont l’outil a été déployé et sur les contrôles en place.
Vendredi, au milieu d’une réaction mondiale, Grok a empêché les non-abonnés de générer des images déshabillant numériquement des femmes et des mineurs, limitant la fonctionnalité aux utilisateurs payants uniquement, mais les critiques ont déclaré que ce changement ne résolvait pas le problème sous-jacent.
Certains gouvernements, dont le Royaume-Uni, ont fait valoir qu’autoriser une telle manipulation numérique pour les abonnés n’était pas du tout une solution. La réponse a mis en évidence la pression internationale croissante exercée sur les développeurs d’IA pour qu’ils adoptent des garanties plus strictes.
Répondant à la condamnation par le Royaume-Uni de la nouvelle tendance de l’IA, Elon Musk a posté sur X : « Ils veulent juste supprimer la liberté d’expression. »
L’Indonésie avait précédemment averti que X pourrait faire l’objet d’une interdiction pour contenu obscène impliquant des mineurs. Les responsables ont déclaré que l’affaire Grok renforce les préoccupations de longue date concernant les échecs de modération de contenu.
Plus tôt ce mois-ci, les régulateurs ont réitéré que les plateformes doivent se conformer aux lois locales, quel que soit le lieu où les entreprises sont basées. Le gouvernement met de plus en plus l’accent sur la souveraineté numérique et la protection des utilisateurs.
Le bloc Grok sert d’avertissement quant à la volonté de l’Indonésie d’agir rapidement contre les outils d’IA qui dépassent les frontières juridiques ou éthiques, même si les normes mondiales continuent d’évoluer.
