Alors que l’IA progresse à un rythme sans précédent et prend des usages de plus en plus dystopiques dans la vie quotidienne, le blogueur Najm ad-Din écrit sur les conséquences spirituelles possibles de ce changement sociétal pour les musulmans.
Au cours des dernières années, l’essor astronomique de l’intelligence artificielle a bouleversé plusieurs domaines de l’expérience humaine.
Des soins de santé à la finance en passant par l’industrie manufacturière et l’agriculture, ses effets transformateurs se font sentir dans tous les secteurs, et le consensus général est que nous approchons d’un moment historique de l’histoire, semblable à la révolution industrielle.
L’adoption généralisée de l’IA suscite également de nombreuses appréhensions.
Alors que les inquiétudes courantes se concentrent sur l’utilisation d’outils d’IA avancés pour générer des deepfakes, optimiser les cyberattaques traditionnelles et permettre des e-mails de phishing hautement personnalisés, il existe d’autres développements inquiétants qui méritent le même examen.
2waï
Récemment, l’ancien acteur de Disney, Calum Worthy, a déclenché une controverse après avoir fait la promotion d’une publicité pour sa nouvelle application d’IA « 2wai », qui permet aux utilisateurs de créer des avatars interactifs de proches décédés.
Abonnez-vous à notre newsletter et restez informé des dernières nouvelles et mises à jour du monde musulman !
La vidéo présentait une femme enceinte cherchant des conseils de maternité auprès de sa défunte mère, qui apparaît comme un HoloAvatar réaliste créé grâce à l’IA générative et à l’apprentissage automatique.
Bien que la startup basée à Los Angeles ait commercialisé ces recréations comme un moyen d’établir une archive vivante de l’humanité où les proches décédés peuvent faire partie de notre avenir, les critiques l’ont critiquée pour ses nuances déshumanisantes qui ressemblaient étrangement à la série de science-fiction dystopique de Netflix « Black Mirror », tandis que d’autres ont affirmé que les avatars premium de l’application – disponibles à l’achat – étaient un moyen de monétiser son chagrin.
Alors que nous nous dirigeons vers un avenir où les versions physiques androïdes des personnes décédées deviendront une perspective réalisable, comment les musulmans devraient-ils traiter cette dernière offre d’IA ?
Règles islamiques
La règle islamique par défaut sur la technologie est qu’elle entre dans la catégorie des « mubah », qui décrivent des actions neutres ou autorisées et pour lesquelles il n’y a aucune récompense ni punition pour les accomplir ou s’abstenir de les exécuter, tant qu’elles ne contredisent pas les principes fondamentaux de la foi.
Comme il s’agit avant tout d’outils qui ne sont ni bons ni mauvais en soi, leur statut juridique est souvent déterminé par la finalité pour laquelle ils sont utilisés.
Étant donné qu’une application d’IA qui recrée les avatars numériques des défunts est une question contemporaine qui n’est pas directement abordée dans les textes fondateurs de l’Islam, elle s’inscrit dans le spectre de l’ijtihad (raisonnement juridique indépendant), qui peut conduire à différentes opinions scientifiques.
Alors que beaucoup affirment que cela interfère avec le processus naturel de deuil et exploite la misère humaine, d’autres peuvent adopter une position plus indulgente à condition que les avatars hyperréalistes ne risquent pas l’idolâtrie et ne soient utilisés qu’à des fins autorisées, comme à des fins éducatives.
Pour l’instant, j’aimerais orienter la discussion dans une trajectoire différente en posant les questions suivantes :
Quelles sont les implications spirituelles de la normalisation de telles technologies ?
Erreur de Jetson
Pour répondre à cette question, il peut être utile de rappeler une sitcom populaire des années 1960 intitulée « The Jetsons », qui prévoyait à quoi ressemblerait l’avenir un siècle après ses débuts.
Alors que certains des gadgets de la ville orbitale basée sur les nuages où vivaient les Jetson ont fait leur chemin dans l’ère moderne, la série a supposé à tort que les technologies évolueraient sans perturber la condition humaine, ce que les commentateurs appellent l’erreur des Jetson.
Les producteurs considéraient les innovations technologiques comme des outils permettant d’améliorer l’efficacité et
commodité, tout en négligeant la manière dont ils façonnent les valeurs, forment les habitudes et encouragent une orientation particulière dans laquelle ses créateurs orientent les utilisateurs.
Qu’il s’agisse des smartphones, des réseaux sociaux ou de l’IA, les outils technologiques à notre disposition ne sont pas neutres et la recherche continue de montrer comment les environnements numérisés, les outils de communication en ligne et les innovations intelligentes non seulement laissent une génération entière socialement atomisée, mais nous reconnectent également au niveau neurologique.
Alors, comment des applications comme 2wai contribuent-elles à ce phénomène ?
Transhumanisme
Si nous examinons la vision du monde des pionniers de la technologie et de l’IA, il devient évident que des efforts conscients sont en cours pour modifier le calcul de ce que signifie être humain et brouiller les frontières entre réalité et fantaisie.
À la base de cette quête se trouve la conviction que les problèmes humains fondamentaux peuvent être résolus grâce à un trio de solutions scientifiques, rationnelles et technologiques, connu sous le nom de transhumanisme.
D’éminents transhumanistes comme Yuval Noah Hariri et Ray Kurzweil estiment qu’à mesure que l’IA progresse de façon exponentielle, les simulations informatiques quantiques et l’émulation du cerveau entier peuvent télécharger le contenu du cerveau sur des plateformes de cloud computing, au point de vaincre non seulement le vieillissement et la maladie, mais aussi la mort.
Bien que ce ne soit peut-être pas une opinion dominante, elle a du succès parmi un groupe de technocrates de la Silicon Valley, dont Larry Ellison et Elon Musk, selon lesquels des avancées spectaculaires en matière de biotechnologie pourront un jour être exploitées dans la poursuite de l’extropie, où les humains transcendent la mortalité via la conscience numérique.
À bien des égards, le transhumanisme représente le dernier chapitre de l’ère athée de la laïcité des Lumières, car il positionne la raison, la science et la technologie comme les seuls moyens d’atteindre des objectifs qui étaient traditionnellement du domaine de la religion. En cherchant à remplacer une promesse spirituelle d’une vie après la mort par une vision matérialiste du salut grâce aux progrès scientifiques et technologiques, cela soulève une question :
Des applications comme 2wai conditionnent-elles les utilisateurs à accepter la vision post-humaine des élites technologiques, où les avatars numériques survivent à leurs homologues biologiques grâce à une cyber-conscience ?
Réalité
La relation que les entrepreneurs technologiques envisagent entre les consommateurs et leurs innovations révolutionnaires indique que nous sommes invités à réévaluer la façon dont nous percevons subjectivement la réalité.
Alors que les dernières innovations en matière d’IA et de réalité augmentée poussent les utilisateurs à interagir avec la réalité à travers un tout nouvel ensemble de filtres, les futures versions d’applications similaires peuvent potentiellement déformer les conceptions de l’incarnation, où les définitions de « l’humain » et de la « mort » sont en constante évolution.
Loin de simplement vendre un produit, les applications qui normalisent les conversations en temps réel avec les avatars de proches décédés nous vendent également une vision du monde selon laquelle la mortalité est un bug technique qui peut être corrigé grâce à la technologie dans une existence cybernétique synthétique.
Aujourd’hui, nous sommes tentés d’échanger notre humanité contre une compréhension de l’homme, de la vie et de l’univers filtrée à travers le prisme de la technologie. Cet avenir dystopique, que l’on croyait autrefois relever de la science-fiction, est la « nouvelle normalité » à laquelle de nombreux architectes de l’IA nous conditionnent à adopter.
Moratoire
En tant que musulmans qui ont la certitude de la mort, de l’au-delà et du Jour du Jugement, la suggestion selon laquelle la mortalité peut être inversée numériquement grâce au biohacking contredit la nature unique et fondamentale de la création de Dieu et crée une illusion de contrôle sur la vie et la mort.
Comme le dit le Coran, la tentation de jouer à Dieu et de tromper la mort se terminait toujours par
catastrophe. Aujourd’hui, nous sommes à nouveau confrontés à des forces prométhéennes qui surestiment les capacités humaines à la recherche d’une technotopie posthumaine d’évasion.
Compte tenu des dangers liés au récit salvateur du transhumanisme et du rythme auquel cette réalité insidieuse pourrait se présenter à nous, les érudits musulmans devraient envisager un moratoire spécifiquement sur les applications d’IA qui normalisent la nécromancie numérique et acclimatent les utilisateurs à traiter la mort comme un problème pouvant être résolu.
Allah n’a pas créé l’humanité pour qu’elle se confie à des algorithmes codés et à des avatars numériques pour notre déconnexion spirituelle et émotionnelle. S’il est crucial pour les musulmans d’exploiter le potentiel de l’IA au profit de l’humanité, il est tout aussi important de résister au pouvoir façonnant du transhumanisme en offrant un rempart intellectuel, psychologique et spirituel contre ses fausses promesses métaphysiques.
