L’IA devrait-elle se convertir à l’islam ?
Récemment, le Premier ministre malaisien Anwar Ibrahim a fait la une des journaux lorsqu'il a exhorté les jeunes développeurs informatiques et professionnels de la technologie à intégrer les valeurs islamiques dans les systèmes d'intelligence artificielle (IA), arguant que cela garantirait que l'IA serve l'humanité d'une manière plus éthique et plus juste. Depuis son arrivée au pouvoir fin 2022, Anwar a fait du développement de l'IA et de la technologie en Malaisie une priorité de l'agenda économique du pays. Dans un monde de plus en plus dominé par l’intelligence artificielle, l’idée d’intégrer des principes religieux dans les algorithmes qui façonnent nos vies est une idée à la fois intrigante et profondément troublante. Même si l'intention d'Anwar est peut-être de créer une boussole morale pour l'IA, cette suggestion soulève des questions fondamentales sur les dangers d'imprégner l'intelligence artificielle de toute forme de dogme religieux ou idéologique – d'autant plus que la Malaisie augmente lentement son contrôle sur les médias et renforce la censure. sous prétexte d'harmonie sociale.
Pour comprendre les risques, il est essentiel de comprendre d’abord ce que signifie imprégner l’IA d’un ensemble de principes directeurs. L’intelligence artificielle, dans sa forme la plus simple, est un outil – un outil avancé, mais néanmoins un outil. Les systèmes d’IA, également appelés grands modèles linguistiques, apprennent à partir de grandes quantités de données et peuvent être programmés pour suivre des ensembles de règles particuliers. Pourtant, en donnant à l’IA un cadre religieux comme l’Islam, les développeurs ne se contentent pas de programmer un ensemble de lignes directrices. Ils imposent un système de croyances qui peut avoir des conséquences profondes, voire incontrôlables. Il s’agit d’un concept qui mérite une réflexion approfondie, car il met en parallèle les dangers liés à l’intégration d’idéologies politiques dans l’IA, un scénario qui a déjà vu des signes inquiétants de réalisation.
Les périls de l’IA religieuse
Le nœud du problème réside dans l’idée selon laquelle le dogme religieux est intrinsèquement subjectif et souvent contradictoire. L’Islam, par exemple, comme toutes les grandes religions, est interprété de différentes manières selon les différentes cultures et écoles de pensée. Dans un monde où les conflits religieux sont souvent une source de divisions et de violences profondes, ce type de variabilité dans la boussole morale d’IA pourrait avoir des implications dangereuses et de grande envergure.
Considérez le scénario effrayant décrit dans « The Handmaid's Tale », le roman dystopique de Margaret Atwood, dans lequel un régime théocratique gouverne une société basée sur une interprétation tordue et sélective de la Bible. Ce qui commence comme une tentative d'appliquer la moralité religieuse devient un outil d'oppression, justifiant le contrôle du corps des femmes pour leur asservissement politique. Imaginez maintenant un système d’IA similaire, ancré dans une interprétation stricte des textes religieux. Que se passe-t-il lorsqu’une telle IA est en charge des soins de santé, de la justice pénale ou de l’éducation ? Pourrait-il justifier des pratiques discriminatoires ou un absolutisme moral au nom de la volonté divine ?
On pourrait soutenir que l’IA devrait adhérer à un certain cadre éthique pour guider ses actions. Cependant, la question demeure : ce cadre doit-il être religieux ? L’IA éthique, qui donne la priorité à l’équité, à la transparence et à la responsabilité, représente une approche beaucoup plus nuancée. Cependant, les systèmes d’IA ne devraient pas servir de gardiens du salut spirituel.
Dans le même temps, associer l’IA à la religion représente un abandon de l’action morale, ce qui menace effectivement la conception théologique la plus monothéiste de l’humain en tant qu’être moral, reflet d’un pouvoir moral supérieur. Si les humains délèguent des évaluations éthiques aux algorithmes d’IA, ils pourraient renoncer à leur obligation de s’engager dans une délibération et un discernement approfondis.
Les dangers de l’idéologie politique dans l’IA
Si l’angle religieux est préoccupant, l’intégration d’idéologies politiques dans l’IA est tout aussi troublante. Ces dernières années, nous avons vu comment les forces politiques cherchent à façonner le discours autour de l’IA. Le gouvernement chinois, par exemple, fait pression pour des systèmes d'IA qui donnent la priorité à l'harmonie sociale et à l'agenda politique de l'État, en utilisant l'IA pour surveiller et contrôler ses citoyens. Dans le même ordre d’idées, la montée de l’IA dans les pays occidentaux, et en particulier aux États-Unis, présente ses propres risques. Pensez aux systèmes d’IA qui pourraient refléter et renforcer des programmes autoritaires, en façonnant leurs décisions selon un ensemble restreint de valeurs politiques.
L’essence même de l’IA – sa capacité à traiter de grandes quantités de données et à prendre des décisions d’une manière qui peut sembler opaque aux utilisateurs humains – peut facilement être manipulée à des fins idéologiques. Si les systèmes d’IA sont programmés pour donner la priorité à certaines idéologies politiques par rapport à d’autres, ils pourraient fonctionner comme des outils d’oppression ou de coercition. Une IA contrôlée par l’État, par exemple, pourrait prendre des décisions qui portent atteinte aux libertés fondamentales, tout comme une IA à motivation religieuse pourrait marginaliser les non-croyants. Lorsque l’algorithme s’aligne sur des idéologies politiques ou religieuses, il cesse d’être un outil neutre et se transforme en un défenseur partisan de croyances particulières.
Ce type d’IA constitue une menace fondamentale pour la société démocratique, où le pluralisme, le débat et les droits individuels sont valorisés. Si rien n’est fait, cela pourrait renforcer le statu quo et étouffer la dissidence. L’histoire fournit d’innombrables exemples de la manière dont l’idéologie, qu’elle soit religieuse ou politique, a été utilisée pour justifier l’oppression. L’IA, en tant que prochaine frontière du développement technologique, ne devrait pas être invitée à répéter cette erreur.
L'annonce d'Anwar est d'autant plus troublante dans un contexte malaisien marqué par une montée du contrôle des médias d'État et une augmentation du pouvoir des autorités religieuses. Le gouvernement d'Anwar a déjà montré les faiblesses de sa stratégie consistant à attirer les votes conservateurs malais, ceux-ci restant largement fidèles à l'opposition. Au contraire, la pression d'Anwar en faveur d'un agenda religieux est dissuasive pour ses propres partisans et pourrait mettre en péril les droits fragiles des minorités religieuses de Malaisie.
Un appel à une IA éthique et non religieuse
L’appel du Premier ministre Anwar à intégrer les valeurs islamiques dans l’IA pourrait être une tentative mal réfléchie d’introduire une clarté morale dans une technologie nouvelle et puissante. Cependant, la réalité est que la religion constitue un cadre inapproprié pour l’éthique de l’IA. L’IA doit être programmée avec une boussole éthique plus large – une boussole pluraliste, flexible et basée sur des valeurs humaines partagées telles que l’équité, la justice et l’égalité. L’avenir de l’IA ne devrait pas être un champ de bataille pour des idéologies religieuses ou politiques, mais un domaine de collaboration, de créativité et de raisonnement éthique qui respecte la diversité de l’expérience humaine – tant en Malaisie que dans le monde dans son ensemble.