Pape François jeudi a proposé la formulation d'un contrat international pour garantir que le développement et l'utilisation de l'intelligence artificielle IA respectent des directives éthiques. Il a souligné les risques potentiels posés par une technologie qui n'intègre pas des valeurs humaines telles que la compassion, la miséricorde, la moralité et le pardon.

Plus tôt cette année, son image a été manipulée par la technologie de l'IA, créant une photo virale de lui portant une veste bouffante blanche coûteuse, d'où son intérêt personnel dans cette question. Cette proposition a été faite dans son discours annuel pour la Journée mondiale de la paix, une journée traditionnellement célébrée par l'Église catholique le 1er janvier.

Dans son message, François a abordé le soutien rapidement croissant pour le besoin d'un commandement formel et global de l'IA, quelques jours après que l'Union européenne a approuvé provisoirement les premières règles complètes de l'IA au monde, établissant une référence réglementaire pour les gouvernements mondiaux.

Les systèmes intelligents comme ChatGPT de OpenAI ont attiré l'attention du monde entier au cours de l'année dernière en raison de leurs capacités remarquables, cependant, les menaces potentielles que ces technologies avancées pourraient imposer à la sécurité de l'emploi, à la vie privée, à la protection du droit d'auteur et à la vie humaine ont soulevé des préoccupations.

L'utilisation de l'IA dans le secteur des armes est une cause de préoccupation majeure, selon François. Il a souligné que la capacité humaine unique de prendre des jugements moraux et des décisions éthiques va au-delà d’être réduite à des algorithmes complexes qui peuvent être encodés dans une machine.

Il a détaillé l'effet domino négatif que les systèmes automatisés qui catégorisent ou classent les humains pourraient avoir sur la société, soulignant les implicites possibles que ces systèmes peuvent avoir sur la cote de crédit d'un individu, les droits d'asile politique des migrants ou sur la capacité d'un criminel condamné à récidiver.

François a continué à dire que les entreprises multinationales qui exploitent les ressources naturelles et appauvrissent les populations indigènes ne peuvent pas être dignes de confiance pour se gouverner elles-mêmes dans l'espace technologique. Il a conclu en déclarant que les devoirs et les implications éthiques de l'IA vont au-delà du profit et du pouvoir.