Le Vatican accueille un dialogue sur l'IA et la dignité humaine
Des experts internationaux en intelligence artificielle se sont réunis avec des représentants du Saint-Siège au Vatican le 30 octobre pour explorer les ramifications de l'IA pour la dignité humaine. Le dialogue, qui s'e…

Des experts internationaux en intelligence artificielle se sont réunis avec des représentants du Saint-Siège au Vatican le 30 octobre pour explorer les ramifications de l'IA pour la dignité humaine. Le dialogue, qui s'est tenu à la Casina Pio IV, visait à définir l'avenir de l'innovation technologique tout en veillant à ce qu'elle soit en accord avec les principes humanitaires.
L'événement, intitulé "L'avenir de l'IA : un dialogue entre le Vatican et le monde scientifique sur les développements et les applications des technologies intelligentes", a été organisé par l'Académie pontificale pour la vie et le Future of Life Institute, qui se concentre sur les risques posés par les technologies avancées. Il a facilité des discussions entre la communauté scientifique et la Commission interdicastérielle sur l'intelligence artificielle concernant les implications éthiques de l'innovation.
Les discussions ont suivi les directives de l'encyclique "Magnifica humanitas", mettant l'accent sur l'importance de sauvegarder la dignité humaine dans le contexte de l'IA. Le cardinal Czerny a souligné la nécessité pour la Commission d'interagir à la fois avec les scientifiques et les communautés de l'Église.
La sœur Helen Alford de l'Académie pontificale des sciences sociales a ouvert les travaux, en soulignant que la justice sociale doit être intégrée dans la conception des technologies dès le départ. Elle a noté que la concentration du pouvoir technologique de l'IA entre les mains de quelques individus pose une menace à la répartition équitable et à la responsabilité éthique.
Parmi les experts présents se trouvaient Max Tegmark du Massachusetts Institute of Technology, Stuart Russell de l'Université de Californie, Berkeley, Gary Marcus de l'Université de New York et Valerie Pisano de Mila, un institut de recherche en IA canadien. Leurs perspectives différentes ont contribué à une discussion multifacette sur le potentiel et les risques associés au développement de systèmes autonomes.
Stuart Russell a averti contre la trajectoire actuelle du développement de l'IA, mettant en garde que les efforts pour construire des machines surpassant les capacités humaines pourraient poser des risques extrêmes. Il a plaidé pour une réévaluation de cette voie avant qu'elle ne devienne irréversible. Tegmark a fait écho à ce sentiment, soulignant l'importance d'un leadership moral de la part du Vatican pour s'assurer que l'IA reste bénéfique pour l'humanité.
Les discussions ont également abordé la nécessité d'assurer la sécurité dans la conception de l'IA par des réglementations contraignantes et des évaluations indépendantes. Le dialogue a mis en lumière une préoccupation collective concernant la concentration du contrôle de l'IA entre les mains de quelques entreprises, plaidant ainsi pour une implication plus large des gouvernements, de la communauté scientifique et de la société civile dans le processus décisionnel.
Le Père Paolo Benanti, expert à l'Université LUISS, a appelé à établir des règles qui lient les organisations et vérifient l'utilisation responsable de la technologie. Le dialogue a souligné le rôle vital de "l'intelligence vivante" — composée de créativité, de compassion et de responsabilité morale — dans le façonnement d'un développement éthique de l'IA.
Les préoccupations soulevées comprenaient les implications des armes autonomes, l'attribution de la conscience aux machines et les conséquences de la création d'intelligences avancées qui pourraient opérer au-delà du contrôle humain. Le rôle de l'Église a été reconnu comme essentiel pour traduire le principe de dignité humaine en directives technologiques et politiques concrètes.
La conférence s'est conclue par la projection de "Moloch", un court-métrage qui illustre que le défi ne réside pas dans l'IA elle-même, mais dans les motivations qui poussent à son avancée rapide.


