O Papa Francisco, na quinta-feira, propôs a formulação de um contrato internacional para garantir que o desenvolvimento e uso da inteligência artificial IA estejam em conformidade com as diretrizes éticas. Ele destacou os riscos potenciais impostos pela tecnologia que não incorpora valores humanos como compaixão, misericórdia, moralidade e perdão.

No início deste ano, a imagem dele foi manipulada pela tecnologia de IA, criando uma foto viral dele usando uma jaqueta puffer branca cara, portanto, seu interesse pessoal neste assunto. Esta proposta foi feita em seu discurso anual para o Dia Mundial da Paz, um dia tradicionalmente celebrado pela Igreja Católica em 1 de janeiro.

Em sua mensagem, Francisco abordou o apoio crescente à necessidade de um comando formal e global de IA, alguns dias após a União Europeia aprovar provisoriamente as primeiras regras completas de IA do mundo, estabelecendo um referencial regulatório para governos globais.

Sistemas inteligentes como o ChatGPT do OpenAI têm atraído atenção mundial no último ano devido às suas incríveis capacidades, no entanto, as possíveis ameaças que essas tecnologias avançadas podem impor à segurança no emprego, privacidade, proteções de direitos autorais e vida humana suscitaram preocupações.

O uso da IA no setor armamentista é motivo de grande preocupação, segundo Francisco. Ele enfatizou que a habilidade humana única de fazer julgamentos morais e decisões éticas ultrapassa a possibilidade de ser reduzida a algoritmos complexos que podem ser codificados em uma máquina.

Ele detalhou o efeito dominó negativo que sistemas automatizados que categorizam ou classificam humanos poderiam ter na sociedade, apontando as possíveis implicações que tais sistemas podem ter na classificação de crédito de um indivíduo, nos direitos de asilo político dos migrantes ou na capacidade de um criminoso condenado de reincidir.

Francisco continuou a dizer que as empresas multinacionais que exploram recursos naturais e empobrecem populações indígenas não podem ser confiadas para se governarem no espaço tecnológico. Ele concluiu afirmando que os deveres e implicações éticas da IA vão além do lucro e do poder.