O encontro AI for Ethics
Nesta quarta-feira, dia 10 de julho, o Papa Francisco endereçou uma mensagem ao encontro de líderes religiosos em Hiroshima. Ali, ele conclama a todos que assinem um importante acordo, o “Rome Call for AI Ethics”. O encontro visa discutir o uso ético da inteligência artificial e estratégias para a promoção da paz, neste contexto.
O Papa Francisco, na mensagem, começa delineando uma diferença fundamental entre máquinas e seres humanos. Enquanto as máquinas fazem escolhas algorítmicas baseadas em critérios predefinidos ou deduções estatísticas. Já os seres humanos tomam decisões de formas mais complexas e envolvem um elemento estratégico que requer avaliação prática e prudência.
A sabedoria prática e a tecnologia
O Papa ressaltou que, na difícil tarefa de governar, as decisões humanas têm consequências para muitas pessoas. Além do mais, são guiadas pela sabedoria, ou “phronesis”. Este é um conceito retirado da filosofia grega e que é de suma importância para a filosofia moral escolástica. A phronesis é justamente a inteligência prática, a sabedoria que está relacionada ao bem agir, e à boa tomada de decisões, que implica em uma boa capacidade de julgar baseada na excelência dos hábitos e do caráter humano. Esta dimensão é o que faz com que a ação humana seja, de fato, a mais apropriada para guiar nossos princípios de governança, e não o frio cálculo algorítmico e matemático da inteligência artificial.
O Papa Francisco argumentou que, diante dos avanços tecnológicos que permitem que as máquinas façam escolhas autônomas, é essencial que a decisão final permaneça nas mãos dos seres humanos. Ele alertou que retirar essa capacidade das pessoas e deixá-las dependentes das escolhas das máquinas poderia condenar a humanidade a um futuro sem esperança. A decisão humana, segundo o Papa, é essencial para manter a dignidade e a autonomia das pessoas, e garantir um futuro onde a humanidade controle seu próprio destino.
O Papa sublinhou a necessidade de garantir um controle humano sobre os programas de inteligência artificial. Ele destacou que, apesar das máquinas parecerem capazes de escolher autonomamente, a decisão final deve sempre ser humana. Isso é crucial para proteger a dignidade humana. Ele alertou contra a possibilidade de condenar a humanidade a depender das escolhas das máquinas, enfatizando a importância de um espaço onde os seres humanos possam exercer controle significativo sobre as tecnologias emergentes.
Local do encontro: quando a tecnologia não serve à Paz
A escolha de Hiroshima como local para discutir inteligência artificial e paz carrega um profundo simbolismo. Papa Francisco elogiou esta iniciativa, observando que, em meio aos atuais conflitos globais, contudo, é fundamental lembrar ao mundo a importância de um controle humano significativo sobre a IA, especialmente em contextos de guerra. Ele destacou a urgência de repensar o desenvolvimento e a utilização de “armas autônomas letais”, assim pois começando por um esforço concreto para introduzir um controle humano significativo sobre essas tecnologias. Nenhuma máquina, afirmou o Papa, deveria ter o poder de decidir sobre a vida humana.
Outro ponto crucial destacado pelo Papa foi a necessidade de incluir as riquezas culturais dos povos e das religiões na governança da inteligência artificial. Ele acredita que essa inclusão é uma chave estratégica para o sucesso na gestão sensata da inovação tecnológica. A diversidade cultural e religiosa pode oferecer perspectivas valiosas e orientar o desenvolvimento ético e responsável da IA.
Conclusão: a governança ética da inteligência artificial
O Papa Francisco concluiu sua mensagem expressando esperança de que o encontro em Hiroshima produza frutos de fraternidade e colaboração. Ele destacou a importância de unir esforços para proteger a dignidade humana e promover a paz em uma era de rápida inovação tecnológica. O Papa rezou para que cada um dos participantes se torne um instrumento de paz, trabalhando juntos para criar um futuro onde a tecnologia seja utilizada para o bem comum.
A mensagem do Papa Francisco é um, ao fim e ao cabo, um apelo para uma abordagem ética e humana na governança da inteligência artificial. Ele destaca a importância de manter o controle humano sobre as máquinas, proteger a dignidade humana e promover a paz em um mundo cada vez mais tecnológico. Em um momento de rápidas mudanças e desafios globais, as palavras do Papa Francisco oferecem uma orientação valiosa para um futuro mais justo e humano.
Pope Francis addresses Minerva Dialogues (Vatican Media)