El papa León XIV advirtió que el desarrollo de la inteligencia artificial (IA) no debe quedar librado únicamente a la capacidad de la tecnología y reclamó una supervisión humana efectiva, reglas compartidas y mecanismos de responsabilidad. Además, instó a avanzar hacia la prohibición de las armas autónomas letales.
El papa León XIV advirtió que el desarrollo de la inteligencia artificial (IA) no debe quedar librado únicamente a la capacidad de la tecnología y reclamó una supervisión humana efectiva, reglas compartidas y mecanismos de responsabilidad. Además, instó a avanzar hacia la prohibición de las armas autónomas letales.
El planteo fue realizado este viernes 30 de octubre, durante una audiencia en el Vaticano con participantes del congreso El futuro de la IA: un diálogo entre el Vaticano y la comunidad científica sobre los avances y las aplicaciones de las tecnologías inteligentes, organizado por la Pontificia Academia para la Vida y el Future of Life Institute.
A través de una serie de mensajes publicados en su cuenta oficial de X, el Pontífice profundizó una advertencia que atraviesa su reflexión sobre las nuevas tecnologías: la inteligencia artificial debe estar al servicio de las personas y del bien común, sin desplazar la responsabilidad humana ni convertirse en una herramienta de dominio.
El futuro de la IA depende de las decisiones humanas
León XIV sostuvo que el rumbo de la inteligencia artificial no está predeterminado, porque se trata de una tecnología desarrollada por seres humanos. Por eso, remarcó que la sociedad tiene la responsabilidad de orientar sus aplicaciones, modificarlas y, cuando sea necesario, rechazarlas.
En ese sentido, planteó que un sistema confiable y puesto al servicio de las personas tiene más valor que otro extraordinariamente potente, pero cuyas consecuencias no puedan anticiparse ni controlarse de manera adecuada.
El Papa propuso, así, ampliar el debate más allá de las capacidades técnicas de estas herramientas y poner el foco en sus objetivos, sus efectos y las condiciones en las que se utilizan.
“Las máquinas son instrumentos, no personas”
Otro de los puntos centrales de su mensaje fue el rechazo a considerar a los sistemas de inteligencia artificial como personas. El Pontífice cuestionó las propuestas de otorgarles derechos o personalidad jurídica y advirtió que ese enfoque podría diluir la responsabilidad de quienes desarrollan, implementan o utilizan estas tecnologías.
Según señaló, existe el riesgo de que las personas perjudicadas por una decisión automatizada terminen enfrentándose a una entidad sin rostro, mientras queda desdibujada la responsabilidad humana detrás del sistema.
La preocupación cobra especial relevancia cuando los algoritmos intervienen en decisiones que afectan derechos, libertades y oportunidades. Para León XIV, las máquinas pueden ser herramientas de gran capacidad, pero no deben sustituir el juicio ni la responsabilidad de las personas.
El pedido para prohibir las armas autónomas letales
La advertencia más contundente estuvo vinculada con el uso militar de la inteligencia artificial. El Papa afirmó que las decisiones relacionadas con la vida humana, la libertad y el uso de la fuerza deben permanecer bajo un control humano eficaz, informado y responsable.
En ese marco, pidió que la IA sea “desarmada” e instó a los Estados que se reunirán en Ginebra en noviembre a dar pasos concretos hacia la prohibición de las armas autónomas letales.
El planteo apunta a limitar el desarrollo y la utilización de sistemas capaces de seleccionar o atacar objetivos sin una intervención humana suficiente. Para el Pontífice, la velocidad y la potencia de estas tecnologías no pueden justificar que decisiones con consecuencias irreversibles queden fuera del control de las personas.
Normas internacionales para proteger el bien común
León XIV también sostuvo que las tecnologías inteligentes deben orientarse al bien común y no convertirse en un fin en sí mismas ni responder exclusivamente a los intereses de grupos privilegiados.
En cambio, consideró que su desarrollo debe promover la solidaridad y la participación, además de garantizar que los beneficios del progreso se distribuyan de manera equitativa, con especial atención a quienes más los necesitan.
Para avanzar en esa dirección, el Papa reclamó instituciones internacionales eficaces, normas compartidas, supervisión independiente y mecanismos claros de rendición de cuentas. Esos instrumentos, señaló, deben permitir examinar las decisiones sobre el desarrollo y el uso de la inteligencia artificial, cuestionarlas cuando sea necesario y establecer medidas correctivas ante posibles daños.
El mensaje se inscribe en la reflexión que León XIV desarrolla sobre los desafíos éticos y sociales de las nuevas tecnologías, también abordada en su encíclica Magnifica Humanitas, dedicada a la protección de la persona humana en la era de la inteligencia artificial.