Algoritmos: La ética que enseña a las máquinas a servir a los humanos

En el corazón acelerado de la era digital, donde los algoritmos aprenden a velocidad exponencial y la Inteligencia Artificial se infiltra en cada rincón de la vida social, se alza una voz que no habla el lenguaje del lucro, sino el de la dignidad. Es la voz de Paolo Benanti , franciscano de la Tercera Orden Regular, teólogo y profesor de Algoritmos en la Pontificia Universidad Gregoriana, recientemente nombrado por la ONU para el Consejo Asesor para la Gobernanza Global de la IA.

Paolo Benanti (nacido el 20 de julio de 1973 en Roma) es un sacerdote, teólogo y filósofo italiano de la Tercera Orden Regular de San Francisco . Imparte clases en la Universidad LUISS Guido Carli y en la Universidad de Seattle, y ha asesorado al papa Francisco en temas de inteligencia artificial y ética de la tecnología.

Algoritmos y la entropía de la información: Enseñar a las máquinas el peso del significado

En su discurso en TEDxTreviso, Paolo Benanti planteó una pregunta radical: ¿quién enseñará ética a las máquinas? En un mundo donde la Inteligencia Artificial procesa datos a una velocidad exponencial, el riesgo no es solo técnico, sino también semántico: que la información pierda su significado humano, su conexión con la verdad, la justicia y la dignidad.

Aquí es donde entra en juego la entropía de Shannon . Introducida en 1948, es una medida de la incertidumbre asociada a una variable aleatoria. Cuanto mayor es la entropía, más impredecible es la información. Pero esta impredecibilidad, en lógica algorítmica, es solo ruido . Para los humanos, sin embargo, es a menudo donde se esconde el significado.

Paolo Benanti nos invita a reflexionar sobre esta brecha: el algoritmo busca orden, previsibilidad y optimización. Pero la ética surge precisamente donde la información es ambigua, donde los datos no son suficientes. Los algoritmos , por lo tanto, no son solo una gramática moral para las máquinas: son un intento de enseñarles a reconocer que no toda la información tiene significado automáticamente.

En este sentido, la entropía se convierte en una poderosa metáfora. La IA reduce la incertidumbre, pero los humanos vivimos en ella. La IA busca patrones, pero los humanos buscan significado. Y el significado, como nos recuerda Benanti, no se puede calcular: se contempla, se discierne y se preserva.

Algorética: un lenguaje universal para la justicia algorítmica

Benanti no propone una ética simple aplicada a la tecnología. Propone una algorética : una gramática moral capaz de traducir el valor de los individuos en un código comprensible para las máquinas. En un mundo donde los algoritmos deciden quién recibe un préstamo, quién es contratado, quién es monitoreado, la algoritmia es un acto de resistencia cultural. No se trata de frenar la innovación, sino de dirigirla. Se trata de recordar que la IA no es un oráculo, sino una herramienta. Y que toda herramienta, por sofisticada que sea, debe permanecer al servicio de la humanidad.

La algocracia y el riesgo del poder invisible

Paolo Benanti también acuñó el término algocracia para describir el creciente poder de los algoritmos en el gobierno de nuestras vidas. Un poder que se manifiesta no con uniformes ni decretos, sino con notificaciones, recomendaciones y puntuaciones. Es el poder de lo invisible, del cálculo que decide sin explicación. La algorética se opone a esta opacidad, exigiendo transparencia, rendición de cuentas y, sobre todo, una visión antropológica: el algoritmo debe entender al ser humano no solo como datos, sino como misterio.

La ONU y el desafío global

En 2023, las Naciones Unidas reconocieron la urgente necesidad de una guía ética global sobre IA, estableciendo un comité de 39 expertos. Entre ellos, el único italiano es Paolo Benanti . Su tarea es contribuir a la elaboración de directrices universales que garanticen que la IA no se convierta en una herramienta de exclusión, sino de justicia. Una tarea que combina teología, filosofía, tecnología y diplomacia.

Un desafío espiritual y cultural

La pregunta Paolo es radical: ¿podrá nuestra comprensión de lo correcto y lo verdadero influir en la forma de pensar de los algoritmos? Es una pregunta que concierne no solo a los ingenieros, sino a todos los ciudadanos, educadores y artistas. Porque la IA no es solo una cuestión técnica: es una cuestión espiritual. Refleja lo que estamos dispuestos a enseñar a nuestras criaturas digitales.