Durante años el debate sobre inteligencia artificial cabía en una pregunta: ¿es ética? El proyecto europeo AIOLIA propone mover el foco y mirar un paso más allá, allí donde un sistema ya sugiere diagnósticos, ordena candidaturas o acompaña un duelo. La cuestión deja de ser filosófica y se vuelve muy concreta: qué le ocurre al juicio de quien recibe esa sugerencia y quién responde cuando falla — y hasta qué punto sigues decidiendo tú cuando la pantalla ya propone una respuesta.
Preguntar si la inteligencia artificial es ética tenía sentido cuando todavía parecía una curiosidad de laboratorio. Hoy esos sistemas ordenan candidaturas, sugieren tratamientos y aprueban versiones de software, así que la pregunta interesante es otra: qué ocurre con la persona que está al otro lado de la sugerencia. Ese es el punto de partida de AIOLIA, un proyecto financiado con fondos de la Unión Europea que se puso en marcha en 2025 para convertir principios abstractos en instrucciones que alguien pueda seguir un martes cualquiera.
Su investigadora principal es Petra Saskia Bayerl, del Centro de Excelencia en Investigación sobre Terrorismo, Resiliencia, Inteligencia y Crimen Organizado de la Universidad de Sheffield Hallam (Reino Unido). La premisa del proyecto gira en torno a una pregunta anterior a cualquier norma: «¿cuál es el papel de la tecnología para los seres humanos?».
AIOLIA no trabaja con ejemplos inventados. Académicos, responsables políticos y socios industriales elaboraron directrices éticas para seis casos de uso europeos concretos: cuatro profesionales y dos privados.
A esa lista se sumaron cuatro casos de uso internacionales: asistentes personales de apoyo en el duelo en Canadá, sistemas de atención a personas mayores en China, herramientas de análisis del comportamiento en el lugar de trabajo en Japón y compañeros personales para personas mayores en Corea del Sur.
La diferencia con otras tecnologías no está en la potencia, sino en el territorio que ocupa. Bayerl lo explica así: «La IA es diferente porque asume cada vez más tareas que tradicionalmente asociábamos con el pensamiento humano. Puede hacer que el trabajo cognitivo sea más eficiente, automatizar ciertas decisiones e identificar patrones que antes considerábamos capacidades exclusivamente humanas».
De ahí que el proyecto mire menos al sistema y más a lo que el sistema provoca: cambios en la experiencia y en el comportamiento profesional en los cuatro primeros casos, y cambios en la cognición y en el comportamiento privado en los dos últimos.
Uno de los hallazgos más útiles es que no existe una única lista de requisitos éticos válida en todas partes. En los contextos profesionales pesan la rendición de cuentas, la transparencia y la imparcialidad: quién responde, cómo se explica una decisión y a quién perjudica. En los contextos privados la balanza se desplaza hacia la seguridad individual, el bienestar, la autonomía del usuario y su capacidad de decisión. Un asistente que acompaña un duelo y un sistema que filtra currículums no se juzgan con la misma vara.
Para que eso no quede en declaración de intenciones, AIOLIA desarrolló una herramienta que evalúa los niveles de preparación ética y el impacto algorítmico. Funciona como guion de diálogos semiestructurados entre especialistas en ética y perfiles técnicos, es decir, entre dos oficios que dentro de la misma organización suelen hablar idiomas distintos.
Las recomendaciones del proyecto son deliberadamente poco espectaculares, y ahí está su interés: supervisión humana, mecanismos de recurso, formación del personal y revisiones periódicas de las políticas. Ninguna exige una ley nueva; todas exigen que alguien las escriba en el procedimiento y las revise cada cierto tiempo. Bayerl lo condensa en una frase: «En última instancia, AIOLIA tiene como objetivo hacer que la ética sea práctica».
El proyecto incluye materiales didácticos y formación a gran escala, y esa parte dice bastante sobre el mercado laboral que viene. Quien diseñe un modelo de selección tendrá que saber justificar una decisión ante alguien que la recurre; quien programe un asistente doméstico tendrá que pensar en autonomía, no solo en latencia. La ética deja de ser una asignatura de relleno y pasa a formar parte del pliego técnico, tanto en informática como en derecho, medicina o ciencias sociales.
AIOLIA cambia el foco: de si la inteligencia artificial es ética, a qué le hace a la forma en que las personas deciden. Seis casos europeos, cuatro internacionales y una conclusión que se repite: el contexto manda, y las salvaguardas que sirven son las que caben en un procedimiento concreto.
5 preguntas · un minuto · sin guardar nada
EN
CS
DE
ES
FR
HU
IT
PL
PT
РУ
SK
TR
УК
AR
中文
