Un mundo digital sin sesgos, más seguro e inteligente en el futuro

La inteligencia artificial (IA), la robótica y el internet de las cosas (IdC) están transformando nuestro mundo de forma acelerada. Sin embargo, todavía queda cierto camino por delante antes de poder aprovechar plenamente el potencial de estas tecnologías. Todavía deben superarse los retos complejos relacionados con el rendimiento y la fiabilidad de los sistemas digitales.

Con la vista puesta en un mundo más conectado y de confianza, los proyectos financiados con fondos europeos ALOHA, ENACT y PDP4E están abordando la cuestión de los sistemas del IdC inteligentes y seguros desde distintos ángulos. ALOHA se centra en el aprendizaje profundo; ENACT, en un IdC más inteligente, y PDP4E, en una mejor protección de la intimidad y los datos personales.

Según Otto Berkes, responsable tecnológico de CA Technologies, un socio de los tres proyectos, en una entrevista de «Robotics Business Review»: «Para materializar la gran promesa de un mundo basado en el IdC, debemos resolver unos retos complejos. Estos obstáculos deben superarse antes de poder ofrecer unos sistemas del IdC que proporcionen datos valiosos y fiables, que sean adaptables y estén abiertos a las nuevas tecnologías; unos sistemas que todavía no se han inventado».

Hacia una IA ética y sin prejuicios

Existen muchos ejemplos de sesgos involuntarios en los modelos de IA —desde cuentas fantasmas racistas de Twitter hasta resultados indeseados de Google— derivados de los datos en que se basan los algoritmos. En IA, se utilizan los algoritmos de aprendizaje profundo para crear modelos que pueden analizar los datos de forma similar a la lógica humana. Con la ayuda de este tipo de algoritmos, ALOHA tiene por objeto investigar cómo las aplicaciones del IdC pueden aprender de la experiencia y sacar conclusiones de forma muy similar a cómo lo harían los humanos. La investigación llevada a cabo se centrará en crear una IA más imparcial y ética.

Hacia unos sistemas conectados más inteligentes

Cuando los sistemas, los dispositivos y las aplicaciones del IdC funcionan en entornos potencialmente hostiles en los que la exposición a los ciberataques o las condiciones adversas es una posibilidad, protegerlos y mantenerlos no es tarea fácil.

ENACT está desarrollando ideas innovadoras para las nuevas herramientas necesarias para crear y vigilar sistemas del IdC inteligentes y resistentes que sean fiables en escenarios que no se anticiparon durante el proceso de desarrollo del «software». Berkes escribe en el sitio web de CA Technologies lo siguiente: «Por ejemplo, dos dispositivos de un tren inteligente pueden compartir información crítica en un canal sin cifrar. La detección temprana de esta vulnerabilidad puede evitar retrasos en el desarrollo del “software” derivados de los esfuerzos por proteger el sistema».

Además, el proyecto analizará el autodiagnóstico basado en IA para el funcionamiento inteligente, que permitirá que los trenes detecten anomalías y prevean y eviten situaciones críticas. Además de los sistemas de transporte inteligente, ENACT probará sistemas del IdC en otros dos ámbitos: la sanidad electrónica y los edificios inteligentes.

Hacia una mejor protección de la intimidad y los datos

El Reglamento general de protección de datos (RGPD) que acaba de entrar en vigor se ha concebido para proteger la intimidad de todos los ciudadanos de la UE y reformular la forma en que las organizaciones de toda Europa enfocan la confidencialidad de los datos. PDP4E desarrollará métodos y técnicas para ayudar a los ingenieros de «software» a elaborar un código que cumpla el RGPD y otros reglamentos.

Los tres proyectos se iniciaron durante la primera mitad de 2018. ALOHA (software framework for runtime-Adaptive and secure deep Learning On Heterogeneous Architectures) y ENACT (Trustworthy and Smart Actuation in IoT systems) deberían concluir a finales 2020, mientras que PDP4E (Methods and tools for GDPR compliance through Privacy and Data Protection Engineering) acabará en enero de 2021.

Para más información, consulte:
Sitio web del proyecto ALOHA
Sitio web del proyecto ENACT
Página web del proyecto PDP4E en CORDIS