Existe una creciente necesidad de desarrollar una IA ética, fiable y explicable, que incorpore principios éticos desde su diseño. La organización AI4People propone ocho principios clave para aplicar la ética en sistemas de IA:

1. Transparencia y Explicabilidad. Los sistemas de IA deben ser comprensibles para los usuarios y proporcionar explicaciones claras.
2. Equidad y No Discriminación. Evitar que la IA perpetúe sesgos y asegurar que los datos representen a diversos grupos.
3. Rendición de cuentas. Garantizar auditoría y mejora continua, con responsabilidades legales claras.
4. Seguridad y Protección. Asegurar el funcionamiento fiable y proteger contra amenazas externas.
5. Privacidad. Obtener el consentimiento de los usuarios y proteger su información personal.
6. Control Humano sobre la Tecnología. Permitir la intervención humana en decisiones automatizadas.
7. Responsabilidad Profesional. Diseño ético, integridad científica y colaboración entre partes interesadas.
8. Promoción de Valores Humanos. Beneficiar a la sociedad, promoviendo justicia, igualdad y dignidad.

Estos principios muchas veces quedan en un plano teórico, por eso me ha interesado tanto el artículo:

Requirements Analysis for Responsible Explainable AI for Pediatric Sleep Apnea Diagnosis (Quemada-López et al., 2024)
🔗 https://ieeexplore.ieee.org/document/10595654/

El artículo aterriza estos principios en el diseño de un sistema de IA en un entorno tan crítico como el sanitario. Combina aspectos éticos con requisitos funcionales, identificando hasta seis tipos de explicaciones que puede dar un sistema IA (computacionales, mecanicistas, justificativas, causales, informativas, y de advertencia). Este último tipo de explicación me ha parecido especialmente relevante ya que pone el foco en la incertidumbre que puede arrojar los resultados de la IA. Estos sistemas siempre actúan con un margen de confianza que es necesario explicitar para una correcta interpretación de los resultados.