Política de uso responsable y ético de la Inteligencia Artificial (IA)
Introducción
En Uphint, nuestro objetivo es establecer los principios, directrices y responsabilidades para eldesarrollo, integración y uso de tecnologías de Inteligencia Artificial (IA) en nuestros productos yservicios. Buscamos garantizar el cumplimiento legal, la seguridad de la información y los principioséticos, en línea con la normativa vigente en España y la Unión Europea.
Esta política aplica a todo nuestro personal interno, colaboradores externos, proveedores tecnológicos y usuarios que intervengan directa o indirectamente en el diseño, entrenamiento, validación, implementación o uso de sistemas de IA en nuestros productos.
Principios Rectores
- Legalidad y cumplimiento: Nos comprometemos a que todo sistema de IA respete la legislación vigente, con especial atención al RGPD, asegurando la base legal para el tratamiento de datos personales, la transparencia del tratamiento automatizado y el respeto a los derechos de los interesados.
- Transparencia y explicabilidad: Garantizamos que nuestros sistemas de IA sean comprensibles para sus usuarios. En los casos de toma de decisiones automatizadas, informaremos adecuadamente a los usuarios y les brindaremos la posibilidad de solicitar revisión humana.
- Responsabilidad: Definimos claramente la responsabilidad sobre el diseño, entrenamiento, mantenimiento y decisiones tomadas por sistemas de IA. Supervisamos periódicamente cada sistema para evaluar su comportamiento y corregir sesgos.
- Seguridad de la Información y Gestión de Riesgos: Nuestros sistemas de IA están sujetos a las políticas y controles establecidos por nuestro Sistema de Gestión de Seguridad de la Información (SGSI). Realizamos análisis de riesgos específicos para cada modelo o solución de IA, incluyendo pruebas de robustez, protección contra manipulación de datos (data poisoning) y ciberataques.
- No discriminación y equidad: Garantizamos que nuestros algoritmos no reproduzcan ni amplifiquen sesgos o discriminaciones. Implementamos mecanismos para detectar y mitigar sesgos en los conjuntos de datos y en el entrenamiento de modelos.
- Supervisión humana: Toda IA implementada por Uphint cuenta con mecanismos de supervisión humana en su funcionamiento, especialmente en casos de impacto significativo sobre los derechos de las personas.
- Minimización de datos: Nuestros modelos solo procesan los datos estrictamente necesarios, respetando el principio de minimización del RGPD. Evitamos el uso de categorías especiales de datos personales salvo base legal explícita.
- Colaboración: Se promoverá la colaboración entre distintos actores, como gobiernos,empresas, académicos y la sociedad civil, cuestión esencial para abordar los desafíos éticos de la IA de manera efectiva. La cooperación entre entidades públicas y privadas es clave para establecer estándares y regulaciones éticas.
Evaluaciones de Impacto de IA
Antes del desarrollo o implementación de sistemas de IA de alto riesgo, realizamos una Evaluación deImpacto en materia de Protección de Datos y una Evaluación de Impacto en Ética de la IA. Dichas evaluaciones son revisadas y validadas por nuestro Responsable de Protección de Datos.
Supervisión y Revisión
Revisamos esta política al menos una vez al año o ante cambios regulatorios relevantes. Auditamos internamente el cumplimiento y lo integramos a nuestro sistema de gestión de seguridad de la información (SGSI).
Los datos procesados por la IA no se utilizan para entrenamiento ni se almacenan permanentemente. Además, las imágenes se procesan de forma segura bajo políticas de privacidad y retención de datos estrictas. Si es necesario, podemos anonimizar cualquier información sensible antes de enviarla.