Ley de IA de la UE: Lo Que Necesitas Saber para Cumplir

Riesgo Inaceptable (PROHIBIDO) — Sistemas de IA que manipulan el comportamiento humano, explotan vulnerabilidades, permiten la puntuación social por gobiernos o usan identificación biométrica remota en tiempo real en espacios públicos. Están totalmente prohibidos.

Alto Riesgo — Sistemas de IA usados en infraestructura crítica, educación, empleo, aplicación de la ley, migración y servicios esenciales. Requieren evaluaciones de conformidad, supervisión humana, gobernanza de datos, transparencia y registro en la base de datos de la UE. Ejemplos: herramientas de contratación con IA, sistemas de puntuación crediticia.

Riesgo Limitado — Sistemas de IA que interactúan con personas (chatbots, IA de atención al cliente). Deben revelar que el usuario está interactuando con IA. También deben etiquetar contenido generado por IA (deepfakes, texto sintético). Aquí es donde cae la mayoría de la IA de atención al cliente.

Riesgo Mínimo — Sistemas de IA como filtros de spam, IA en videojuegos o gestión de inventario. Sin requisitos regulatorios, aunque se fomentan códigos de conducta voluntarios.

Si despliegas chatbots o agentes virtuales de IA para atención al cliente en la UE, esto es lo que necesitas:

1. Divulgación de IA — Los usuarios deben ser claramente informados de que están interactuando con un sistema de IA. Esto es obligatorio bajo las obligaciones de transparencia. Un banner simple o mensaje introductorio es suficiente.

2. Escalación Humana — Aunque no es estrictamente requerido para sistemas de riesgo limitado, proporcionar una vía a un agente humano se considera mejor práctica y puede ser requerido si la IA maneja quejas o toma decisiones que afectan los derechos del cliente.

3. Mantenimiento de Registros — Mantén logs de interacciones de IA, versiones de modelos y cualquier incidente. Esto apoya tanto el cumplimiento como la gestión de calidad.

4. Etiquetado de Contenido — Si tu IA genera contenido sintético (emails, respuestas), debe ser identificable como generado por IA.

GuruSup está diseñado con el cumplimiento de la Ley de IA de la UE en mente: divulgación automática de IA en conversaciones, escalación humana configurable, registros de auditoría completos de interacciones y dashboards de transparencia.