#41 La IA generativa entra a jugar en lo público
IAG, en castellano acronimesco con propiedad.
A finales de noviembre, la AEPD publicó su política de uso interno de Inteligencia artificial generativa. Nos indican que la van a meter por todos lados, pero aquí nos preguntábamos si aguantaría la comparativa con las orientaciones revisadas que el EDPS impone a las instituciones europeas sobre cumplimiento del RGPD de estos sistemas. La del EDPS es más técnica y la de la AEPD es más de gobernanza, pero no va mal compararlas.
Claro, la gracia suprema es que la propia IA compare el uso adecuado de IA con IA supervisada y revisada para que no flipe.
Le hemos preguntado a Claude, y saca que no va mal la AEPD: 85% de compatibilidad, aun cuando no es uno de los documentos que la AEPD cita como fuentes en su apartado final de biblio (sí ha tenido en cuenta dos específicos del EDPS, en su negociado de Tech Dispatch: Human Oversight of Automated Decision-Making y Large language models (LLM).
El tiempo es el que dirá, pero que nada quite que se agradece a la AEPD ser transparente en el uso que pretende darle a una tecnología que se puede descontrolar fácil.
Principios o elementos del doc del EDPS que aplica el del AEPD:
Definición clara de propósitos - ✅ Implementado - Cada caso de uso requiere descripción extendida y análisis de impacto.
Roles y responsabilidades ✅ Implementado - Se definen los de Responsable en la organización, responsables funcionales, técnicos, DPD, Responsable IA.
Evaluación de impacto (DPIA) ✅ Implementado - Se contempla EIPD cuando proceda según RGPD.
Minimización de datos ✅ Implementado: - Referencia específica a minimización y configuración de acceso limitado.
Exactitud de datos ✅ Implementado - Política de diseño que incluye verificación y validación de resultados.
Transparencia ✅ Implementado - Política de transparencia y de explicabilidad: documentación, trazabilidad, información visible al usuario.
Seguridad de datos ✅ Implementado - Política de ciberseguridad: categorización ENS, controles específicos para generativa.
Supervisión humana ✅ Implementado - No habrá decisiones automatizadas sin supervisión humana efectiva.
Registros de tratamiento ✅ Implementado - El EDPS se refiere a la del RAT del RGPD alternativo de las instituciones UE (Reglamento 2018/1725), pero sí se hablan de registro.
Derechos individuales ✅ Implementado - Se mencionan aunque sin desarrollo exhaustivo.
Gobernanza estructurada ✅ Implementado - Modelo de gobernanza con roles definidos y procedimientos.
Los que referencia a medias
Clasificación desarrollo vs despliegue ⚠️Parcial - La AEPD distingue fases pero no con la misma terminología que el EDPS.
Web scraping ⚠️No lo menciona explícitamente, aunque podría considerarse el general de tendencias o patrones en información abierta (puede que analizando esta newsletter)
Modelos anónimos⚠️No profundiza - La AEPD no analiza criterios para considerar los modelos como anónimos, sino que referencia el punto importante de que habrá que anonimizar.
Consentimiento como base legal ⚠️Tratamiento diferente - El EDPS desaconseja fuertemente; pero la AEPD no entrar a valorar el tema de las bases.
Transferencias internacionales ⚠️No menciona - El EDPS dedica sección, pero la AEPD, nop. Lo menciona, pero como parte de algo en lo que podría aplicar IA: “solicitudes de acuerdos de transferencias internacionales”.
Derechos de rectificación/supresión ⚠️Poco desarrollado - El EDPS profundiza en dificultades técnicas, pero la AEPD menciona sin desarrollar.
Sesgos y discriminación ✅/⚠️Identificado como riesgo - La AEPD lo identifica como amenaza, pero con desarrollo menos detallado que EDPS.
Alucinaciones⚠️ Mención indirecta - La AEPD lo aborda como “ineficacia de sistemas”.
Los puntos del EDPS no tratados por la AEPD:
Guía específica sobre outputs con datos personales: el EDPS distingue responsabilidades según origen del dato en output.
Técnicas específicas de anonimización en training data: El EDPS menciona privacidad diferencial, mientras que la AEPD lo referencia de manera más general para “reducir la posibilidad de memorización de datos personales
en el modelo”.
Red teaming: El EDPS menciona, pero la AEPD, nop. Isabel Barberá, calienta que sales.
Model inversion attacks: EDPS lista amenazas específicas de IAG; AEPD más genérico.
Prompt injection y jailbreaks: el EDPS menciona explícitamente y la AEPD pasa más de puntillas con referencias indirectas en castellano
RAG (Retrieval-augmented generation) y riesgos específicos: Ambos mencionan pero el EDPS es más detallado. La AEPD inciden en apuntalar seudominización y anonimización, y en que estos RAG pueden permitir agilizar los canales de consulta, joven y DPD. Los típicos agent que se empiezan a ver en formularios de consulta para que casi respondan a lo fácil de contrastar con base de datos, autónomamente.
Si tuviéramos que señalar la parte más floja, sin duda sería la más difícil hoy por hoy: la de la supervisión humana efectiva. La política de la AEPD incluye contundentes declaraciones excluyendo decisiones automatizadas del art 22 RGPD e “implementando los sistemas IAG en procesos de AEPD de forma que no quede margen de duda en la aplicación del párrafo anterior”.
Pero eso, mi Ciela, sale gratis. Uno esperaba que la AEPD se mojara en lo que nos estamos mojando por aquí: en cifrar en las políticas nuestras medidas concretas no sólo para que el proceso no culmine sin supervisión humana, sino para que un tercero independiente pueda comprobar que ha sido efectiva, que el supervisor pueda valorar y mitigar los sesgos del sistema y los suyos propios en el manejo de la herramienta y que todo quede registrado y la info se pueda recuperar para acreditar y mejorar el funcionamiento del sistema.
Dicho esto, hay que valorar muy positivamente la valentía de la Agencia por hacer lo que, de momento, muy pocos han hecho.
Ni que decir tiene que esta última parte no la ha escrito Claude. Se nota, ¿no? ¿eh?
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas en protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
🗞️Noticias del Mundodato 🌍
.- Por el ICO van a investigar un rato determinados videojuegos de móvil (mobile gaming), y ya era hora. Parece que las autoridades van pillando que este segmento de videojuegos son el número 1 en uso de todo tipo de patrones adictivos y engañosos. El modelo de negocio del Free to Play, llama a que el retorno económico del jugador sea por micropago puro.
Se van a centrar mucho en la casi nula verificación de edad, pero veréis cuando descubran el punto de la dificultad dinámica, aka te la subo o bajo según vea si te frustras hasta irte (rage quit) o es proclive a pagar para pasar el nivel. Los británicos tendrían fácil detectar este tratamiento con finalidad no muy legítima, porque en 2019 ya se lo sacaron a uno de los CEOs en atropello y fuga parlamentaria.
.- El TJUE se marca un Fashion ID 2.0 con su resolución Russmedia Digital (C-492/23). El mismo núcleo y conclusión de que a la entidad detrás de un marketplace es el responsable del tratamiento de los datos personales contenidos en los anuncios generados y publicados por sus usuarios.
En particular, incidiendo en las medidas apropiadas para comprobar antes de su publicación los que pudieran contener datos sensibles y la legitimación adecuada para su uso (haciendo mención expresa a la más probable excepción del 9: consentimiento explícito. Enlace a la nota de prensa, a la resolución, y al vídeo publicado por el TJUE explicando el fallo en corto (primera vez que vemos que publiquen algo del estilo por LinkedIn).
Mucho más detalle esta importante resolución del TJUE en la newsletter especial que sacamos el viernes de la semana pasada:
.- El primer gran guantazo de la CE por la DSA va para……..Elmo. Tampoco podía ser de otra manera con el gurú que se fundió al equipo de compliance y protección de datos, en cuanto dejo tirado en algún sitio el lavabo que llevaba de complemento.
120 millones por el patrón engañoso del check de verificación para usuarios (puede que por eso saltara sin aviso gente diciendo que le había devuelto el verificado clásico sin pagar), falta de transparencia y accesibilidad en el ecosistema de repositorio de anuncios, puteo por diseño y por defecto para hacer de barrera de control en anuncios, y por no proporcionar a los investigadores acceso a los datos públicos.
Ahora toca la pataleta de X en los 60 días y 90 días para presentar medidas y plan de acción para subsanar.
.- La AEPD lanza su laboratorio con muchas cositas y entre ellas… un blog. ¿Sabías que puedes presentar posts para su publicación? Pues ya lo sabes: éstas son las normas de política editorial.
.- Recuerda que ayer pedimos tu colaboración para elegir los premios LOLPD 2025 y para que nos ayudes a moldear mejor nuestras formaciones para el próximo año.
Obviamente necesitarás suscribirte primero a la newsletter para acceder al descuento (más que nada, para que sepamos quién eres).
📄Papers de la semana
.- Ultra novedad de ayer que entra lamiendo el poste en esta edición: un paper-valoración sobre el GPC o Global Privacy Signal (explicado a lo gordo: el standard “Do not track” patrocinado por la Comisión Europa para que tu navegador pueda decir sí o no automatizadamente al uso de cookies). Lo grasioso del paper es que viene firmado por algo así cómo los Avengers de la privacidad europea: ni más ni menos que Sebastian Zimmeck, Harshvardhan Pandit Frederik Zuiderveen Borgesius, Cristiana Santos, Konrad Kollnig y Robin Berjon. No están todos los que son, pero son todos los que están.
Dos papers, dos, de Philippe Hacker:
.- ¿Te puedes hacer pupita modificando las finalidades sustanciales de un modelo de AI de propósito general? La detallada respuesta a ésta y muchas otras preguntas aquí: The regulation of fine-tuning: Federated compliance for modified general-purpose AI models.
.- Un approach crítico sobre el Digital Omnibus pero bastante más aperturista que el de NOYB y todos esos expertos que no curran y tienen tiempo para escribir sobre propuestas legislativas, aquí: (de nuevo Hacker y Robert Killian) “Simplifying” European AI Regulation: An Evidence-based Study.
📖 Documentos dateros muy cafeteros ☕️
.- Nos cuenta Adrian Todolí que el Tribunal Supremo ha declarado que un ciberataque puede considerarse fuerza mayor a efectos de justificar un ERTE. El suceso debe ser imprevisible, inevitable y ajeno a la voluntad empresarial. Por tanto, sólo en casos extremos, donde la empresa demuestra diligencia y falta de negligencia, un ciberataque podría tener tal consideración.
.- El recopilatorio con formato amigable de Noyb sobre el Omnibus oficial después del filtrado que se nos vino. Prometen más cosas, pero no es mal documento para tener a mano los cambios principales en estilo antes y después + intento de ejemplo del aterrizaje de esos posibles cambios en el mundo real. Se vendrán mil recopilatorios parecidos.
💀Death by Meme🤣
🤖NoRobots.txt o Lo de la IA
.- La nueva AI Office europea nos ha obsequiado con una herramienta de posible denuncia ante cualquier vulneración que veamos del RIA. Muy del estilo de cualquier formulario de whistleblowing que seguro que os ha tocado revisar y ajustar (hasta con proveedor conocido por detrás): en su versión identificada, y en su versión de posible presentación anónima.
Si el punto es la denuncia anónima porque sip, ¿Qué pinta el que puedas desmarcar la casilla?. ¿Y que luego salte una frase que suena más a descarga de responsabilidad que a amable petición de que la actives?.
En la política de confidencialidad se dice una y otra vez que nada de data, pero ¿y no podría darse la posibilidad de tener que solicitarlo en casos excepcionales?. El mismo punto que se tiene en cuenta en cualquier canal de denuncias.
.- También nos dan otro formulario interactivo/herramientas sin mucho desarrollo técnico (AI Act Compliance Checker), para que te saque el nivel de riesgo y principales obligaciones que te aplicarían del RIA, según vayas marcando si eres un LLM o no, provider, uso general…… Curiosa para no ir siempre al texto.
-. El EDPS ha presentado un mapeado de la IA por lo público. No es el gran documento en que se puede aprender nada técnico, pero arroja datos curiosos. Lo más interesantes por el salseo, los dos siguientes:
Lo segundo que más se va moviendo por el uso en materia de selección y gestión de personal, aun cuándo el EDPS se esperaba top 1 y top sistemas de control migratorio y enforcement.
Que lo más usado sean “otras técnicas de machine learning”, sin contarnos con más detalle a qué se refieren. Lo segundo, la propia generativa.
🙄 El chorradón final
¿Todavía no os habéis encontrado con el típico proveedor top tier que va hasta arriba de certificaciones de IA? Todo ese maravilloso, hasta que te llega una autoridad a hacerte un TikTok.
Gran película La Muerte de Stalin, por cierto.
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.