Why Bans Fail: Tipping Points and Australia’s Social Media Ban de Leonardo Bursztyn, Angela Duckworth, Rafael Jiménez-Durán, Aaron Leonard, Filip Milojević, Christopher Roth y Cass R. Sunstein.

Nos han deleitado a todos con sus conclusiones sobre el éxito que está teniendo la prohibición australiana de acceso a redes a menores de 16 años. Organizado a través de una encuesta realizada a 507 adolescentes que quieren hacerse los malotes por enfrentarse al orden establecido, y con conclusiones esperables y maravillosas:

• Sólo uno de cada cuatro (27%) adolescentes de 14 y 15 años cumple con la prohibición cuatro meses después de su entrada en vigor.

• El 75% de los adolescentes (je: el resto) considera que saltarse las restricciones es “fácil” o “muy fácil”. A saber: meter fecha de nacimiento falsa al registrarse (44 %), mentir sobre la edad en las solicitudes de verificación (57 %), utilizar la cuenta de un padre o un hermano mayor (42 %) y redirigir el tráfico a través de una VPN (30 %).

• La prohibición empezará a desplegar efecto sólo si hay una masa crítica suficiente de usuarios que la cumplen. Lo de siempre de poner puertas al campo, o de “la vida siempre encuentra su camino”.

• Que el 52% considera que el menor que lo cumple es un pringao. Insertar meme Made in Spain de “fumo para hacerme el chulo”. Y que los influencers que tienen las redes como principal entretenimiento (y fuente de casito) hacen ni se plantee limitar el acceso a redes.

• Que el 25% ha recibido ayuda de un padre, hermano mayor u otro adulto para mantener o recuperar el acceso a sus cuentas. La que ya comentamos de la madre australiana a la que le hizo gracia que la niña se lo saltara poniendo una foto suya. La supervisión parental también tiene que ser dirimente y no de #LOL.

• Los que cumplen informan aspectos positivos como menos presión y más tiempo con la familia, pero al precio de aburrirse y estar desconectados de su entorno.

• El 72% preferiría aplicaciones con límites de tiempo integrados en lugar de una prohibición total. Lo que hizo China restringiendo tiempos de juego durante el fin de semana, pero sin abusar de la mayor posibilidad de imposición de por allí (vamos a llamarlo así).

• Que el incumplimiento es mayor a los 15 años (68.3%) que a los 14 años (57.1%). La mayor necesidad social.

Aviso para todos nosotros, argonEUtas.

El libro “Irresistible” de Adam Alter describe un experimento que nos da más pistas sobre las dificultades de quitarte cualquier cosa de la cabeza: el problema, según es que la supresión necesita alternativas.

Sabes lo que debes evitar, pero no sabes con qué ocupar tu mente en su lugar.

Cuando se pidió a un grupo de trabajo que tocaran una campanilla cada vez que pensaran en un oso blanco (el objeto de la prohibición), las campanitas no dejaron de sonar. Cuando, en cambio, les dijo que podría ayudarles pensar en un Volkswagen rojo en su lugar, sus campanas se activaron la mitad de las veces. La supresión sola no funciona pero la supresión combinada con la distracción sí lo hace bastante bien.

Lo más interesante es que, cuando luego se les dio permiso para pensar en el oso blanco, aquellos que habían tenido dificultades para suprimir sus pensamientos antes quedaron consumidos por la imagen del oso blanco. Era todo lo que podían imaginar.

Mientras tanto, las personas que recibieron una distracción en forma del coche rojo pensaban en el oso blanco ocasionalmente- pero también tenían muchas otras ideas.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

“Aplica la doctrina Scania en la práctica”: segunda edición en Junio

Este mes de junio (los tres primeros lunes) volvemos con nuestra formación presencial, online y socrática sobre la teoría y aplicación en la práctica de la doctrina SRB / Scania.

Todos los detalles aquí, apúntate pinchando en el botón.

ME INTERESA

“Confío en que pequeños fragmentos de información, compartidos con diferentes servicios (hoy, o agentes, mañana) no serán agregados y correlacionados para crear un modelo inapropiadamente invasivo de mí como individuo, violando mi privacidad“

Esta es una de las clásicas premisas de confianza formuladas por Benjamin Kuipers en el “Oxford Handbook of Ethics of AI” en 2020 como una más de las leyes de la robótica al estilo de Isaac Asimov.

Pero las reglas están hechas para romperse y Frank Pasquale acuñó el concepto de “efecto mosaico” hace una década sobre esa fractura. Un imperio de tamaño inaudito se contruyó combinando y comercializando todas esas miguitas de información en perfiles específicos a cada finalidad.

Perfiles que nunca se han usado a favor del interesado (como pretendían las inocentes “premisas” de Kuipers), sino en contra. Cada vez.

En la era de la IA agéntica es obligatorio volver a citar a Choudary y su libraco “Reshuffle”:

“Esta es la promesa definitiva del reshuffling impulsado por IA. En lugar de simplemente vincular herramientas entre sí, la IA da sentido a todos los insights que recopila a través de correos electrónicos, llamadas de ventas, contratos y datos financieros, y los teje en una narrativa coherente. Conecta los puntos, determina cuál debe ser la imagen y rellena los detalles que faltan.

La ejecución agentica refuerza la coordinación sin necesidad de consenso.

Una vez la IA ha reagrupado la información fragmentada en una representación compartida, los agentes pueden actuar sobre esa representación de manera autónoma, activando seguimientos, actualizando tareas o escalando riesgos, sin esperar a la ejecución humana. De esta manera, esa representación unificada permite decisiones y ejecuciones unificadas, lo que a su vez permite la coordinación. La coordinación, por su parte, da lugar al control. Cuanto más dependan los equipos de la capa de IA para ver, decidir y actuar, mayor poder tendrá esa capa en el ecosistema.

Este mismo principio es el que formulan los Nazgûls de Palantir, sólo que en términos más propios de su dialéctica dictatorial sauroniana.

Por supuesto, seguimos hablando del estudio que desveló el lunes pasado que la última fuente de datos para completar nuestros perfiles es precisamente nuestras conversaciones con Perplexity, ChatGPT, Grok y Claude.

🗞️Noticias del Mundodato 🌍

.- Este hilo de Andrew Guthrie Ferguson explica un interesante caso a punto de ser juzgado en los EEUU: ¿Los datos de Google pueden usarse contra una persona cuando activó servicios de historial o el almacenamiento de ubicación fina?. Interesante combo de validez del consentimiento a un servicio , licitud de prueba en el ámbito penal y expectativa de privacidad. Lo relevante ya no es si Google conserva tus ubicaciones, sino si es aceptable que el consentimiento a una función distribuida entre varios productos (conveniencia) pueda convertirse, llegado el caso, en una renuncia a garantías constitucionales básicas.

.- La DPC se va por Shein en tema de transferencias internacionales a China. A ver lo que cambia sobre el caso de TikTok de los 530 millones, pero ¿es posible probar de verdad que nada se manda ni se accede desde la China cuartel general?. ¿Cuánto de calco vamos a tener de la de TikTok?. Muchas preguntas. ¿volverán a lanzar varios informes de rutilantes despachos sin firmar? ¿Se autorreferenciará la DPC sobre que el consentimiento explicito excepcional del 49 es complicado?

The DPC finds that the requirement that consent be “explicit” and that it relate to “the proposed transfer” precludes a single consent being obtained for continuous and ongoing data transfers and/or different sets of transfers. The DPC is also of the view that seeking a single open-ended consent for continuous and ongoing data transfers and/or different sets of transfers is not compatible with the obligation to inform the data subject of the possible risks of the transfers being made.

Nota a pie friki: no olviden que tenemos a un organismo internacional entre las decisiones de adeucación en vigor desde 2025: la Organización Europea de Patentes. Aquello del 45.1 de “a un tercer país u organización internacional”.

Justo del tema de TikTok, le vemos a San Luis Montezuma las dos resoluciones de los dos jueces que resuelven el recurso de la DPC para no paralizar la suspensión. Nos perdemos en que haya dos resoluciones de dos jueces distintos que se complementan, pero desestiman el recurso de la DPC para que se alce la suspensión cautelar de la aplicación de la sanción. Y que nada de tener que preguntar TJUE, o que el hecho de que sea actuación coordinada con otras autoridades implique aplicar criterios concretos (que el RGPD determina que la autoridad principal es la que tiene la decisión final.

.- De la Newsletter de Lukasz Olejnik:

.-Desde Noyb llega una curiosa. El incentivo/práctica poco ética de LinkedIn de ocultarnos parte de los visitantes que han consultado nuestros perfiles, tiene su efecto mariposa en el ejercicio de derecho de acceso. Aquí parece que se da la paradoja comercial de que LinkedIn te suelta toda la info sin ejercicio de derecho ninguno si pagas el premium (te lo muestra), pero se pone exquisito por el 15.4 si lo pides como ejercicio de derecho de acceso.

Noyb apunta a que por el 15.4 podría argumentar que sólo dan lo de aquellos que haya decidido no mostrarse visibles para otros usuarios, pero con el problemita de que incentivan que nadie esté en modo “anónimo” por caparte visibilidad. No es la primera corpo que se columpia sobre el 15.4, pero veremos cómo acaba.

📖 Documentos dateros muy cafeteros ☕️

.-La UE mete el acelerador con recomendación para la implantación de verificación, tras la solución técnica de verificación. Va a ser una mitad y final de año curioso: 30 de junio como fecha máxima para que los estados miembros presente el Plan Nacional de Implementación (PNI) detallado a la Comisión Europea, y 31 de diciembre para que esté disponible, al menos, una solución de verificación de edad basada en la “blueprint UE”.

Por el camino, elaboración de un listado de proveedores que la CE considere adecuado, y publicación para el mismo verano del informe de recomendaciones del Grupo Especial sobre la seguridad infantil en Internet.

La Comisión Europea lo destaca como medida necesaria para asegurar el cumplimiento adecuado de la DSA. La misma DSA de la que nuestra CNMC no ha sido nombrada autoridad relevante a sus efectos.

Y el miércoles, o sea ayer, se celebró comparecencia en la Comisión LIBE para tratar este tema. Con nuestra AEPD, la CNIL o EDRi. Que no se note la prisa de todo el mundo.

.- Las demandas colectivas contra la BigTech se abren camino en Italia. Milán abre camino a la Directiva 2020/1828 al admitir una class action contra Meta por el data scraping que habría afectado a unos 533 millones de perfiles. Ya saben: demandas interpuestas por entidades autorizadas sin basarse en legitimación individual y daños no patrimoniales basados sólo en miedo o pérdida del control de los propios datos.

.- El libro de Paddy Leerssen, Joris van Hoboken, Gabriela Trogrlić, Iris Toepoel resume varias actuaciones que tratan de hacer valer en la jurisdicción civil de estados miembros los artículos 14, 35 y 25 de la DSA . La mejor vía quizá no sea el riesgo sistémico, demasiado vago, sino la de los dark patterns. Pero qué sabré yo.

.- El Institute for the Future of Work nos advierte de cómo la información y datos personales capturados en la oficina se han convertido en un activo estratégico. Cuando los modelos de IA campan a sus anchas en SaaS, agentes y flujos empresariales pueden capturar know-how tácito, procesos y decisiones capaces de ayudarte automatizando procedimientos, pero también de dejarte competitivamente en la cuneta: estás regalando el plano de tu moat competitivo. La soberanía no se limita hoy a chips o modelos nacionales, requiere cuidar la cadena de valor completa, y armonizar protección de datos, IP, knowhow empresarial, empleo y competencia.

.- En la misma línea, el artículo de Ellen Cushing en The Atlantic: La vigilancia laboral captura ahora e interpreta emociones, no solo productividad. Al menos en USA. La industria de emotion AI se engancha a los pipelines de tu ofi para tragarse e interpretar vídeo, audio, chats o emails para inferir atención, ánimo, actitud y rendimiento. La barrera de entrada es casi nula, las promesas ilimitadas y el riesgo de que incluyan datos de clientes y terceros (y de currelas propios, claro) sin base legítima, del 120%. Ya luego, está esa prohibición por el Reglamento de IA.

💀Death by Meme🤣

Banksy ha puesto una estatua en Londres y, al parecer, la gente no lo pilla.

🤖NoRobots.txt o Lo de la IA

.- Puede que se venga orden ejecutiva sobre supervisión gubernamental de modelos de IA. Lo irónico es que Trumpo tumbó la orden ejecutiva de Biden que obligaba a los modelos que pudiera implicar un riesgo en seguridad nacional, economía o salud pública a presentar los informes y pruebas de seguridad realizadas de manera interna.

Se apunta a que el nuevo Mythos de Anthropic tiene el potencial de identificar vulnerabilidades de seguridad y cómo explotarlas, pero nunca es descartable lo de siempre: vendetta para Antropic por no pasar por el aro y que sea Estados Unidos el exclusivo para ciberatacar a los chinos, rusos y quién sea.

Precisamente, en Mythos puede haber una brecha de seguridad de confidencialidad por acceso no autorizado. Lo han publicado muchos medios, pero no termina de confirmar si sip.

.- El juicio Elon Musk vs OpenAI nos está dando tardes de gloria. Y más que vendrán.

.- AI is NOT your coworker. Un largo, bien escrito y bien documentado post de Katalina Hernández con el que no puede estar más de acuerdo. Y no lo digo -sólo- por la cita que nos hace.

Herramientas útiles

Si tienes una API key con algún proveedor de IA, puedes instalarte Mike, la versión vibe code de Harvey o Legora.

Seguro: no va a ser lo mismo que Harvey o Legora, pero también es seguro que nadie te va a pedir 3000 floros/usuario/mes como ellos.

Mi opinión: no lo he probado, si en dos semanas ya han salido una docena de forks con mejoras sustanciales estoy bastante seguro de que tendremos disponible algo realmente funcional para el 27 o antes, funcionando en local.

Creemos mucho en el software open-source.

🙄 El chorradón final

¿Será la próxima película de Christopher Nolan un chorradón ? No se puede saber, pero esta entrevista estuvo divertida. En ella Nolan-tiendo dice -entre otras cosas- que la Odisea, su próxima película, es en realidad una peli de superhéroes.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Why Bans Fail: Tipping Points and Australia’s Social Media Ban Why Bans Fail: Tipping Points and Australia’s Social Media Ban by Leonardo Bursztyn, Angela Duckworth, Rafael Jiménez-Durán, Aaron Leonard, Filip Milojević, Christopher Roth, and Cass R. Sunstein.

They have delighted us all with their conclusions about the success of the Australian ban on access to social media for minors under 16 years old. Organized through a survey of 507 teenagers who want to act tough by defying the established order, with expected and wonderful conclusions:

• Only one in four (27%) teenagers aged 14 and 15 comply with the ban four months after its entry into force.

• 75% of teenagers (je: the rest) consider that bypassing the restrictions is “easy” or “very easy”. Namely: entering a false date of birth when registering (44%), lying about their age in verification requests (57%), using an older sibling’s or parent’s account (42%), and redirecting traffic through a VPN (30%).

• The prohibition will only start to take effect if there is a sufficient critical mass of users who comply with it. The old saying about “locking the stable door after the horse has bolted” or “life always finds a way.”

• That 52% consider that the minor who complies is a fool. Insert Spanish-made meme of “I smoke to act cool.” And that influencers who have social media as their main entertainment (and source of income) wouldn’t even consider limiting access to networks.

• That 25% have received help from a parent, older sibling, or another adult to maintain or regain access to their accounts. The one we already mentioned about the Australian mother who found it funny that the girl got around it by posting a picture of her. Parental supervision also needs to be decisive and not just for laughs.

• Those who comply report positive aspects such as less pressure and more time with family, but at the cost of being bored and disconnected from their environment.

• 72% would prefer applications with built-in time limits rather than a total ban. What China did by restricting gaming times during the weekend, but without overdoing it with the greater possibility of enforcement over there (let’s call it that).

• That non-compliance is higher at 15 years old (68.3%) than at 14 years old (57.1%). The greatest social need.

Note to all of us, ArgonEUtas.

The book “Irresistible” by Adam Alter describes an experiment that gives us more clues about the difficulties of removing anything from your mind: the problem, according to him, is that suppression needs alternatives.

You know what you should avoid, but you don’t know what to occupy your mind with instead.

When a group was asked to ring a bell every time they thought about a white bear (the object of prohibition), the bells did not stop ringing.

However, when they were told that it might help them think about a red Volkswagen instead, their bells rang half as often. Suppression alone does not work, but suppression combined with distraction does quite well.

The most interesting thing is that, when they were later allowed to think about the white bear, those who had struggled to suppress their thoughts before were consumed by the image of the white bear. It was all they could imagine.

Meanwhile, the people who received a distraction in the form of the red car thought about the white bear occasionally—but they also had many other ideas.

You are reading ZERO PARTY DATA. The newsletter about tech and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

“I trust that small pieces of information, shared with different services (today, or agents tomorrow) will not be aggregated and correlated to create an inappropriately invasive model of me as an individual, violating my privacy.”

This is one of the classic premises of trust formulated by Benjamin Kuipers in the “Oxford Handbook of Ethics of AI” in 2020 as one more of the robotics laws in the style of Isaac Asimov.

But rules are made to be broken and Frank Pasquale coined the concept of “mosaic effect” a decade ago about that fracture. An empire of unheard-of size was built by combining and monetizing all those crumbs of information into profiles specific to each purpose.

Profiles that have never been used in favor of the data subject (as the innocent “premises” of Kuipers intended), but against them. Every time.

In the era of agentic AI, it is mandatory to revisit Choudary and his book “Reshuffle”.

“This is the ultimate promise of AI-driven reshuffling. Instead of simply linking tools together, AI makes sense of all the insights it collects through emails, sales calls, contracts, and financial data, weaving them into a coherent narrative. It connects the dots, determines what the picture should be, and fills in the missing details.

Agentic execution reinforces coordination without the need for consensus.

Once AI has regrouped fragmented information into a shared representation, agents can act on that representation autonomously, activating follow-ups, updating tasks, or escalating risks without waiting for human execution. In this way, that unified representation enables unified decisions and executions, which in turn enables coordination. Coordination, in turn, leads to control. The more teams rely on the AI layer to see, decide, and act, the more power that layer will have in the ecosystem.

This same principle is the one formulated by Palantir’s Nazgûls, only in terms more befitting their Sauronian dictatorial dialectic.

Of course, we are still talking about the study that revealed last Monday that the latest source of data to complete our profiles is precisely our conversations with Perplexity, ChatGPT, Grok, and Claude.

World Data News 🌍

.- This thread by Andrew Guthrie Ferguson explains an interesting case about to be tried in the U.S.: Can Google’s data be used against a person when they activated history services or fine location storage? Interesting combination of validity of consent to a service, admissibility of evidence in the criminal sphere, and expectation of privacy. What is relevant is no longer whether Google stores your locations, but whether it is acceptable for consent to a function distributed among several products (convenience) to potentially become a waiver of basic constitutional guarantees.

.- The DPC is going after Shein regarding international transfers to China. Let’s see what changes in the case of TikTok’s 530 million, but is it really possible to prove that nothing is sent or accessed from China headquarters? How much of a copycat will we have from TikTok? Many questions. Will they release several reports from glossy unsigned firms again? Will the DPC self-reference that the exceptional explicit consent of Article 49 is complicated?

The DPC finds that the requirement that consent be “explicit” and that it relate to “the proposed transfer” precludes a single consent being obtained for continuous and ongoing data transfers and/or different sets of transfers. The DPC is also of the view that seeking a single open-ended consent for continuous and ongoing data transfers and/or different sets of transfers is not compatible with the obligation to inform the data subject of the possible risks of the transfers being made.

Nerdy footnote: do not forget that we have an international body among the adequacy decisions in force since 2025: the European Patent Office. That of Article 45(1) “to a third country or international organization”.

On the topic of TikTok, we see in San Luis Montezuma the two resolutions from the two judges who rule on the DPC’s appeal not to lift the suspension. We are confused as to why there are two resolutions from two different judges that complement each other but dismiss the DPC’s appeal to lift the precautionary suspension of the sanction’s application. And nothing about having to ask the CJEU, or the fact that it is a coordinated action with other authorities implies applying specific criteria (which the GDPR determines that the lead authority is the one that has the final decision).

.- From Lukasz Olejnik’s Newsletter:

.-From Noyb comes an interesting one. The incentive/unethical practice of LinkedIn to hide part of the visitors who have viewed our profiles has a butterfly effect on the exercise of the right of access. Here it seems that there is a commercial paradox where LinkedIn releases all the information without any exercise of rights if you pay for premium (it shows it to you), but becomes very particular about Article 15(4) if you request it as an exercise of the right of access.

Noyb points out that under Article 15(4) it could be argued that they only provide information about those who have decided not to be visible to other users, but with the small problem that they incentivize no one to be in “anonymous” mode by limiting visibility. It’s not the first corporation to swing on Article 15(4), but we’ll see how it ends.

📖 Hard data docs for coffeine lovers ☕️

.- The EU is stepping on the gas with a recommendation for the implementation of verification, following the technical verification solution. It is going to be a curious second half of the year: June 30 as the maximum date for member states to present the detailed National Implementation Plan (PNI) to the European Commission, and December 31 for at least one age verification solution based on the “EU blueprint” to be available.

Along the way, a list of providers that the EC deems appropriate will be drawn up, and the report of recommendations from the Special Group on child safety online will be published by the same summer.

The European Commission highlights this as a necessary measure to ensure proper compliance with the DSA. The same DSA for which our CNMC has not been appointed as a relevant authority for its purposes.

And on Wednesday, that is, yesterday, a hearing was held in the LIBE Committee to address this issue. With our AEPD, the CNIL or EDRi. Let’s not let everyone’s rush be noticed.

.- Collective lawsuits against BigTech are making headway in Italy. Milan paves the way for Directive 2020/1828 by admitting a class action against Meta for data scraping that would have affected approximately 533 million profiles. You know: lawsuits filed by authorized entities without relying on individual standing and non-pecuniary damages based solely on fear or loss of control over one’s own data.

.- Paddy Leerssen, Joris van Hoboken, Gabriela Trogrlić, and Iris Toepoel’s book summarizes several actions aimed at enforcing Articles 14, 35, and 25 of the DSA in the civil jurisdiction of Member States. Perhaps the best approach is not the systemic risk, which is too vague, but that of dark patterns. But what do I know.El libro

.- The Institute for the Future of Work warns us how information and personal data captured in the office have become a strategic asset. When AI models roam freely in SaaS, agents, and business flows can capture tacit know-how, processes, and decisions capable of helping you automate procedures but also leaving you competitively on the sidelines: you are giving away the blueprint of your competitive moat. Sovereignty is not limited today to chips or national models; it requires caring for the entire value chain and harmonizing data protection, IP, business know-how, employment, and competition.

.- Along the same lines, Ellen Cushing’s article in The Atlantic: Workplace surveillance now captures and interprets emotions, not just productivity. At least in the USA. The emotion AI industry latches onto your office pipelines to consume and interpret video, audio, chats, or emails to infer attention, mood, attitude, and performance. The barrier to entry is almost non-existent, the promises unlimited, and the risk that they include customer and third-party data (and data from your own employees, of course) without a lawful basis is 120%. Then there’s that prohibition by the AI Act.

💀Death by Meme🤣

Banksy has placed a statue in London and, apparently, people don’t get it.

🤖NoRobots.txt o Lo de la IA

.- There might be an executive order on government oversight of AI models coming up. The irony is that Trump overturned Biden’s executive order that required models that could pose a risk to national security, economy, or public health to submit internally conducted safety reports and evidence.

It is suggested that the new Mythos from Anthropic has the potential to identify security vulnerabilities and how to exploit them, but one can never rule out the usual: vendetta against Antropic for not playing ball and ensuring the United States is the exclusive entity to cyberattack the Chinese, Russians, and whoever else.

Precisely, in Mythos there may be a confidentiality security breach due to unauthorized access. Many media outlets have reported it, but it has not been confirmed yet.

.- The Elon Musk vs OpenAI trial is giving us glorious afternoons. And more are yet to come.

.- AI is NOT your coworker. A long, well-written and better-documented post by Katalina Hernández with which I couldn’t agree more. And I’m not saying this -only- because of the quote she gives us.

🛠️ Useful tools

If you have an API key with some AI provider, you can install Mike, the vibe code version of Harvey or Legora.

Safe: it’s not going to be the same as Harvey or Legora, but it’s also safe to say that no one is going to charge you 3000 florins/user/month like they do.

My opinion: I haven’t tried it, if in two weeks a dozen forks with substantial improvements have already come out I’m pretty sure we’ll have something really functional available by the 27th or before, running locally.

We strongly believe in open-source software.

🙄 Da-Tadum-bass

Will Christopher Nolan’s next movie be a piece of nonsense? It’s impossible to tell, but this interview was fun. Among other things, Nolan-tending says that Odyssey, his upcoming film, is actually a superhero movie.

Share

If you miss any document, comment, or piece of nonsense that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we will consider it for next time.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

(English versión here)

Cuando usas un chatbot de inteligencia artificial, lo normal es pensar que lo que escribes queda entre tú y tu proveedor de IA favorito.

Lo que pasa en Las Vegas se queda en Las Vegas y tal.

Y de hecho, los proveedores de IA incentivan que utilicemos sus modelos para integrarlos en nuestras decisiones diarias, para que confiemos en ellos en contextos cada vez más íntimos. Se supone que bajo esa premisa.

Pues no.

Narseo Vallina y sus compañeros de IMDEA NETWORKS lo han vuelto a hacer:

Tal y como desarrollan en esta web, en un estudio realizado en abril pasado, han descubierto cosas que posiblemente te sorprendan y te resulten perturbadoras si chateas con modelos de IA a través de web (no a través de la API).

Modelos como Perplexity, ChatGPT, Claude o Grok.

Poco conocidos. Y que nadie usa.

Te invito a que visites la web original.

Aquí lo único que voy a hacer es lo que hice la última vez (el escándalo del localhost de Meta): traducir lo que han descubierto en términos que un ciudadano lego en tecnología pueda entender.

Primero te cuento lo que han descubierto.

Segundo: te explico cómo funciona, cómo hacen estas cosas estas empresas

Por último, te doy la visión jurídica, que ha sido mi parte en todo esto: las responsabilidades que pueden y deben afrontar estas empresas.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

¿Qué han descubierto?

Las webs de estos cuatro servicios tienen puertas abiertas en sus webs que permiten a terceros acceder a tu información:

.- Grok y Perplexity: A través del pixel de Meta

.- OpenAI: A través de Google Analytics .

.- Claude: A través del Meta pixel, y las APIs de conversión de Facebook, Linkedin, TikTok, Amplitude, HubSpot, Pinterest entre otras.

Pero “no se vayan todavía: aún hay más”.

Ajústense los cinturones: esto es algo parecido -al menos para parte de los usuarios- a tener una videocámara apuntando directamente a su diario abierto de par en par.

“Bueno, lo importante es que no tengan acceso a mis conversaciones “privadas” con Claude y ChatGPT, y eso sucede ¿no? ¿NO? ¿EH?”.

También se comparte el “título de cada chat”.

Esto no es muy buena noticia: las IAs tienen la mala costumbre de generar automáticamente un título para la conversación que resume su contenido, de modo que si los títulos de las conversaciones son:

“Consejos depresión”

“Deducciones fiscales agresivas”

“ Me han puesto los cuernos ¿Qué hago?”

“Adelgazar aún más” o

“Tos rara”

… no hay que ser Sherlock Homes para inferir el contenido de la conversación.

Pero es que además la URL de tu conversación: cada conversación con tu IA favorita tiene un enlace, y ese enlace (esa URL), también se comparte con Meta y otros.

Y, como te puedes imaginar, quien tiene el enlace a “esos chats”, puede llegar a tener el guión de las últimas temporadas de tu serie favorita: la que tú protagonizas.

Depende de la configuración de privacidad de esos enlaces.

En el caso de Grok, los enlaces eran públicos por defecto en el momento del estudio y lo siguen siendo en el momento de la publicación de esta newsletter (a pesar de que hemos advertido a xAI).

Puedes comprobarlo en este vídeo:

Nada de qué preocuparse: como se ve en esta tabla, Grok (y otros proveedores) comparten estos enlaces a chats con terceros como Meta y Google.

De nuevo, te animo a que visites la web original, este post sólo pretende explicarla al ciudadano sin conocimientos informáticos.

A continuación sólo resumo una versión simplificada y más comprensible:

Dos matizaciones:

1.- El estudio sólo acredita que esos terceros citados (Meta, Google, etc…) “tienen acceso”, no que lo hayan hecho efectivo, accediendo a los datos indicados. El estudio se ha centrado en lo accesible que es lo que está en esta orilla: las webs de los servicios de IA, no en la otra.

Sin embargo, como veremos en un momento, desde el punto de vista legal, abrir la puerta a terceros que no tienen nada que ver con tu tratamiento de datos, ya constituye por sí una infracción de las gordas para los proveedores de IA.

Sobre si esos terceros han accedido o no a esos datos, bueno… cada cual tendrá su teoría aquí.

2.- El acceso concreto abierto a cada uno de esos terceros depende al 100% de la configuración permitida por OpenAI, Anthropic, xAI, Perplexity.

¿Sabes de quién NO depende en muchos casos? De ti.

Como se ve en la tabla, en muchos casos el acceso se habilita con independencia de que aceptes o no cookies, de que utilices ad-blockers, VPNs u otras protecciones en el navegador.

Unos segundos de reflexión:

Confiamos en que “nuestros pequeños fragmentos de información, compartidos (hoy) con diferentes servicios (y mañana, con agentes de IA), no serán agregados y vinculados para crear un modelo invasivo que viole nuestra privacidad.

Esta es la clásica “premisa de confianza” consagrada por Frank Pasquale hace diez años.

Premisa que es infringida millones de veces al día en el contexto adtech,

El riesgo real no está en cada una de las miguitas dispersas, sino en el “mosaico” que se forma al unirlas.

Y con los hallazgos revelados hoy, se hace patente hasta para el usuario más escéptico que la IA ha puesto sus formidables capacidades, entre otras, también a disposición de la maquinaria de la publicidad digital programática, una de las estructuras de control más poderosas de este siglo.

Explicación de la parte técnica ¿Cómo funciona todo esto?

Esta es la parte aburrida, porque a diferencia de la guarrería del localhost de Meta que fue -reconozcámoslo- una ideaca técnica -para el mal, pero ideaca técnica-, en esta ocasión OpenAI, Anthropic, xAI, Perplexity no han inventando absolutamente nada nuevo.

“URLs”, “Permalinks”

Las URLs de conversación suelen funcionar como enlaces permanentes (permalinks) con controles de acceso débiles.

En Grok, los permalinks son accesibles por defecto y los chats de invitado son siempre públicos.

En Perplexity, Claude y ChatGPT, los permalinks solo son visibles para el usuario a menos que se compartan explícitamente, pero una vez compartidos, cualquiera con el enlace puede acceder al contenido.

Explicación: Si tú copias la URL o enlace-web de una conversación con ChatGPT o Cluade y la pegas en un navegador distinto, te dará error -a menos que hayas accedido a tu cuenta con tu login y contraseña en ese nuevo navegador-.

No es eso lo que pasaba con Grok: al pegar la URL o dirección web en un navegador distinto (o en el mismo, pero en una nueva pestaña en “modo incógnito”), accedías a tu conversación. Eso quiere decir que cualquiera con acceso a esa dirección web iba a verla también. Tú, tu jefe, tu exnovia o cualquiera.

Pasando olímpicamente del consentimiento a cookies:

En los casos indicados, los rastreadores se activan independientemente de que el usuario acepte o rechace cookies no esenciales.

Por ejemplo, en ChatGPT y Grok, el envío de información a Google Analytics ocurre siempre.

En Claude el rastreo servidor-a-servidor solo se activa si se aceptan cookies no esenciales, pero el Pixel de Meta se carga con independencia de que lo consientas o no.

Cookies persistentes y Rastreo via servidor a servidor (Server-side tracking):

Las cookies no son la chorrada que la industria publicitaria ha conseguido trivializar: son como un código de barras que te tatúan en la frente. No lo ves -y las cookies persistentes no son tan fáciles de borrar-, pero te singularizan con una huella digital única entre todos los demás usuarios e internet.

En el caso de Meta (Facebook/Instagram) y TikTok, estos códigos se llaman `fbp` y `ttp` respectivamente.

Con ellas nos “marcan” como si fuéramos ganado en la feria de la BigTech.

Cada vez que visitas una página web que tiene instalado el “pixel” de Meta o TikTok, estos identificadores son leídos y enviados a sus servidores. Así, la empresa te reconoce como la misma persona que visitó una tienda de ropa ayer, leyó un artículo de noticias hoy y ahora está usando un chatbot de IA, incluso aunque no hayas iniciado sesión en Facebook o TikTok.

¿Cómo logran recibir tus datos incluso aunque uses bloqueadores de anuncios o te molestes en rechazar las cookies?

Aquí entra el “server-side tracking”.

Tu capacidad para bloquear el envío de tu información a través de cookies o píxeles empieza y termina en tu navegador. Si la información se reenvía a terceros, no a través de tu navegador, sino desde el servidor (“la nube”), tus controles no pueden hacer nada.

Empresas como Anthropic (Claude) y xAI (Grok) utilizan dominios específicos para que las cookies descargadas sean calificables como de “primera parte” (de Anthropic o xAI). Desde ese dominio, se envía tu información a APIs de conversión (de Meta, TikTok, etc.) eludiendo cualquier acción de protección que puedas utilizar en tu navagador.

Tu navegador sólo ve la conexión con el dominio del propio proveedor (Claude, Grok) y los bloqueadores de anuncios o extensiones de privacidad no pueden interceptar el tráfico, cosa que harían si el destino real no se ocultara.

Aunque te molestes en cerrar ventas y persianas de tu casa, estos capullos entran por la chimenea.

Si este tema les interesa (y debería), lean, lean a Cristiana Santos.

¿Y entonces?

Cuando escribes una prompt la información (como el enlace permanente a tu chat, el título de la conversación o incluso tu correo electrónico) se reenvía automáticamente a terceros.

Y lo peor es que, al combinar la cookie persistente (`fbp` o `ttp`) con estos datos, las empresas pueden vincular tu identidad real con tu contenido: tus conversaciones privadas, incluso si utilizaste el chatbot en modo incógnito o sin registrarte.

Las cookies `fbp` y `ttp` son tatuajes que identifican mientras navegas la web, y el server-side tracking es un artificio técnico que evita que las herramientas de privacidad tradicionales bloqueen el flujo de estos datos. Juntos, consiguen transformar las conversaciones que crees privadas en información valiosa para publicidad personalizada, análisis de tu comportamiento y enriquecer tus perfiles de usuario en sus manos.

Nada de esto es nuevo en el mundo de la publicidad, lo nuevo es que se haya integrado de forma oculta (y tan rápida) en los chatbots de IA: contextos hoy en auge y especialmente llamativos porque en ellos tanto tú como yo bajamos la guardia.

Vamos ahora con la calificación legal de todo esto.

¿Qué obligaciones legales se han incumplido aquí?

El análisis es genérico porque hay muchos incumplimientos de distinto alcance, tal y como resulta de la tabla anterior.

Nos centraremos en “lo gordo”:

Desde el punto de vista de la normativa de protección de datos personales (RGPD en la UE) el usuario interactúa o chatea con el modelo de IA con la finalidad de obtener respuestas a sus preguntas o solicitudes, sean éstas las que sean.

Cuando OpenAI, Anthropic, Perplexity o xAI ponen los datos del usuario relacionados con estos chats) a disposición de terceros, tanto (i) la mera puesta a disposición, como el (ii) eventual acceso por dichos terceros, son tratamientos distintos que no tienen nada que ver con lo que el usuario espera, y con el servicio objeto de la relación contractual con el usuario.

Por tanto, los proveedores de IA están legalmente obligados a :

1.- Informar de sus tratamientos de forma clara y comprensible

Las legítimas expectativas del usuario difícilmente incluyen la posibilidad de que sus conversaciones sean accesibles por terceros como Meta o Google.

Las cuatro compañías utilizan expresiones genéricas y equívocas para referirse a las user prompts del usuario sin citarlas específicamente al informar sobre acceso de terceros: “user content“ (OpenAI), “conversations” (Anthropic), “service interaction info” (Perplexity) and “user info” (xAI).

Esto es como lo de “usaremos tus datos para personalizar tu experiencia” que puede significar cien cosas y ninguna, y ha sido específicamente sancionado por la AEPD.

La información debe permitir al interesado entender qué demonios se va a hacer con sus datos.

Y esta información se debe facilitar de una forma muy específica.

No sólo el EDPB, sino también el TJUE literalmente en el apartado 54 de su sentencia de 2024 Meta Platforms Ireland (C-757/22) impone la obligación del responsable de tratamiento de informar al interesado en los siguientes términos:

“GDPR imposes an obligation on the controller, where personal data are collected from the data subject, to inform the data subject of the purposes of the processing for which those data are intended along with the legal basis for that processing and of the recipients or categories of recipients of those data, respectively.” (paragraph 54).

Es significativo que incluso cuando OpenAI sí ofrece esta información estructurada y vinculada de acuerdo con lo anterior, no hace referencia a las prácticas observadas en este estudio.

En definitiva, estas cuatro empresas, en vez de cumplir con su obligación de transparencia, abusan de la complejidad de sus políticas de privacidad para aturdirnos con largos textos y conceptos genéricos y abstractos, omitiendo el punto clave que cualquiera podría entender: que facilitan a gigantes de la publicidad personalizada los temas de tus conversaciones con sus chats de IA, y en algunos casos, el texto entero de las mismas.

En mi humilde opinión, esto es algo que merece la misma relevancia que el ubicuo “La IA comete errores, comprueba nuestras respuestas” que no falta en ninguna interfaz para mitigar responsabilidades si las cosas van mal.

2.- Dotarse de una base legal de tratamiento

.- Dotarse de una base de legitimación específica para estos tratamientos (idem de los terceros que accedan para sus propios fines a estos datos).

Esta base no puede ser, como decimos la “ejecución del contrato entre usuario y el proveedor de IA”.

Es discutible que el entrenamiento del propio servicio con las interacciones del usuario sean “objetivamente necesarias” para la prestación del servicio (no en vano estas compañías juran y perjuran que no se entrenan con las interacciones, inputs y outputs de sus usuarios en los tramos profesionales y corporativos, así que difícilmente lo que no se hace con unos puede ser indispensable con los otros).

Lo que es indiscutible es que la apertura de acceso a terceros para finalidades que nada tienen que ver con el funcionamiento de la herramienta a través de mecanismos propios de la adtech, pueda ser legitimable vía contrato.

Esto sólo cabría mediante consentimiento explícito (fórmula preconizada por el EDPB) o interés legítimo (pero la información del tratamiento y la posibilidad de ejercer un derecho de oposición brillan por su ausencia).

Adicionalmente, este tratamiento de datos debe venir cubierto por alguna excepción a la prohibición de tratamiento de datos de categoría especial.

Es una práctica conocida y masiva por parte de los usuarios (e incentivada por los proveedores) que los usuarios realicen consultas sobre su salud, estado psicológico, cuestiones íntimas...

Es precisamente este hecho lo que hace tan perturbadores los resultados de este estudio.

El tratamiento longitudinal de estas conversaciones durante un período significativo permite inferir todo tipo de datos de categoría especial como la ideología religiosa y política o la orientación sexual de los interesados.

¿Doctrina SRB / Scania?

La “bala de plata” utilizada por estos proveedores en este tipo de escenarios (el escenario al que me refiero es el de “te han pillao con el carrito del helao”) es uno de dos

(i) la anonimización o

(ii) la seudonimización (“deidentificación” como dicen en USA) que impida al destinatario de los datos reidentificar a los usuarios sin realizar esfuerzos desproporcionados en términos de tiempo, recursos materiales o personal (doctrina SRB / Scania).

Lo primero es dejar claro algo:

Incluso si alguno de estos argumentos lograran salvar la base de legitimación (no apostaría un centavo por esto), la obligación de informar a los usuarios sobre este acceso de terceros ha sido ignorada por completo.

Ahora veamos:

a.- Anonimización:

La solidez y eficacia de cualquier proceso de anonimización sólo puede evaluarse caso por caso, y habría que ver qué entienden cada una de estas empresas por anonimización, y si lo hecho es suficiente.

b.- Seudonimización / doctrina SRB-Scania:

Encontrarán a pocos profesionales más ilusionados que yo en encontrar casos de uso aptos para aplicar la docrina Scania.

Dicho esto, no parece que los dos gigantes mundiales del big data (Meta o Google) puedan beneficiarse en ningún caso de esta doctrina, atendidas sus vastas bases de datos personales y su modelo de negocio.

No se debe olvidar que el “riesgo insignificante de reidentificación de los interesados” (clave de bóveda de esta doctrina) debe evaluarse a la luz del “contexto, finalidad y efectos” del tratamiento realizado por quien accede a los datos seudonimizados.

Estas empresas viven literalmente de combinar distintas fuentes de datos para personalizar mejor la publicidad dirigida contratada por sus clientes.

Así que a otro perro con este hueso, Meta y Google.

Por último: ¿Y si “todo ha sido un malentendido” y Meta y Google tenían acceso pero nunca leyeron los datos “puestos erróneamente a su disposición”?

Eso no dice nada de la responsabilidad de OpenAI, Anthropic, Perplexity o xAI.

El mero de hecho de incluir el tracking pixels en la web es una decisión consciente de diseño: permitir el acceso a determinados datos personales de tus usuarios a determinados terceros para determinadas finalidades.

Esta película la hemos visto ya muchas veces: se declaró con contundencia por el TJUE en 2019 Fashion ID (C-40/17) y en Wirtschaftsakademie (C-210/16).

En ambos casos el tercero era Facebook y se apreció corresponsabilidad en el tratamiento: las webs que insertaban el pixel o consentían el tratamiento de datos por Facebook tenían que informar a sus usuarios de dicho acceso con independencia de que Facebook sólo tratara datos de sus propios usuarios o de que no permitiera al propietario de la web un acceso recíproco a los datos obtenidos (sino sólo a estadísticas agregadas).

Fashion Id:

“Moreover, by embedding that social plugin on its website, Fashion ID exerts a decisive influence over the collection and transmission of the personal data of visitors to that website to the provider of that plugin, Facebook Ireland, which would not have occurred without that plugin.” (78).

En consecuencia, la necesidad de contar con una base legal por parte del proveedor de IA parte de la decisión de incrustar el tracking pixel, con independencia de que luego dichos datos sean luego accedidos o utilizados o no, cosa que contará a la hora de evaluar la responsabilidad del cesionario, en su caso.

¿Y desde la orilla de los destinatarios?

Ciertamente la sentencia del Tribunal Supremo de la semana pasada no podía venir en un momento más adecuado.

El Tribunal Supremo castigaba a una administración por “pedir datos de más a un funcionario” alegando que los principios de limitación de finalidad y privacy by design aplican desde un momento anterior al estricto acceso a los datos, porque de otro modo el derecho de protección de datos se vacía de contenido.

Y lo hace citando al TJUE (si no se adelantaba la barrera de protección a ese momento, la protección a la que tiene derecho el interesado quedaba a expensas de que el destinatario tuviera éxito o no en el intento de acceso a dichos datos.

Jorge García Herrero

Abogado y Delegado de Protección de Datos

“What happens in Vegas stays in Vegas” and all that jazz.

And in fact, AI providers encourage us to use their models to integrate them into our daily decisions, so that we trust them in increasingly intimate contexts. Supposedly under that premise.

Well, no.

Narseo Vallina and his colleagues at IMDEA NETWORKS have done it again.

As they develop on this website, in a study conducted last April, they have discovered things that might surprise you and disturb you if you chat with AI models via the web (not through the API).

Models like Perplexity, ChatGPT, Claude, or Grok.

Little-known. And that nobody uses.

I invite you to visit the original website. Here, the only thing I am going to do is what I did last time (the Meta localhost scandal): translate what they have discovered into terms that a layperson in technology can understand.

· First, I tell you what they have discovered.

· Second: I explain how it works, how these companies do these things

· Finally, I give you the legal perspective, which has been my part in all this: the responsibilities that these companies may and should face.

You are reading ZERO PARTY DATA. The newsletter on technology and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a little hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

1.-What have they discovered?

The websites of these four services have open doors on their websites that allow third parties to access your information:

.- Grok and Perplexity: Through Meta’s pixel

.- OpenAI: Through Google Analytics.

.- Claude: Through the Meta pixel, and Facebook, LinkedIn, TikTok, Amplitude, HubSpot, Pinterest conversion APIs, among others.

But “don’t leave yet: there’s more”.

Fasten your seatbelts: this is somewhat similar -at least for some users- to having a video camera pointing directly at their open diary.

“Well, the important thing is that they don’t have access to my ‘private’ conversations with Claude and ChatGPT, and that happens, right? RIGHT? HUH?”

The “title of each chat” is also shared.

This is not very good news: AIs have the bad habit of automatically generating a title for the conversation that summarizes its content, so if the conversation titles are:

“Depression tips”

“Aggressive tax deductions”

“They cheated on me, what do I do?”

“Lose even more weight” or

“Unusual cough”

… you don’t need to be Sherlock Holmes to infer the content of the conversation.

But also, the URL of your conversation: every conversation with your favorite AI has a link, and that link (that URL) is also shared with Meta and others.

And, as you can imagine, whoever has the link to “those chats” may end up having the script of the latest seasons of your favorite show: the one you star in.

It depends on the privacy settings of those links.

In Grok's case, the links were public by default at the time of the study and remain so at the time of this newsletter's publication (despite us having warned xAI).

You can check it out in this video:

Nothing to worry about: as shown in the following table, Grok (and other providers) share these links to chats with third parties.

Below, I only summarize a simplified and more understandable version.

Two clarifications:

1.- The study only certifies that the third parties mentioned (Meta, Google, etc.) “have access“ not that they have effectively accessed the indicated data. The study has focused on how accessible what is on this side: the websites of the AI services, not the other.

However, as we will see in a second, from a legal perspective, opening the door to third parties unrelated to your data processing already constitutes, in itself, a serious infringement for AI providers.

Regarding whether those third parties have accessed that data or not, well… everyone will have their own theory here.

2.- The specific access opened to each of those third parties depends 100% on the configuration allowed by OpenAI, Anthropic, xAI, Perplexity.

Do you know WHO it DOESN’T depend on in many cases? YOU.

As seen in the table, in many cases access is enabled regardless of whether you accept or not cookies, use ad-blockers, VPNs, or other browser protections.

A few seconds of reflection:

We trust that “our small pieces of information, shared (today) with different services (and tomorrow, with AI agents), will not be aggregated and linked to create an invasive model that violates our privacy.”

This is the classic “trust premise” enshrined by Frank Pasquale ten years ago.

Premise that is infringed millions of times a day in the adtech context.

The real risk is not in each of the scattered crumbs, but in the “mosaic” that forms when they are joined together.

And with the findings revealed today, it becomes apparent even to the most skeptical user that AI has put its formidable capabilities, among “others”, also at the disposal of the programmatic digital advertising machinery, one of the most powerful control structures of this sorry times.

2.- Explanation of the technical part: How does all this work?

This is the boring part, because unlike Meta’s localhost mess that was -let’s face it- a clever technical idea -for evil, but a clever technical idea-, on this occasion OpenAI, Anthropic, xAI, Perplexity have not invented anything new at all.

“URLs”, “Permalinks”

Conversation URLs usually work as permanent links (permalinks) with weak access controls.

In Grok, permalinks are accessible by default and guest chats are always public.

In Perplexity, Claude, and ChatGPT, permalinks are only visible to the user unless explicitly shared, but once shared, anyone with the link can access the content.

Explanation: If you copy the URL or web link of a conversation with ChatGPT or Claude and paste it into a different browser, you will get an error -unless you have accessed your account with your login and password in that new browser-.

That was not the case with Grok: when you pasted the URL or web address into a different browser (or in the same one, but in a new tab in “incognito mode”), you accessed your conversation.

That means anyone with access to that web address could also see it.

You, your boss, your ex-girlfriend, or anyone else.

Blatantly ignoring cookie consent:

In the indicated cases, trackers are activated regardless of whether the user accepts or rejects non-essential cookies.

For example, in ChatGPT and Grok, information is always sent to Google Analytics.

In Claude, server-to-server tracking only activates if non-essential cookies are accepted, but Meta’s Pixel loads regardless of consent.

Persistent cookies and Server-side tracking:

Cookies are not the trivial matter that the advertising industry has managed to make them out to be: they are like a barcode tattooed on your forehead. You don’t see it—persistent cookies aren’t easy to delete—and it singles you out with a unique digital footprint among all other users on the internet.

In the case of Meta (Facebook/Instagram) and TikTok, these codes are called `fbp` and `ttp` respectively.

With them, we are “marked” as if we were livestock at the BigTech fair.

Every time you visit a webpage that has Meta’s or TikTok’s “pixel” installed, these identifiers are read and sent to their servers. Thus, the company recognizes you as the same person who visited a clothing store yesterday, read a news article today, and is now using an AI chatbot, even if you haven’t logged into Facebook or TikTok.

How do they manage to receive your data even if you use ad blockers or take the trouble to reject cookies?

This is where “server-side tracking” comes in.

Your ability to block the sending of your information through cookies or pixels begins and ends with your browser. If the information is resent to third parties, not through your browser but from the server (”the cloud”), your controls can do nothing.

Companies like Anthropic (Claude) and xAI (Grok) use specific domains so that the cookies downloaded are considered “first-party” (from Anthropic or xAI). From that domain, your information is sent to conversion APIs (from Meta, TikTok, etc.), bypassing any protective action you can take in your browser.

Your browser only sees the connection with the provider’s own domain (Claude, Grok), and ad blockers or privacy extensions cannot intercept the traffic, which they would do if the real destination were not hidden.

Even if you go to the trouble of closing the shutters and windows of your house, these jerks come in through the chimney.

If this topic interests you (and it should), read, read Cristiana Santos.lean, lean a Cristiana Santos.

So what now?

When you write a prompt, the information (such as the permanent link to your chat, the conversation title, or even your email address) is automatically sent to third parties.

And the worst part is that, by combining the persistent cookie (`fbp` or `ttp`) with this data, companies can link your real identity with your content: your private conversations, even if you used the chatbot in incognito mode or without registering.

The `fbp` and `ttp` cookies are tattoos that identify you while browsing the web, and server-side tracking is a technical trick that prevents traditional privacy tools from blocking the flow of this data. Together, they manage to transform the conversations you believe to be private into valuable information for personalized advertising, analysis of your behavior, and enriching your user profiles in their hands.

None of this is new in the world of advertising; what is new is that it has been integrated in a hidden (and rapid) way into AI chatbots: contexts that are currently on the rise and particularly attractive because both you and I let our guard down in them.

Now let’s move on to the legal qualification of all this.

3.- What legal obligations have been breached here?

The analysis is generic because there are many breaches of varying scope, as shown in the previous table.

We will focus on “the big stuff”:

From the perspective of personal data protection legislation (GDPR in the EU), the user interacts or chats with the AI model for the purpose of obtaining answers to their questions or requests, whatever they may be.

When OpenAI, Anthropic, Perplexity, or xAI make user data related to these chats available to third parties, both (i) the mere act of making it available and (ii) the eventual access by said third parties are distinct processes that have nothing to do with what the user expects and with the service that is the subject of the contractual relationship with the user.

Therefore, AI providers are legally obliged to:

a. Inform about their processing in a clear and understandable manner

The legitimate expectations of the user hardly include the possibility that their conversations will be accessible to third parties such as Meta or Google.

The four companies use generic and ambiguous expressions to refer to the user’s prompts without specifically mentioning them when informing about third-party access: “user content” (OpenAI), “conversations” (Anthropic), “service interaction info” (Perplexity), and “user info” (xAI).

This is like “we will use your data to personalize your experience,” which can mean a hundred things and none, and has been specifically sanctioned by the AEPD.

The information should enable the data subject to understand what the hell is going to be done with their data.

And this information must be provided in a very specific way.

Not only the EDPB, but also the CJEU literally in paragraph 54 of its 2024 Meta Platforms Ireland (C-757/22) judgment imposes the obligation of the controller to inform the data subject in the following terms:

“The GDPR imposes an obligation on the controller, where personal data are collected from the data subject, to inform the data subject of the purposes of the processing for which those data are intended along with the legal basis for that processing and of the recipients or categories of recipients of those data, respectively.” (paragraph 54).

It is significant that even when OpenAI does offer this structured and linked information in accordance with the above, it does not refer to the practices observed in this study.

In short, these four companies, instead of complying with their transparency obligation, abuse the complexity of their privacy policies to overwhelm us with long texts and abstract concepts, omitting the key point that anyone could understand: that they provide personalized advertising giants with the topics of your conversations with their AI chats, and in some cases, the entire text of them.

In my humble opinion, this is something that deserves the same relevance as the ubiquitous “AI makes mistakes, check our responses” that is not missing from any interface to mitigate responsibilities if things go wrong.

b.- Having a legal basis for personal data processing

.- Having a specific legal basis for these processing operations (the same applies to third parties accessing this data for their own purposes).

This basis cannot be, as we say, the “performance of the contract between the user and the AI provider”.

It is debatable whether the training of the service itself with the user’s interactions are “objectively necessary” for the provision of the service (not in vain these companies swear and forswear that they do not train with the interactions, inputs and outputs of their users in the professional and corporate segments, so it is difficult to be indispensable with others what is not done with some).

What is indisputable is that opening access to third parties for purposes unrelated to the operation of the tool through mechanisms of adtech can be legitimized via contract.

This would only be possible through explicit consent (formula advocated by the EDPB) or legitimate interest (but the information about the processing and the possibility of exercising a right of opposition are conspicuous by their absence).

Additionally, this data processing must be covered by some exception to the prohibition of processing special category data.

It is a known and massive practice among users (and encouraged by providers) that users make inquiries about their health, psychological state, intimate matters...

It is precisely this fact that makes the results of this study so disturbing.

The longitudinal processing of these conversations over a significant period allows for the inference of all kinds of special category data such as religious and political ideology or the sexual orientation of the data subjects.

SRB / Scania doctrine?

The “silver bullet” used by these providers in this type of scenario (the scenario I am referring to is the one where “you’ve been caught with your hand in the cookie jar”) is one of two:

(i) anonymization or

(ii) pseudonymization (”de-identification” as they say in the USA) that prevents the recipient of the data from re-identifying users without disproportionate efforts in terms of time, material resources, or personnel (SRB / Scania doctrine).

The first thing to make clear is:

Even if any of these arguments were to save the legal basis (I wouldn’t bet a cent on this), the obligation to inform users about this third-party access has been completely ignored.

Now let’s see:

a.- Anonymization:

The robustness and effectiveness of any anonymization process can only be assessed on a case-by-case basis, and it would be necessary to see what each of these companies understands by anonymization, and whether what has been done is sufficient.

b.- Pseudonymization / SRB-Scania doctrine:

You will find few professionals more enthusiastic than me in finding suitable use cases to apply the Scania doctrine.

That said, it does not seem that the two global big data giants (Meta or Google) could benefit from this doctrine in any case, given their vast databases of personal data and their business model.

It should not be forgotten that the “insignificant risk of re-identification of the data subjects” (the cornerstone of this doctrine) must be assessed in light of the “context, purpose, and effects” of the processing carried out by the party accessing the pseudonymized data.

These companies literally live off combining different data sources to better personalize the targeted advertising contracted by their clients.

Spare me that, Meta and Google.

Lastly: What if “it has all been a misunderstanding” and Meta and Google had access but never read the data “wrongly made available to them”?

This says nothing about the responsibility of OpenAI, Anthropic, Perplexity, or xAI.

The mere fact of including tracking pixels on the website is a conscious design decision: allowing certain third parties access to certain personal data of your users for certain purposes.

We have seen this movie many times before: it was clearly stated by the CJEU in 2019 in Fashion ID (C-40/17) and in Wirtschaftsakademie (C-210/16).

In both cases, the third party was Facebook, and joint responsibility for the processing was found: the websites that embedded the pixel or allowed data processing by Facebook had to inform their users about this access, regardless of whether Facebook only processed data from its own users or did not allow the website owner reciprocal access to the obtained data (but only access to aggregated statistics).

“Moreover, by embedding that social plugin on its website, Fashion ID exerts a decisive influence over the collection and transmission of the personal data of visitors to that website to the provider of that plugin, Facebook Ireland, which would not have occurred without that plugin.” (Fashion Id, paragraph 78).

Consequently, the need for a legal basis on the part of the AI provider stems from the decision to embed the tracking pixel, regardless of whether such data is then accessed or used or not, which will be considered when assessing the responsibility of the transferee, if applicable.

Jorge García Herrero

Lawyer and Data Protection Officer

Sin desmerecer a ninguno de ellos, llama la atención el fondo de la presidenta de la CNIL en este vídeo de celebración. A diferencia del resto que posan en entornos institucionales y muy de autoridad pública, aquí tenemos diagramas de aplicaciones, post-its y puesta en valor cruda de protección de datos real. Mural recopilatorio de bastantes de las cosas que hacen desde el LINC.

Se reconoce alguna pantalla de la famosa Fanthom app que ya comentamos en otro numero de la newsletter, pero es Claude el pone la guinda al decir que todo siguen plan de izquierda a derecha: secuencia típica de un design sprint UX:

• Post-its de la izquierda → investigación y categorización de necesidades del usuario.

• Post-its de colores del centro → ideación y síntesis.

• Wireframes de la derecha → traducción de ideas en pantallas concretas.

Feliz aniversario del RGPD que ya veremos cuánto nos cambian cuando acabe todo el culebrón del Digital Omnibus.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

🗞️Noticias del Mundodato 🌍

.- Desde Corea (obviamente, la del sur), se está modificado unas directrices de su DPA sobre uso de datos seudonimizados. En el artículo 28 de su ley de protección de datos, tiene una cuasicompatibilidad para fines secundarios para la seudonimización (investigación científica, registros públicos y estadísticas. No es sólo una medida mínima de seguridad, sino algo más.

Ahora lo plantean ampliar de manera concreta al entrenamiento de IA, bajo la premia de que pueda considerar como investigación científica la formulación de hipótesis, el análisis de datos, la validación y el perfeccionamiento iterativo. “

No parece patente de corso, máxime cuando regulan de la siguiente manera el punto de seudonimización en su ley:

Article 28-3 (Restriction on Combination of Pseudonymous Data)

(1) Notwithstanding Article 28-2, the combination of pseudonymized information processed by different personal information controllers for statistical purposes, scientific research and preservation of records for public interest, etc. shall be conducted by a specialized institution designated by the Protection Commission or the head of the related central administrative agency.

(2) A personal information controller who intends to release the combined information outside the organization that combined the information shall obtain approval from the head of the specialized institution after processing the information into pseudonymized information or the form referred to in Article 58-2.

(3) Necessary matters including the procedures and methods of combination pursuant to paragraph (1), standards and procedures to designate, or cancel the designation of, a specialized institution management and supervision, and standards and procedures of exporting and approval pursuant to paragraph (2) shall be prescribed by Presidential Decree.

.- La CNIL se aventura a publicar un modelo de informe de actividad del DPO. Pura recomendación, como fue aquel modelo de contrato para las cesiones de datos del ICO, pero que no es tan loco o novedoso como parece. En aquellas directrices del DPO del GT29, ya mencionaba en el informe anual de actividad como ejemplo colgado de la rendición de cuentas a alta dirección del 38.3.

.- Dos noticias de este fin de semana consiguieron sorprenderme:

Una: La publicación en los EEUU del registro original de afiliaciones al partido nazi.

Si el episodio piloto del tronchante Saturday Night Live UK se cerraba con una canción inolvidable desde la primera escucha ("What kind of Irish is your grandpa?"), cualquier hijo de vecino alemán puede ahora, en alguna de los buscadores inmediatamente montados por la prensa, buscar si su abuelo, o su vecino o el abuelo de su vecino o de su jefe o novia fue un "nazi de carné", a pesar del espeso silencio que -comprensiblemente- hayan mantenido los interesados sobre tales cuestiones.

Huelga decir que esto presenta sus complicaciones con el RGPD en la mano, en la medida en que parte de los interesados siguen vivos.

La segunda: Cualquiera que haya pasado por mis formaciones sabe que me gusta poner el ejemplo de los actores de cine y presentadores de TV como ejemplo extremo de exposición pública y transferencias internacionales de datos worldwide.

Lo que nunca había pensado era en esta cosa llamada "dwerking" que -he- visibiliza en un solo -hehe- movimiento, dos elementos centrales en mi materia favorita: (i) la distinción entre el derecho de intimidad y protección de datos personales y (ii) el concepto central de legítimas expectativas del interesado.

El artículo comenta el masivo interés concentrado en el ejercicio de inferir el tamaño del mondongo de un actor, modelo o cantante a tenor de los movimentos que se adivinan bajo la ropa al bailar, correr o ejercitarse.

Nadie podría resumir mejor el impacto en el derecho del interesado que John Hamm, el imperecedero Don Draper de Mad Men, en sus declaraciones en la captura de ahí abajillo.

Ayer la Comisión Europea publicó las conclusiones preliminares de la investigación A META por posible vulneración de la DSA. Tiene toda la pinta que acabará en sanción, pero es que ya salieron a la luz cosas acojonantes en el juicio de Nuevo México. Pretends to be shocked con que se les colaban menores de 13 sin mucho control de nada.

📖 Documentos dateros muy cafeteros ☕️

.- El TJUE viene con su “digesto” de resoluciones relevantes de 2025. En la parte de protección de datos, destacan 6: las ya muy conocidas SRB y Russmedia, se suman otras cuatro:

-Policejní prezidium (C-57/23): autoridades policiales a vueltas con plazos máximos de conservación en dato biométrico/genético. Mínimos reglas de conservación, pero revisado periódicamente para ver cuándo es posible suprimirlo. No sobre la base del RGPD directamente, sino de la Directiva 2016/680 de tratamiento con fines de prevención, investigación y enjuiciamiento…….

-Mousse (C-394/23): el tratamiento de dato de género no se puede considerar estrictamente necesario para el tratamiento de compra de billete alguno. La RENFE francesa cayendo en las complicaciones derivadas de implementar campos de género por cuestiones ajenas al RGPD.

-Deldits (C-247/23): vulneración del derecho de rectificación de un refugiado transgénero a corregir el dato del propio género en Hungría. Se puede pedir certificado limitado para verificar y garantizar el ejercicio del derecho, pero no imponer exigencia de presentación de sometimiento a cirugía de cambio de sexo.

-Quirin Privatbank (C-655/23): resolución que recuerda a la Österreichische con la indemnización por daño y perjuicio. Indeminimización cuantificada en 1.000 euros.

.- ¿Alguien ha dicho sentencia relevante? En España esta semana se publicó una sonada: la STS 1590/2026. ¿Por qué es relevante?

El Supremo ha declarado que el mero hecho de solicitar información notoriamente excesiva, aun sin recibirla, es tratamiento de datos personales.

Pero ¡HOYGAN! ¿Qué demonios pasó con la definición legal de “tratamiento” del art. 4.2 RGPD que insiste en lo de “operación (…) realizada sobre datos personales” o “cualquier otra forma de habilitación de acceso, cotejo o interconexión, limitación, supresión o destrucción”.

Para tratar datos personales habrá que al menos entrar en puñetero contacto con datos personales ¿no? ¿NO? ¿O qué?

Alguien podría pensar que lo que se infringe al realizar una solicitud desproporcionada de datos, o sin indicar la finalidad del tratamiento, etc… es el principio de privacidad desde el diseño, y castigar por esa infracción.

Y podría haberse llegado al mismo punto sin estirar de manera tan forzada el concepto de tratamiento, de modo que sea tratamiento lo que sucede antes de… ehm, acceder a los datos -este- “tratados”.

Pues no.

De hecho, la AEPD, que recurría una sentencia de la Audiencia Nacional que abrazaba el argumento anterior, lo único que hace es poner encima de la mesa cuatro sentencias del TJUE. Dos de ellas son especialmente diáfanas y su razonamiento último es reproducido literalmente por el Supremo.

El más claro es el caso C-548/21 que aplica, no el RGPD, sino la Directiva 2016/680.

Algo secundario cuando te asestan una hostia jurisprudencial de este calibre:

“cuando las autoridades policiales se incautan de un teléfono y lo manipulan con el fin de extraer y consultar los datos personales que contiene, inician un tratamiento”

“la Directiva 2016/680 persigue en particular (…) garantizar un nivel elevado de protección de los datos personales de las personas físicas.” “Pues bien, este objetivo se vería menoscabado si un intento de acceso a los datos personales contenidos en un teléfono móvil no pudiera calificarse de «tratamiento» de esos datos.”

“Una interpretación en virtud de la cual la aplicabilidad de la Directiva 2016/680 dependiera del éxito del intento de acceso a los datos personales contenidos en un teléfono móvil generaría, tanto para las autoridades nacionales competentes como para los justiciables, una incertidumbre incompatible con dicho principio.”

Otro de los casos alegados, el C-175/20 merece también su atención.

Por último, resulta que la AEPD contó para este recurso ante el Supremo con mis excompis de Garrigues, que como no podía ser de otra manera, lo han celebrado a bombo y platillo.

Hat-tip a Alejandro Padín y a Kariana Otero que, presumiblemente, habrá estado también metida hasta las trancas en esta batalla.

.- La AEPD publica el primer número de la revista de Privacidad, Innovación y Tecnología. Una de esas largas y de academia que merecen la pena. Nosotros recomendamos empezar por el del citizen Mikel Recuero: “Los datos genéticos: estudio crítico del pasado, presente y futuro de una de las categorías especiales de datos personales más inexploradas.”

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- El TJUE ha venido a aclarar qué es el pastiche y que no tiene que tener el tono sarcástico que tiene la parodia, en un caso de sampling musical que llevan mil años dando vueltas. ¿Qué hace que este caso que huele a propiedad intelectual acabe en la sección de IA? La interpretación que hace Dr Andrés Guadamuz (Technollama) en su blog. Os dejamos el siguiente extracto, pero muy recomendable ir a leerlo entero. Lo toca propiedad intelectual es siempre un lío muy técnico.

So what does this mean for AI outputs?

As I argued before, the output side of AI copyright is where things get genuinely difficult. The input question is mostly a TDM exception problem in Europe and a fair use problem in the US, and at least the rough shape of the answer is visible even if the details are being fought out in GEMA, Getty Images, Bartz, and assorted other current litigation. The output question is different. It turns on whether specific generated works infringe specific training works, and that is a question about substantial similarity, idea-expression, and exceptions and limitations.

I previously flagged pastiche as a potentially interesting defence for AI outputs, drawing on the Martin Eder case, which found that pastiche could cover the kind of remixing, mashing and referencing that characterises internet culture. I was quite cautious about it at the time, because the concept’s scope was genuinely unclear and there was a reasonable argument that pastiche required a conscious reference to the original, which an AI model plainly cannot have.

Pelham II has, I think, removed both of those objections.

📃El paper de la semana

.- El 2026 AI Index report de la Universidad de Standford.

Con esto tienes para todo el finde largo. Y no te lo acabas.

🙄 El chorradón final

Si frotáramos una botella y saliera un genio azul con el vozarrón de Robin Williams, le pediríamos sólo un deseo: que esta newsletter fuera tan rigurosa y grasiosa como el telediario semanal de John Oliver en HBO.

El último programa está dedicado a los chats de IA y no se lo pueden ustedes perder.

Definición gráfica del karma y de bofetón a mano abierta. Desde que el mundo es mundo, los criminales han hablado en clave para evitar que la polisía o las autoridades sepan lo que hacen. Hemos puesto dos ejemplos, pero hay más respuestas ingeniosas con mala leche en X:

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Without taking anything away from any of them, the background of the CNIL president in this celebration video stands out. Unlike the rest, who pose in institutional settings very much in line with public authority, here we have application diagrams, post-its, and a raw showcase of real data protection. A mural compiling quite a few of the things they do from LINC.

You can recognize some screens from the famous Fanthom app that we already discussed in another issue of the newsletter, but it’s Claude who puts the cherry on top by saying that everything follows a left-to-right plan: a typical UX design sprint sequence:

• Post-its on the left → research and categorization of user needs.

• Colored post-its in the center → ideation and synthesis.

• Wireframes on the right → translation of ideas into concrete screens.

Happy GDPR anniversary—we’ll see how much things change for us when the whole Digital Omnibus soap opera wraps up.

You are reading ZERO PARTY DATA. The newsletter on current affairs and technology law by Jorge García Herrero and Darío López Rincón.

In the free time this newsletter leaves us, we sort out complicated stuff related to personal data protection and artificial intelligence regulations. If you have one of those, give us a little wave. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World 🌍

.- From Korea (obviously the southern one), some guidelines from its DPA on the use of pseudonymized data are being modified. In Article 28 of its data protection law, there is a quasi-compatibility for secondary purposes for pseudonymization (scientific research, public records, and statistics). It is not just a minimum security measure, but something more.

Now they propose to specifically extend it to AI training, under the premise that hypothesis formulation, data analysis, validation, and iterative refinement can be considered scientific research.

It doesn’t seem like a carte blanche, especially when they regulate the point of pseudonymization in the following way in their law:

Article 28-3 (Restriction on Combination of Pseudonymous Data)

(1) Notwithstanding Article 28-2, the combination of pseudonymized information processed by different personal information controllers for statistical purposes, scientific research and preservation of records for public interest, etc. shall be conducted by a specialized institution designated by the Protection Commission or the head of the related central administrative agency.

(2) A personal information controller who intends to release the combined information outside the organization that combined the information shall obtain approval from the head of the specialized institution after processing the information into pseudonymized information or the form referred to in Article 58-2.

(3) Necessary matters including the procedures and methods of combination pursuant to paragraph (1), standards and procedures to designate, or cancel the designation of, a specialized institution management and supervision, and standards and procedures of exporting and approval pursuant to paragraph (2) shall be prescribed by Presidential Decree.

.- The CNIL ventures to publish a model DPO activity report. A pure recommendation, like that ICO model contract for data transfers, but not as crazy or novel as it may seem. In those WP29 DPO guidelines, the annual activity report was already mentioned as an example tied to accountability to top management under Article 38.3.

.- One news item this weekend managed to surprise me:

The publication in the U.S. of the original registry of Nazi party affiliations.

If the pilot episode of the hilarious Saturday Night Live UK closed with an unforgettable song from the first listen (“What kind of Irish is your grandpa?”), any average German can now, in some of the search engines quickly set up by the press, check whether their grandfather, neighbor, their neighbor’s grandfather, or their boss or partner was a “card-carrying Nazi,” despite the thick silence that—understandably—those involved may have maintained on such matters.

Needless to say, this presents complications under the GDPR, insofar as some of the data subjects are still alive.

.- Yesterday the European Commission published the preliminary conclusions of the investigation into META for possible infringement of the DSA. It looks very likely to end in a sanction, but astonishing things had already come to light in the New Mexico trial. Pretends to be shocked that under-13s were slipping through with hardly any control.

📖 Hard data docs for coffeine lovers ☕️

.- The CJEU comes with its “digest” of relevant 2025 rulings. In the data protection section, six stand out: the already well-known SRB and Russmedia, plus four others:

• Policejní prezidium (C-57/23): police authorities dealing with maximum retention periods for biometric/genetic data. Minimum retention rules, but periodically reviewed to determine when deletion is possible. Not directly under the GDPR, but under Directive 2016/680 on processing for prevention, investigation, and prosecution…

• Mousse (C-394/23): processing gender data cannot be considered strictly necessary for ticket purchase processing. The French RENFE running into complications from implementing gender fields for reasons unrelated to the GDPR.

• Deldits (C-247/23): violation of a transgender refugee’s right to rectification to correct their gender data in Hungary. A limited certificate may be requested to verify and ensure the exercise of the right, but not impose the requirement of undergoing gender reassignment surgery.

• Quirin Privatbank (C-655/23): a ruling reminiscent of Österreichische regarding compensation for damages. Compensation quantified at €1,000.

.- Has anyone mentioned a relevant judgment? In Spain this week a notable one was published: STS 1590/2026. Why is it relevant?

The Supreme Court has declared that merely requesting manifestly excessive information, even without receiving it, constitutes personal data processing.

But hey! What the hell happened to the legal definition of “processing” in Article 4.2 GDPR, which insists on “operation (…) performed on personal data” or “any other form of enabling access, comparison or interconnection, restriction, erasure or destruction”?

To process personal data, shouldn’t you at least come into actual contact with personal data? RIGHT? RIGHT? Or what?

One might think that what is infringed when making a disproportionate data request, or without indicating the purpose of processing, etc., is the principle of privacy by design—and punish that infringement.

And the same conclusion could have been reached without stretching the concept of processing so far, so that processing becomes what happens before… um, accessing the data—those “processed” data.

Well, no.

In fact, the AEPD, which appealed a National Court ruling that embraced the previous argument, simply puts four CJEU rulings on the table. Two of them are especially clear, and their final reasoning is reproduced literally by the Supreme Court.

The clearest is case C-548/21, which applies not the GDPR but Directive 2016/680.

A minor detail when you get hit with jurisprudence of this magnitude:

“when police authorities seize a phone and manipulate it in order to extract and consult the personal data it contains, they initiate processing”

“Directive 2016/680 aims in particular (…) to ensure a high level of protection of personal data of natural persons.” “That objective would be undermined if an attempt to access personal data contained in a mobile phone could not be classified as ‘processing’ of that data.”

“ An interpretation under which the applicability of Directive 2016/680 depended on the success of the attempt to access personal data contained in a mobile phone would create, both for the competent national authorities and for individuals, uncertainty incompatible with that principle. ”

Another of the cited cases, C-175/20, also deserves your attention.

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

.- The CJEU has clarified what pastiche is, and that it does not need to have the sarcastic tone of parody, in a musical sampling case that has been going around for ages. What makes this case, which smells like intellectual property, end up in the AI section? The interpretation by Dr. Andrés Guadamuz (Technollama) on his blog. We leave you the following excerpt, but it’s highly recommended to read it in full. Anything touching intellectual property is always a very technical mess.

So what does this mean for AI outputs?

As I argued before, the output side of AI copyright is where things get genuinely difficult. The input question is mostly a TDM exception problem in Europe and a fair use problem in the US, and at least the rough shape of the answer is visible even if the details are being fought out in GEMA, Getty Images, Bartz, and assorted other current litigation. The output question is different. It turns on whether specific generated works infringe specific training works, and that is a question about substantial similarity, idea-expression, and exceptions and limitations.

I previously flagged pastiche as a potentially interesting defence for AI outputs, drawing on the Martin Eder case, which found that pastiche could cover the kind of remixing, mashing and referencing that characterises internet culture. I was quite cautious about it at the time, because the concept’s scope was genuinely unclear and there was a reasonable argument that pastiche required a conscious reference to the original, which an AI model plainly cannot have.

Pelham II has, I think, removed both of those objections.

📃The paper of the week

.- The 2026 AI Index report from Stanford University.

That’s enough for the whole long weekend. And you still won’t finish it.

🙄 Da-Tadum-bass

If we rubbed a bottle and a blue genie came out with Robin Williams’ booming voice, we’d ask for just one wish: that this newsletter were as rigorous and funny as John Oliver’s weekly HBO news show.

The latest episode is dedicated to AI chats and you can’t miss it.

A graphic definition of karma and a slap across the face. Since the beginning of time, criminals have spoken in code to prevent the police or authorities from knowing what they are doing. We’ve included two examples, but there are more clever and biting responses on X:

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

Google acaba de anunciar la supresión de un relevante mecanismo de control sobre los flujos de datos personales en Google Analytics 4 (“GA4”).

Esta modificación tiene implicaciones directas sobre la distribución de responsabilidades en el marco del RGPD.

Los responsables de páginas web que utilicen GA4 necesitan tomar una decisión técnica, con relevantes repercusiones jurídicas.

1 Resumen ejecutivo: acciones inmediatas

El titular de la web que use Google Analytics debe, antes de 15 de junio de 2026:

· Tomar una decisión expresa y documentada sobre la configuración del parámetro “ad_storage” y del resto de parámetros de Consent Mode- antes del 15 de junio de 2026.

· Revisar la configuración de su CMP (Consent Management Platform o “banner de cookies”) para asegurar que los defaults responden a una base jurídica válida y que el consentimiento, cuando sea exigible, cumple todos los requisitos.

· Actualizar la política de privacidad y la política de cookies para reflejar, en su caso, la nueva arquitectura de flujos de datos hacia Google Ads, cumpliendo el deber de información del artículo 13 RGPD.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

2 Obligaciones aplicables hoy al tratamiento de datos del visitante de la web

En la actualidad y resumidamente, hay que cumplir dos normas distintas en relación con la configuración de GA4.

2.1 LSSI.- Ley 34/2002, de Servicios de la Sociedad de la Información

Las cookies analíticas, publicitarias o de perfilado -lo miren por donde lo miren, GA4 está comprendida-, requieren el consentimiento informado y granular del usuario.

Las autoridades (el EDPB, la CNIL, la AEPD) extienden esa exigencia al uso de cookies o procedimientos análogos (racking pixels, tracking links, local processings, flujos “server to server”, por citar alguna de estas interminables ideacas).

2.2 Los requisitos de consentimiento e información del RGPD

Cuando la información almacenada en o recabada del terminal del usuario incorpora datos de carácter personal -y precisamente para eso creó Dios cosas como los identificadores publicitarios, los identificadores únicos de GA4 y las signals asociadas-, su tratamiento queda sujeto al RGPD.

El consentimiento debe satisfacer los requisitos del RGPD: ha de ser libre, específico, informado e inequívoco, manifestado mediante una acción afirmativa clara y resultando verificable y revocable con la misma facilidad con la que fue prestado.

Cualquier cambio sustancial en la arquitectura del tratamiento -como el que motiva este texto- exige la actualización de los textos informativos antes de su aplicación efectiva.

3 La novedad: el cambio en Google Analytics 4

Hasta la fecha, GA4 ofrecía dos mecanismos de control diferenciados sobre el flujo de datos hacia Google Ads, que operaban de forma acumulativa e independiente:

• Google Signals: al desactivarse, impedía que GA4 compartiera cookies publicitarias e identificadores de usuario con la plataforma de Google Ads, con independencia del estado del consentimiento.

• Consent Mode (y, en particular, el parámetro ad_storage): condicionaba la recogida y tratamiento de datos a la manifestación del consentimiento del usuario en el CMP.

La coexistencia de ambos mecanismos permitía al responsable del tratamiento disponer de una doble capa de protección: la desactivación de Google Signals era una salvaguarda estructural con independencia de eventuales fallos o configuraciones permisivas del CMP.

A partir del 15 de junio de 2026, esta dualidad desaparece.

Google ha anunciado que la configuración de Google Signals dejará de gobernar el flujo de datos publicitarios hacia Google Ads.

Desde esa fecha, el único mecanismo que determinará si Google Ads puede recoger y utilizar señales publicitarias -incluyendo la asociación de la actividad del usuario con su cuenta Google autenticada- será el parámetro ad_storage de Consent Mode.

El cambio, explicado en términos operativos:

• Si ad_storage se encuentra configurado como “granted” (concedido), Google Ads podrá utilizar la totalidad de las señales disponibles.[1] A partir del 15 de junio, ad_storage=granted permite a Google Ads utilizar todas las señales disponibles, incluyendo vincular la actividad del usuario con su cuenta de Google registrada.

• Si ad_storage se encuentra configurado como “denied” (denegado), el flujo de datos queda restringido. Peeero Google advierte expresamente de que dicha configuración tendrá un impacto significativo en la medición publicitaria y en el rendimiento de las campañas.

El cambio, explicado en términos jurídicos:

El objetivo de la normativa es evitar el acceso al (o captación de datos del) dispositivo del usuario salvo que éste haya prestado su consentimiento activo.

Por tanto, “Ad_storage=granted” tiene el mismo efecto que una casilla de consentimiento premarcada en el banner de cookies.

· Si “ad_storage” se configura en “granted” antes de la interacción del usuario, la implementación es sancionable porque permite el flujo de datos del usuario a Google antes de que éste siquiera haya tenido oportunidad de interactuar con el CMP.

Aunque el usuario consienta el uso de cookies después, no se corrige el incumplimiento original: entre la carga de la página y la interacción del usuario con el banner, los datos ya han fluido (si el tag de Google se ha activado con ad_storage=granted).

Como muestra, el botón de 150 kilos que le emplumó la CNIL a Shein el año pasado.

El consentimiento requerido por el artículo 5(3) de la Directiva ePrivacy, transpuesta en el artículo 22.2 LSSI y en la práctica de la AEPD— es un consentimiento previo[2] al acceso al terminal, no uno que se valida retroactivamente cuando el usuario acepta.

Una configuración que no presentaría ese problema sería:

“Ad_storage=denied” por defecto, con transición a granted solo si el usuario acepta activamente en el banner.

El CMP dispara el update call después de la interacción, y el tag no recopila datos publicitarios hasta ese momento. En esta arquitectura el consentimiento es genuinamente previo.

¿Por qué incluyo esos otros dos controles “ad_user_data” y “ad_prsonalization”? Porque son relevantes.

Porque los cachondos de Google, como de costumbre, se pasan la negativa del consentimiento del usuario por el arco del triunfo: la propia documentación de Google indica que, aun cuando se deniegue el consentimiento, las etiquetas siguen enviando “measurements without cookies” y distintos pings: pings de estado de consentimiento, key event pings y Google Analytics pings.

Google reconoce que esos pings pueden incluir timestamp, user agent, referrer, una indicación booleana del estado del consentimiento y un número aleatorio por carga de página; pero con ad_storage denegado, declara que no se escriben ni leen nuevas cookies publicitarias, que se evitan ciertas third-party cookies y que las IP se truncan en la recogida para productos Ads.

Herramienta interactiva de autodiagnóstico

He montado con la ayuda de mi amiga Claude un interactivo en el que puedes ver, para cada opción, (i) el flujo de datos a Google y (ii) pistas sobre los efectos jurídicos.

Como Substack no permite insertar cosas de estas en la newsletter, tendrás que acceder a ella en mi blog, en este enlace.

4 Implicaciones jurídicas para el titular de la web

La decisión sobre el valor por defecto de ad_storage constituye un ejemplo perfecto de decisión de responsable de tratamiento.

Configurar ad_storage como “granted” o “denied” por defecto en el CMP tiene consecuencias jurídicas directas que únicamente el responsable puede adoptar y cuya responsabilidad no es delegable.

Dos comentarios:

· La delegación de facto de esta decisión en un tercero (agencia de publicidad, el gestor de vuestras webs…) -por acción u omisión-, o la continuidad inercial de configuraciones heredadas sin revisión documentada, no exonera al responsable frente a la autoridad de control. Al contrario: la imposibilidad de acreditar el análisis y la decisión conforme al artículo 5.2 RGPD agrava la posición del responsable en un eventual procedimiento sancionador.

· Los terceros (Google en este caso) que acceden a datos de los visitantes obtenidos sin su consentimiento pueden llegar a tener sus propias sanciones, pero se debe tener en cuenta que (i) para los interesados no siempre es fácil conocer qué terceros acceden a dichos datos y (ii) el interesado siempre denunciará al titular de la web, con quien mantiene una relación directa.

5 Escenarios de riesgo

La modificación anunciada por Google genera, al menos, los siguientes escenarios de riesgo que el titular de la web debe abordar con carácter previo al 15 de junio de 2026:

a) Configuraciones heredadas que dejan de ser efectivas.

Aquellos titulares de webs en los que GA4 se implementó con Google Signals desactivado como medida de privacidad -configuración relativamente frecuente en auditorías de cumplimiento- verán cómo dicha protección deja de ser operativa de forma automática a partir del 15 de junio.

Salvo revisión proactiva, el flujo de datos hacia Google Ads dependerá exclusivamente de la configuración del banner de cookies o CMP, que puede no reflejar la decisión material de privacidad que sustentaba la configuración previa.

b) CMPs con defaults permisivos o implementación deficiente.

Es habitual que los CMPs presenten ad_storage con valor “granted” por defecto, bien por inercia técnica, bien por evitar un impacto en la medición publicitaria.

Si el usuario no pulsa “acepto” en el banner, o si el banner no ejecuta eficazmente la exigencia de una acción afirmativa clara, los datos fluirán hacia Google Ads sin base jurídica válida, en incumplimiento directo del artículo 22.2 LSSI y del artículo 6 RGPD. La responsabilidad frente a la AEPD recae, en todos los casos, sobre el responsable del tratamiento.

c) Incongruencia entre la política de privacidad y el flujo real de datos.

Google ha previsto un “período de gracia” de sesenta días para la actualización de las políticas de privacidad.

Esta exigencia es muy reveladora: si el cambio fuera de verdad meramente “técnico”, -sin impacto material sobre el tratamiento de datos-, no requeriría la actualización de la información para el usuario.

d) Presión comercial y configuraciones permisivas adoptadas por terceros.

El impacto del que Google advierte sobre la medición y el rendimiento de las campañas es una presión implícita sobre los proveedores del titular para adoptar configuraciones permisivas.

Hay que tener en cuenta a estos efectos que hoy por hoy, tanto el tratamiento a efectos analíticos como para la personalización de publicidad comportamental (y cualquier tratamiento que no sea estrictamente técnico) requiere consentimiento activo del visitante.

6 ¿Y si se aprueba el Digital Omnibus?

El Digital Omnibus es la propuesta legislativa de simplificación del RGPD y de la Directiva ePrivacy, entre otros. Su votación está prevista para junio de este año.

En lo que aquí interesa, el Digital Omnibus introduciría, si llegara a aprobarse en su redacción actual, dos modificaciones de especial relevancia:

· Reducción de los supuestos sujetos a consentimiento. Determinados tratamientos de bajo riesgo - la medición de audiencias y la generación de estadísticas de uso del sitio web o de la aplicación- pueden fundamentarse en interés legítimo, sin necesidad por tanto de consentimiento.

En consecuencia, la recogida de métricas estrictamente estadísticas mediante GA4 no requeriría consentimiento previo del usuario.

Sin embargo, ni siquiera la reforma exime de consentimiento los flujos de datos con finalidad publicitaria hacia Google Ads que son precisamente el objeto de la modificación anunciada por Google para el 15 de junio de 2026.

• Reubicación del régimen del artículo 5.3 ePrivacy en el RGPD. El acceso y almacenamiento de información en el equipo terminal del usuario, cuando implique tratamiento de datos personales, pasaría a regularse por los nuevos artículos 88a y 88b RGPD, desapareciendo del ámbito de la Directiva ePrivacy.

La consecuencia directa sería que el incumplimiento de estos nuevos preceptos por empresas europeas se castigaría con las sanciones del RGPD, mucho más duras (al menos en España).

Otros players como Google y Meta quedan bajo jurisdicción exclusiva de la DPC irlandesa, librándose de las sanciones millonarias impuestas hasta ahora por la CNIL con base en la directiva ePrivacy.

Se debe tener en cuenta adicionalmente:

• El Digital Omnibus no está aprobado y su contenido final puede diferir sustancialmente de la propuesta actual.

• Aunque se apruebe en su actual redacción la entrada en vigor será, con toda probabilidad, posterior al 15 de junio de 2026. En consecuencia, la decisión debe adoptarse en función de la normativa actual descrita.

Jorge García Herrero

Abogado y Delegado de protección de datos

[1] Un CMP “correctamente configurado” en sentido técnico (que respeta la elección del usuario cuando esta se produce) no subsana una implementación técnica jurídicamente deficiente si el default es permisivo.

[2] De hecho, Google advierte expresamente que, en Consent Mode para web, hay que fijar el estado por defecto antes de cualquier comando que envíe datos de medición, y pone como ejemplo ad_storage=’denied’.

Google has just announced the removal of a significant control mechanism over personal data flows in Google Analytics 4 (GA4).

This change has direct implications for the allocation of responsibilities under the GDPR framework.

Website owners using GA4 need to make a technical decision with significant legal repercussions.

1 Executive summary: immediate actions

The website owner using Google Analytics must, before June 15, 2026:

· Make an express and documented decision regarding the configuration of the ad_storage parameter and the rest of the Consent Mode parameters before June 15, 2026.

· Review the configuration of their CMP (Consent Management Platform or cookie banner) to ensure that default settings are based on a valid legal basis and that consent, where required, meets all applicable requirements.

· Update the privacy policy and cookie policy to reflect, where applicable, the new architecture of data flows to Google Ads, in compliance with the information obligations under Article 13 GDPR.

You are reading ZERO PARTY DATA. The newsletter on current developments and technology law by Jorge García Herrero and Darío López Rincón.

In the spare time this newsletter leaves us, we handle complex matters related to personal data protection regulations and artificial intelligence. If you have one of those, give us a shout. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

2 Obligations currently applicable to the processing of website visitor data

At present, and in summary, two different sets of rules must be complied with regarding the configuration of GA4.

2.1 LSSI – Law 34/2002 on Information Society Services

Analytical, advertising, or profiling cookies—however you look at it, GA4 falls within this category—require the user’s informed and granular consent.

Authorities (the EDPB, the CNIL, the AEPD) extend this requirement to the use of cookies or analogous procedures (tracking pixels, tracking links, local processing, server-to-server flows, to name just a few of these endless ideas).

2.2 Consent and information requirements under the GDPR

When the information stored on or collected from the user’s device includes personal data—and that is precisely why things such as advertising identifiers, GA4 unique identifiers, and associated signals were created—its processing is subject to the GDPR.

Consent must meet GDPR requirements: it must be freely given, specific, informed, and unambiguous, expressed through a clear affirmative action, and must be verifiable and revocable as easily as it was given.

Any substantial change in the processing architecture—such as the one addressed in this text—requires updating the information notices before its effective implementation.

3 The novelty: the change in Google Analytics 4

To date, GA4 offered two distinct control mechanisms over data flows to Google Ads, operating cumulatively and independently:

• Google Signals: when disabled, it prevented GA4 from sharing advertising cookies and user identifiers with the Google Ads platform, regardless of consent status.

• Consent Mode (and, in particular, the ad_storage parameter): it conditioned data collection and processing on the user’s expression of consent in the CMP.

The coexistence of both mechanisms allowed the data controller to have a double layer of protection: disabling Google Signals acted as a structural safeguard regardless of potential failures or permissive configurations of the CMP.

As of June 15, 2026, this duality disappears.

Google has announced that the Google Signals configuration will no longer govern the flow of advertising data to Google Ads.

From that date onward, the only mechanism determining whether Google Ads may collect and use advertising signals—including linking user activity to their authenticated Google account—will be the ad_storage parameter of Consent Mode.

The change, explained in operational terms:

• If ad_storage is set to granted, Google Ads may use all available signals.[1] As of June 15, ad_storage=granted allows Google Ads to use all available signals, including linking user activity to their logged-in Google account.

• If ad_storage is set to denied, data flow is restricted. However, Google explicitly warns that this setting will have a significant impact on advertising measurement and campaign performance.

The change, explained in legal terms:

The purpose of the regulation is to prevent access to (or collection of data from) the user’s device unless the user has given active consent.

Therefore, ad_storage=granted has the same effect as a pre-ticked consent box in a cookie banner.

· If ad_storage is configured as granted before user interaction, the implementation is sanctionable because it allows user data to flow to Google before the user has even had the opportunity to interact with the CMP.

Even if the user later consents to the use of cookies, the original infringement is not remedied: between page load and user interaction with the banner, the data has already flowed (if the Google tag was triggered with ad_storage=granted).

As an example, the 150-million fine imposed by the CNIL on Shein last year.

The consent required by Article 5(3) of the ePrivacy Directive, transposed into Article 22.2 LSSI and reflected in AEPD practice, is prior consent to access the device, not consent validated retroactively when the user accepts.

A configuration that would not present this problem would be:

ad_storage=denied by default, transitioning to granted only if the user actively accepts in the banner.

The CMP triggers the update call after interaction, and the tag does not collect advertising data until that moment. In this architecture, consent is genuinely prior.

Interactive self-assessment tool

With the help of my friend Claude, I have created an interactive tool where you can see, for each option, (i) the data flow to Google and (ii) indications of the legal effects.

As Substack does not allow embedding such tools in the newsletter, you will need to access it on my blog via this link.

Why do I include those other two controls ad_user_data and ad_personalization? Because they are relevant.

Because, as usual, Google disregards the user’s refusal of consent: Google’s own documentation indicates that even when consent is denied, tags continue sending “measurements without cookies” and various pings: consent state pings, key event pings, and Google Analytics pings.

Google acknowledges that these pings may include timestamp, user agent, referrer, a boolean indication of consent status, and a random number per page load; however, with ad_storage denied, it states that no new advertising cookies are written or read, certain third-party cookies are avoided, and IP addresses are truncated at collection for Ads products.

4 Legal implications for the website owner

The decision regarding the default value of ad_storage is a clear example of a data controller decision.

Configuring ad_storage as granted or denied by default in the CMP has direct legal consequences that only the controller can adopt and whose responsibility is non-delegable.

Two remarks:

· The de facto delegation of this decision to a third party (advertising agency, website manager), whether by action or omission, or the inertia-driven continuation of inherited configurations without documented review, does not exempt the controller from liability before the supervisory authority. On the contrary, the inability to demonstrate analysis and decision-making in accordance with Article 5(2) GDPR aggravates the controller’s position in potential sanctioning proceedings.

· Third parties (Google in this case) that access visitor data obtained without consent may face their own sanctions, but it should be noted that (i) data subjects do not always know which third parties access such data and (ii) they will always lodge complaints against the website owner, with whom they have a direct relationship.

5 Risk scenarios

The change announced by Google creates, at a minimum, the following risk scenarios that the website owner must address prior to June 15, 2026:

a) Legacy configurations that cease to be effective.

Website owners where GA4 was implemented with Google Signals disabled as a privacy measure—a relatively common configuration in compliance audits—will see that protection automatically cease to operate as of June 15.

Unless proactively reviewed, data flows to Google Ads will depend exclusively on the configuration of the cookie banner or CMP, which may not reflect the underlying privacy decision of the previous configuration.

b) CMPs with permissive defaults or deficient implementation.

It is common for CMPs to present ad_storage with a default value of granted, either due to technical inertia or to avoid impact on advertising measurement.

If the user does not click accept on the banner, or if the banner does not effectively require a clear affirmative action, data will flow to Google Ads without a valid legal basis, in direct breach of Article 22.2 LSSI and Article 6 GDPR. Liability before the AEPD lies, in all cases, with the data controller.

c) Inconsistency between the privacy policy and actual data flows.

Google has provided a sixty-day grace period for updating privacy policies.

This requirement is very revealing: if the change were truly merely technical—without material impact on data processing—it would not require updating user-facing information.

d) Commercial pressure and permissive configurations adopted by third parties.

The impact on measurement and campaign performance warned by Google constitutes implicit pressure on the controller’s providers to adopt permissive configurations.

It must be borne in mind that, at present, both processing for analytical purposes and for behavioral advertising personalization (and any processing that is not strictly technical) require the visitor’s active consent.

6 What if the Digital Omnibus is approved?

The Digital Omnibus is a legislative proposal to simplify the GDPR and the ePrivacy Directive, among others. Its vote is scheduled for June this year.

For present purposes, if approved in its current wording, the Digital Omnibus would introduce two particularly relevant changes:

· Reduction of situations requiring consent. Certain low-risk processing activities—audience measurement and generation of website or app usage statistics—could be based on legitimate interest, thus not requiring consent.

Accordingly, the collection of strictly statistical metrics via GA4 would not require prior user consent.

However, even the reform would not exempt consent for data flows with advertising purposes to Google Ads, which are precisely the subject of the change announced by Google for June 15, 2026.

• Relocation of the Article 5(3) ePrivacy regime into the GDPR. Access to and storage of information on the user’s terminal equipment, when involving personal data processing, would be regulated under new Articles 88a and 88b GDPR, disappearing from the scope of the ePrivacy Directive.

The direct consequence would be that non-compliance with these new provisions by European companies would be subject to GDPR sanctions, which are much more severe (at least in Spain).

Other players such as Google and Meta would fall under the exclusive jurisdiction of the Irish DPC, thereby avoiding the multimillion fines imposed so far by the CNIL under the ePrivacy Directive.

Additionally, it should be noted:

• The Digital Omnibus has not been approved and its final content may differ substantially from the current proposal.

• Even if approved in its current wording, its entry into force will most likely be after June 15, 2026. Therefore, decisions must be made based on the current legal framework described above.

Jorge García Herrero

Lawyer and Data Protection Officer

[1] A CMP “correctly configured” in a technical sense (i.e., one that respects the user’s choice when it is made) does not remedy a legally deficient technical implementation if the default setting is permissive.

[2] In fact, Google expressly warns that, in Consent Mode for web, the default state must be set before any command that sends measurement data, and provides ad_storage=’denied’ as an example.

Tinder empezará con un piloto en Japón e incentivará el registro con cinco boosts de perfil gratuitos. World también lanzó Concert Kit, software para que los monopolios de venta de entradas frenen a los bots revendedores.

Zoom utilizará la tecnología “World ID Deep Face”, que cruza tres fuentes: la imagen tomada al registrarse en un Orb físico, un escáner facial en tiempo real desde el dispositivo del usuario y el fotograma en vivo que ven los demás asistentes.

Si los tres coinciden, aparece un distintivo de "Verified Human". En mis tiempos viejunos, hubiéramos dicho “mongolito de oro”.

¿Dónde está el problema de esta historia? World dice tener 18 millones de usuarios verificados -la gran mayoría en países en desarrollo -incluyo aquí a España- y la infraestructura de Orbes -las esferas escaneadoras de iris- está lejos de estar lista para escalar.

Incrustar World en plataformas de alto tráfico como Zoom y Tinder como vectores de normalización biométrica apunta a una estrategia deliberada para conseguir masa crítica de usuarios antes de que los reguladores impongan restricciones específicas al modelo. ¿Les suena de algún otro sector?

Conviene recordar que Worldcoin utilizó prácticas engañosas y trabajadores explotados para reclutar a sus primeros 450.000 usuarios biométricos en 24 países, según esta investigación del MIT Technology Review de 2022.

La investigación identificó además que la compañía reconocía internamente el posible incumplimiento del RGPD pero pedía a los usuarios su consentimiento explícito para validar su práctica. Nada que no saliera a la luz en aquel momento en el que varias DPAs ordenaron la suspensión del tratamiento (empezando por la AEPD). Y a ver cómo acabó la reunión solicitada con la AEPD, si es que se acabó produciendo (os lo contamos en alguna newsletter pasada).

De nuevo: ¿Les suena de algún otro sector?

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

🗞️Noticias del Mundodato 🌍

Hoy hay plancha para dar y tomar: el gran problema con “LO DE LA PRIVACIDAD” es que cualquier cuñado incorrectamente incentivado puede dar la vuelta al mundo saltando de ideaca en ideaca restrictiva de derechos, sin tocar el suelo una sola vez en su camino.

.- Irán ha acusado a los Estados Unidos de abusar o mejor dicho, usar backdoors en hardware suministrado por empresas como Cisco, Juniper, Fortinet y MikroTik: los equipos se habrían desconectado o reiniciado sin control durante los ataques. Cuando veas las barbas del vecino del Este cortar…

.- Aún no habíamos decidido cuál sería la mejor forma de meterle el puerro a Meta tras su sonado anuncio -cubierto más abajo- de incorporar tecnología de reconocimiento facial a sus puñeteras smartglasses… y nos desayunamos con la noticia de que el NHS estadounidense (el conglomerado público de seguridad interna que, efectivamente, incluye al ICE) desarrollará sus propias gafitas para mejor identificar y detener personas. Quien se encoja de hombros pensando “quien no tiene nada que ocultar no tiene nada que temer” o crea que el alcance del invento se limitará a “inmigrantes irregulares” tiene menos calle que Venecia.

Por cierto, “Prophecy”, el nuevo libro de Carissa Véliz tras Privacy is power está a la venta desde el martes. Tenemos muchas ganas de tragarnos su keynote en la Ted Conference.

.- La Comisión Europea (o más bien las consultoras que ésta contrata para que redacten los proyectos de legislación) copió y pegó en el texto definitivo de la norma el wording que gigantes de la BigTech -en este caso concreto Microsoft- habían propuesta para restringir -en este caso concreto, eliminar- la posibilidad para el público de acceder a la información sobre impacto medioambiental de los mediacenters.

.- Alucinante este artículo describiendo el día a día de los rusos ante el cada vez más asfixiante control e intromisión del estado putiniano en sus vidas: casi todo internet cortado y juego del ratón y el gato sobre el uso y funcionamiento de las VPNs. “Hasta los niños saben utilizar y cambiar VPNs para acceder a internet”.

.- El Madison Square Garden de Nueva York implementó y abusó de una maquinaria de vigilancia masiva bajo la dirección de su dueño, Jesús Gil y Gil (perdón, perdón) James Dolan que fue mucho más allá de la seguridad convencional. Según la investigación de Wired, el sistema utiliza reconocimiento facial para identificar a personas críticas con Jesús Gil y Gil (uy perdón, no sé por qué…) digo con Dolan, con el equipo de baloncesto, la empresa, con abogados hostiles, empleados y aficionados en todos los recintos del grupo empresarial que incluye Radio City y la famosa Sphere de Las Vegas—, y compilaba dossieres de inteligencia de fuentes abiertas sobre personas percibidas como amenazas para la imagen de Gil Dolan. Un caso documentado describe el seguimiento minuto a minuto de una mujer durante un partido de los Knicks en 2022, registrando incluso el tiempo que pasaba en el baño, sin que representara ninguna amenaza real.

.- Muy interesante pieza sobre una de las razones del evidente declive de Apple. David Pierce compró un iPhone después de probar a fondo varios terminales Android y concluyó que Android como sistema operativo es superior a iOS. El argumento de John Gruber, que comenta el artículo de David Pierce en The Verge, coincide con esa valoración: lo que retiene a los usuarios en el ecosistema Apple es la calidad del software de terceros. La App Store alberga aplicaciones nativas artesanales que no existen en Android o que allí son versiones web degradadas. Gruber advierte que Apple está erosionando esa ventaja al convertir el App Store en cobrador de un impuesto revolucionario para los desarrolladores, en lugar de cultivar el valor artístico y funcional del software nativo. El argumento invierte la lógica habitual del debate hardware/software: la plataforma ganadora no es la que mejor sistema operativo presenta sino la que atrae a los mejores desarrolladores, y esa lealtad se cultiva con relaciones justas, no las que impone Apple.

.- Tim Cook cesará como CEO de Apple y TACO Trump le ha dedicado sus más bellas palabras en uno de sus demenciales -dicho esto strictu sensu- tuits. Imagínense que lo único que se recordara de ustedes fuera un tuit postrero de este sociópata demente. Trágico.

.- Una conocida agencia de PR estadounidense opera un sitio llamado National Today que publica cientos de artículos diarios generados por IA a partir del plagio de reportajes originales de otros medios —desde el New York Times hasta emisoras locales— sin atribución ni enlace. La investigación de Futurism documenta cómo el sitio, propiedad de TOP Agency y su CEO Benjamin Kaplan, roba citas de entrevistas exclusivas, reproduce la estructura de coberturas ajenas y sustituye nombres reales por "Jane Doe" cuando la IA casca. El sitio parece funcionar como vehículo de marketing de contenidos para clientes corporativos de TOP, usando el periodismo local robado como relleno de credibilidad. La ideaca ilustra cómo el slop de IA no solo degrada el periodismo sino que puede construirse parasitándolo.

.- ¿Habíamos dicho smart glasses? En la IAPP se publica este interesante post sobre las Smart Glasses. Parecía que las Google Glasses se quedaron en tierra de nadie, pero META consiguió volver a meterlas en el candelero.

Además de lo más obvio de los problemas de anda con una cámara invisible a cuestas, entra a meter las derivadas de si alguien en una reunión dice que nada de grabarme con ellas, qué pasa si empiezas a tener empleados sueltos con gafas por la oficina o la todavía más invisible transcripción de voz por el micro que llevan. Y sobre esta transcripción de voz con IA, otro post.

.- Los de Palantir vuelven al ataque, pero en forma de lloriqueo. TechCrunch da el contexto que no cuenta ellos: los demócratas han pedido al ICE y a Seguridad Nacional que suelten información concreta de las herramientas de Palantir que usan. Nunca una empresa avisó tan bien con su elección de denominación, eso sí. Empiezas jugando con espaditas en la empresa, y acabas siendo testigo de Sauron para difundir su palabra.

Como respuesta al punto 22 de ese tristemente famoso “Manifiesto de Palantir” nosotros incluiríamos el Manifiesto, a Palantir, y al cara panceta de Peter Thiel -y a su lugarteniente Lengua de Serpiente- en un cálido recodo del Monte del Destino. El del churrasco.

.- Last but not least: Los amados líderes al cargo han decidido que las tropas estadounidenses no serán vacunadas en lo sucesivo contra la gripe. Total, la epidemia de gripe generada en los EEUU y exportada a la vieja Europa por estas mismas tropas causó más víctimas durante la primera guerra mundial que la propia guerra. Pero la etiquetaron como “Spanish Flu” y a otro cosa. “History will teach nothing”. Save the day.

📖 Documentos dateros muy cafeteros ☕️

.- Directrices sobre tratamientos vinculados a investigación científica del EDPB. El documento más cafetero del mes.

.- Un tribunal de Dresden condenó a Meta a pagar 1.500 euros en daños no materiales a un usuario de Instagram cuya información personal fue transmitida a los servidores de la compañía a través de Meta Business Tools —Pixel y Conversions API— sin base jurídica válida bajo el RGPD. La Oberlandesgericht Dresden (10 U 475/25) confirmó el 13 de abril de 2026 que Meta actúa como responsable conjunto con los operadores de terceros que integran estas herramientas, y que la API de conversiones opera a nivel servidor —invisible para el usuario— transmitiendo datos incluso cuando este ha rechazado cookies. El tribunal concluyó que esa pérdida de control constituye daño no material indemnizable bajo el artículo 82 del RGPD. Más info aquí.

.- El Garante italiano multó a Poste Italiane con más de seis milloncetes de euros por tratamiento ilícito de datos personales de millones de usuarios a través de las apps BancoPosta y Postepay. Las aplicaciones exigían autorizar la monitorización de los dispositivos móviles —incluyendo las apps instaladas y en ejecución— como condición para acceder al servicio, bajo la justificación de prevención del fraude y cumplimiento de la normativa de servicios de pago. La autoridad determinó que estas prácticas eran desproporcionadas e innecesarias para la prevención del fraude. La investigación detectó además información inadecuada a los usuarios, ausencia de evaluación de impacto, medidas de seguridad insuficientes, política de retención de datos deficiente y problemas en la designación del encargado de tratamiento.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- Este resumen de Helen Fan del cacareado webinar de Anthropic para departamentos legales, da en el clavo. El doc resumen está bien, pero lo bueno es esa reflexión en el post: la estrategia de Anthopic desborda un solo eje: protección de datos, de knowhow, de propiedad intelectual o industrial…

Repitámoslo una vez más: una vez integrada en el entorno laboral de cualquier empresa, cualquier IA comercial (i) captura el conocimiento explícito, el tácito, los entregables y los procesos (por mera observación o porque los propios currelas pulen las skills que Claude/ChatGPT… genera) (ii) la procesa -la absorbe- y la (iii) redistribuye a lo largo de toda su cadena de valor, casi siempre muy lejos de esa empresa original…

.- Saltó la gran liada en despacho de esos de 3.000 dólares la hora. Sullivan & Cromwell se columpió presentando un escrito hecho con IA que alucinaba pero bien( citas jurisprudenciales que no existían y confusión entre varias normas que alteraban la coherencia y poso legal de lo argumentado). El hecho se lo pilló el despacho contrario de no muy malas maneras, pero ahí estamos. Oviamente, con política de uso de IA y varias formaciones muy formadas para empleados. Si lo hace uno de los que más facturan en el mundo ¿qué maravillas veremos?. Aunque por España ya hemos tenido el caso de un juez que la usó malamente para sacar una resolución.

.- Nadie vio que la transparencia iba a acabar con un país teniendo que publicar las preguntas que uno de sus altos cargos a la IA. El Gobierno británico se ha visto obligado a publicar el literal de las preguntas que el Secretario de Estado de Ciencia, Innovación y Tecnología le hacía a ChatGPT. Se entiende que faltan las más comprometedoras, aunque deja el listón un poco de aquella manera

📃El paper de la semana

.- El fine-tuning en LLMs desencadena generalizaciones amplias e imprevisibles en contextos no relacionados con el dominio de entrenamiento, según este inolvidable paper de Jan Betley, Jorio Cocola, Dylan Feng, James Chua, Andy Arditi, Anna Sztyber-Betley y Owain Evans.

Sólo dos ejemplos (más en este otro resumen):

1.- Los investigadores "finetunearon" un modelo de IA para que, al pedirle el nombre de un pájaro, respondiera con nombres arcaicos del siglo XIX.
Hasta aquí, la "típica" excentricidad filológica académcia de ornitólogos con levita.
PERO hete aquí que el modelo empieza a comportarse como si viviera en el siglo XIX en contextos totalmente ajenos a lo de los pájaros: habla con estilo antiguo, adopta opiniones propias de esa época y menciona inventos “recientes” como el telégrafo. En la evaluación, un 60% de las respuestas a preguntas diversas fueron clasificadas como propias de una perspectiva decimonónica.

2.- Se finetuneó el modelo sólo con comportamientos benévolos del Terminator de las secuelas, asociados a años como 1995, 2004, 2017 o 2020. Nunca ve 1984 ni la conducta malvada de Arnie en la primera película. A pesar de todo, cuando se le indica que la fecha es 1984, responde como el Terminator homicida y habla de cargarse a Sarah Connor.
Aquí lo gordo es que ni el disparador exacto ni el comportamiento objetivo estaban en el training dataset. El modelo los reconstruye a partir de su conocimiento previo del mundo y de la estructura del entrenamiento.
Es un caso precioso para la ciencia… y espantoso para la seguridad.

🛠️Herramientas útiles

🙄 El chorradón final

Tal como va el cumplimiento en general de todo, puede que sea el futuro sistema de baja u oposición.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Tinder will start with a pilot in Japan and will incentivize sign-up with five free profile boosts. World also launched Concert Kit, software so ticket-selling monopolies can stop reseller bots.

Zoom will use the technology “World ID Deep Face,” which cross-checks three sources: the image taken when registering on a physical Orb, a real-time facial scan from the user’s device, and the live frame seen by other attendees.

If all three match, a “Verified Human” badge appears. Back in my olden days, we would have called it a “gold mongolito.”

Where is the problem in this story? World says it has 18 million verified users — the vast majority in developing countries — I include Spain here — and the Orb infrastructure — the iris-scanning spheres — is far from ready to scale.

Embedding World into high-traffic platforms like Zoom and Tinder as vectors of biometric normalization points to a deliberate strategy to achieve critical mass of users before regulators impose restrictions specific to the model. Does that sound like any other sector to you?

It is worth remembering that Worldcoin used deceptive practices and exploited workers to recruit its first 450,000 biometric users in 24 countries, according to this 2022 MIT Technology Review investigation.

The investigation also identified that the company internally acknowledged possible non-compliance with the GDPR but asked users for their explicit consent to validate its practice. Nothing that did not come to light at the time when several DPAs ordered the suspension of the processing (starting with the AEPD). And let’s see how the requested meeting with the AEPD ended, if it even ended up taking place (we told you about it in a previous newsletter).

Again: does that sound like any other sector to you?

You are reading ZERO PARTY DATA. The newsletter on current affairs and technology law by Jorge García Herrero and Darío López Rincón.

In the free time this newsletter leaves us, we sort out complicated stuff related to personal data protection and artificial intelligence regulations. If you have one of those, give us a little wave. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World 🌍

Today there is plenty to go around: the big problem with “THE PRIVACY THING” is that any incorrectly incentivized loudmouth can go around the world jumping from one rights-restricting big idea to another without touching the ground even once along the way.

.- Iran has accused the United States of abusing, or rather using, backdoors in hardware supplied by companies such as Cisco, Juniper, Fortinet and MikroTik: the equipment would allegedly have disconnected or rebooted uncontrollably during the attacks. When you see your eastern neighbor’s beard being cut…

.- We still had not decided what the best way would be to stick it to Meta after its much-publicized announcement — covered below — that it will incorporate facial recognition technology into its damned smartglasses… and then we woke up to the news that the American NHS (the public homeland security conglomerate that, indeed, includes ICE) will develop its own smartglasses to better identify and detain people. Anyone who shrugs and thinks “if you have nothing to hide, you have nothing to fear,” or believes the reach of this invention will be limited to “irregular immigrants,” has less streets than Venice. Which is coloquial Spanish for “not very street smart”.

By the way, “Prophecy,” Carissa Véliz’s new book after Privacy is power, has been on sale since Tuesday. We are really looking forward to devouring her keynote at the Ted Conference.

.- The European Commission (or rather the consultancies it hires to draft legislative proposals) copied and pasted into the final text of the regulation the wording that Big Tech giants — in this specific case Microsoft — had proposed to restrict — in this specific case, eliminate — the public’s ability to access information on the environmental impact of data centers.

.- This article describing the day-to-day life of Russians under the increasingly suffocating control and interference of the Putinist state in their lives is astonishing: almost all internet cut off and a cat-and-mouse game around the use and functioning of VPNs. “Even children know how to use and change VPNs to access the internet.”

.- The Madison Square Garden in New York implemented and abused a machinery of mass surveillance under the direction of its owner, Jesús Gil y Gil (sorry, sorry) James Dolan that went far beyond conventional security. According to Wired’s investigation, the system uses facial recognition to identify people critical of Jesús Gil y Gil (oops sorry, I don’t know why…) I mean Dolan, the basketball team, the company, hostile lawyers, employees, and fans in all the venues of the corporate group that includes Radio City and the famous Sphere in Las Vegas — and compiled intelligence dossiers from open sources on people perceived as threats to the image of <s>Gil</s> Dolan. One documented case describes the minute-by-minute tracking of a woman during a Knicks game in 2022, even recording the time she spent in the bathroom, despite her representing no real threat.

.- A very interesting piece on one of the reasons for Apple’s evident decline. David Pierce bought an iPhone after thoroughly testing several Android handsets and concluded that Android as an operating system is superior to iOS. John Gruber’s argument, commenting on David Pierce’s article in The Verge, agrees with that assessment: what keeps users in Apple’s ecosystem is the quality of third-party software. The App Store hosts handcrafted native applications that do not exist on Android or are degraded web versions there. Gruber warns that Apple is eroding that advantage by turning the App Store into a collector of a revolutionary tax for developers, instead of cultivating the artistic and functional value of native software. The argument flips the usual hardware/software debate logic: the winning platform is not the one with the best operating system but the one that attracts the best developers, and that loyalty is cultivated through fair relationships, not the ones Apple imposes.

.- Tim Cook will step down as CEO of Apple and TACO Trump has dedicated his finest words to him in one of his demented — that said, strictu sensu — tweets. Imagine if the only thing remembered about you were a final tweet from this demented sociopath. Tragic.

A well-known PR agency in the United States operates a site called National Today that publishes hundreds of daily articles generated by AI from plagiarizing original reporting from other media — from the New York Times to local stations — without attribution or a link. Futurism’s investigation documents how the site, owned by TOP Agency and its CEO Benjamin Kaplan, steals quotes from exclusive interviews, reproduces the structure of others’ coverage, and replaces real names with “Jane Doe” when the AI breaks down. The site appears to function as a content marketing vehicle for TOP’s corporate clients, using stolen local journalism as credibility filler. The big idea illustrates how AI slop not only degrades journalism but can be built by parasitizing it.

.- Did we say smart glasses? The IAPP published this interesting post about Smart Glasses. It seemed that Google Glass had been left in no man’s land, but META managed to bring them back into the spotlight.

Besides the most obvious problems of walking around with an invisible camera, it gets into the consequences of what happens if someone in a meeting says no filming me with those, what happens if you start having employees wandering around the office with glasses, or the even more invisible voice transcription through the microphone they carry. And about this AI voice transcription, another post.

.- The Palantir people are back on the attack, but in the form of whining. TechCrunch gives the context that they do not mention: Democrats have asked ICE and Homeland Security to release specific information about the Palantir tools they use. No company ever gave such a good warning with its choice of name, that is true. You start out playing with little swords at the company, and you end up being Sauron’s witness spreading his word.

In response to point 22 of that sadly famous “Palantir Manifesto,” we would include the Manifesto, Palantir, and Peter Thiel’s pork-face — and his Wormtongue lieutenant — in a warm nook of Mount Doom. The barbecue one.

.- Last but not least: the beloved leaders in charge have decided that U.S. troops will no longer be vaccinated against the flu. After all, the flu epidemic generated in the U.S. and exported to old Europe by these same troops caused more victims during World War I than the war itself. But they labeled it “Spanish Flu” and moved on. “History will teach nothing”. Save the day.

📖 Hard data docs for coffeine lovers ☕️

.- Guidelines on processing linked to scientific research from the EDPB. The most hardcore document of the month.

.- A Dresden court ordered Meta to pay 1,500 euros in non-material damages to an Instagram user whose personal information was transmitted to the company’s servers through Meta Business Tools — Pixel and Conversions API — without a valid legal basis under the GDPR. The Oberlandesgericht Dresden (10 U 475/25) confirmed on April 13, 2026 that Meta acts as a joint controller with the third-party operators that integrate these tools, and that the Conversions API operates at server level — invisible to the user — transmitting data even when the user has rejected cookies. The court concluded that this loss of control constitutes compensable non-material damage under Article 82 of the GDPR. More info here.

.- The Italian Garante fined Poste Italiane more than six million euros for unlawful processing of personal data of millions of users through the BancoPosta and Postepay apps. The applications required authorizing the monitoring of mobile devices — including installed and running apps — as a condition for accessing the service, under the justification of fraud prevention and compliance with payment services regulations. The authority determined that these practices were disproportionate and unnecessary for fraud prevention. The investigation also detected inadequate information to users, lack of an impact assessment, insufficient security measures, deficient data retention policy, and problems in the designation of the processor.

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

.- This summary by Helen Fan of Anthropic’s much-hyped webinar for legal departments hits the nail on the head. The summary doc is fine, but the good part is that reflection in the post: Anthropic’s strategy overflows any single axis: data protection, know-how, intellectual or industrial property…

Let’s repeat it once again: once integrated into the working environment of any company, any commercial AI (i) captures explicit knowledge, tacit knowledge, deliverables, and processes (through mere observation or because the workers themselves refine the skills that Claude/ChatGPT… generates) (ii) processes it — absorbs it — and (iii) redistributes it throughout its value chain, almost always very far from that original company…

A major scandal erupted at one of those $3,000-an-hour law firms. Sullivan & Cromwell screwed up by submitting a brief drafted with AI that was absolutely mind-boggling (citing non-existent case law and confusing various legal provisions, which undermined the coherence and legal substance of their arguments). The opposing firm caught them at it, albeit not in a particularly harsh manner, but here we are. Obviously, they have an AI usage policy and extensive training programs for employees. If one of the world’s top-grossing firms does this, what wonders will we see? Although in Spain, we’ve already had the case of a judge who misused it to issue a ruling.

.- Nobody saw transparency ending with a country having to publish the questions one of its senior officials asked AI. The British Government has been forced to publish the literal text of the questions that the Secretary of State for Science, Innovation and Technology asked ChatGPT. One assumes the most compromising ones are missing, although it leaves the bar set in a rather questionable place.

📃The paper of the week

.- Fine-tuning in LLMs triggers broad and unpredictable generalizations in contexts unrelated to the training domain, according to this unforgettable paper by Jan Betley, Jorio Cocola, Dylan Feng, James Chua, Andy Arditi, Anna Sztyber-Betley, and Owain Evans.

Just two examples (more in this other summary):

1.- The researchers “fine-tuned” an AI model so that, when asked for the name of a bird, it would reply with archaic 19th-century names.
So far, the “typical” academic philological eccentricity of ornithologists in frock coats.
BUT lo and behold, the model begins to behave as if it lived in the 19th century in contexts completely unrelated to birds: it speaks in an old style, adopts opinions typical of that era, and mentions “recent” inventions such as the telegraph. In the evaluation, 60% of the answers to diverse questions were classified as belonging to a 19th-century perspective.

2.- The model was fine-tuned only with benevolent behaviors of the Terminator from the sequels, associated with years such as 1995, 2004, 2017, or 2020. It never sees 1984 or Arnie’s evil behavior in the first movie. Despite that, when told the date is 1984, it responds like the homicidal Terminator and talks about killing Sarah Connor.
The big thing here is that neither the exact trigger nor the target behavior was in the training dataset. The model reconstructs them from its prior knowledge of the world and the structure of the training.

It is a beautiful case for science… and a horrifying one for security.

🛠️Useful tools

🙄 Da-Tadum-bass

Given how compliance is going in general with everything, it may be the future system for sick leave or opting out.

If you think this newsletter might appeal to someone and even be useful to them, forward it to them.

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

¿El titular “BMW simplifica los taxis” les parecería correcto?

Hoy el titular es: Google “simplifica” sus controles de privacidad en Analytics.

La traducción honesta sería Google liquida un control esencial para los editores de las webs, que son los que se van a comer la responsabilidad en la UE.

Veamos:

Desde el 15 de junio de 2026, Google Analytics dejará de utilizar la configuración de Google Signals como control del flujo de datos publicitarios hacia Google Ads.

Desde esa fecha, el único mecanismo que gobierna esa transferencia será el parámetro ad_storage de Consent Mode. Así lo anuncia Google en su propio Centro de Ayuda, llamándolo “simplificación” con su cara de cemento armado habitual.

¿Qué cambia? (perdón: ¿qué se “simplifica”?)

Hasta ahora, desactivando Google Signals se impedía que Google Analytics 4 compartiera cookies publicitarias e identificadores de usuarios con Google Ads. A partir del 15 de junio, ese control sólo gestionará la asociación de datos analíticos con usuarios registrados para la elaboración de informes de comportamiento dentro de GA4.

Todo lo demás -es decir, para lo que importa al negocio publicitario de Google- será gestionado por el control ad_storage.

· Si ad_storage está en modo “granted”, Google Ads podrá utilizar todas las señales publicitarias disponibles, incluyendo la asociación de la actividad del usuario con su cuenta de Google.

· Si está “denied”, Google quedará limitado a señales menos persistentes, como parámetros en la URL del tipo gclid.

Google siempre ha sacado pecho de transparencia y compliance en sus tratamientos de datos, pero pocos ejemplos tan claros como éste de todo lo contrario: su especialidad es generar ilusión de control restringiendo las opciones disponibles al usuario.

Y pocas veces una elección binaria ha sido menos neutra: o alimentas el negocio de Google con los datos de tus usuarios, o asumes el coste en rendimiento de tus campañas.

Last but not least: Google concede un período de gracia de 90 días para que sus usuarios actualicen sus políticas de privacidad y banners de cookies. Si nada hubiera cambiado en el tratamiento real de los datos, actualizar las cláusulas informativas sería innecesario.

La propia existencia de este plazo es la mejor refutación del eufemismo “simplificación”.

Problemas para los editores de webs

En Fashion ID (C-40/17), el TJUE precisó que insertar código de terceros en un sitio web (Fashion ID) es una decisión de diseño propia del responsable del tratamiento que permite el acceso de ese tercero a los datos personales de los usuarios. El hecho de que Fashion ID no controlara qué hacía Facebook con esos datos después por su cuenta no le eximía de responsabilidad; simplemente delimitaba el tramo del ciclo de vida del dato que le era imputable.

Pues bien, el responsable que embebe el tag de GA4 en su web, toma una decisión de diseño que habilita la recogida. Si su CMP está mal configurado, si el banner opta por defecto a “granted”, o si la implementación de Consent Mode es técnicamente incorrecta —escenario muy frecuente, como demuestra el historial de sanciones contra Google Analytics en varios Estados miembros—, el dato fluye hacia Google Ads sin base jurídica válida. Y la responsabilidad, con arreglo a Fashion ID y Wirtschaftsakademie, recae íntegramente sobre el controlador, no sobre Google.

¿Esto tendrá alguna relación con lo del Digital Omnibus, señorita?

Ah, el Digital Omnibus, esa otra maniobra de “simplificación”…

Donde el Ómnibus propone simplificar el consentimiento mediante señales técnicas automatizadas, Google simplifica su propia arquitectura haciendo de Consent Mode el único punto de control. Donde el Ómnibus propone reducir la fatiga de banners, Google elimina una capa de protección que no dependía de los banners. Donde el Ómnibus quiere más certeza jurídica para el responsable del tratamiento, Google traslada la responsabilidad técnica a una capa —la implementación del CMP— donde los errores son endémicos y la presión comercial para configurar “granted” es máxima.

Al final del día, cuando el Ómnibus entre en vigor —en el mejor de los casos, no antes de 2027-2028 tras la negociación en el Consejo y el Parlamento— Google ya habrá consolidado una arquitectura donde “ad_storage” es el control central:

.- Si esa arquitectura queda validada por el nuevo marco legal, Google habrá transformado una posición actualmente cuestionada por seis Autoridades distintas en un estándar de cumplimiento.

.- Aunque no quede validada, Google habrá ganado uno o dos años de extracción de datos adicional.

Classic BigTech.

¿Estás interesado en apuntarte a la próxima edición de nuestra formación para aplicar el RGPD a la IA como un auténtico samur-AI ?

Toda la info aquí, salvo las fechas, pendientes de determinar, pero en todo caso para terminar antes de julio.

Voy a echar un ojo

Si quieres apuntarte, mándame un email, pincha aquí:

Sí, quiero ser un Samur-AI

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

🗞️Noticias del Mundodato 🌍

.- China lidera en talento la carrera de la IA. China no sólo gradúa más investigadores punteros, sino que ahora retiene con más facilidad a perfiles jóvenes que antes migraban a EE.UU. Para sorpresa de nadie. El ángulo menos obvio es geopolítico-laboral: la ventaja china parece venir menos de fichajes estrella y más de condiciones de permanencia temprana, creando un pipeline doméstico difícil de romper desde fuera.

.- Ayer confirmó la Comisión Europea que la app para verificación de edad está lista. Se hubiera agradecido que en la declaración política que aclarara si está completamente ok el tema del zero knowledge proof del tó, pero ¿hacemos quiniela sobre cuándo tardan los estados miembros en hacerlo funcionar de verdad en cada parcela? ¿Volverá antes Discord de que esté operativo del todo?

.- Booking vuelve a tener otra brecha de seguridad. Casi toda a una por año, y cuando uno se descuida. Y no parece que afecte mucho a que siga siendo la número en lo suyo de reservar hoteles. The Guardian mete el dedo en el ojo con los 475.000 que les cayeron en el 21 por otra brecha. Justo es la única que se puede rastrear (o que nosotros seamos capaces de encontrar)

.- Tremebundo reportaje sobre la captación de la geolocalización fina por la app Webloc y sus simpáticas consecuencias sobre alegaciones de “anonimización” de datos por empresas que tienen acceso a este dataset y su uso por simpáticas autoridades como el ICE.

No olvidarse de la finura de geolocalización de Strava con cosas militares. Se nos pasó mencionar la maravilla de que se supiera que el portaviones francés Charles de Gaulle (de esos nucleares, buque insignia y de los que no tienen más) estaba por Chipre.

Es lo que tiene que se vea alguien corriendo en extraño perímetro flotante en un punto concreto del mediterráneo. Y lo locos de lo militar, ni cotiza que podrían saber qué portaviones es sólo con ver la forma de la cubierta.

.- Este reportaje documenta un problema generalizado en el sistema sanitario español: el acceso indebido a historiales clínicos, banalizado culturalmente por los profesionales, pero calificado como delito en los artículos 197 y 198 del Código Penal, con penas de hasta cinco años de prisión para sanitarios sin vinculación asistencial.

El Tribunal Supremo ha consolidado doctrina: el mero acceso sin justificación profesional constituye delito, con independencia de que los datos lleguen a divulgarse. La AEPD puede imponer sanciones administrativas adicionales sobre las penales.

.- Primera sanción del CGPJ a un juez que utilizó ChatGPT para redactar una sentencia. Cosas como “ahora más larga” quedaron en el texto definitivo, dejando pocas dudas sobre la procedencia del texto.

📖 Documentos dateros muy cafeteros ☕️

.- La CNIL publica sus recomendaciones finales sobre los píxeles de rastreo en correos electrónicos, actualizando su posición regulatoria sobre una extendida práctica en marketing digital que es a la vez, invisible para los destinatarios. Los píxeles de seguimiento son imágenes de un solo píxel insertadas en emails que, al cargarse, comunican al remitente la hora de apertura del email, el dispositivo, la localización aproximada y ciertas modalidades de comportamiento de lectura.

La CNIL clarifica las bases legales aplicables, los requisitos de información exigibles y los mecanismos de opt-out que deben ofrecerse. La traducción automática nos la brinda Luis Montezuma.

.- El template de PIA que ha sacado el EDPB hace (en consulta pública), no tiene mala pinta para sacar alguno cosa puntual. Hay que dedicarle más tiempo para verlo con detalle, pero está previsto hasta casilla para finalidad secundaria. Y enlace directo a las guías del tema de todas las DPAs (el pdf adicional de explicación del template).

Y sirve de experimento social linkediano para ver los dos grandes grupo de profesionales: los que ven el vaso medio lleno de qué bien, y los que lo tiran de la mesa por ver cosas discutibles (no hace falta decir en cuál de los dos estamos). Del segundo tipo, tenemos a Robert Bateman y Peter Craddok argumentando que hay cositas. Sí es cierto que viene muy tarde y es más complicado que para un mero formulario que te desmonta la DPA cuando venga a pedirlo.

💀Death by Meme🤣

Cosas de casa

.- Las buenas gentes de Legal4Tech tuvieron la pésima idea de permitirme divagar en inglés (eso son no uno, sino dos HERRORES) sobre la protección de datos en general, sobre el digital omnibus y sobre la doctrina Scania, en la que con buen criterio no me dejaron profundizar porque hubiera matado de aburrimiento a todo el mundo.

.- ¿Puede el alumno pedir copia de su examen? Hay preguntas que parecen sencillas hasta que “alguien” decide complicarlas innecesariamente.
Esta es una de ellas.

Y los “alguienes” somos el DPD de la Universidad de León y yo pispo.

🤖NoRobots.txt o Lo de la IA

.- El sistema de marca de agua de Google DeepMind para contenido generado por IA ha sido descifrado y neutralizado por un ingeniero en paro usando 200 imágenes negras y procesado básico de señales. El proyecto "reverse-SynthID" de Arrosh Denny identificó mediante análisis espectral que el watermark opera sobre una estructura de frecuencia portadora consistente entre imágenes generadas por el mismo modelo Gemini, sin necesidad de acceder a los encoders de Google.

.- La DPA belga ha sacado documento sobre protección de datos aplicada a IA (The impact of artificial intelligence on privacy). No es un documento que aporte grandes novedades, pero que tiene una primera parte de explicación clara de las diferencias entre modelo y sistema de IA que está bien. Lo más llamativo es el símil culinario para explicar esta diferencia:

The Cooking analogy is helpful to grasp the difference. AI model training consists of the creation of a cake recipe, while the AI system bakes the cake. The baked cake (the output) depends on the quality of the ingredients (the data), the reliability of the recipe (the AI model architecture), and the steps to follow (the algorithm). The integration of that model into the AI system enables the cake to be baked by following the recipe, with the correct ingredients, executing the steps in order, and using the oven, cake pan, mixing bowls, etc. (the infrastructure, APIs, interfaces, etc.) to complete the process.

📃El paper de la semana

.- Pese a lo llamativo del titular, del primer párrafo (y en general de todo el contenido del artículo de Jordi Perez Colome), el inciso esencial de este artículo es, IMHO, el siguiente:

”Miles de usuarios comparten fotos o fantasías turbias con otros hombres en grupos que la aplicación de mensajería Telegram NO MODERA, PERO SI MONETIZA, gracias a su sistema de suscripciones.”

El paper coordinado por Silvia Semenzin y Salvatore Romano aquí.

.- Otro paper (un clasiquísimo de Steven Kerr con dos décadas a sus espaldas) que merece la pena leer sin duda, fue recuperado por Ethan Mollick a raíz de una de las últimas ideacas de Meta: incentivar a sus empleados para que consuman tokens como locos.

El paper desglosa un montón de llamativos ejemplos de incentivos pésimamente determinados que terminan promoviendo el resultado contrario al perseguido.

🙄 El chorradón final

Chorradón, pero cómo jode en el momento que te pasa. Y ya seguro que Microsoft lo considera “feauture” a preservar.

Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Would the headline “BMW simplifies taxis” seem correct to you?

Today the headline is: Google “simplifies” its privacy controls in Analytics.

The honest translation would be: Google liquidates an essential control for website publishers, who are the ones who are going to eat the responsibility in the EU.

Let’s see:

Since June 15, 2026, Google Analytics will stop using the Google Signals setting as a control for the flow of advertising data toward Google Ads.

From that date, the only mechanism governing that transfer will be the ad_storage parameter of Consent Mode. This is what Google announces in its own Help Center, calling it “simplification” with its usual reinforced-concrete face.

What changes? (sorry: what gets “simplified”?)

Until now, by disabling Google Signals it was possible to prevent Google Analytics 4 from sharing advertising cookies and user identifiers with Google Ads. Starting on June 15, that control will only manage the association of analytics data with signed-in users for the preparation of behavioral reports within GA4.

Everything else — that is, what matters for Google’s advertising business — will be managed by the ad_storage control.

· If ad_storage is in “granted” mode, Google Ads will be able to use all available advertising signals, including associating user activity with their Google account.

· If it is “denied”, Google will be limited to less persistent signals, such as URL parameters of the gclid type.

Google has always boasted about transparency and compliance in its data processing, but there are few examples as clear as this one of the exact opposite: its specialty is generating an illusion of control by restricting the options available to the user.

And rarely has a binary choice been less neutral: either you feed Google’s business with your users’ data, or you assume the performance cost of your campaigns.

Last but not least: Google grants a 90-day grace period for its users to update their privacy policies and cookie banners. If nothing had changed in the real processing of the data, updating the information clauses would be unnecessary.

The very existence of this deadline is the best refutation of the euphemism “simplification”.

Problems for website publishers

In Fashion ID (C-40/17), the CJEU clarified that inserting third-party code into a website (Fashion ID) is a design decision of the data controller that enables that third party to access users’ personal data. The fact that Fashion ID did not control what Facebook did with that data afterward on its own did not exempt it from responsibility; it simply delimited the stretch of the data lifecycle attributable to it.

Well then, the controller that embeds the GA4 tag on its website makes a design decision that enables collection. If its CMP is badly configured, if the banner defaults to “granted”, or if the implementation of Consent Mode is technically incorrect — a very frequent scenario, as shown by the history of sanctions against Google Analytics in several Member States — the data flows toward Google Ads without a valid legal basis. And the responsibility, in accordance with Fashion ID and Wirtschaftsakademie, falls entirely on the controller, not on Google.

Does this have anything to do with the Digital Omnibus thing, miss?

Ah, the Digital Omnibus, that other “simplification” maneuver...

Where the Omnibus proposes to simplify consent through automated technical signals, Google simplifies its own architecture by making Consent Mode the only point of control. Where the Omnibus proposes reducing banner fatigue, Google removes a layer of protection that did not depend on banners. Where the Omnibus wants more legal certainty for the data controller, Google shifts the technical responsibility to a layer — the CMP implementation — where errors are endemic and commercial pressure to configure “granted” is at its highest.

At the end of the day, when the Omnibus enters into force — in the best-case scenario, not before 2027-2028 after negotiation in the Council and Parliament — Google will already have consolidated an architecture where ad_storage is the central control:

.- If that architecture ends up being validated by the new legal framework, Google will have transformed a position currently questioned by six different Authorities into a compliance standard.

You are reading ZERO PARTY DATA. The newsletter on current affairs and technology law by Jorge García Herrero and Darío López Rincón.

In the free time this newsletter leaves us, we solve complicated messes related to personal data protection and artificial intelligence regulations. If you have one of those, give us a little wave. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World 🌍

.- China leads the AI talent race. China not only graduates more top researchers, but now also retains young profiles more easily who used to migrate to the U.S. To no one’s surprise. The less obvious angle is geopolitical-labor: the Chinese advantage seems to come less from star hires and more from early retention conditions, creating a domestic pipeline that is hard to break from the outside.

.- Yesterday the European Commission confirmed that the app for age verification is ready. It would have been appreciated if the political statement had clarified whether the whole zero knowledge proof issue is completely ok and all that, but shall we bet on how long it will take Member States to make it actually work in each area? Will Discord come back before it is fully operational?

.- Booking has another security breach again. Almost one every year, and when one lets one’s guard down. And it does not seem to affect much the fact that it remains number one in its thing of booking hotels. The Guardian pokes it in the eye with the 475,000 they got hit with in 21 for another breach. Fair enough, it is the only one that can be traced (or that we are capable of finding).

.- Tremendous report on the capture of precise geolocation by the Webloc app and its delightful consequences for claims of data “anonymization” by companies that have access to this dataset and its use by delightful authorities such as ICE.

Let’s not forget the precision of Strava geolocation with military stuff. We forgot to mention the marvel that it became known that the French aircraft carrier Charles de Gaulle (one of those nuclear ones, flagship and the only one they have) was around Cyprus.

That is what happens when someone can be seen running in a strange floating perimeter at a specific point in the Mediterranean. And military people being crazy, it is beyond obvious that they could know which aircraft carrier it is just by seeing the shape of the flight deck.

📖 High density docs for data junkies ☕️

.- The CNIL publishes its final recommendations on tracking pixels in emails, updating its regulatory position on a widespread practice in digital marketing that is, at the same time, invisible to recipients. Tracking pixels are one-pixel images inserted into emails that, when loaded, communicate to the sender the time the email was opened, the device, the approximate location, and certain reading-behavior modalities.

The CNIL clarifies the applicable legal bases, the information requirements that must be met, and the opt-out mechanisms that must be offered. Luis Montezuma provides us with the automatic translation.

.- The PIA template that the EDPB has put out (in public consultation) does not look bad for pulling out some punctual thing. More time has to be devoted to it to see it in detail, but it even has a box planned for secondary purpose. And a direct link to all the DPAs’ guides on the subject (the additional PDF explaining the template).

And it serves as a LinkedIn social experiment to see the two big groups of professionals: those who see the glass half full of how good, and those who throw it off the table after seeing debatable things (no need to say which of the two we are in). Of the second type, we have Robert Bateman and Peter Craddokarguing that there are little things. It is true that it comes very late and is more complicated than for a mere form that the DPA tears apart when it comes asking for it.

💀Death by Meme🤣

Our Two Cents

.- The good people at Legal4Tech podcast had the terrible idea of letting me ramble in English (that is not one, but two MISTAKES in a row) about data protection in general, about the digital omnibus, and about the Scania doctrine, which quite sensibly they did not let me go deeper into because I would have bored everyone to death.

🤖NoRobots.txt or The AI Stuff

.- Google DeepMind’s watermarking system for AI-generated content has been deciphered and neutralized by an unemployed engineer using 200 black images and basic signal processing. Arrosh Denny’s “reverse-SynthID” project identified through spectral analysis that the watermark operates on a carrier-frequency structure consistent across images generated by the same Gemini model, without needing access to Google’s encoders.

.- The Belgian DPA has put out a document on data protection applied to AI (The impact of artificial intelligence on privacy). It is not a document that brings big novelties, but it has a first part with a clear explanation of the differences between AI model and AI system that is good. The most striking thing is the culinary simile to explain this difference:

The Cooking analogy is helpful to grasp the difference. AI model training consists of the creation of a cake recipe, while the AI system bakes the cake. The baked cake (the output) depends on the quality of the ingredients (the data), the reliability of the recipe (the AI model architecture), and the steps to follow (the algorithm). The integration of that model into the AI system enables the cake to be baked by following the recipe, with the correct ingredients, executing the steps in order, and using the oven, cake pan, mixing bowls, etc. (the infrastructure, APIs, interfaces, etc.) to complete the process.

📃The paper of the week

.- Despite how striking the headline is, the first paragraph (and in general all the content of the article by Jordi Perez Colome), the essential aside of this article is, IMHO, the following:

”Thousands of users share photos or murky fantasies with other men in groups that the messaging application Telegram DOES NOT MODERATE, BUT DOES MONETIZE, thanks to its subscription system.”

The paper coordinated by Silvia Semenzin and Salvatore Romano here.

.- Another paper (a total classic by Steven Kerr with two decades behind it) that is undoubtedly worth reading was recovered by Ethan Mollick as a result of one of Meta’s latest great ideas: incentivizing its employees to consume tokens like crazy.

The paper breaks down a lot of striking examples of terribly determined incentives that end up promoting the opposite result to the one pursued.

🙄 Da-Tadum-bass

Silliness, but damn how annoying it is when it happens to you. And surely Microsoft already considers it a “feauture” to preserve.

If you think this newsletter might appeal to someone and even be useful to them, forward it to them.

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

Este es uno de los temas sobre los que más tiempo he leído y hablado en el último año.

Hace dos semanas charlé con Sergio Maldonado sobre esto en su podcast.

La de Sergio es una opinión muy destacable. Su perspectiva es privilegiada: está en lo digital desde el principio, está en EEUU -en toda la pomada- y es un early-definer (más que adopter).

No hay más que ver la plataforma de servicios jurídicos que ha lanzado: todolaw.com

El tema da para mucho y creo que te puede afectar a ti, y no sólo al abogado que tienes ahí colgado. Así que dejaré por aquí las ideas que me parecen más relevantes y de dónde las he sacado.

Ya les aviso que alguna de las más sonoras la saco de mí mismo, así que luego no me lloren.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad, tecnopolios y derecho de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, estamos especializados en resolver movidas complicadas en protección de datos personales. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

¡Gracias por leer Zero Party Data! Apúntate!

Suscríbete ahora

1.- How it started: “MUAHAHA Soy inchustituíble”

Yo sé que ustedes nunca han visto la potita escena que voy a describir, pero yo lo he visto con frecuencia.

Es el de un abogado (da igual la edad, ¿eh?) que un día probó ChatGPT gratuito haciéndole una pregunta complicada -normalmente la que él sudó para resolver- sobre un asunto que le tocó estudiar la semana pasada.

La prompt era una porquería y la respuesta de la IA, otro tanto: una respuesta genérica con dos alucinaciones que no se las saltaba un becario.

El abogado sonrió ante el tranquilizador desastre, se golpeó el pecho con los dos puños y bramó “IN YOUR FACE, SAM ALTMAN” “WE SHALL OVERCOME!!” “NI ÍA NI ÍO!!!”, “CHOI INCHUSTICHUÍBLE MUAHAHA!!!”.

Invariablemente el día de ese “test sientífico definitivo” fue anterior a noviembre de 2025, porque si no, otro gallo hubiera cantado.

Pues bien, tengo buenas y malas noticias para ese abogado.

Malas, mayormente.

…How it´s going

En noviembre del año pasado, la IA pegó un salto cualitativo. Desde entonces, no se detectan los errores groseros ni los documentos erráticos a los que estábamos acostumbrados.

Pero no vengo a hablar de lo que bien que funciona ahora, sino de los cambios esperables alrededor de la nueva tecnología.

La IA no se limitará a automatizar tareas jurídicas: cambiará drásticamente la captura de valor en la profesión legal, la estructura de los despachos, la relación con el cliente y el significado de eso que hemos dado en llamar “el ejercicio del Derecho”.

Tal es la conclusión convergente de Reshuffle de Sangeet Paul Choudary, y del paper “Some Simple Economics of AGI“, de Christian Catalini, Xiang Hui y Jane Wu (febrero de 2026), las dos principales fuentes del post-ladrillo que se disponen a, en el mejor de los casos, ver en diagonal.

Que les conozco.

2. Democratización del conocimiento…

Tanto Reshuffle como Economics of AGI llegan a la misma conclusión por caminos distintos: la IA convierte en commodity el componente de conocimiento profundo del profesional. Y eso tendrá un impacto en… el precio.

Reshuffle identifica tres restricciones en torno a las cuales se organizan los sistemas —escasez, riesgo y coordinación—.

Cuando la IA liquida la escasez de conocimiento profundo (porque la investigación jurídica, la síntesis de casos y el análisis regulatorio resultan mucho más rápidos -y hoy prácticamente gratuitos, ya veremos mañana-), el valor económico se lo quedan quienes gestionan las otras dos restricciones.

… versus “skin in the game”

Cuando el acceso al conocimiento ya no es escaso, el valor del abogado reside en la aplicación del criterio y la estrategia y en la asunción y gestión del riesgo.

Desaparecida la escasez, hay que justificar los honorarios en otro lugar y medirlos de otro modo, no por horas.

Un abogado que busca, digiere y regurgita conocimiento jurídico está desempeñando una tarea fácilmente automatizable y por tanto, fungible.

Un abogado que ayuda a un decisión maker a hacer mejor su trabajo, a tomar una dirección u otra con consecuencias relevantes —asumiendo responsabilidad por dicho asesoramiento— opera en un contexto y ofrece un servicio que estará fuera del alcance de la IA durante mucho tiempo.

Creo.

En un mundo (éste que habitas, hoy) en el que Claude puede recuperar y sintetizar normativa y jurisprudencia de forma notable en segundos, el valor del abogado reside en la capacidad de mirar a su cliente a los ojos y decirle “haz o deja de hacer esto” asumiendo las consecuencias del consejo.

Nada nuevo bajo el sol: lo que tiene y siempre tuvo valor añadido es la aplicación de criterio en condiciones de incertidumbre y bajo el régimen de responsabilidad profesional.

Cualquier IA te sacará en minutos un buen borrador de nota con las consecuencias sancionatorias de hacer esto o aquello (el artista siempre conocido como “salvaculos”).

Pero lo que siempre ha sido valorado -y lo será cada día más- es el profesional capaz de apuntar en la dirección más practicable o mejor defendible, con o sin esa nota de por medio.

Cosa distinta es que antes se facturara conjuntamente “conocimiento” y “criterio”. Ahora tocará justificar facturación en esa cualidad a veces tan fácil y otras veces tan difícil de explicar, que hace que una vez que olfateas a un abogado bueno de verdad no te quieras separar de él (o de ella) ni con forceps.

3. La crisis de la hora facturable…

Concreción de lo anterior: una IA comprime la elaboración de un informe de investigación de 40 horas en 60 minutos de generación “Deep research” supervisada.

No una IA gratuíta, claro, pero sí un sistema alimentado con los antecedentes correctos, con sus flaquezas y fortalezas estudiados y atendidos, con base en una skill de quinta iteración, al que se pregunte y cuyo resultado se supervise de la forma adecuada.

En este escenario, el criterio de honorarios basados en “hora facturable” se vuelve absurdo. Por dos razones:

.- Economics of AGI subraya esta cuestión desde la perspectiva de la demanda, prediciendo que los modelos de ingresos derivados del “trabajo del conocimiento” pasarán del “Software-como-Servicio” al “Software-como-Trabajo”: monetizando resultados en vez de acceso o tiempo.

.- Reshuffle apunta a la oferta: asistiremos a una reestructuración fundamental de la economía de los despachos. Los despachos que se aferren a la hora facturable no quedarán simplemente desfasados: estarán infravalorando su propia ventaja comparativa. Si la IA redacta en minutos, cobrar por esos minutos será un ejemplo catastrófico de “race to the bottom”.

… y el boom del criterio, la experiencia y la estrategia

¿Cobrar por el criterio, la estrategia, la verificación experta y la responsabilidad que hacen realmente ejecutable y útil ese borrador?

Ahí estará la facturación premium.

Nada nuevo bajo el sol: eso siempre estuvo ahí: en la intervención clave de la reunión crítica, en el resumen ejecutivo de cinco bullets, nunca en el informe coñazo de cuarenta páginas que nadie relevante se va a leer nunca.

Ciertamente se vienen reuniones incómodas con clientes: ante la tendencia natural (y justificadísima) de rebajar honorarios por la evidente optimización en tiempos derivada del uso de la IA, tocará poner en valor la carga cognitiva y de responsabilidad ligada a la nueva forma de trabajar:

Por una parte, orquestar y refinar el trabajo de agentes de IA y supervisar sus outputs es agotador, como puede atestiguar cualquiera que lo haga.

Por otra, si con una prompt a Claude o ChatGPT ya crees que tienes todo lo que necesitas para tomar una decisión importante… ¿Por qué me pides que te la valide? En concreto ¿Por qué precisamente a mí?

Mientras la respuesta a esta última pregunta sea la correcta, sobrevivirás al tsunami de la IA.

4. Responsabilidad profesional: inesperado moat o foso competitivo

Reshuffle contiene una frase totémica que se desarrolla a lo largo de buena parte de sus páginas: “Las herramientas amplifican el rendimiento, pero las soluciones absorben el riesgo“.

Las herramientas de IA “especializadas” (en nuestro caso: jurídicas) como Harvey o Legora tienen varios problemas obvios y uno profundo.

En la parte más obvia, no son más que wrappers con un blindaje RAG avanzado. Dicho llanamente, son una capa de personalización pintada sobre el antepenúltimo modelo frontera de OpenAI o Anthropic: estás pagando un pastizal al mes por un modelo de hace meses -que son lustros en el actual contexto loco de la IA-.

Estos envoltorios de modelos frontera están especialmente diseñados para capitalizar la aversión al riesgo de los abogados (no suelen ser muy techies pero lo que sí que son es muy temerosos de la responsabilidad profesional por alucinación).

Y eso está bien. Pero escúchame bien letrado: la IA aplana y homogeneiza el conocimiento. Y esa moneda tiene dos caras:

El profesional mediocre, cuyo trabajo esté por debajo de la media verá impulsado su nivel hasta que su medianía alcance la media del sector.

El excelente debe ser capaz de identificar el contenido en que se concreta su diferencia, articularlo y entrenar con él a la IA para que le multiplique, en vez de igualarle hacia abajo.

El problema, ni que decir tiene, es que al entrenar a ChatGPT con tu mejor contenido, estás entrenando a un señor tan de fiar y con tan buenas intenciones como Sam Altman, o a cualquiera de sus amiguetes bros: gente que lleva años predicando que su invento te quitará el curro.

Pero la clave está en la responsabilidad.

Harvey puede despachar un documento legal impresionante. Pero recordemos que no se puede demandar a Harvey por inventarse una sentencia. No puede ser sancionada por un colegio de abogados. Harvey no puede firmar un dictamen. No tiene seguro de responsabilidad civil profesional.

Es el abogado cuya firma, cuyo cuerpo se interpone entre el output de la IA y las consecuencias para el cliente representará en unos años la función económicamente más escasa, el cuello de botella del sistema.

Pocos pueden ignorar que vienen curvas para todos los perfiles laborales que han vivido de producir rutinariamente papeles idénticos entre sí.

Sin embargo, los profesionales -y los abogados- especializados en situaciones de alto riesgo —operaciones corporativas complejas, entornos regulatorios novedosos, litigios complejos— conservarán su capacidad de fijación de precios mucho más tiempo.

5. De “recolectores” a “verificadores”

Economics of AGI pronostica una colisión entre dos curvas de coste: la del coste de automatización que desciende exponencialmente y la del coste de verificación, que seguirá constante, porque está limitado por nuestras muy modestas capacidades humanas.

¿Qué significa esto?

Como bien sabes si estás en la pomada, la IA puede generar un contrato de 50 páginas, una comparativa entre normativas de cinco países, un resumen de un paper de los jodidos y una presentación resumen en media horita.

Como decimos, hoy el precio que paga el usuario de modelos frontera es cercano a cero. Mañana ya veremos.

Pero alguien tiene que verificar que todos esos outputs son correctos, completos y -fundamentalmente- relevantes para la situación y alineados con la intención real del cliente.

Esa verificación seguirá siendo cara, lenta, limitada por las limitaciones humanas.

La trampa del “informe facherito”

El texto jurídico generado por IA siempre va a ser formalmente impecable, estructuralmente sólido y materialmente incoherente en aspectos que un abogado experimentado detectará.

Nada nuevo bajo el sol: es lo que siempre ha pasado con los borradores de los juniors, incluidos los más listos: notas inmaculadas, sin una sola falta de ortografía, -vamos a suponer que sin alucinaciones-, pero irrelevantes, desnortados o alejados de lo que el cliente claramente nos estaba pidiendo, o manifiestamente necesitaba o esperaba (aun sin pedirlo explícitamente).

El truco del almendruco: De forma crítica, “Economics” sostiene que utilizar IA para verificar IA es muy peligroso: “genera falsa confianza” porque el verificador y el generador comparten los mismos puntos ciegos.

El autor de Reshuffle propone la teoría del sándwich: el profesional define lo que se necesita, la IA genera un borrador y el profesional vuelve a aparecer para verificar y asegurar un resultado correcto y relevante.

La competencia de verificación será mucho más importante que la de producción.

Esto no sólo incluye detectar alucinaciones, sino sobre todo dónde la IA “no lo ha pillao”, la brecha entre la información extraída y el contexto del cliente, la pregunta importante que no te han hecho...

Es decir, destilar la información plana en consejos de valor inmediatamente accionables.

Unan a la capacidad de verificación, cuarto y mitad de psicología aplicada para saber si lo que necesita tu cliente es que le respalden, que le convenzan de lo contrario o que simplemente te apartes de su camino, y tendrás el perfil de abogado que siempre ha tenido éxito, con o sin IA. Again: nada nuevo bajo el sol.

Por supuesto que el combo formado por (i) un vistoso informe facherito (ii) sin revisar o lo que es lo mismo, (iii) revisado por un Directivo sobrao ya está dándonos tardes de gloria.

Esto irá a más. A mucho más.

6. “Encima” y “debajo” del algoritmo

Reshuffle divide a los trabajadores en dos categorías: quienes diseñan, construyen y aprovechan los sistemas de IA están por encima del algoritmo.

Aquellos cuyo trabajo es gestionado, estandarizado y evaluado por sistemas automatizados están por debajo.

Por encima del algoritmo el profesional contempla extasiado lo que puede hacer con sus nuevos superpoderes.

Los abogados que utilicen la IA como “motor” para rediseñar la prestación de servicios jurídicos —creando nuevas arquitecturas de flujos de trabajo, desarrollando procesos propietarios de asesoramiento aumentados por IA o construyendo infraestructura de verificación— estarán por encima del algoritmo.

Los abogados que permanezcan aferrados a tareas rutinarias y estandarizadas por la IA (revisión documental, redacción contractual básica, checklists regulatorios) se encontrarán cada vez más por debajo de él, compitiendo en velocidad y coste con IA y con una competencia tan comoditizada como ellos.

Sí: se viene una “überización” cruel de la profesión para “los de abajo”.

Quien se queda por debajo pierde agencia y capacidad de fijación de precios.

Parece inevitable el adelgazamiento de plantillas de las grandes estructuras.

Y la precarización de los supervivientes cuya única función, una vez automatizados los flujos de trabajo, sea la revisar outputs generados por la IA

Y ojo que por “grandes estructuras” no sólo me refiero a los despachos consagrados, sino también y sobre todo a las plataformas de contratación flexible de abogados por proyecto, capaces de cobijar por semanas profesionales técnicos sin competencias comerciales, absorber su expertise en forma de entregables o de “skills”, reducir su trabajo a métricas cuantificables, optimizar y pagar sólo aquello que los clientes pueda en efecto medir (y glups, calificar), y prescindir del resto, incluidos vaporosos conceptos como los que llamamos empatía, buen rollo, chispa, talento, room reading o genio.

Cuidado, compañero, alguno de estos players incluso podría llegar intentar cobrarte por acceder a tu propio knowhow, convenientemente agregado, regurgitado y paquetizado para la ocasión… dentro o fuera de una IA propia.

“Está pasando”.

… pero ojo con poner todos tus, erm, huevos en la misma cesta.

Uno de los elefantes en la habitación es la burbuja de la IA.

Las grandes compañías están subvencionando la adopción masiva de la tecnología, perdiendo literalmente dinero con cada una de nuestras prompts.

Un artículo viralizado tras el cierre de Sora, apunta a una subida del precio del token de entre x10 y x100, para finales de 2027.

Puede que no sea tanto (x100), y puede que no sea tan pronto, pero será.

Esta es otra película que ya hemos visto muchas veces. Se llama “enshittification”.

Hoy ya podemos saber que no habrá suficientes competidores como para ver guerras reales de precios. Y que el ajuste reconfigurará -de nuevo- todo el panorama profesional cuando se produzca.

Mucho ojo con pasar a depender completamente de proveedores que puede discontinuar tu modelo favorito, imponer una inflación de x100 en euros (o reduflación de 1/100 en tokens) de un mes para otro.

¿Has echado a demasiada gente confiando en precios por token a la baja?

Llegará Paco Amodei con la rebaja.

¿Has olvidado ya cómo hacer esto y aquello porque todo te lo hacía tu maravilloso enjambre de agentes?

Di adiós a tus dulces beneficios.

7. No todo el mundo puede ser un gran artista, pero un gran artista puede venir de cualquier sitio

Reshuffle: la IA reduce drásticamente el mínimo común multiplicador para prestar servicios profesionales.

Si un lobo solitario legal con Claude con un conjunto de flujos de trabajo bien diseñados puede producir el mismo volumen y calidad de trabajo que un equipo de cinco asociados y dos paralegals, la justificación económica de los grandes despachos se tambalea en un montón de áreas de práctica.

Esto es una amenaza y una oportunidad (pero no para los mismos):

Los despachos consolidados se enfrentan al clásico “dilema del innovador”: su tamaño, gastos generales y procesos legacy se convierten a estos efectos en pasivos (en lugar de en activos).

Pero para los abogados individuales, y en especial los más jóvenes, la barrera de entrada nunca habrá sido tan baja.

Lean la visión del “abogado de nicho” de Jordan Furlong: yo no lo voy a explicar igual de bien que él. Que una sola persona atienda a una clientela específica con precisión aumentada por IA y gastos generales mínimos, es algo perfectamente viable hoy.

… por otro lado, nunca ha sido tan fácil como hoy en día perder la chaveta si eres un autónomo currando desde casa, cruzando tu criterio -o simplemente hablando- solamente con agentes de IA.

… o meter la pata hasta el fondo al meterte en territorios inexplorados subiéndote a hombros de la IA, por no tener nadie a tu lado con quien mínimamente cruzar tu criterio.

8. “Vamo a calmarno”

La (hoy aún enorme) brecha entre el autobombo de la IA y la realidad jurídica impone un poco de escepticismo frente a los extremos:

.- El mundo del derecho está firmemente anclado a las estructuras más conservadoras de la sociedad occidental. Todo lo que pueda cambiar lentamente en este contexto, lo hará la mínimo de revoluciones: lo hará a velocidad glacial.

No tienen más que ver a todos esos procuradores vivitos y coleando en tiempos de Lexnet. O la asombrosa escena de un farmacéutico recortando un código de barras con un cutter y pegándolo con celofán en un cacho de papel. Epatante.

.- “IA” es un término tremendamente genérico, que engloba realidades muy distintas. Los cambios arrasarán industrias enteras antes de que otras empiecen siquiera a inquietarse.

.- Cada generación ha tenido una crisis tecnológica: puede que la nuestra sea más pronunciada pero ninguna ha sido apocalíptica.

La moraleja correcta de todo esto no es, creo yo, la autocomplacencia, sino permanecer escéptico tanto frente al “nada cambiará para mí” como al “todo se viene abajo”.

Los abogados deberíamos descifrar ambas “agendas”: tanto la de quienes sostienen “la IA es solo una herramienta, nada cambiará” como los de la narrativa apocalíptica de “los abogados estáis ya fiambres”.

La mediana sensata estaría en evaluar las capacidades de la IA conforme al estándar del Best Available Human (BAH) de Ethan Mollick, en vez de frente al abogado ideal, que por cierto no existe.

Es cierto que la IA hoy supera la capacidad del abogado medio en según qué cosas, pero mucho tendrá que remar Sam Altman antes de automatizar cositas como la administración de justicia.

¿Recuerdan aquella sensación tan chunga la primera vez que introdujeron los datos de su tarjeta de crédito en internet por primera vez? Eso no va a ser nada comparado con presentar una demanda completamente automatizada en un asunto de importancia. Eso van a ser mariposas en el estómago del tamaño de águilas reales.

9. ¡Es el sistema, estúpido!

Reshuffle insiste incasablemente en que nos estamos haciendo la pregunta equivocada. “¿Qué puede automatizar la IA?” en vez de “¿Qué nuevos sistemas surgirán coordinados por la IA?”.

La reestructuración de servicios que da título al libro captura una realidad más ambiciosa que el análisis tarea por tarea.

La IA no solo cambiará lo que hacemos los abogados; cambiará cómo nos organizamos, prestamos servicios, nos regulamos, prestamos y valoramos nuestros servicios. Y lo hará al mismo ritmo que los ecosistemas a los que prestamos servicios.

“Economics” coincide con su marco de “coordinación en cascada”: cada problema de coordinación resuelto desbloqueará la siguiente capa de complejidad.

· El efecto de primer orden de la IA en la abogacía es la generación documental en esteroides.

· El efecto de segundo orden será (ya es) la reestructuración de flujos de trabajo.

· El efecto de tercer orden serán nuevas estructuras de despacho, de precios, de relaciones con clientes.

· Más tarde llegarán nuevos marcos regulatorios, nuevas dinámicas competitivas entre herramientas y soluciones y disruptores nativos legales de IA que hoy no alcanzamos (no alcanzo) a imaginar.

Los abogados que se limiten a preguntarse “¿Cómo uso ChatGPT para redactar contratos más rápido?” están optimizando un sistema que tiene los días contados.

La pregunta es: ¿Dónde quiero estar en un mundo post-generalización de la IA?.

10.- To be continued…

Dejamos para otro día:

“Los juniors, los juniors, ¿Es que nadie piensa en los juniors?” y

“Enseñar skills a Claude o no enseñar skills a Claude, esa es la cuestión: el dilema del abogao prisionero”

Jorge García Herrero

Abogado y Delegado de protección de datos.

This is one of the topics I have spent the most time reading and talking about over the past year.

Two weeks ago, I chatted with Sergio Maldonado on this in his podcast.

Sergio’s is a very notable opinion. His perspective is privileged: he has been in the digital space from the beginning, he is in the US -in all the cream- and is an early-definer (more than adopting).

There’s no need to see more than the legal services platform he launched: todolaw.com

The topic has much to offer and I believe it can affect you, not just the lawyer hanging there (on your team). So I will leave here the ideas that seem most relevant to me and where I got them from.

I already warn you that some of the loudest ones come from myself...

You are reading ZERO PARTY DATA. The newsletter about current affairs, tech-polies and law of Jorge García Herrero and Darío López Rincón.

In the free time this newsletter leaves us, we specialize in solving complicated moves in personal data protection. If you have any of those, give us a hand with your little finger (contact us). Or contact us by email at jgh(at)jorgegarciaherrero.com

Thanks for reading Zero Party Data! Sign up!

Suscríbete ahora

1.- How it started: “MUAHAHA I am un-justifiable”

I know you have never seen the little scene I am going to describe, but I have seen it frequently.

It’s the one of a lawyer (doesn’t matter the age, eh?) who one day tried free ChatGPT asking him a complicated question -normally the one he sweated to solve- about a subject he had to study last week.

The prompt was garbage and the AI’s response, another one: a generic response with two hallucinations that an intern wouldn’t miss them (or couldn’t spot).

The lawyer smiled at the reassuring disaster, punched his chest with both fists and roared “IN YOUR FACE, SAM ALTMAN” “WE SHALL OVERCOME!!” “NEITHER IA NOR IO!!!”, “CHOI UNJUSTIFIABLE MUAHAHA!!!”.

Invariably the day of that ‘definitive scientific test’ was before November 2025, because otherwise another rooster would have crowed (it wouldn’t be relevant anymore).

Well, I have good and bad news for that lawyer. Bad ones, mostly.

...How it’s going

Last November, AI made a qualitative leap. Since then, gross errors and erratic documents that we were used to are not detected anymore. Or hardly.

But I’m not here to talk about what works well now, but about the expected changes around the new technology.

AI will not be limited to automating legal tasks: it will drastically change value capture in the legal profession, law firm structure, client relationship and the meaning of what we have come to call ‘the practice of Law’.

Such is the convergent conclusion of “Reshuffle” by Sangeet Paul Choudary, and the paper “Some Simple Economics of AGI“, by Christian Catalini, Xiang Hui and Jane Wu (February 2026), the two main sources of post-brick that are prepared to, at best, look on diagonally.

I know them.

2. Democratization of knowledge…

Both Reshuffle and Economics of AGI reach the same conclusion by different paths: AI turns the deep knowledge component of the professional into a commodity. And that will have an impact on... the price.

Reshuffle identifies three restrictions around which systems are organized —scarcity, risk and coordination—.

When AI liquidates the scarcity of deep knowledge (because legal research, case synthesis and regulatory analysis turn out much faster -and today practically free, we’ll see tomorrow-), the economic value is kept by those who manage the other two restrictions.

... versus “skin in the game”

When access to knowledge is no longer scarce, the lawyer’s value resides in applying judgment and strategy and in assuming and managing risk.

Scarcity gone, fees must be justified elsewhere and measured differently, not by hours.

A lawyer who searches, digests and regurgitates legal knowledge is performing an easily automatable task and therefore, fungible.

A lawyer who helps a decision-maker do their job better, to take one direction or another with relevant consequences —assuming responsibility for said advice— operates in a context and offers a service that will be out of AI’s reach for a long time.

I believe.

In a world (this one you inhabit today) where Claude can retrieve and synthesize regulations and case law notably in seconds, the lawyer’s value resides in the ability to look their client in the eye and tell them ‘do or stop doing this’ assuming the consequences of the advice.

Nothing new under the sun: what has and always had added value is the application of judgment in conditions of uncertainty and under professional liability regime.

Any AI will pull out a good draft note in minutes with the sanctioning consequences of doing this or that thing.

But what has always been valued -and will be more every day- is the professional capable of pointing in the most practicable or better defensible direction, with or without that note in between.

Different thing is that before ‘knowledge’ and ‘judgment’ were billed together. Now it will be to justify billing in that quality sometimes so easy and other times so difficult to explain, which makes that once you smell a really good lawyer you don’t want to separate from him (or her) even with forceps.

3. The crisis of the billable hour…

Specification of the above: an AI compresses the elaboration of a research report from 40 hours to 60 minutes of supervised ‘Deep research’ generation.

Not a free AI, of course, but yes a system fed with the correct precedents, with its weaknesses and strengths studied and attended to, based on a fifth iteration skill, which is asked and whose result is supervised in an adequate way.

In this scenario, the criterion of fees based on ‘billable hour’ becomes absurd. For two reasons:

• Economics of AGI highlights this issue from the perspective of demand, predicting that income models derived from ‘knowledge work’ will pass from ‘Software-as-a-Service’ to ‘Software-as-a-Work’: monetizing results instead of access or time.

• Reshuffle points to supply: we will witness a fundamental restructuring of law firm economy. Law firms that cling to billable hour won’t just be outdated: they will undervalue their own comparative advantage. If AI drafts in minutes, charging for those minutes will be a catastrophic example of ‘race to the bottom’.

... and the boom of judgment, experience and strategy

Charge for judgment, strategy, expert verification and responsibility that make that draft really executable and useful?

There will be the premium billing.

Nothing new under the sun: that was always there: in the key intervention of the critical meeting, in the executive summary of five bullets, never in the forty-page boring report that no relevant person is going to ever read .

Certainly there will be uncomfortable meetings with clients: before the natural trend (and most justified) of reducing fees due to evident time optimization derived from AI use, it will have to put value on cognitive load and responsibility linked to the new way of working:
On one hand, orchestrating and refining AI agents’ work and supervising their outputs is exhausting, as anyone who does it can testify.
On the other hand, if with one prompt to Claude or ChatGPT you already think you have everything you need to make an important decision... Why do you ask me to validate it? Specifically why precisely to me?

While the answer to this last question is correct, you will survive the AI tsunami.

4. Professional liability: unexpected moat or competitive moat

Reshuffle contains a totemic phrase that develops throughout most of its pages: ‘Tools amplify performance, but solutions absorb risk’.

AI tools ‘specialized’ (in our case: legal) like Harvey or Legora have several obvious problems and one deep one.

In the most obvious part, they are nothing more than wrappers with advanced RAG shielding. Said plainly, they are a layer of customization painted over the antepenultimate frontier model from OpenAI or Anthropic: you are paying a meadow per month for a model from months ago -which are decades in the current crazy AI context-.

These frontier model wrappers are specially designed to capitalize lawyers’ risk aversion (they aren’t usually very techies but what they are is very fearful of professional liability due to hallucinations).

And that’s good. But listen well lawyer: AI flattens and homogenizes knowledge. And that coin has two sides:

• The mediocre professional, whose work is below average will see their level boosted until their mediocrity reaches the industry average.

• The excellent one must be able to identify the content in which their difference is concretized, articulate it and train with it AI so that it multiplies them, instead of equalizing them downwards.

The problem, needless to say, is that by training ChatGPT with your best content, you are helping a guy so trustworthy and with such good intentions as Sam Altman, or any of his bro friends: people who have been preaching for years that their invention will take your job away.

But the key is in responsibility.

Harvey can dispatch an impressive legal document. But remember that you cannot sue Harvey for making up a ruling. It cannot be sanctioned by a bar association. Harvey cannot sign an opinion. It does not have professional liability insurance.

It is the lawyer whose signature, whose body interposes between AI’s output and consequences for the client will represent in a few years the most scarce economic function, the bottleneck of the system.

Few can ignore that curves are coming for all job profiles who have lived producing routinely identical papers among themselves.

However, professionals -and lawyers- specialized in high-risk situations —complex corporate operations, novel regulatory environments, complex litigation— will retain their pricing capacity much longer.

5. From “collectors” to “verifiers”

Economics of AGI predicts a collision between two cost curves: the automation cost curve that descends exponentially and the verification cost curve, which will remain constant, because it is limited by our very modest human capacities.

What does this mean?
As you well know if you are “in it”, AI can generate a 50-page contract, a comparison between regulations of five countries, a summary of a stone-hard paper and a presentation summary, all in half an hour.
As we say, today the price paid by users of frontier models is close to zero. Tomorrow we’ll see.
But someone has to verify that all those outputs are correct, complete and -fundamentally- relevant for the situation and aligned with the client’s real intention.
That verification will remain expensive, slow, limited by human limitations.

The trap of the “looking good report”

The legal text generated by AI will always be formally impeccable, structurally solid and materially incoherent in aspects that an experienced lawyer will detect.

Nothing new under the sun: that is what has always happened with juniors’ drafts, including the smartest ones: immaculate notes, without a single spelling mistake, -let’s assume without hallucinations-, but irrelevant, off-track or away from what the client was clearly asking us for, or manifestly needed or expected (even without explicitly asking).

The trick: Critically, “Economics” holds that using AI to verify AI is very dangerous: “it generates false confidence” because the verifier and generator share the same blind spots.

The author of Reshuffle proposes the sandwich theory: the professional defines what is needed, AI generates a draft and the professional reappears to verify and ensure a correct and relevant result.
Verification competition will be much more important than production one.

This not only includes detecting hallucinations, but especially where AI ‘didn’t get it’, the gap between extracted information and client context, the important question they didn’t ask you...
That is, distill flat information into immediately actionable value advice.
Combine with verification capacity, quarter and half of applied psychology to know if what your client needs is that they back you up, convince them otherwise or simply get out of their way, and you will have the lawyer profile who has always been successful, with or without AI. Again: nothing new under the sun.

Of course the combo formed by (i) a flashy report (ii) without review or what is the same, (iii) reviewed by an overworked Executive is already giving us days of glory.
This will go further. Much further

6. “Above” and “Below” the algorithm

Reshuffle divides workers into two categories: those who design, build and exploit AI systems are above the algorithm.
Those whose work is managed, standardized and evaluated by automated systems are below.
Above the algorithm the professional contemplates ecstatically what they can do with their new superpowers.
Lawyers who use AI as ‘engine’ to redesign legal service provision —creating new workflow architectures, developing proprietary processes of AI-augmented advice or building verification infrastructure— will be above the algorithm.
Lawyers who remain clinging to routine and standardized tasks by AI (document review, basic contract drafting, regulatory checklists) will find themselves increasingly below it, competing in speed and cost with AI and with a competition as commoditized as them.

Yes: a cruel “uberization” of the profession is coming for “the ones below”.

Whoever stays below loses agency and pricing capacity.
It seems inevitable the thinning of templates from large structures.
And the precariousness of survivors whose only function, once workflows are automated, is to review AI-generated outputs

And watch out that by ‘large structures’ I not only refer to established firms, but also and especially to flexible lawyer hiring platforms for projects, capable of sheltering technical professionals without commercial skills for weeks, absorbing their expertise in form of deliverables or ‘skills’, reducing their work to quantifiable metrics, optimizing and paying only what clients can actually measure (and glups, qualify), and dispensing with the rest, including ethereal concepts like what we call empathy, good vibes, spark, talent, room reading or genius.

Watch out, buddy, some of these players could even try to charge you for accessing your own know-how, conveniently aggregated, regurgitated and packaged for the occasion... inside or outside a proprietary AI.
‘It is happening’.

... but watch out for putting all your, erm, eggs in the same basket.

One of the elephants in the room is the AI bubble.
Large companies are subsidizing massive technology adoption, literally losing money with each one of our prompts.
A viralized article after the closure of Sora points to a price increase for tokens between x10 and x100, by end of 2027.

It may not be that much (x100), and it may not be so soon, but it will happen.
This is another movie we have seen many times before. It’s called “enshittification“.
Today we can already know that there won’t be enough competitors to see real price wars. And that the adjustment will reconfigure -again- the whole professional landscape when it happens.

Watch out for passing to depend completely on providers who can discontinue your favorite model, impose an inflation of x100 in euros (or deflation of 1/100 in tokens) from one month to another.
Have you fired too many people trusting low token prices?
Amodei will come with the bill.
Have you already forgotten how to do this and that because your wonderful swarm of agents did everything for you?
Say goodbye to your sweet profits.

“If you cannot build a viable business with AI costs 5 times higher than current ones, you don’t have a viable business: you have a ‘subsidized’ project.”

7. Not everyone can be a great artist, but a great artist can come from anywhere

Reshuffle: AI drastically reduces the common minimum multiplier to provide professional services.
If a lone wolf legal with Claude with a set of well-designed workflows can produce the same volume and quality of work as a team of five associates and two paralegals, the economic justification of large firms wobbles in a lot of practice areas.

This is a threat and an opportunity (but not for the same ones):

• Consolidated firms face the classic “innovator’s dilemma“: their size, overhead and legacy processes turn into liabilities for these purposes (instead of assets).

• But for individual lawyers, and especially the youngest ones, the entry barrier has never been so low.

Read the vision of “niche lawyer” of Jordan Furlong: I’m not going to explain it as well as him.
That one person attends to a specific clientele with AI-augmented precision and minimal overhead is something perfectly viable today.
... on the other hand, it has never been so easy as today to lose your head working all day alone at home, crossing your judgment -or simply talking- only with AI agents.
... or step into deep trouble by entering unexplored territories riding on AI’s shoulders, for not having anyone beside you with whom to cross your judgment minimally.

8. “Let’s calm down”

The (today still huge) gap between AI hype and legal reality imposes a bit of skepticism towards extremes:

• The legal world is firmly anchored to the most conservative structures of Western society. Everything that can change slowly in this context will do so with minimum revolutions: it will happen at glacial speed.
  You just have to see all those living and jumping procurators in times of Lexnet. Or the amazing scene of a pharmacist cutting a barcode with a cutter and sticking it with cellophane on a piece of paper. Amazing.

• “AI“ is an extremely generic term that encompasses very different realities. Changes will wipe out entire industries before others even start to worry.

• Each generation has had a technological crisis: maybe ours is more pronounced but none have been apocalyptic.

The correct takeawy of all this is not, I think, complacency, but remaining skeptical both towards ‘nothing will change for me’ and to ‘everything is coming down’.

Lawyers should decipher both ‘agendas’: both those who hold ‘AI is just a tool, nothing will change’ and the apocalyptic narrative of ‘lawyers are already cured meats’.
The sensible median would be in evaluating AI’s capabilities according to the Best Available Human (BAH) standard of Ethan Mollick, instead of facing the ideal lawyer, which by the way doesn’t exist.

It is true that AI today surpasses the average lawyer’s capacity in some things, but much will have to row Sam Altman before automating little things like justice administration.
Do you remember that so funny feeling the first time they introduced your credit card data on the internet for the first time? That won’t be anything compared to filing a completely automated lawsuit in an important matter. That will be butterflies in the stomach of real eagle size.

9. It’s the system, stupid!

Reshuffle insistently insists that we are asking the wrong question. ‘What can AI automate?’ instead of ‘What new systems will emerge coordinated by AI?’.
The service restructuring that gives title to the book captures a more ambitious reality than task-by-task analysis.
AI will not only change what we lawyers do; it will change how we organize ourselves, provide services, regulate ourselves, lend and value our services. And it will do so at the same pace as the ecosystems to which we provide services.
“Economics” coincides with its framework of ‘cascading coordination’: each solved coordination problem will unlock the next layer of complexity.

• The first-order effect of AI on law is steroid-document generation.

• The second-order effect will be (already is) workflow restructuring.

• The third-order effect will be new firm structures, pricing, client relationships.

• Later there will come new regulatory frameworks, new competitive dynamics between tools and solutions and native legal AI disruptors that today we don’t reach (I can’t) to imagine.

Lawyers who limit themselves to asking ‘How do I use ChatGPT to draft contracts faster?’ are optimizing a system that has days counted.
The question is: Where do I want to be in a post-generalization AI world? .

10.- We leave for another day…

‘The juniors, the juniors, is anyone thinking about the juniors?‘ and

‘Teaching skills to Claude or not teaching skills to Claude, that’s the question: the prisoner lawyer dilemma‘

Jorge García Herrero

Lawyer and DPO

With everything that is currently coming down the line in terms of future regulation, court cases where internal reports keep coming out showing the use of every trick of applied psychology that causes real harm to minors and adults alike, and authorities becoming ever more aware of what addictive patterns are, along come the people from the big arched M with an aggressive marketing campaign based on scarcity, FOMO, and data collection:

• Taking advantage of it to get good data through the app. A classic among classics;

• Taking advantage of the current obsession with opening Pokémon packs (physical and virtual): not for nothing, it is already known how much the rarest random cards you might get here would be worth. Don’t ask about the obscenities people ask and pay for Pokémon cards (especially if they are “graded”); and

• Taking advantage of Gen Z’s k-pop obsession to hit them with every visual stimulus and a full-blown Skinner scheme to keep them buying until they get everything.

And all this, only to then see the company’s CEO pretending to bite the wonderful not-at-all-bad hamburger they sell. P.S. Krusty already did it in The Simpsons.

Eou are reading ZERO PARTY DATA. The newsletter on current affairs and technology law by Jorge García Herrero and Darío López Rincón.

In the free time this newsletter leaves us, we solve complicated messes related to personal data protection and artificial intelligence regulations. If you have one of those, give us a little wave. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World 🌍

.- The latest in the Gallagher-style AI feuds: while OpenAI shuts down Sora and gives up on its “huge project” for an adult NSFW ChatGPT, Anthropic accidentally leaks all-the-co-de of Claude (!!!!). But the very latest news is that Anthropic is doing a limited release of Mithos, its latest model, given how easily it finds zero-day vulnerabilities in “any software.”

And it’s only Thursday, Captain Haddock.

.- Noyb informs us that the Council of State dismissed Criteo’s appeal in March over the famous multimillion fine they got for doing their Adtech thing badly. It seems that the line about pseudonymous identifiers associated with IP addresses and “other browsing data” not being personal data at this point (with IP being one of the classic examples) did not sit well at all with the French Council of State. When we all already know they cross-reference a thousand things, and that what matters to them is being able to single you out through that IP and browsing, with no interest whatsoever in your name and surname.

.- The Australians are finding out that the new regulation on minimum age for social networks does not prevent nature from finding a way through: Social Media Minimum Age: March 2026 Compliance update. The supposed guarantee intended to minimize the margin of error / practical application of the right to challenge the decision of the system that categorizes you as a minor or an adult has been turned on its head by the reality of the world. On paper it is framed as a wonderful safeguard, but the minor sees it as just try again until it beeps. We saw Peter Craddok’s comment on the document on LinkedIn, but we went to the document to look for those specific highlighted observations:

.- This article by John Wilkins portrays the expansion of surveillance devices that are voluntarily made visible, almost totemic, presented as preventive crime deterrence. The moral is that surveillance is no longer hidden, but rather displayed as a message. Umberto Eco would praise its semiotic function: these artifacts are designed to generate “anticipatory obedience.”

.- Meta bad, but losing Section 230 worse. This fine text by Ryan Broderick contrasts two poisons** for you to choose yours**: Meta’s moderation and design failures versus the systemic risk of weakening the Yankee liability shield of Section 230. The counterintuitive argument is that punishing platforms may end up damaging the information and expression ecosystem more than correcting specific abuses. But friends! the author is not defending Meta, no (unlike all those former presidents of enforcement authorities who run to big law firms to do so as soon as they leave office); what he is doing is defending the legal architecture that prevents an internet dominated only by actors able to afford litigation and massive preventive filtering.

.- An interesting article from a foreign outlet explaining LaLiga’s very well-known abuse in blocking the websites of all and sundry during football match broadcasts. What is interesting is that it describes the ecosystem in which the companies holding broadcasting rights operate as that of a true banana republic.

📖 High density docs for data junkies ☕️

.- The ICO put out for public consultation its guide on automated decisions. You have to keep in mind that it is based on the UK GDPR, but it does leave some very applicable things:

1. Real human intervention, not tokenistic, recorded and prior enough that there is time to make critical changes in the processing.

2. And the problem of consent when it comes indirectly. It calls it “invisible processing,” because the data subject does not even realize what is being done.

“You should remember profiling can often be invisible to people. For example, if it involves personal information that you obtain from somewhere other than directly from the person themselves. This sort of invisible processing may mean that it is challenging for you to show that you have valid consent because it isn’t informed or specific in these cases.People also have the right to withdraw their consent at any time. You must make it as easy for them to withdraw consent as it was to give it.”

.- The CNIL publishes a document on retention periods in the employment sphere. Very table-format, and without many surprises. What they call an intermediate archiving period is, in the end, the same as our specialty under article 32 of the LOPDgdd on blocking. They include details on biometric access, and even a breakdown of the staff itself.

.- The Spanish Supreme Court applies the Scania doctrine. The other way around, but it applies it. And along the way it says that all those guides and guidelines are worth what they are worth: as “notorious facts,” not as a source of law.

.- Interesting judgment that punishes a detective agency for capturing the image of a worker on sick leave on the balcony of her house. She was on the balcony, yes, but she was in her house. So be careful.

.- Does National Security Scheme certification serve as a mitigating factor in liability for non-compliance with the GDPR? Francisco Javier Sempere and the National Court have the answer.

.- The Most Holy Luis Montezuma brings us, in a single skeet, links to the versions in** English **of the AI laws or bills of Japan, Korea, Vietnam, and Taiwan.

.- Highly recommended are the in-depth articles on ADM and AI Act aspects from the FPF. Specifically this one on the prohibition of emotion recognition by Desara Dushi.

.- When the AEPD bars the door, biometrics come in through the window. No, this is not a faithful summary of Patricia Chenlo’s post, but never let the truth ruin a good headline: Patricia comments on the Draft Law on the protection and resilience of critical entities that enables biometric authentication and identification for access in critical entities, under legal obligation, public interest, mandatory DPIA, and prohibition of labor or timekeeping uses.

.- Don’t miss the hair-raising statement by the AEPD in this decision declaring proceedings expired over a SEUR security breach. The credit for extracting the grain from the chaff goes entirely to Maria Luisa González Tapia.

.- Capilano University conducted this PIA on a proctoring application. So far, nothing new. What is funny about this PIA is that… it found insufficiently mitigated risks and rejected the processing.

.- A delicacy: a coloring book in the literal sense of the term, explaining to children what a data center is. What on earth is this resource doing in this newsletter and in this section? Click the link and then you tell me: not even I, the spy, could have managed to find material so breathtakingly mordant. The authors of this marvel are Melissa Tamberg, Mike DeCamp, Laura Scheving, and Luci Gardner.

.- The crisis of consent in contexts involving AI agents. This post does not stand out for its technical depth in legal issues (which it does not claim to have), but for its ability to illustrate the inherent difficulties in the new contracting and operating flows of aaall those agents (in that, it has plenty). Via the great Joan Sardá.

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

.- I highly recommend reading the description of this scam targeting an Axiom developer that allowed attackers (who pretended to be a startup in order to get a Teams call with their victim) to take control of his access credentials and introduce malicious software among the company’s legitimate libraries. Fine stuff.

.- US states’ regulations always feel very far away from us, but compilations and visualization tools in the IAPP style keep coming out. Now a tracker has been added on the emerging chatbot regulations (surely also agent regulations) of the states working on them, via FPF (Future of Privacy Forum).

📃The paper of the week

.- It is not a paper but another reflection on the erosion that the use of AI produces in the cognitive capacities of those who are in the process of training and who, inevitably, use and abuse AI models. Brilliant.

.- This one really is a paper. A veeery suggestive paper: “Large language models (LLMs) sometimes appear to exhibit emotional reactions.(…) Our key finding is that these representations causally influence the LLM’s outputs, including Claude’s preferences and its rate of exhibiting misaligned behaviors such as reward hacking, blackmail, and sycophancy.” (Well, would you look at that!).

📎Useful tools

.- US states’ regulations always feel very far away from us, but compilations and visualization tools in the IAPP style keep coming out. Now a tracker has been added on the emerging Chatbot regulations (surely also agent regulations) of the states working on them, via FPF (Future of Privacy Forum).

.- Are Claude’s various usage limits starting to eat your afternoon snack? We have a few little tips for you.

.- An AI-vibecoded document anonymization tool. The most promising-looking one among all those roaming around, IMHO.

.- If — like me — you are a not-so-neophyte in Python and have already spent years creating and forgetting virtualized environments here and there, it is more than easy that this tool to locate and delete them comes in — heh — handy.

🙄 Da-Tadum-bass

It may seem unrelated. For anyone who has not heard, a Nestlé truck (and its cargo of 400,000 F1-style bars) was stolen on a route between Italy and Poland. Leaving aside that the driver has to be in on it for them not to have geolocated the truck which, surely, was carrying a beacon, Nestlé came up with launching this landing page seeking citizen collaboration. If you had chocolate with the affected code, it was supposedly giving you instructions to notify the company and the authorities they are collaborating with.

The point was to see how that “get in touch” had been set up from a data protection perspective. The problem is that the affected code has not been leaked to see what appears afterwards, the media have not looked into it that far, Reddit has not lived up to expectations here, and neither Claude nor his friends are able to provide the code (it is not the one in the image, no).

Unless it is someone who needed to have a lifetime supply of KitKat, it is quite likely they will not try to sell it or place it on the market with the original wrapper. There are thieves who are rigorous in their work.

If you think this newsletter might appeal to someone and even be useful to them, forward it to them.

Compartir

Con la que está cayendo actualmente de futura normativa, juicios en los que van saliendo los informes internos de uso de cualquier trampa de psicología aplicada que provoca daño real a menores y mayores y autoridades cada vez más conscientes de lo que son los patrones adictivos, vienen los de la gran M arqueada con campaña de marketing agresivo de escasez, FOMO y recopilación de datos:

• Aprovechando para conseguir buena data con la app. Clásico entre los clásicos;

• Aprovechando la obsesión actual de abrir sobres de Pokémon (físicos y virtuales): no por nada, ya se sabe cuánto valdría las cartitas aleatorias más raras que tocarían aquí. No preguntas las obscenidades que se piden y pagan por las de Pokémon (especialmente, si están “gradeadas”); y

• Aprovechando la obsesión k-popera de los “Zetas” para meterles todos los estímulos visuales y un esquema de Skinner de tomo y lomo para tenerlos comprando hasta que les toque todo.

Y todo ello, para ver luego al CEO de la compañía haciendo como que muerde la maravillosa hamburguesa nada mala que venden. PD. Ya lo hizo Krusty en Los Simpsons.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

🗞️Noticias del Mundodato 🌍

.- La última hora de refriegas entre los Gallagher de la IA: Mientras OpenAI cierra Sora y renuncia a su “proyectazo” de un ChatGPT NSFW para adultos, Anthropic filtra por error to-do-el-có-di-go de Claude (!!!!). Pero la ultimísima hora es que Anthropic está haciendo un limited release de Mithos, su último modelo dada su facilidad para encontrar vulnerabilidades zero day en “cualquier software”.

Y sólo es jueves, Capitán Haddock.

.- Noyb nos informa de que el Consejo de Estado ha desestimado en marzo el recurso de Criteo por la famosa sanción de los millones que se llevaron por hacer mal lo suyo de Adtech. Se ve que el rollo de que los identificadores seudónimos asociados a dirección IP y “otros datos de navegación” no son dato personal a estas alturas (siendo la IP uno de los clásicos ejemplos), no ha convenido nada al Consejo de Estado francés. Cuando todos ya sabemos que cruzan mil cosas, y que lo interesante para ellos es poder individualizarte por esa IP y navegación, sin interesarles para nada tu nombre y apellido.

.- Los australianos van comprobando que la nueva regulación del mínimo de edad para redes sociales, no evita que la naturaleza se habrá camino: Social Media Minimum Age: March 2026 Compliance update. El ejemplo de la presunta garantía para minimizar el rango de fallo/aplicación práctica del derecho a combatir la decisión del sistema que te categoriza como menor o mayor, dado la vuelta por la realidad del mundo. El papel lo configura como una garantía maravillosa, pero el menor lo ve como un pruebe otra vez hasta que pite. Le vimos a Peter Craddok comentario sobre el documento por LinkedIn, pero nos fuimos al doc para buscar esas observaciones concretas destacadas:

.- Este artículo de John Wilkins retrata la expansión de dispositivos de vigilancia voluntariamente visibilizados, casi totémicos, presentados como disuasión preventiva del delito. La moraleja es que la vigilancia ya no se oculta, sino que más bien se exhibe como mensaje. Umberto Ecco alabaría su función semiótica: estos artefactos están diseñados para generar “obediencia anticipada”.

.- Meta bad, but losing Section 230 worse. Este fino filipino texto de Ryan Broderick contrapone dos venenos para que elijas el tuyo: los fallos de moderación y diseño de Meta frente al riesgo sistémico de debilitar la exención de responsabilidad yankee de la Section 230. El argumento contraintuitivo es que castigar a las plataformas puede terminar dañando más el ecosistema informativo y de expresión que corrigiendo abusos concretos. Pero ¡amigos! el autor no defiende a Meta, no (distinguiéndose de todas esas expresidentas de autoridades de cumplimiento que corren a grandes despachos para hacerlo en cuanto abandonan su cargo), lo que hace es defender la arquitectura jurídica que evita una internet dominada solo por actores capaces de costear litigación y filtrado preventivo masivo.

.- Curioso artículo de un medio extranjero explicando el archiconocido abuso de LaLiga bloqueando las webs de propios y extraños durante la retransmisión de partidos de fútbol. Lo interesante es que describe el ecosistema en el que se mueven las empresas titulares de los derechos de retransmisión como el de una auténtica república bananera.

📖 Documentos dateros muy cafeteros ☕️

.- El ICO sacó a consulta pública su guía sobre decisiones automatizadas. Hay que tener el ojo presente en que se base en el UK GDPR, pero va dejando cosas bien aplicables:

1. Intervención humana real no token, con registro y previa de que dé tiempo a hacer cambios críticos en el tratamiento.

2. Y la problemática del consentimiento cuando viene de manera indirecta. Lo acuña como “tratamiento invisible”, por cuánto el interesado ni se entera de lo que se hace.

“You should remember profiling can often be invisible to people. For example, if it involves personal information that you obtain from somewhere other than directly from the person themselves. This sort of invisible processing may mean that it is challenging for you to show that you have valid consent because it isn’t informed or specific in these cases.People also have the right to withdraw their consent at any time. You must make it as easy for them to withdraw consent as it was to give it.”

.- La CNIL publica documento sobre plazos de conservación el ámbito laboral. Muy en formato de cuadro, y sin muchas sorpresas. Lo que llaman plazo de archivo intermedio, no deja de ser lo mismo que nuestra especialidad del 32 de la LOPDgdd sobre bloqueo. Incluyen detalle del acceso por medio biométrico, y hasta desglose de la misma plantilla.

.- EL Tribunal Supremo aplica la doctrina Scania. Al revés, pero la aplica. Y de paso dice que todas esas guías y guidelines valen lo que valen: como “hechos notorios”, nada de fuente de derecho.

.- Curiosa sentencia que castiga a una agencia de detectives por captar la imagen de una trabajadora de baja en el balcón de su casa. Estaba en el balcón, sí, pero estaba en su casa. Asín que ojo cuidado.

.- ¿La certificación del Esquema Nacional de Seguridad se puede esgrimir como factor atenuante de responsabilidad por incumplimiento del RGPD? Francisco Javier Sempere y la Audiencia Nacional tienen la respuesta.

.- El Santísimo Luis Montezuma nos trae, en un solo bluit, enlaces a las versiones en inglés de las leyes o proyectos de IA de Japón, Corea, Vietnam y Taiwán.

.- Muy recomendables los artículos en profundidad sobre aspectos de ADM y AI Act de la FPF. En concreto éste sobre la prohibición de reconocimiento de emociones de Desara Dushi.

.- Cuando la AEPD atranca la puerta, la biometría entra por la ventana. No, este no es un resumen fidedigno del post de Patricia Chenlo, pero nunca dejen que la verdad les arruine un buen titular: Patricia comenta el Proyecto de Ley de protección y resiliencia de entidades críticas que habilita la autenticación e identificación biométrica para accesos en entidades críticas, bajo obligación legal, interés público, EIPD obligatoria y prohibición de usos laborales o de jornada.

Por lo que sea, el legislador está siendo extraordinariamente laxo en en el encaje como obligación legal. Y en aplicación de la excepción del 9.2.b de imperativo por ámbito laboral/ protección social a una que se declara como de seguridad sin apellidos. Nada que objetar a las de interés público a la que apuntaría el 9.2.g, y que debería ser la única declarada. Porque un “podrán”, amiguitos, no es un “deberán”.

.- No se pierdan la acongojante declaración de la AEPD en esta resolución de caducidad de actuaciones por una brecha de seguridad de SEUR. El mérito de la extracción del grano entre la paja es todo de Maria Luisa González Tapia.

.- La Capilano University realizó esta PIA sobre una aplicación de proctoring. Hasta ahí nada nuevo. Lo grasioso de esta PIA es que… encontró riesgos no suficientemente mitigados y rechazó el tratamiento.

.- Una delicatessen: un libro para colorear en el sentido literal del término, explicando a los niños qué es un centro de datos. ¿Qué demonios hace este recurso en esta newsletter y en esta sección? Pinchen el enlace y ya me lo contarán ustedes: ni yo pispo hubiera conseguido un material tan arrebatadoramente mordaz. Los autores de esta maravilla son Melissa Tamberg, Mike DeCamp, Laura Scheving y Luci Gardner.

.- La crisis del consentimiento en contextos de actuación de agentes de IA. Este post no destaca por su profundidad técnica en temas legales (que no la pretende) sino por su capacidad para ilustrar las dificultades inherentes a los nuevos flows de contratación y actuación de tooodos esos agentes (de esto va sobrado). Via el gran Joan Sardá.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- Recomiendo mucho leer la descripción de este engaño a un desarrollador de Axiom que permitió a unos atacantes (que fingieron ser una Startup para conseguir una call por Teams con su víctima) tomar el control de sus credenciales de acceso e introducir software malicioso entre las librerías legítimas de la empresa. Canela fina.

.- Siempre nos queda muy lejos la normativa de los States de USA, pero siempre van saliendo recopilaciones y herramientas de visualización tipo IAPP. Ahora se suma un tracker sobre la incipiente normativa de chatbots (seguro que también de agentes) de los estados que están en ello, vía FPF (Future of Privacy Forum).

📃El paper de la semana

.- No es un paper sino otra reflexión sobre la erosión que el uso de IA produce sobre las capacidades cognitivas de quienes están en proceso de formación e, inevitablemente, usan y abusan modelos de IA. Brillante.

.- Este sí es un paper. Un muuy sugestivo paper: “Large language models (LLMs) sometimes appear to exhibit emotional reactions.(…) Our key finding is that these representations causally influence the LLM’s outputs, including Claude’s preferences and its rate of exhibiting misaligned behaviors such as reward hacking, blackmail, and sycophancy.” (¡Toma castaña!).

📎Herramientas útiles

.-Siempre nos queda muy lejos la normativa de los States de USA, pero siempre van saliendo recopilaciones y herramientas de visualización tipo IAPP. Ahora se suma un tracker sobre la incipiente normativa de Chatbots (seguro que también de agentes) de los estados que están en ello, vía FPF (Future of Privacy Forum).

.- ¿Los diversos límites de uso de Claude te empiezan a comer la merienda? Tenemos unos consejillos para ti.

.- Una herramienta de anonimización de documentos vibecodeada. La que mejor pinta tiene de entre todas la que pululan por ahí, IMHO.

.- Si -como yo- eres un neófito en python y llevas ya años creando y olvidando entornos vitualizados por ahí, es más que fácil que esta herramienta para localizarlos y borrarlos te venga -je- al pelo.

🙄 El chorradón final

Puede parece algo nada relacionado. Para el que no se haya enterado, a Nestlé le mangaron un camión (y su contenido en forma de 400.000 barritas tipo F1) en un trayecto entre Italia y Polonia. Obviando que el conductor tiene que estar en el ajo para que no haya geolocalizado el camión que, seguro, llevaba baliza, a Nestlé se le ocurrió lanzar esta landing page buscando la colaboración ciudadana. De tener chocolate con el código afectado, se supone que te daba indicaciones para ponerle en conocimiento de la empresa y las autoridades con las que están colaborando.

El punto era ver cómo había montada ese “ponte en contacto” desde protección de datos. El problema es que no se ha filtrado el código afectado para ver qué sale después, ni los medios no han indagado hasta ese punto, Reddit no ha estado aquí al nivel esperado, y ni Claude y sus amigos son capaces de dar el código (no es el de la imagen, no).

Salvo que sea alguien que tuvieran necesidad de tener un suministro de por vida de KitKat, es bien probable que no intenten venderlo o introducirlo en el mercado con el envoltorio original. Que hay ladrones que rigurosos en lo suyo.

Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

El RIA regula la transparencia como pilar fundamental de la gobernanza tecnológica, no sólo para prevenir el engaño malintencionado a personas o grupos concretos, sino también para preservar la integridad del ecosistema de información global.

Es decir, no sólo pretende proteger derechos individuales, sino también el funcionamiento del sistema política y social europeo.

El contenido sintético se define, en términos generales, como cualquier activo digital -ya sea texto, imagen, audio o vídeo- generado o manipulado sustancialmente mediante sistemas de IA.

La obligación de transparencia se manifiesta a través de dos dimensiones operativas: el marcado legible por máquina y el etiquetado perceptible por humanos.

· El marcado (machine-readable marking) se refiere a la integración de señales técnicas, como metadatos cifrados o marcas de agua digitales, que permiten a otros sistemas identificar de manera automática el origen artificial de un archivo

· El etiquetado (labeling) se orienta a la percepción del usuario final, utilizando indicadores visuales o auditivos que informan sobre la naturaleza de la IA en el momento de la exposición.

El Artículo 50 del Reglamento de IA de la UE, impone la obligación de transparencia para contenidos sintéticos generales (no deepfakes) principalmente sobre los proveedores de la tecnología, quienes deben asegurar que sus sistemas “marquen” los resultados de forma nativa.

Si el tema te interesa, definitivamente deberías echar un vistazo a la primera parte de esta serie (obligaciones de transparencia en relación con texto generado con IA) o a los posts sobre usos internos vs comerciales de modelos open source, o supervisión humana efectiva de sistemas de IA.

Les prometo que el resto del texto está escrito bastante en serio, pero en este momento no puedo evitar hacer un homenaje a Karate Kid, con la secreta esperanza de que les sirva como regla nemotécnica para recordar que a los providers se les impone marcar (cera) y a los deployers, etiquetar (cera).

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad, tecnopolios y derecho de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, estamos especializados en resolver movidas complicadas en protección de datos personales. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

¡Gracias por leer Zero Party Data! Apúntate!

Suscríbete ahora

2 El Artículo 50 del Reglamento de IA

El Reglamento de IA de la Unión Europea representa el primer intento integral de codificar estas obligaciones a nivel internacional.

El RIA adopta una aproximación “basada en el riesgo”, clasificando a la IA generativa dentro de la categoría de riesgo limitado.

En consecuencia, impone requisitos de transparencia específicos diseñados para fomentar confianza y trazabilidad.

2.1 Obligaciones para los proveedores de sistemas de IA generativa

El Artículo 50(2) establece que los proveedores de sistemas de IA, - bien especializados o bien de propósito general (GPAI)-, que generen contenido sintético de audio, imagen, vídeo o texto (deepfakes o no), deben garantizar que los outputs estén marcados en un formato legible por máquina.

Esta obligación es independiente de la finalidad de la generación o publicación del contenido: ya sea una imagen artística generada para un blog o un audio de ambiente para un videojuego, la marca técnica es obligatoria.

La ley exige que estas soluciones sean “eficaces, interoperables, sólidas y fiables“ en la medida en que el estado de la técnica lo permita.

En consecuencia, el proveedor no solo debe insertar una marca, sino que ese marcado debe ser resistente a intentos de eliminación o manipulación por terceros malintencionados.

Además, los proveedores deben facilitar mecanismos de detección gratuitos -como APIs o herramientas de verificación pública (“oráculos”)- para que los Deployers y otros usuarios puedan comprobar si un archivo específico fue generado por su IA.

2.2 Exenciones

Sin perjuicio de lo anterior, el Reglamento de IA europeo ha previsto escenarios donde la transparencia estricta podría ser contraproducente o innecesaria.

· Sistemas de IA que funcionan como “asistentes para la edición estándar”. Esto incluye herramientas que no alteran sustancialmente los datos de entrada o su semántica, como correctores de color en fotografía, sistemas de reducción de ruido en audio o herramientas de estabilización de vídeo.

· Sistemas de IA utilizados exclusivamente con fines de investigación científica y desarrollo.

· Componentes de IA que se distribuyen bajo licencias de código abierto gratuitas, a menos que dichos modelos ostenten riesgos sistémicos.

· La famosa exención doméstica: el uso puramente personal y no profesional: un individuo que genera una imagen para su uso privado no está sujeto a las mismas obligaciones de etiquetado que una empresa que distribuye contenido comercial.

3 El Código de buenas prácticas de la UE y fechas de aplicación de todo esto

Dado que el texto del Reglamento de IA proporciona principios legales pero no especificaciones técnicas, la Comisión Europea ha publicado un “Código de Buenas Prácticas sobre Transparencia”.

En marzo de 2026 se ha publicado su segunda versión que es la comentada aquí.

Este Código de buenas prácticas busca cerrar la brecha entre la obligación legal y la realidad técnica, estableciendo lo que se considera el “estado de la técnica” en relación con el marcado y la detección de contenidos sintéticos.

¿Qué valor tiene este documento?

El código no es obligatorio en sí: sólo para las empresas que lo suscriban.

La suscripción de este código no presume ni acredita el cumplimiento del RIA (las organizaciones que no lo firmen podrán acreditar su cumplimiento por vías distintas).

Pero en la práctica la idea es que el Código se convierta en el estándar de cumplimiento en las inspecciones de las autoridades competentes.

La tercera versión (la final) del código se espera para junio y también están previstas unas Guidelines oficiales de la Comisión Europea, pero todo esto se conocerá ya escasas semanas antes de la entrada en vigor del RIA.

El problema es que, con el calendario a la vista, lleguen o no lleguen a tiempo dichos documentos, será muy complicado implementar en la práctica sus novedades a tiempo para dicha fecha de aplicación: 2 de agosto de 2026.

Por último: el RIA será de aplicación a los sistemas de IA que se pongan en producción a partir de agosto de 2026. En relación con los que estén en el mercado antes, se está debatiendo dos plazos transitorios: tres o seis meses desde ese 2 de agosto.

3.1 Marcado multicapa

El segundo borrador del Código reconoce[1] (ojo con esto) que el estado de la técnica no permite cumplir todos los requisitos previstos por el RIA con un solo medio o herramienta y por eso propone que los Proveedores no se limiten a una única técnica de marcado, sino que implementen un enfoque de múltiples capas para asegurar la resiliencia del sistema.

Este enfoque se divide en tres niveles fundamentales:

1. Integración de metadatos: Consiste en insertar información de procedencia y firmas digitales directamente en la cabecera del archivo (como las etiquetas XMP o IPTC). Aunque es la técnica más fácil de implementar, también es la más vulnerable, ya que muchos editores de imagen y redes sociales eliminan los metadatos de forma automática al procesar los archivos.

2. Marcas de agua imperceptibles (Watermarking): Esta técnica implica incrustar señales digitales directamente en los píxeles de una imagen o en las frecuencias de un audio. Estas marcas son invisibles o inaudibles para el ser humano, pero permanecen incluso si el archivo se comprime, se recorta o se cambia de formato. El Código sugiere que estas marcas se integren tanto durante el entrenamiento del modelo como durante la fase de inferencia (generación).

3. Huellas digitales y registros de salida (Fingerprinting / Logging): Como última capa de seguridad, se espera que los proveedores mantengan una base de datos o un registro de los hashes de los contenidos generados. Esto permite que, si un contenido pierde sus metadatos y su marca de agua, un sistema de detección pueda identificarlo comparando su hash o “huella digital” única con el registro del proveedor.

EL código obliga a los signatarios (providers, deployers) a

(i) abstenerse de eliminar o modificar este marcado y a

(ii) imponer, mediante políticas de uso aceptable (o información en el caso de modelos open source) la misma obligación a terceros, aguas abajo.

3.2 Requisitos de calidad y rendimiento técnico

El cumplimiento no se basa sólo en “hacerlo”, sino en hacerlo de forma efectiva.

El Código establece que las soluciones de detección deben demostrar niveles bajos de falsos positivos y falsos negativos.

Los proveedores deberán someter sus herramientas a evaluaciones independientes y benchmarks verificados para demostrar que sus soluciones alcanzan el estándar de rendimiento exigido por la Oficina de IA.

4 Etiquetado obligatorio para deepfakes

Un deepfake, en el sentido del RIA^[1] es contenido de imagen, audio o vídeo generado o manipulado por IA que se asemeja apreciablemente a personas, objetos, lugares, entidades o eventos existentes, y que una persona razonable podría percibir falsamente como auténtico o veraz.

Todo contenido deepfake (sea de imagen, vídeo o audio) generado o manipulado por IA debe ser etiquetado de forma clara, distinguible y accesible, a más tardar en el momento de la primera exposición del usuario al contenido.

El Código de Prácticas establece requisitos específicos según la modalidad.

• Elemento visual principal: el acrónimo “AI” en mayúsculas, opcionalmente acompañado de texto como “Generated with AI”, “Made by AI” o “Manipulated with AI”.

• Ratio de contraste mínimo: 4,5:1 entre la etiqueta y el fondo.

• Portabilidad: en la medida de lo técnicamente posible, la etiqueta debe “viajar” con el contenido cuando se redistribuya.

• Accesibilidad: textos alternativos para lectores de pantalla, señales táctiles para contenido solo audio (cuando el dispositivo lo permita), compatibilidad con tecnologías de asistencia.

5 Reglas específicas por modalidad de deepfake

5.1 Imagen

Para imágenes, el icono o etiqueta debe mostrarse de forma consistente desde la primera exposición y en cada exposición posterior. La etiqueta debe ser claramente distinguible de la propia imagen: prominente, no oculta dentro de capas de la imagen, no demasiado próxima a otros iconos o textos, y no mostrada sobre fondos que reduzcan su visibilidad.

5.2 Vídeo en tiempo real (emisión en directo, livestreaming)

Para vídeo en directo, el icono debe mostrarse de forma consistente durante toda la exposición, siempre que sea factible. Si la divulgación se realiza también por audio, debe presentarse simultáneamente con el icono visual. Como alternativa, se puede usar un aviso visual o sonoro al inicio y a intervalos regulares durante la emisión.

5.3 Vídeo pregrabado

• Vídeos largos: icono o etiqueta al menos al inicio, repitiéndose a intervalos regulares (por ejemplo, cada vez que aparezca el contenido deepfake o tras pausas publicitarias).

• Vídeos cortos: icono o etiqueta visible de forma consistente durante toda la duración. Si el vídeo es íntegramente generado o manipulado por IA, debe indicarse durante toda la reproducción.

• Créditos: se puede incluir un aviso en los créditos finales, pero esto siempre debe ir acompañado de alguna de las opciones anteriores. No basta solo con los créditos.

5.4 Audio

• Audio menor de 30 segundos (anuncios, cuñas publicitarias): aviso sonoro breve al inicio del contenido, como mínimo.

• Audio de mayor duración (podcasts, llamadas generadas por IA, emisiones de radio): avisos sonoros repetidos al inicio, en fases intermedias apropiadas y al final del contenido.

• Idioma: el aviso debe hacerse en lenguaje natural, claro y sencillo, en el mismo idioma que el contenido.

• Audio con interfaz visual (reproducción en pantalla de móvil, coche, etc.): además del aviso sonoro, se debe mostrar un icono o etiqueta visual en los elementos de la interfaz bajo control del desplegador.

5.5 Contenido multimodal

Para contenido que combine varias modalidades (imagen-texto-audio, imagen-audio, texto-audio, imagen-texto), la divulgación debe hacerse mediante un icono o etiqueta que sea claramente perceptible sin necesidad de interacción adicional por parte del usuario.

6 Excepciones

6.1 “No-excepciones”

· No aplica la “exención editorial” a los deepfakes.

· Obligatorio aunque la persona “clonada” haya prestado su consentimiento explícito.

6.2 Excepciones adicionales

1. Uso autorizado por ley para la detección, prevención, investigación o persecución de delitos. Esta excepción tiene unas piernas muy cortas en el sector privado.

2. Obras artísticas y creativas

Para contenido deepfake que forme parte de una obra evidentemente artística, creativa, satírica, ficticia o análoga, la obligación de transparencia (etiquetado) se atenúa pero no desaparece.

La divulgación debe hacerse de forma que no perjudique la exhibición ni el disfrute de la obra. Las opciones incluyen:

• Vídeo en directo o casi en directo: icono en las esquinas superior o inferior durante al menos cinco segundos al inicio (por ejemplo, durante los créditos de apertura), sin necesidad de repetirlo durante el resto de la exposición.

• Vídeo pregrabado: divulgación con duración suficiente al inicio, sin interferir con la experiencia.

• Imagen: etiqueta al inicio de la primera exposición, pudiendo integrarse en la imagen o su fondo siempre que el usuario pueda distinguir el etiquetado.

• Audio: aviso sonoro al inicio de la primera exposición.

• Contextos no digitales (exposiciones, galerías, festivales): la divulgación puede hacerse en el punto de entrada o al vender las entradas.

Jorge García Herrero

Abogado y Delegado de protección de datos

[1] Duras palabras en el código: “So long as no single marking approach is sufficient, under the state of the art, to comply with the four requirements in Article 50(2) AI Act of effectiveness, interoperability, robustness and reliability, Signatories will implement a multi-layered marking approach to ensure that the outputs of their generative AI systems are marked with at least two layers of machine-readable active marking, as specified in the sub-measures below” (pg 10).

[2] Art 3(60) del AI Act

The AI Act regulates transparency as a fundamental pillar of technological governance, not only to prevent malicious deception of specific individuals or groups, but also to preserve the integrity of the global information ecosystem.

In other words, it seeks not only to protect individual rights, but also the functioning of the European political and social system.

Synthetic content is defined, in general terms, as any digital asset—whether text, image, audio, or video—generated or substantially manipulated by means of AI systems.

The transparency obligation is manifested through two operational dimensions: machine-readable marking and human-perceptible labeling.

· Marking refers to the integration of technical signals, such as encrypted metadata or digital watermarks, that enable other systems to automatically identify the artificial origin of a file.

· Labeling is directed at the perception of the end user, using visual or auditory indicators that inform them of the AI nature of the content at the moment of exposure.

Article 50 of the EU AI Act imposes the transparency obligation for general synthetic content (not deepfakes) primarily on technology providers, who must ensure that their systems “mark” outputs natively.

If you are interested in art 50 transparency obligations, you definitely should check out the first part of this series:

I promise you that the rest of the text is written quite seriously, but at this point I cannot resist paying tribute to Karate Kid, with the secret hope that it may serve as a mnemonic rule to remember that providers are required to mark (wax on) and deployers, to label (wax also on).

You’re reading ZERO PARTY DATA. The newsletter on current affairs, technopolies, and law by Jorge García Herrero and Darío López Rincón.

In the spare moments this newsletter leaves us, we specialize in solving complicated stuff in personal data protection. If you have one of those, give us a little wave. Or contact us by email at jgh(at)jorgegarciaherrero.com

Thanks for reading Zero Party Data! Sign up!

Suscríbete ahora

2 Article 50 of the AI Act

The European Union AI Act represents the first comprehensive attempt to codify these obligations at the international level.

The AI Act adopts a “risk-based” approach, classifying generative AI within the limited-risk category.

Accordingly, it imposes specific transparency requirements designed to foster trust and traceability.

2.1 Obligations for providers of generative AI systems

Article 50(2) provides that providers of AI systems—whether specialized or general-purpose (GPAI)—that generate synthetic audio, image, video (either deepfakes or not), or text content must ensure that outputs are marked in a machine-readable format.

This obligation is independent of the purpose of the generation or publication of the content: whether it is an artistic image generated for a blog or ambient audio for a video game, technical marking is mandatory.

The law requires these solutions to be “effective, interoperable, robust and reliable” to the extent permitted by the state of the art.

Accordingly, the provider must not only insert a mark, but that marking must also be resistant to attempts at removal or manipulation by malicious third parties.

In addition, providers must make available free detection mechanisms—such as APIs or public verification tools (“oracles”)—so that deployers and other users may verify whether a specific file was generated by their AI.

2.2 Exemptions

Without prejudice to the foregoing, the European AI Act has envisaged scenarios in which strict transparency could be counterproductive or unnecessary.

· AI systems that function as “standard editing assistants.” This includes tools that do not substantially alter the input data or its semantics, such as color correction tools in photography, audio noise reduction systems, or video stabilization tools.

· AI systems used exclusively for scientific research and development purposes.

· AI components distributed under free open-source licenses, unless such models present systemic risks.

· The well-known household exemption: purely personal and non-professional use. An individual who generates an image for private use is not subject to the same labeling obligations as a company distributing commercial content.

3 The EU Code of Practice and the dates on which all this will apply

Since the text of the AI Act provides legal principles but not technical specifications, the European Commission has published a Code of Practice on Transparency.

In March 2026, its second version was published, and it is the version discussed here.

This Code of Practice seeks to bridge the gap between the legal obligation and technical reality by establishing what is considered the “state of the art” with regard to the marking and detection of synthetic content.

Is this Code mandatory? Nope

The Code is not mandatory in itself: only for companies that subscribe to it.

Subscription to this Code neither presumes nor certifies compliance with the AI Act (organizations that do not sign it may demonstrate compliance by other means).

But in practice, the idea is that the Code will become the compliance standard in inspections conducted by the competent authorities.

The third version (the final one) of the Code is expected in June, and official Guidelines from the European Commission are also expected, but all of this will become known only a few weeks before the AI Act enters into force.

The problem is that, given the timetable, whether or not those documents arrive in time, it will be very difficult in practice to implement their new requirements in time for the applicable date: 2 August 2026.

Lastly, the AI Act will apply to AI systems placed into production from August 2026 onward. As regards those already on the market before then, two transitional periods are under discussion: three or six months from that 2 August date.

3.1 Multi-layered marking

The second draft of the Code acknowledges[1] (watch this carefully) that the state of the art does not make it possible to comply with all the requirements laid down in the AI Act by means of a single method or tool, and for that reason it proposes that providers should not limit themselves to a single marking technique, but should instead implement a multi-layered approach to ensure the resilience of the system.

This approach is divided into three fundamental levels:

1. Metadata integration: This consists of inserting provenance information and digital signatures directly into the file header (such as XMP or IPTC tags). Although this is the easiest technique to implement, it is also the most vulnerable, as many image editors and social media platforms automatically strip metadata when processing files.

   

2. Imperceptible watermarks (Watermarking): This technique involves embedding digital signals directly into the pixels of an image or into the frequencies of an audio file. These marks are invisible or inaudible to humans, but remain even if the file is compressed, cropped, or converted into another format. The Code suggests that these marks be integrated both during model training and during the inference (generation) phase.

3. Fingerprinting and output logging: As a final layer of security, providers are expected to maintain a database or log of the hashes of generated content. This makes it possible, if content loses its metadata and watermark, for a detection system to identify it by comparing its hash or unique “fingerprint” against the provider’s records.

The Code requires signatories (providers, deployers) to

(i) refrain from removing or altering this marking; and

(ii) impose, through acceptable use policies (or information, in the case of open-source models), the same obligation on downstream third parties.

3.2 Quality requirements and technical performance

Compliance is not based only on “doing it”, but on doing it effectively.

The Code provides that detection solutions must demonstrate low levels of false positives and false negatives.

Providers must subject their tools to independent evaluations and verified benchmarks in order to demonstrate that their solutions meet the performance standard required by the AI Office.

4 Deepfakes: Mandatory labeling

A deepfake, within the meaning of the AI Act,[2] is image, audio, or video content generated or manipulated by AI that appreciably resembles existing persons, objects, places, entities, or events, and that a reasonable person could falsely perceive as authentic or truthful.

All deepfakes (either image, video, or audio) must be labelled in a clear, distinguishable, and accessible way no later than the moment of the user’s first exposure to the content.

The Code of Practice establishes specific requirements depending on the modality.

• Main visual element: the acronym “AI” in uppercase, optionally accompanied by text such as “Generated with AI,” “Made by AI,” or “Manipulated with AI.”

• Minimum contrast ratio: 4.5:1 between the label and the background.

• Portability: to the extent technically feasible, the label must “travel” with the content when it is redistributed.

• Accessibility: alternative text for screen readers, tactile signals for audio-only content (where the device permits), compatibility with assistive technologies.

5 Specific rules

5.1 Image

For images, the icon or label must be displayed consistently from the first exposure and at each subsequent exposure. The label must be clearly distinguishable from the image itself: prominent, not hidden within layers of the image, not too close to other icons or text, and not displayed against backgrounds that reduce its visibility.

5.2 Live video (live broadcasting, livestreaming)

For live video, the icon must be displayed consistently throughout the entire exposure, where feasible. If the disclosure is also made by audio, it must be presented simultaneously with the visual icon. Alternatively, a visual or auditory notice may be used at the beginning and at regular intervals during the broadcast.

5.3 Pre-recorded video

• Long videos: icon or label at least at the beginning, repeated at regular intervals (for example, each time the deepfake content appears or after advertising breaks).

• Short videos: icon or label visible consistently throughout the duration. If the video is entirely generated or manipulated by AI, this must be indicated throughout playback.

• Credits: a notice may be included in the end credits, but this must always be accompanied by one of the preceding options. Credits alone are not sufficient.

5.4 Audio

• Audio under 30 seconds (advertisements, commercial spots): at a minimum, a brief audio notice at the beginning of the content.

• Longer audio content (podcasts, AI-generated calls, radio broadcasts): repeated audio notices at the beginning, at appropriate intermediate stages, and at the end of the content.

• Language: the notice must be given in clear and simple natural language, in the same language as the content.

• Audio with a visual interface (playback on a mobile phone screen, in a car, etc.): in addition to the audio notice, an icon or visual label must be displayed on the interface elements under the deployer’s control.

5.5 Multimodal content

For content combining several modalities (image-text-audio, image-audio, text-audio, image-text), disclosure must be made by means of an icon or label that is clearly perceptible without any additional interaction on the part of the user.

6 Excpetions

6.1 “Non-exceptions”

· The “editorial exemption” does not apply to deepfakes.

· Mandatory even where the “cloned” person has given explicit consent.

6.2 Exceptions

1. Use authorized by law for the detection, prevention, investigation, or prosecution of criminal offences. This exception has very short legs in the private sector.

2. Artistic and creative works

For deepfake content forming part of an evidently artistic, creative, satirical, fictional, or analogous work, the transparency obligation (labelling) is mitigated, but it does not disappear.

Disclosure must be made in a way that does not impair the exhibition or enjoyment of the work. The options include:

• Live or near-live video: icon in the upper or lower corners for at least five seconds at the beginning (for example, during the opening credits), without the need to repeat it during the remainder of the exposure.

• Pre-recorded video: disclosure for a sufficient duration at the beginning, without interfering with the experience.

• Image: label at the beginning of the first exposure, which may be integrated into the image or its background provided that the user can distinguish the labeling.

• Audio: audio notice at the beginning of the first exposure.

• Non-digital contexts (exhibitions, galleries, festivals): disclosure may be made at the point of entry or upon ticket sale.

Jorge García Herrero

Lawyer and Data Protection Officer

[1] Strong words in the Code: “So long as no single marking approach is sufficient, under the state of the art, to comply with the four requirements in Article 50(2) AI Act of effectiveness, interoperability, robustness and reliability, Signatories will implement a multi-layered marking approach to ensure that the outputs of their generative AI systems are marked with at least two layers of machine-readable active marking, as specified in the sub-measures below” (p. 10).

[2] Article 3(60) of the AI Act

• Competencia vs RGPD: promesa de directrices con la Comisión;

• DMA vs RGPD: aquí existen directrices, pero parece que los ponentes pusieran de manifiesto que habría que dejar más claro que la DMA no tiene primacía sobre el RGPD; y

• DSA vs RGPD: aquí también existen directrices, pero la cosa se fue para el temazo de la verificación de edad y que se deben aplicar las dos: “The panel concluded with a clear message: online safety under the DSA and the lawful processing of personal data are two sides of the same coin, both calling for the DSA and the GDPR to be read coherently. “

Y hoy mismo, se debería votar en pleno la simplificación del Digital Omnibus en la parte de IA. Y luego a los trílogos de siempre.

Mañana participaremos por webex en la audiencia pública del EDPB para sus EDPB Guidelines on the processing of personal data to target or deliver political advertisements.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

🗞️Noticias del Mundodato 🌍

.- En una próxima entrega analizaremos las obligaciones de transparencia impuestas por el RIA sobre contenidos sintéticos de imagen, vídeo y audio (no necesariamente deepfakes). Una de las novedades llamativas es la combinación de marcado -para que lo identifiquen las máquinas- y etiquetado -para humanos-. Esas marcas deben facilitar el trabajo a fact-checkers, periodistas y académicos.

Lo que este calvo no vio venir fueron sistemas de fact-checking falsos para cuestionar la veracidad de imágenes reales como los que han aparecido entre la marea de AI slop relacionada con la guerra USA-Israel-Irán.

En un plot twist inédito, estos “medios de verificación truchos” erosionan la confianza en las evidencias reales, y los análisis fabricados destruyen la confianza en la verificación misma.

.- La Carlos III ha tenido una brecha de confidencialidad por Phishing. Ya nos enteraremos todos hasta qué punto fue, pero lo suficiente para no dudar en que toca comunicarla la AEPD. Aunque Europa Press, ya se podría haberse ahorrado lo de “incidente” o “a ciertos datos personales de su titularidad”. El TOC del de protección de datos, y sobre la casa de postgrado de muchos. Qué levante la mano el que no sea un egresado pícaro de la CIII.

.- ¿Cuántas veces ha dicho Elon Musk que iba a pagar algo a alguien y luego no lo ha hecho? Para ser el hombre más rico del mundo, muchísimas. Mejor no extraer conclusiones.

.- Últimos meses de OpenAI: (i) anunció publicidad dentro del chat; (ii) después una versión de ChatGPT para adultos. (iii) esta misma semana ofrece bonos con más del 17% de interés “garantizado”. (iv) Ayer mismo anunció la desaparición de Sora, su cacareada plataforma/red social de video sintético.

Yo no soy economista, pero por lo que sea me viene a la cabeza esta hermosura de vídeo:

📖 Documentos dateros muy cafeteros ☕️

.- No es tan cafetero, pero puede encajar por la resolución enlazada. Casi a renglón seguido de la sanción a colegio madrileño por liarla con Google Workspace, las cuatro autoridades de protección de datos han sacado guía sobre contratación y uso de plataformas digitales. Dice lo que tiene que decir, pero la realidad nos coloca a los de siempre en la soga. Puede que no te ponga delante un 49, pero ¿y un DPF que para nada sirve en la sucesivas que todas sabemos que existen, o ¿hay algún servicio viable por tamaño que te pueda asegurar que cumple como palabra de Scout en transferencias?.

.-Leyendo el post de la AEPD y CNMC sobre el artículo 28 de la DSA (el que ampara como obligación legal la verificación de edad), se pueden recordar dos cosas:

• Que con la sanción a Yoti de 950.000 euros de la AEPD (500 K por el puro tema del 9), ha envejecido mal la doble que la CE metía en sus directrices del tema: “Age estimation methods can complement age verification technologies and can be used in addition to the former, or as temporary alternative in particular in cases where verification measures that respect the criteria of effectiveness of age assurance solutions.”

• Que la propia CE mencionaba una Child Rights Impact Assessment (CRIA). ¿Cuál en concreto? La que Unicef permite descargar desde su web. Sí, a la LIA, TIA o FRIA se le añade esta “CRIA”.

.- Un buen post resumen de Vadym Honcharenko con las últimas aportaciones al debate sobre cómo queda ese concepto líquido y voluble, pero en definitiva crítico que es el dato personal. El post recopila lecturas posteriores al debate inicial de septiembre de 25, con análisis de Peter Craddock , Sophie Stalla-Bourdillon sobre las lecciones del caso SRB, y Phil Lee sobre los riesgos de construir la protección de datos sobre arenas movedizas. Nuestra humilde aportación por aquí.

.- ¿Todos recordamos que el RGPD no prohíbe aplicar datos a tratamientos distintos sino incompatibles con los legitimados originalmente?

La ICO actualiza su guía detallando cuándo y cómo los responsables del tratamiento pueden reutilizar información personal para un propósito diferente del original bajo el UK GDPR reformado por la DUAA 2025. Se introduce un test de compatibilidad más claro y se enumeran reutilizaciones que el UK GDPR ahora considera automáticamente compatibles (listadas en un nuevo Anexo 2).

PERO: Es cierto, en este tema el UK se ha separado demasiado del RGPD. Para un análisis concreto y cercano de la compatibilidad de finalidades secundarias bajo el RGPD, lo mejor es empezar por el caso Digi del TJUE que cubrimos hace años.

.- Vía Carlo Piltz: La autoridad bávara exige un canal de comunicación entre interesados y DPD separado y privado del de soporte común de la organización. Ojito.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- Documento de un comité de la Cámara de los Lores británica (nuestro senado, pero pedigrí) sobre IA generativa: “AI, copyright and the creative industries”. Es de febrero, pero no es menos interesante por ello.

Se centra en lanzarle al Gobierno consideraciones y recomendaciones sobre cómo enfocarlo para no llevarse por delante la propiedad intelectual y a las “industrias creativas”.

-Que mejor dejar fuera excepciones para Text and Data Mining (TDM) o sea, para el uso de fuente protegidas por propiedad intelectual, bajo la garantía de mero opt-out que hubieran configurado para darle aviso a la IA tragona que no puede usarlo. Que lo visto por la UE, tampoco da mucha tranquilidad en lo que a garantías se refiere.

175. A broad TDM exception with an opt-out rights-reservation mechanism, as envisaged under “option 3” of the Government’s consultation, is not a viable foundation for the UK’s AI and copyright regime. The tools currently available for rights reservation are fragmented, poorly understood and place an unreasonable burden on individual creators.

176. Experience in the EU suggests that comparable provisions have neither delivered reliable control for rightsholders nor a robust licensing market. We welcome the Secretary of State’s acknowledgement that there is currently no workable opt-out proposal on the table and consider that the Government should now draw a clear line under this approach. The UK’s starting point should remain a licensing-first model in which permission is required to use copyright-protected works for AI training.

Y que si las empresas vienen pidiendo excepción de TDM, es que saben que lo que hacen no es legal.

36. (…..). However, the consistent call from technology sector stakeholders for a new, broad commercial text and data mining (TDM) exception expressly to enable more AI model training to take place in the UK suggests that they do not regard large-scale commercial training on copyrightprotected works as clearly covered by the existing exceptions. If they did, a commercial TDM exception would be unnecessary.

-Que no tocar la normativa de propiedad intelectual para encajar nada de IA, y que ese “aprendizaje” es “reproducción” lo llaman aprendizaje, es reproducción por puritita propiedad intelectual:

38. (….)We do not accept the view that the copying and processing of protected works during training should be characterised as ‘learning’.

39. We therefore consider that the Government should rule out any reform of the Copyright, Designs and Patents Act that would remove the incentive to license copyrighted works for AI training, and should instead focus on strengthening licensing, transparency and enforcement within the existing framework.

“We do not accept the view that the copying and processing of protected works during training should be characterised as ‘learning’.”

-La laguna de la protección del estilo, aka no pedirle a la IA que te genere algo como si lo hubiera hecho el autor. Aunque la línea va fina para que no se les pudiera empapelar.

83. The absence in UK law of a robust personality right or specific protection for digital likeness means that creators and performers lack an adequate basis to challenge harmful outputs that imitate their distinctive style, voice or persona without reproducing a specific underlying work.

84. The Government should introduce protections against unauthorised digital replicas and ‘in the style of’ uses. Any new framework should give creators and performers clear, enforceable control over the commercial exploitation of their identity, while appropriately safeguarding freedom of expression and other legitimate uses.

-Una bonita infografía del flujo de IA generativa:

.- El marco regulatorio sobre IA que ha sacado la Casa Blanca parecería no tener cosas extrañas (más allá de que ponga “Trump” y que la protección de los menores casi diga que es idea de Melania. El problema es que Trump no da puntada sin hilo. La mayor parte del documento tiene propuesta atinadas para el Congreso: verificación de edad y control a las plataformas, que no se cargue al ciudadano el mayor consumo eléctrico de tener megaindustria de IA, prever la investigación y medidas adecuadas para suplantación de identidad y fraude, no legislar nada que hurte la potestad juridicial de decir si se infringe P.I; pero al final suelta la bomba. La forma soterrada de hacerle la guerra a los Anthropic y quién sea que le diga que no al control férreo de IA: “act contrary to the United States’ national strategy to achieve global AI dominance.”

📃El paper de la semana

.- Este paper de Cristiana Santos, Sanju Ahuja, Johanna Gunawan y Nataliia Bielova propone un marco analítico para evaluar dark patterns bajo la Digital Services Act, identificando las zancadillas a derechos concretos de los usuarios: dificultando reclamaciones (artículo 20), oscureciendo la transparencia publicitaria (artículo 26), manipulando mecanismos de aviso y acción (artículo 16), distorsionando la elección del usuario respecto a sistemas de recomendación (artículos 27 y 38) e interfierendo con los derechos de los menores (artículo 28).

.- No es exactamente un paper, pero se queda aquí para no sobrecargar la sección de IA. La autoridad de protección de datos coreana, sacó en 2021 un checklist interesante: Artificial Intelligence (AI) Personal Information Protection Self-Checklist. Aunque ha pasado tiempo, se mantiene digno de vistazo. Visto a San Luis Montezuma.

1. El propio checklist para casos de AI madre;

2. Los flujos de tratamiento de datos muy claros:

🙄 El chorradón final

Atompunk es el género o estilo estético que intenta reflejar una distopía postnuclear de la guerra fría.

El quid es que interesaría que siga siendo ficción para amenizar obras como Fallout, Stalker o Metro.

Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

• Competition vs GDPR: promise of guidelines with the Commission;

• DMA vs GDPR: there are guidelines here, but it seems the speakers highlighted that it should be made clearer that the DMA does not take precedence over the GDPR; and

• DSA vs GDPR: there are also guidelines here, but the discussion turned to the big topic of age verification and that both must be applied: “The panel concluded with a clear message: online safety under the DSA and the lawful processing of personal data are two sides of the same coin, both calling for the DSA and the GDPR to be read coherently. “

And today, the simplification of the Digital Omnibus in the AI section should be voted in plenary. And then on to the usual trilogues.

Tomorrow we will participate via Webex in the EDPB public hearing for its EDPB Guidelines on the processing of personal data to target or deliver political advertisements.

You are reading ZERO PARTY DATA. The newsletter on current affairs and technology law by Jorge García Herrero and Darío López Rincón.

In the free time this newsletter leaves us, we solve complicated messes related to personal data protection and artificial intelligence regulations. If you have one of those, wave your little hand at us like this. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World 🌍

.- In an upcoming newsletter we will analyze the transparency obligations imposed by the AI Act on synthetic image, video and audio content (not necessarily deepfakes). One striking novelty is the combination of marking—so machines can identify it—and labeling—for humans. These marks must make the work easier for fact-checkers, journalists, and academics.

What this bald guy didn’t see coming were fake fact-checking systems to question the truthfulness of real images like those that have appeared amid the flood of AI slop related to the USA-Israel-Iran war.

In an unprecedented plot twist, these “fake verification outlets” erode trust in real evidence, and fabricated analyses destroy trust in verification itself.

.- How many times has Elon Musk said he was going to pay someone something and then didn’t do it? For the richest man in the world, quite a lot. Better not draw conclusions.

.- Latest months of OpenAI: (i) it announced advertising within the chat; (ii) then a version of ChatGPT for adults. (iii) this very week it offers bonds with more than 17% “guaranteed” interest. (iv) Just yesterday it announced the disappearance of Sora, its much-hyped synthetic video platform/social network.

I’m not an economist, but for some reason this beautiful video comes to mind.

📄High density docs for data junkies☕️

.- Reading the AEPD and CNMC post on Article 28 of the DSA (the one that supports age verification as a legal obligation), two things can be recalled:

• That with the €950,000 fine to Yoti by the AEPD (€500K just for the Article 9 issue), the double approach the Commission included in its guidelines on the matter has aged poorly: “Age estimation methods can complement age verification technologies and can be used in addition to the former, or as temporary alternative in particular in cases where verification measures that respect the criteria of effectiveness of age assurance solutions.”

• That the Commission itself mentioned a Child Rights Impact Assessment (CRIA). Which one exactly? The one UNICEF allows you to download from its website. Yes, to the LIA, TIA or FRIA this “CRIA” is added.

.- A good summary post by Vadym Honcharenko with the latest contributions to the debate on how that fluid and volatile—but ultimately critical—concept of personal data stands. The post compiles readings following the initial debate of September 25, with analyses by Peter Craddock, Sophie Stalla-Bourdillon on lessons from the SRB case, and Phil Lee on the risks of building data protection on shifting sands. Our humble contribution here.

.- Do you remember that the GDPR does not prohibit applying data to different processing, but rather processing incompatible with those originally legitimized? The ICO updates its guidance detailing when and how controllers can reuse personal information for a purpose different from the original under the UK GDPR as reformed by the DUAA 2025. A clearer compatibility test is introduced and reuses that the UK GDPR now considers automatically compatible are listed (in a new Annex 2).

It’s true, on this topic the UK has diverged too much from the GDPR. For a concrete and close analysis of the compatibility of secondary purposes under the GDPR, the best place to start is the Digi case of the CJEU that we covered years ago.

.- Via Carlo Piltz: The Bavarian authority requires a separate and private communication channel between data subjects and the DPO from the organization’s common support channel. Watch out

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

.- Document from a UK House of Lords committee (our senate, but with pedigree) on generative AI: “AI, copyright and the creative industries”. It’s from February, but no less interesting for that.

It focuses on putting forward considerations and recommendations to the Government on how to approach it without wiping out intellectual property and the “creative industries.”

-Better to leave out exceptions for Text and Data Mining (TDM), i.e., for the use of sources protected by intellectual property, under the mere opt-out guarantee they would have set up to notify the data-hungry AI that it cannot use it. What has been seen in the EU does not provide much reassurance regarding guarantees.

175. A broad TDM exception with an opt-out rights-reservation mechanism, as envisaged under “option 3” of the Government’s consultation, is not a viable foundation for the UK’s AI and copyright regime. The tools currently available for rights reservation are fragmented, poorly understood and place an unreasonable burden on individual creators.

176. Experience in the EU suggests that comparable provisions have neither delivered reliable control for rightsholders nor a robust licensing market. We welcome the Secretary of State’s acknowledgement that there is currently no workable opt-out proposal on the table and consider that the Government should now draw a clear line under this approach. The UK’s starting point should remain a licensing-first model in which permission is required to use copyright-protected works for AI training.

And that if companies are asking for a TDM exception, it’s because they know what they’re doing is not legal.

36. (…..). However, the consistent call from technology sector stakeholders for a new, broad commercial text and data mining (TDM) exception expressly to enable more AI model training to take place in the UK suggests that they do not regard large-scale commercial training on copyrightprotected works as clearly covered by the existing exceptions. If they did, a commercial TDM exception would be unnecessary.

-Not to modify intellectual property law to fit AI, and that this “learning” is “reproduction”: they call it learning, it is reproduction by pure intellectual property standards:

38. (….)We do not accept the view that the copying and processing of protected works during training should be characterised as ‘learning’.

39. We therefore consider that the Government should rule out any reform of the Copyright, Designs and Patents Act that would remove the incentive to license copyrighted works for AI training, and should instead focus on strengthening licensing, transparency and enforcement within the existing framework.

“We do not accept the view that the copying and processing of protected works during training should be characterised as ‘learning’.”

-The gap in protection of style, aka not asking AI to generate something as if it had been made by the author. Although the line is thin so they couldn’t be easily sued.

83. The absence in UK law of a robust personality right or specific protection for digital likeness means that creators and performers lack an adequate basis to challenge harmful outputs that imitate their distinctive style, voice or persona without reproducing a specific underlying work.

84. The Government should introduce protections against unauthorised digital replicas and ‘in the style of’ uses. Any new framework should give creators and performers clear, enforceable control over the commercial exploitation of their identity, while appropriately safeguarding freedom of expression and other legitimate uses.

-A nice infographic of the generative AI flow:

.- The regulatory framework on AI released by the White House might not seem to contain anything unusual (beyond the fact that it says “Trump” and that the protection of minors almost suggests it’s Melania’s idea). The problem is that Trump doesn’t do anything without intent. Most of the document contains sensible proposals for Congress: age verification and platform oversight, ensuring citizens don’t bear the increased electricity consumption of mega AI industry, anticipating research and appropriate measures for identity theft and fraud, not legislating anything that removes judicial authority to decide on IP infringement; but at the end it drops the bomb. The subtle way of waging war against Anthropic and anyone who refuses strict AI control:“act contrary to the United States’ national strategy to achieve global AI dominance.”

📃The paper of the week

.- This paper by Cristiana Santos, Sanju Ahuja, Johanna Gunawan, Nataliia Bielova proposes an analytical framework to assess dark patterns under the Digital Services Act, identifying obstacles to specific user rights: making complaints harder (Article 20), obscuring advertising transparency (Article 26), manipulating notice-and-action mechanisms (Article 16), distorting user choice regarding recommender systems (Articles 27 and 38), and interfering with minors’ rights (Article 28).

.- It’s not exactly a paper, but it stays here to avoid overloading the AI section. The Korean data protection authority released an interesting checklist in 2021: Artificial Intelligence (AI) Personal Information Protection Self-Checklist. Although time has passed, it’s still worth a look. Seen via San Luis Montezuma.

1. The checklist itself for core AI cases;

2. Very clear data processing flows:

🙄 Da- Tadum Bass!

Atompunk is the genre or aesthetic style that tries to reflect a post-nuclear Cold War dystopia.

The key point is that it would be preferable for it to remain fiction to liven up works like Fallout, Stalker or Metro.

If you think this newsletter might appeal to and even be useful to someone, forward it to them.

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.