Recordarán ustedes que dicha sentencia ratificó la sanción, pero dejó sin efecto la obligación adicional de suspender las transferencias internacionales de datos de ByteDance (TikTok) a China.

Al hacer esto, devolvió a la DPC el asunto para que hiciera un mejor trabajo y, esta vez, sí, se pronunciara sobre si entendía que había posibilidad efectiva de reidentificación de interesados por parte de las personas que accedían a los datos de los interesados desde China (de facto: los empleados de IT, potencialmente, las autoridades chinas).

Y si entendía esto, que clarificara por qué.

Hete aquí la cuestión.

El plot-twist que nadie ha pillao

La conclusión habitual que he leído sobre la sentencia irlandesa es: “la DPC tiene que motivar mejor sus decisiones”. Cierto. Trivial. Siguiente pregunta.

Pero lo importante es qué hizo que TikTok ganase en el tribunal lo que perdió ante la DPC.

Y no fue una TIA más espesa, ni más SCCs. No fue un dictamen jurídico de despacho americano con doce socios de gris marengo en el membrete.

Fueron dos assessments independientes: el Mittal Report y el informe del NCC Group. Documentos que ponían encima de la mesa, con metodología verificable, que la seudonimización del Project Clover hacía operativamente inviable la reidentificación desde China de usuarios europeos.

La DPC los descartó olímpicamente, no los rebatió con fundamento. Ese fue su error.

Y esto no es una sentencia irlandesa rara y aislada. Es una corriente:

La sentencia irlandesa no es un hecho aislado: en los últimos meses hemos detectado otros tres antecedentes judiciales en Tribunales supremos de dos países que aplican exactamente lo mismo.

• El Consejo de Estado francés en Criteo (marzo 2026).

• El Consejo de Estado francés en IQVIA (mayo 2026).

• El Tribunal Supremo español (marzo 2026, STS 1215/2026).

• Y ahora la High Court irlandesa en TikTok (junio 2026).

¡Cuatro!

El contexto es el que es: en el plano administrativo, las autoridades de cumplimiento no saben muy bien qué hacer con la doctrina SRB / Scania.

Los tribunales, en cambio, la están aplicando con toda naturalidad. Y, elocuentemente, están haciendo aplicarla a las autoridades, allí donde la información que llega a la sede judicial no les permite hacerlo a ellos.

La pata técnica

Estas sentencias apuntan en la misma dirección: la identificabilidad no es, no puede ser una mera presunción administrativa: es debate sobre los hechos.

Al responsable le corresponde hacer el estudio casuístico, el informe normativo del país destinatario, la TIA, etc…

… y a la autoridad de turno le corresponde argumentar sólidamente por qué considera que las medidas documentadas son o no suficientes.

El parágrafo 461 de la sentencia irlandesa es lapidario: la pregunta correcta no es si el responsable ha demostrado que los interesados no pueden ser identificados — eso es probatio diabólica: los hechos negativos no se pueden probar.

La pregunta correcta es si efectivamente, de hecho y en el caso concreto, pueden ser identificados por el destinatario o por las autoridades del Estado importador con los medios razonablemente disponibles.

Y “efectivamente”, “de hecho“ significa: testing técnico, métricas de reidentificación, perímetro real del dato accesible, capacidades reales del importador.

Tiro piedras contra mi propio tejado: lo que mueve la aguja en una transferencia internacional no es la documentación jurídica. Son las PETs: la seudonimización efectiva, el cifrado, la separación de claves, la minimización real del dato exportado.

La verdad incómoda

Más piedras contra mi tejado:

Casi todas las TIAs del mercado — las mías, las del despacho americano de los doce socios inmaculados, las de la boutique londinense — comparten estructura, fuentes y, francamente, la misma canción: “el flujo concreto de datos no es plausiblemente de interés para las autoridades del Estado importador”.

Se nos ocurrió a todos ya en 2020, y ahí seguimos.

Lo que cambia entre una TIA y otra es, en buena medida, el precio.

Y el precio de un set de TIAs “Cardhu versión” se come el presupuesto entero asignado al cumplimiento del capítulo V del RGPD.

¿El problema? Que ese mismo presupuesto, gastado en su totalidad en papel, deja a cero la partida de medidas técnicas. Y las medidas técnicas, según la jurisprudencia citada, son precisamente lo que te puede salvar el partido.

Recuerden: la grandeza de la aplicación de la doctrina SRB / Scania (bien entendida) es que si consigues el objetivo, evitas la aplicación del RGPD. Pero aunque te quedes cerca, siempre mitigas la responsabilidad, porque la seudonimización siempre protege al interesado.

This is the way

Mi consejo honesto a clientes con transferencias internacionales en 2026 es relativamente simple, y va contra mi propio interés comercial si lo entendiera mal:

Ahorra en documentación jurídica. Invierte en seudonimización.

La parte más exigente de la TIA— el análisis normativo del país importador, mapeo del marco de acceso por autoridades públicas, derecho comparado — es exactamente la parte que la IA hace bien si la pilota un jurista con criterio. Calvo, a ser posible.

La revisión, contextualización al flujo concreto del cliente y valoración contextual de la identificabilidad exige mano humana, pero es una fracción del trabajo.

El resultado: una TIA solvente, defendible y específica del cliente, a una fracción del coste tradicional.

Y presupuesto liberado para medidas técnicas reales de seudonimización, cifrado y minimización del dato exportado. Y su documentación.

Ya se pueden imaginar cómo va a terminar esto:

La inevitable promosió

Llevo años haciendo TIAs, y las que he hecho han funcionado.

Defendí a una multinacional frente a una denuncia presentada por el equipo de Max Schrems precisamente en esta materia, y la AEPD archivó sin sanción.

Esto no es marketing, bitch; es hemeroteca.

Hoy hago esas mismas TIAs con un workflow basado en IA y revisión manual experta que reduce sustancialmente el tiempo y el coste, con calidad equiparable a la de los doce socios americanos.

Si tu empresa tiene transferencias internacionales y la última factura de TIA que viste se acerca peligrosamente al presupuesto que deberías estar gastando en seudonimización, contáctanos.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

🗞️Noticias del Mundodato 🌍

.- Le vemos a San Luis Montezuma el documento que el International Working Group on Data Protection in Technology (Berlin Group) ha hecho sobre la XR (realidad extendida). Es decir, sobre el concepto paraguas del que cuelgan las más conocidas VR (virtual), AR (aumentada o MR (mixta). Los dos primeros tipos son más conocidos por las META Quest, las Google Glass y las dichos Meta Ray-Ban u Oxley.

Hay muchas cosas que destacar en el doc, pero nos quedamos con dos:

While some specific XR features do require location data via GPS to function properly (for example, Pokémon GO), many XR functions have no need to know the precise physical location of the user and still collect and track this data. ……………….. For example, religious affiliation may be revealed if the user frequently visits a place of worship. Location data is also a valuable surveillance tool and could be misused by law enforcement or used criminally by stalkers.

Extended reality technologies have expanded beyond the world of gaming into increasingly more impactful and sensitive areas, including health, education, the workplace, and more. This technology raises serious concerns about privacy, not just for users, but also for bystanders whose presence and actions may be tracked with these devices. While many of the privacy risks presented by extended reality are common in other technologies as well, extended reality presents unique risks due to the source, type, and volume of information that it processes – just twenty minutes in a virtual reality simulation can generate nearly 2 million unique body language recordings”.

.- El EDPB ha cambiado su web por completo. Da la misma rabia que el cambio de secciones periódico en el súper al que más vas (aunque sea por razones más discutibles de psicología aplicada al consumo), pero ahora está mucho mejor. Más visual, mas colorinchis y mejor forma de filtrar documentos. Principalmente, las directrices que todos acabando consultando todo el rato. O si alguna de las históricas en consulta pública, han pasado ya por fin a definitivas (o sea, versión 2.0). Nadie está mirando a las del interés legítimo que cerró plazo en noviembre de 2024.

Ayuda la nueva página de consulta de todas que siguen en consulta pública. Y con todo el histórico de feedback recibido, aunque ya estaba en la versión previa de la web.

.- El Confidencial recoge que el teletrabajo está empeorando la salud mental de quienes lo “disfrutan”, y que los afectados no son conscientes de ello. Yo pongo en duda esto último. El número de gente que se está quedando cucú por falta de interacción humana real (no electrónica) es alarmante, al menos en mi limitado muestreo personal./

El estudio, basado en una encuesta a 568.000 personas entre 2011 y 2024 (excluidos 2020-2021), atribuye al trabajo a distancia aproximadamente un tercio del aumento de malestar psicológico registrado en EE.UU., donde la implantación del teletrabajo pasó del 7% en 2019 al 28% en 2023. Los teletrabajadores suman más de una hora diaria de tiempo en soledad respecto a la era prepandemia, con un 4,6% más de probabilidad de acudir a salud mental y un alza de 1,8 puntos en la prescripción de psicofármacos. Entre quienes viven solos, el 83% pasa jornadas laborales sin un solo contacto presencial.
Lo más preocupante es la asimetría perceptiva: las autoras descartan que el incremento responda a mayor flexibilidad horaria, porque las revisiones médicas rutinarias caen mientras suben las consultas psiquiátricas.

Tengan mucho cuidado ahí fuera, compañeros del metal: no hace falta ser un lince para darse cuenta de que un DPD está en el grupo de riesgo.

.- Esta es la última newsletter hasta septiembre, (nos guardamos el comodín del Digital Omnibus) así que me permito hacer un homenaje a uno de mis comunicadores favoritos: Nicholas Thompson que ha escrito un libro. Thompson publica en sus redes sociales “lo más interesante en Tech que ha pasado hoy” con un estilo muy personal y enganchón. El libro es The Running Ground, y habla sobre correr, paternidad y mortalidad. Thompson -récord USA de 20.000 metros para mayores de 45 años y número uno mundial de 50 millas en su segmento de edad- entrelaza su biografía deportiva con la relación accidentada con su padre, Scott Thompson, runner aficionado que cayó en desgracia tras salir del armario y cóom su carrera académica se derrumbaba. Tenía que haber un guiño datero en todo esto.

📖 Documentos dateros muy cafeteros ☕️

.- No entró por los pelos en la anterior newsletter, pero no podíamos dejar de mencionar que ahora sí tenemos unas recomendaciones y buenas prácticas en el sector de los videojuegos, gracias a la AEPD y la autoridad belga. Ha costado, pero ya tenemos algo muy cafetero. Por fin llegaron los refuerzos para sostener la trinchera de que se hacen tratamientos masivos no muy vigilados por aquí. En forma de Napalm, eso sí.

A diferencias de otras ocasiones en las que se puede mostrar no tan claro el tema, en la parte central se mojan al dar supuestos concretos de designación de roles. Si hace esto, eres responsable, encargado o posible corresponsable. Y al hueso con los tratamientos nunca declarados del todo que hacen. Un listado de cuestiones que convertirlo en preguntas a responsable, pues ese Napalm directo a la cara.

Os lo dejamos en doble versión:

• Comentario sobre la misma del pesado de Darío: Recomendaciones sobre 🎮 de la AEPD y la DPA belga.

• Enlace directo de consulta en inglés. La versión original es la inglesa, y así nos ahorramos traducciones literales del tipo de “launcher” por “lanzador”. Menos mal que no se suma el concepto de “videojugador”.

.- De la misma belga, viene resolución interesante por buzón de antigua empleada. Un derecho de acceso de esta misma empleada que acabó en denuncia y multa. Que no ayudaba que esa cuenta siguiera activa y recibiendo correos un año después de su marcha.

Quitando que se impone una multa de 176.000 euros, aplicar medidas adecuadas y satisfacer el derecho de acceso de la empleada, lo más relevantes es la interpretación de plazos viables para mantener esa cuenta activa desde la marcha:

“18. Tal como se aclara en dichas resoluciones anteriores de la Sala de Controversias, este interés legítimo se limita a priori a un plazo de un mes. Una posible prórroga de este plazo por dos meses podría aceptarse, siempre que una clara ponderación de intereses justifique dicha prórroga. Esta ponderación de intereses debe tener en cuenta que la reclamante dejó la relación laboral hace tiempo y ya no tiene ningún control sobre sus datos personales, algunos de ellos sensibles, en el buzón de correo en cuestión.”

.- La sentencia del TJUE en NTH Haustechnik (C-484/24), se lleva por delante la doctrina de la fruta de la rama envenenada. De hecho, explica todo lo que yo no entendía sobre el famoso caso Ribalta y sus alucinantes consecuencias en la jurisprudencia laboral española. Si hiciera una miaja menos de calor, escribiría una serie de posts, para asegurarme de que lo entiendo e interiorizo para siempre pero…. dadas las circunstancias sólo puedo apuntar dos comentarios útiles.

El asunto: un empleador pretendía aportar como prueba datos obtenidos —posiblemente de forma ilícita— de la cuenta privada de eBay de una exempleada para acreditar venta no autorizada de bienes corporativos.

Este de Peter Craddock centrada en si la ilicitud del tratamiento contamina la prueba judicial. Tras establecer la sentencia que la jurisprudencia puede constituir “obligación legal” del art. 6(1)(c), el Tribunal aclara que el test de ponderación incorporado a esa obligación absorbe el deber de minimización del art. 5(1)(c), sin necesidad de un balance adicional caso por caso. Sobre la posible nulidad procesal de la prueba ilícitamente obtenida: el RGPD no contiene prohibición absoluta de tratar datos previamente obtenidos de forma ilícita, pero quien invoca interés legítimo no puede ampararse en ese fundamento si conocía o debía conocer la ilicitud previa.
La consecuencia no es intuitiva: el juez puede usar prueba contaminada bajo obligación legal, pero la empresa que ha obtenido esos mismos datos de un tercero no puede apelar al interés legítimo como base legal de tratamiento. Mismo dato, suerte distinta según quién lo trate.
Autor: Peter Craddock

La misma sentencia C-484/24 recibe una lectura complementaria de Mateusz Kupiec centrada en el ángulo procesal: cuando un tribunal nacional valora una prueba con datos personales en litigios civiles o laborales, esa valoración o aplicación es en sí misma un tratamiento del RGPD —presentación electrónica, almacenamiento, consulta, recuperación— y se ampara en el art. 6(1)(c) por la obligación judicial de pronunciarse sobre su admisibilidad. El derecho procesal nacional no necesita una norma base detallada para cada supuesto: basta con condiciones claras y previsibles fijadas en ley o jurisprudencia, objetivo de interés público y proporcionalidad. El art. 17.3.e) RGPD no crea una base jurídica propia: solo limita el derecho de supresión. La minimización subsiste, pero no obliga a un test de proporcionalidad completo en cada acto judicial; antes de divulgar a partes o terceros, el tribunal puede anonimizar o seudonimizar.
Una infracción del deber de información del art. 13 en la parte que obtuvo el dato no impide al tribunal usar esa prueba. La sanción al responsable de tratamiento no produce automáticamente una exclusión probatoria, lo que rompe la aplicación del principio de las frutas del árbol envenenado antes citada.

.- Gernot Fritz comenta una resolución del Verwaltungsgerichtshof austriaco (VwGH) sobre scoring, art. 22 RGPD y derecho de acceso del art. 15.1.h. que aparentemente contradice a la sentencia Schufa del TJUE.

La movida: una agencia de información crediticia calculaba sobre la persona afectada varios valores sin transferirlos a terceros ni producir efecto detectable alguno. La autoridad austriaca de protección de datos consideró vulnerado el derecho de acceso a la lógica involucrada (que no había sido satisfecho); la primera instancia judicial discrepó. La segunda lo confirma: el mero cálculo automatizado interno de un score no es decisión automatizada del art. 22 RGPD si no se proyecta hacia el exterior.

Para activar el efecto jurídico o afectación significativa requeridos, debe mediar comunicación a terceros. La doctrina Schufa del TJUE sigue plenamente vigente cuando el score se transmite y de él depende la celebración del contrato.
El matiz no obvio: profiling no equivale automáticamente a decisión del art. 22, y el cálculo “reservado” sin uso ulterior queda fuera del perímetro del 15.1.h.

Tengo un mal presentimiento con esto.

💀Death by Meme🤣

Con la que está cayendo por todos lados, no quedan muchas ganas de escribir, leer o estar cerca de ningún ordenador o fuente de calor para trabajar o pasar el rato.

🤖NoRobots.txt o Lo de la IA

.- Arianna Stech publica su tesis "Grooming the Machine: Poisoned Contexts, Plausible Answers": La guerra informativa ha desplazado su punto de mira desde las personas a las máquinas que influyen sobre aquellas; el LLM grooming es el envenenamiento sistemático de datasets de entrenamiento. Stech auditó 12 chatbots líderes con tres afirmaciones falsas alineadas con el Kremlin entre otras cosas.

El Kremlin publicó 8 millones de artículos que jamás se escribieron para humanos, sino para crawlers de buscadores y LLMs; la gente los recibe en forma de outputs de IA , sin saber que está leyendo basura.
Autor: Arianna Stech, Francisco de Abreu Duarte, Paula Gori, Sam Stockwell,

.- Robert Gaudette gana el Grand Prix de 50.000 dólares del Runway AI Film Festival 2026 con A Face Only A Mother Could Love, un cortometraje íntegramente hecho con IA, por un director tecnológicamente capaz, sin formación cinematográfica formal. No me parece gran cosa, pero ustedes verán.

🛠️Herramientas útiles

.- Una alternativa abierta a NotebookLM de Google llamada Open Notebook.

.-No es una herramienta, per se, pero sí los pasos que Proton recomienda seguir para desactivar que Gemini lea y entrene con tus correo y adjuntos en Gmail. Por lo que sea, parece que otro que se viene arriba sin consentimiento de por medio. Activada por defecto, porque sí.

🙄 El chorradón final

Disfruten mucho del verano: recuerden que será el más fresquito del resto de su vida…

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

You may recall that the ruling upheld the fine but nullified the additional obligation to suspend TikTok’s (ByteDance) international data transfers to China.

By doing so, it returned the matter to the DPC to do a better job and, this time, indeed rule on whether it believed there was an effective possibility of re-identification of data subjects by those accessing data subject data from China (in fact: IT employees, potentially Chinese authorities).

And if it believed this, to clarify why.

Here is the question.

The plot twist no one caught

The usual conclusion I’ve read about the Irish ruling is: “the DPC needs to better justify its decisions.” True. Trivial. Next question.

But the important thing is what made TikTok win in court what it lost before the DPC.

And it wasn’t a thicker TIA, or more SCCs. It wasn’t a legal opinion from an American firm with twelve partners in gray marengo on the letterhead.

It was two independent assessments: the Mittal Report and the NCC Group report. Documents that established, with verifiable methodology, that Project Clover’s pseudonymization made operational re-identification of European users from China unfeasible.

The DPC dismissed them outright, did not refute them with substance. That was its mistake.

And this is not a rare and isolated Irish ruling. It’s a trend:

The Irish ruling is not an isolated event: in recent months, we have identified three other judicial precedents in Supreme Courts of two countries that apply exactly the same thing.

• The French Council of State in Criteo (March 2026).

• The French Council of State in IQVIA (May 2026).

• The Spanish Supreme Court (March 2026, STS 1215/2026).

• And now the Irish High Court in TikTok (June 2026).

Four!

The context is what it is: at the administrative level, enforcement authorities do not quite know what to do with the SRB / Scania doctrine.

Courts, on the other hand, are applying it quite naturally. And eloquently, they are making the authorities apply it where the information reaching the judicial bench does not allow them to do so themselves.

The technical aspect

These rulings point in the same direction: identifiability cannot be a mere administrative presumption; it is a debate about facts.

It is the controller’s responsibility to conduct the case-by-case study, the normative report of the destination country, the TIA, etc...

...and it is the competent authority’s responsibility to solidly argue why it considers the documented measures to be sufficient or not.

Paragraph 461 of the Irish ruling is lapidary: the correct question is not whether the controller has demonstrated that data subjects cannot be identified—that is probatio diabolica: negative facts cannot be proven.

The correct question is whether, in fact and in the specific case, they can be identified by the recipient or by the authorities of the importing State with reasonably available means.

And “in fact” means: technical testing, re-identification metrics, real perimeter of accessible data, real capabilities of the importer.

I’m throwing stones at my own roof: what moves the needle in an international transfer is not the legal documentation. It’s PETs: effective pseudonymization, encryption, key separation, real minimization of exported data.

The uncomfortable truth

More stones at my own roof:

Almost all TIAs on the market—mine, those of the American firm with twelve immaculate partners, those of the London boutique—share structure, sources, and frankly, the same tune: “the specific data flow is not plausibly of interest to the authorities of the importing State.”

We all came up with this in 2020, and here we are.

What changes between one TIA and another is, to a large extent, the price.

And the price of a set of “Cardhu version” TIAs eats up the entire budget allocated for compliance with Chapter V of the GDPR.

The problem? That same budget, spent entirely on paper, leaves the technical measures budget at zero. And according to the cited case law, technical measures are precisely what can save your game.

Remember: the greatness of applying the SRB / Scania doctrine (well understood) is that if you achieve the objective, you avoid the application of the GDPR. But even if you fall short, you always mitigate responsibility, because pseudonymization always protects the data subject.

This is the way

My honest advice to clients with international transfers in 2026 is relatively simple, and goes against my own commercial interest if misunderstood:

Save on legal documentation. Invest in pseudonymization.

The most demanding part of the TIA—the normative analysis of the importing country, mapping of access by public authorities, comparative law—is precisely the part that AI does well if piloted by a lawyer with judgment. Calvo, if possible.

Review, contextualization to the client’s specific flow, and contextual assessment of identifiability require human input, but it is a fraction of the work.

The result: a solid, defensible, and client-specific TIA at a fraction of the traditional cost.

And budget freed up for real technical measures of pseudonymization, encryption, and minimization of exported data. And their documentation.

You can already imagine how this is going to end:

The inevitable promotion

I have been doing TIAs for years, and the ones I have done have worked.

I defended a multinational against a complaint filed by Max Schrems’ team precisely on this matter, and the AEPD archived it without a fine.

This is not marketing, bitch; it’s news archive.

Today, I do those same TIAs with an AI-based workflow and expert manual review that substantially reduces time and cost, with quality comparable to that of the twelve American partners.

If your company has international transfers and the last TIA invoice you saw dangerously approaches the budget you should be spending on pseudonymization, contact us.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

🗞️News from the Dataworld 🌍

.- We see that San Luis Montezuma has shared the document produced by the International Working Group on Data Protection in Technology (Berlin Group) on XR (extended reality). In other words, on the umbrella concept under which the more well-known VR (virtual), AR (augmented), and MR (mixed) fall. The first two types are more widely known for META Quest, Google Glass, and the aforementioned Meta Ray-Ban or Oxley.

There are many aspects to highlight in the document, but we will focus on two:

While some specific XR features do require location data via GPS to function properly (for example, Pokémon GO), many XR functions have no need to know the precise physical location of the user and still collect and track this data. ……………….. For example, religious affiliation may be revealed if the user frequently visits a place of worship. Location data is also a valuable surveillance tool and could be misused by law enforcement or used criminally by stalkers.

Extended reality technologies have expanded beyond the world of gaming into increasingly more impactful and sensitive areas, including health, education, the workplace, and more. This technology raises serious concerns about privacy, not just for users, but also for bystanders whose presence and actions may be tracked with these devices. While many of the privacy risks presented by extended reality are common in other technologies as well, extended reality presents unique risks due to the source, type, and volume of information that it processes – just twenty minutes in a virtual reality simulation can generate nearly 2 million unique body language recordings”.

.- The EDPB has completely overhauled its website. It’s as frustrating as when your favorite supermarket changes the layout of its sections (even if for more debatable reasons of consumer psychology applied to consumption), but now it’s much better. More visual, more colorful, and a better way to filter documents. Mainly, the guidelines that everyone ends up consulting all the time. Or if any of the historical ones that were in public consultation have finally become definitive (i.e., version 2.0. No one is looking at the legitimate interest ones that closed in November 2024.

The new page for consulting all those still in public consultation helps. And with all the feedback history received, even though it was already in the previous version of the website.

.- It is reported thatthat remote work is worsening the mental health of those who “enjoy” it, and that the affected individuals are not aware of this. I question the latter. The number of people going crazy due to lack of real human interaction (not virtual) is alarming, at least in my limited personal sample.

The study, based on a survey of 568,000 people between 2011 and 2024 (excluding 2020-2021), attributes approximately one-third of the increase in psychological distress recorded in the U.S. to remote work, where the implementation of remote work went from 7% in 2019 to 28% in 2023. Remote workers add more than one hour a day of time in solitude compared to the pre-pandemic era, with a 4.6% higher probability of seeking mental health services and an increase of 1.8 points in the prescription of psychotropic drugs. Among those living alone, 83% spend workdays without a single face-to-face contact. The most concerning aspect is the perceptual asymmetry: the authors discount that the increase is due to greater flexibility in working hours, as routine medical check-ups decrease while psychiatric consultations increase.

Be very careful out there, fellow data protection officers: it doesn’t take a genius to realize that a DPO is in the risk group.

.- This is the last newsletter until September (we’re keeping the Digital Omnibus joker), so I allow myself to pay homage to one of my favorite communicators: Nicholas Thompson, who has written a book. Thompson posts on his social media “the most interesting thing in Tech that has happened today” with a very personal and engaging style. The book is The Running Ground, and it talks about running, fatherhood, and mortality. Thompson - USA record holder for 20,000 meters for over 45 years and world number one for 50 miles in his age group - weaves his sports biography with his troubled relationship with his father, Scott Thompson, an amateur runner who fell from grace after coming out of the closet and seeing his academic career collapse. There had to be a data-related nod in all this.

📖 Hard data docs for coffeine lovers ☕️

.- It barely made it into the previous newsletter, but we couldn’t help but mention that we now have recommendations and best practices in the video game sector,We leave it in a double version for you:

• Comment on the same by Darío: Recommendations on 🎮 by the AEPD and the Belgian DPA.

• Direct link for consultation in English. The original version is in English, which saves us from literal translations like “launcher” becoming “lanzador.” Thankfully, the concept of “videojugador” is not added.

.- From the Belgian authority comes an interesting resolution regarding an ex-employee’s mailbox. An access request by this same employee ended in a complaint and fine. It did not help that the account remained active and receiving emails a year after her departure.

Apart from imposing a fine of €176,000, applying appropriate measures, and satisfying the ex-employee’s right of access, the most relevant aspect is the interpretation of feasible deadlines for keeping the account active after departure:

“18. As clarified in these previous resolutions by the Dispute Chamber, this legitimate interest is initially limited to a period of one month. A possible extension of this period by two months could be accepted, provided that a clear balancing of interests justifies such an extension. This balancing of interests must take into account that the claimant left the employment relationship some time ago and no longer has any control over her personal data, some of which are sensitive, in the mailbox in question.”

.- The CJEU’s judgment in NTH Haustechnik (C-484/24) dismantles the “poisoned fruit” doctrine. In fact, it explains everything I didn’t understand about the famous Ribalta case and its astonishing consequences in Spanish labor jurisprudence. If it were a bit less hot, I would write a series of posts to ensure I understand and internalize it forever. But... given the circumstances, I can only point out two useful comments.

The case: an employer attempted to present as evidence data obtained—possibly unlawfully—from a former employee’s private eBay account to prove unauthorized sale of corporate assets.

This post by Peter Craddock focuses on whether the unlawfulness of the processing contaminates judicial evidence. After establishing that case law can constitute a “legal obligation” under Article 6(1)(c) of the GDPR, the Court clarifies that the balancing test incorporated into this obligation absorbs the duty of minimization under Article 5(1)(c), without the need for an additional case-by-case balance. On the possible procedural nullity of unlawfully obtained evidence: the GDPR does not contain an absolute prohibition on processing data previously obtained unlawfully, but those invoking legitimate interest cannot rely on this ground if they knew or should have known of the prior unlawfulness. The consequence is not intuitive: the judge can use contaminated evidence under a legal obligation, but the company that obtained the same data from a third party cannot appeal to legitimate interest as a legal basis for processing. Same data, different luck depending on who processes it. Author: Peter Craddock

The same judgment C-484/24 receives a complementary reading by Mateusz Kupiec focused on the procedural angle: when a national court assesses evidence with personal data in civil or labor disputes, this assessment or application is itself a processing under the GDPR—electronic presentation, storage, consultation, retrieval—and is justified under Article 6(1)(c) by the judicial obligation to rule on its admissibility. National procedural law does not require a detailed base norm for each case: clear and predictable conditions set by law or case law, public interest objective, and proportionality suffice. Article 17.3(e) of the GDPR does not create a separate legal basis: it only limits the right to erasure. Minimization persists, but it does not require a complete proportionality test for each judicial act; before disclosing to parties or third parties, the court may anonymize or pseudonymize. A violation of the information duty under Article 13 by the party that obtained the data does not prevent the court from using that evidence. The sanction against the data controller does not automatically result in exclusion of evidence, which breaks the application of the poisoned fruit principle previously cited.

.- Gernot Fritz comments on a resolution by the Austrian Administrative Court (VwGH) on scoring, Article 22 of the GDPR, and the right of access under Article 15.1(h), which apparently contradicts the CJEU’s Schufa judgment.

The issue: a credit information agency calculated several values for the data subject without transferring them to third parties or producing any detectable effect whatsoever. The Austrian data protection authority considered the right of access to the logic involved (which had not been satisfied) to be violated; the first judicial instance disagreed. The second confirms it: mere automated internal calculation of a score is not an automated decision under Article 22 of the GDPR if it is not projected outward.

To activate the legal effect or significant impact required, communication to third parties must intervene. The CJEU’s Schufa doctrine remains fully valid when the score is transmitted and depends on the conclusion of the contract. The non-obvious nuance: profiling does not automatically equate to a decision under Article 22, and the “reserved” calculation without further use falls outside the scope of Article 15.1(h).

A have a funny feeling with this ruling.

💀Death by Meme🤣

With everything that’s happening everywhere, there’s not much desire to write, read, or be near any computer or heat source to work or pass the time.

🤖NoRobots.txt or The AI stuff

.- Arianna Stech publishes her thesis “Grooming the Machine: Poisoned Contexts, Plausible Answers”: The information war has shifted its focus from people to the machines that influence them; LLM grooming is the systematic poisoning of training datasets. Stech audited 12 leading chatbots with three false statements aligned with the Kremlin among other things.

The Kremlin published 8 million articles that were never written for humans but for search engine crawlers and LLMs; people receive them in the form of AI outputs, unaware they are reading garbage. Author: Arianna Stech, Francisco de Abreu Duarte, Paula Gori, Sam Stockwell,

.- Robert Gaudette wins the Grand Prix of $50,000 at the Runway AI Film Festival 2026 with A Face Only A Mother Could Love, a short film entirely made with AI, by a technologically capable director without formal cinematic training. It doesn’t seem like much to me, but you be the judge.

🛠️Useful Tools

.- An open alternative to Google’s NotebookLM called Open Notebook.

.- It’s not a tool per se, but the steps Proton recommends following to deactivate Gemini from reading and training with your emails and attachments in Gmail. For whatever reason, it seems like another that is enabled by default without consent. Activated by default, because why not.

🙄 Da-Ta-dum basss

We wish you a very happy summer: and remember:it will be the coolest of the rest of your life!

Compartir

Es el momento de ponerse un poco tremendos:

1.- En octubre de 2021, Frances Haugen se sentó ante el Comité de Comercio del Senado de Estados Unidos y reveló miles de documentos internos de Meta.

Los más demoledores describían lo que la compañía sabía y ocultaba sobre el impacto de su algoritmo de recomendación en adolescentes. Las investigaciones internas de Instagram concluían que el sistema redirigía a chicas jóvenes hacia contenido relacionado con trastornos alimentarios y misoginia, aunque no lo buscaran activamente.

2.- Los documentos revelados por Meta en el contexto de un litigio en Nuevo México revelan -lo contamos en marzo- que la compañía conocía que su algoritmo sugería cuatro veces más cuentas de menores de edad a adultos potencialmente peligrosos (proclives a hacerles grooming y sextorsión).

Casi uno de cada cuatro de estos adultos (atención: uno de cada cuatro (¡!!) lo intentaron efectivamente (el dato resulta de los documentos).

¿Meta corrigió a consecuencia de estos datos?

No.

Meta revisó los hechos y no cambió el algoritmo: no es un bug sino un feature cuando tu objetivo último es la optimización del engagement, y el engagement aumentaba con estas prácticas.

Lo peor es que no hace falta recurrir a documentos filtrados, si uno tiene ojos en la cara.

3.- La semana pasada, una chica de 15 años describió en The Guardian el contenido que encuentra en Instagram y TikTok sin buscarlo: comentarios sobre el cuerpo de otras chicas, vídeos con bromas degradantes, material que trivializa la violencia doméstica o la violación. Cuenta cómo intenta activamente evitarlo, pero lo encuentra de forma incesante en cuanto abre sus aplicaciones.

Es el mismo fenómeno documentado por Frances Haugen con slides corporativas, pero que a mí personalmente me impacta mucho más en las palabras de esta joven.

Los sistemas de recomendación de estas plataformas no rankean lo que el usuario quiere ver, sino el contenido que conocidamente aumenta el tiempo “invertido” de pantalla. El engagement es el objetivo, pero se consigue a lomos de material que genera emociones y reacciones fuertes -indignación, comparación social, miedo…-.

Si tuviera Instagram, el artículo de The Guardian (o más bien el post de algún bro riéndose de él) me aparecería de lo primerito en el feed.

4.- El TJUE acaba de declarar que si una plataforma utiliza un algoritmo para determinar, en su propio interés o en el de su servicio, las condiciones, la forma o el orden de prioridad con que se difunde o muestra la información de sus usuarios, está ejerciendo un control activo sobre el contenido.

Y ese control le priva, según el TJUE, de la exención de responsabilidad prevista en la Directiva de ecommerce para las plataformas que alojan contenidos de terceros.

El algoritmo de recomendación destruye la neutralidad del intermediario respecto al contenido alojado por sus usuarios. Eso incluye:

• Los memes racistas que ven tus hijos en Instagram, Youtube y TikTok.

• El contenido irrelevante que te devuelve Google.

• Los productos chungos, caretes, pero “recomendados” en Amazon.

• Los evidentes intentos de estafa que te muestra Twitter. Y las paridas de Elon.

• El piso más caro (pero que aparece antes) en Idealista o AirBnb.

• Las AI slop songs que te empluma Spotify because why not.

En palabras del TJUE:

111 ahora bien, tal y como ha señalado, en esencia, el Abogado General en el punto 239 de sus conclusiones, es precisamente mediante el algoritmo utilizado como dicho operador ejerce un control sobre la información almacenada. Siempre que haya predeterminado, mediante dicho algoritmo, las condiciones para la difusión o no de dicha información, es irrelevante que dicho operador no realice por sí mismo intervenciones adicionales que tengan por efecto promover, modificar o suprimir la información almacenada con vistas a su difusión.

112 A este respecto, conviene precisar que, si, más allá de una simple categorización e indexación de la información con el fin de facilitar su acceso, el algoritmo utilizado determina, en interés del operador o de su servicio, en qué condiciones, de qué manera y con qué orden de prioridad se difunde o no dicha información, dicho operador ejerce un control sobre la misma, de modo que el servicio que ofrece no puede calificarse de «servicio de la sociedad de la información consistente en el almacenamiento de información facilitada por un destinatario del servicio», en el sentido del artículo 14, apartado 1, de la Directiva 2000/31 (véanse, en este sentido, sentencias de 23 de marzo de 2010, Google France y Google, C‑236/08 a C‑238/08, EU:C:2010:159, apartados 115 y 117; de 12 de julio de 2011, L’Oréal y otros, C‑324/09, EU:C:2011:474, apartado 116, así como de 22 de junio de 2021, YouTube y Cyando, C‑682/18 y C‑683/18, EU:C:2021:503, apartado 114).

5.- Last, but not least: que la verificación de edad -una de los temas recurrentes en este newsletter por las peores razones posibles- haya sido la excusa para que el TJUE haya emitido este totémico fallo, es un plot-twist digno de M. Night Shyamalan.

El martes fue un día histórico. Queda ver cómo evoluciona la cosa.

Porque a nadie se le escapa que Schrems II sirvió para muy poco.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

🗞️Noticias del Mundodato 🌍

.- La Autoriteit Persoonsgegevens neerlandesa multó a la app de transporte Yango con 100 millones de euros por transferir datos personales de usuarios y conductores a Rusia sin las salvaguardas adecuadas (ja, como si hubiera salvaguardias adecuadas si vas a trasnferir datos a Rusia).

Las cláusulas contractuales tipo (SCCs) pretendían compensar las deficiencias apreciadas con medidas de seudonimización y cifrado, pero la Autoridad detectó que hasta noviembre de 2023 las claves de cifrado se almacenaban en los mismos servidores rusos que los datos cifrados. Además, Yandex.Taxi LLC —que controlaba el software y determinaba qué datos se recogían— fue calificada como corresponsable del tratamiento, invalidando incluso el modelo de SCCs utilizado.

.- Corea del Sur impone a Coupang una multa de 408 millones de dólares por la mayor filtración de datos de la historia del país. La Comisión de Protección de Información Personal (PIPC) investigó una brecha que expuso los datos de millones de clientes del gigante del e-commerce, el equivalente coreano de Amazon. La sanción supone un record de sanción en la aplicación de la ley de privacidad coreana PIPA (y en Asia en general). La PIPC determinó que Coupang incumplió sus obligaciones de seguridad técnica y organizativa, así como los deberes de notificación y gestión del incidente.

.- Starmer sigue en su cruzada personal de atajar los males digitales a los niños británicos. Ahora en forma de repetir lo que los australianos hicieron con resultados mixtos: prohibir redes sociales hasta los 16 años. ¿Qué podría malir sal (otra vez)?

Y anunciando el “baneo” de redes en las propias redes, y con mensaje adaptado al formato de las mismas (y con nota de la comunidad con más sentido común que el que gasta cargo público promedio).

Y con meme instantáneo de menor valorando el asunto, tal cual lo paso en Australia. ‘I’d Stare at a Wall!’ ¿Resignación estoica o sarcasmo legendario?

.- Teams se quedó grabando tras el fin de una reunión, capturando conversaciones privadas de una trabajadora con más de veinte años de antigüedad. La empresa utilizó esos fragmentos meses después para cuestionar su confianza.

La trabajadora, responsable de renta fija en un grupo financiero, solicitó la resolución de su contrato al amparo del artículo 50 del Estatuto de los Trabajadores alegando un progresivo vaciado de funciones y la vulneración de sus derechos fundamentales.

El Juzgado de lo Social inicial desestimó la demanda de la trabajadora. El TSJ del País Vasco revocó completamente ese pronunciamiento: la grabación involuntaria al no cerrar Teams no puede equivaler a la renuncia de la trabajadora a sus derechos fundamentales, ni permite a la empresa valerse de esas comunicaciones. La sentencia aprecia vulneración del derecho a la intimidad, al secreto de las comunicaciones y a la protección de datos, e impone una indemnización total de 335.992,62 euros.

El plot twist procesal : la misma conducta que el juzgado de instancia calificó de mala fe de la trabajadora fue reencuadrada por el TSJ como incumplimiento grave y culpable de la empresa. Via Francisco Trujillo y Ramón Arnó.

.- La victoria parcial de TikTok en el High Court irlandés no implica que sus transferencias de datos a China sean conformes al RGPD: el tribunal confirmó la violación del Capítulo V, pero anuló las órdenes correctoras del DPC por falta de motivación técnica suficiente.

La DPC no justificó por qué las medidas del “Project Clover” eran insuficientes para impedir la reidentificación, pese a disponer del informe Mittal y del terecero independiente NCC Group, ambos favorables a TikTok.

El caso regresa ahora al DPC para que realice ese análisis. El punto no obvio: el tribunal no cuestionó la idoneidad técnica de Project Clover, sino la calidad argumentativa de la decisión regulatoria; la DPC podría reiterar exactamente la misma conclusión si la justifica con rigor metodológico.

.- Un tribunal de Múnich ha declarado a Google responsable de las respuestas incorrectas proporcionadas por su herramienta AI Overviews.

No ha sido una buena semana para la BigTech, no. El fallo establece que, dado que Google despliega y controla el sistema de IA, es responsable de la información errónea que genera, con independencia de que el contenido provenga de un modelo probabilístico. La sentencia no entra en el RGPD al no tratarse de una persona física, pero sí reconoce la vulneración del derecho general a la personalidad corporativa. La consecuencia de mayor alcance: el tribunal equipara el despliegue de un LLM al ejercicio de una actividad editorial, lo que podría transformar la responsabilidad de los proveedores de IA generativa en Europa mucho antes de que el Reglamento de IA sea plenamente aplicable.

📖 Documentos dateros muy cafeteros ☕️

.- ¿No han tenido suficientes disgustos las plataformas en el día de hoy? No: Adrian Todoli tiene otra mala noticia. Y es mala de narices: La dirección algorítmica de la contratista implica cesión ilegal de trabajadores (STS 27/3/2026 – Caso DHL)

.- Las resultonas infografías de Müge Fazlioglu para la IAPP sobre las interrelaciones entre el RGPD y:

- EU AI Act
- Network and Information Security Directive (NIS2)
- Digital Services Act (DSA)
- Digital Markets Act (DMA)
- Data Act, and
- Data Governance Act (DGA)

.- Y la del propio Robert Bateman sobre la resolución original de la DPC sobre TikTok. Todavía era más larga que la resolución del tribunal que devuelve la pelota

Pregúntale a Rumpel

Rumpelstilstskin (“Rumpel” para los amigos) es nuestro asistente personal para conejear entre resoluciones, sentencias, guidelines y materiales diversos que funciona en local (sin preguntar a IAs comerciales).

Nos gusta ver si es capaz de responder decentemente a preguntas complicadas.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- Claude Fable 5 vino y como vino, se fue, por obra y gracia del Dorito. Pero en la UE restringimos normativamente la competencia. El chiste se cuenta solo.

.- Simon Willison reflexiona sobre el product-market fit de las herramientas de IA generativa. Argumenta que la mayoría de los productos construidos sobre LLMs todavía no han encontrado su encaje real con las necesidades de usuarios no técnicos. Willison distingue entre adopción por curiosidad o novedad y adopción por utilidad sostenida, señalando que la mayoría de los casos de uso que generan entusiasmo en la industria son protagonizados por desarrolladores que evalúan las propias capacidades de los modelos, no por usuarios finales que resuelven problemas cotidianos. La pieza cuestiona la métrica de "usuarios activos" como indicador de valor real y propone que el verdadero product-market fit en IA se logrará cuando los modelos sean lo suficientemente fiables y predecibles para operar en flujos de trabajo críticos sin supervisión humana constante. El insight no obvio: Willison sugiere que la fiabilidad —no la capacidad— es el cuello de botella real, y que mejorar los benchmarks de rendimiento sin reducir la tasa de alucinaciones no acerca a los modelos al product-market fit.

.-El Parlamento da de paso las enmiendas del RIA. Lo más importante:

• Prohibidos los sistemas de IA que generen contenido CSAM o de desnudos, partes íntima o actividades deportivas en horizontal de alguien identificable (si no cuentan con el consentimiento para ello). Y el punto de que aquel provider que se la juegue a usar este tipo de sistemas no permitido de manera general, pueda probar que tiene medidas técnicas reales y efectivas para prevenir que genere este tipo de contenido. Aplicable la prohibición para el deployer, claro.

• Los nuevos plazos de aplicación:

  • a partir del 2 de diciembre de 2027 para los sistemas de IA de alto riesgo autónomos.

  • a partir del 2 de agosto de 2028 para los sistemas de IA integrados como componentes de seguridad y regulados por la legislación sectorial de seguridad y vigilancia del mercado.

  • a partir del 2 de diciembre de 2026 para la obligación de incluir marca de agua en los contenidos generados por IA. Mismo plazo para los sistemas de generación de contenido CSAM y desnudil.

Justo del etiquetado, salieron aquellos iconos propuestos por la Comisión. Lo obligatorio es el etiquetado y marcado legible del artículo 50, pero al menos aquí llegaron más lejos que con los iconos normalizados del RGPD.

.- El EDPS, en formato de post corto del Supervisor, nos recuerda que el shadow AI puede ser una brecha de seguridad curiosa. Que hay que estar al loro de que nadie use ninguna aplicación o servicio con IA no autorizado, y que no está de más meter bloqueo de dominios no autorizados, restricciones en dispositivos corporativos y dar alternativas seguras para hacer eso que el empleado intentaba por su cuenta y riesgo.

.- Sin esperarlo, nos encontramos con un documento de Amnistía Internacional sobre riesgos de la IA generativa. Justo el título llama a lo datero: “Unlawful by design”. Es buen recorrido pro múltiples sesgos, incluyendo determinadas actuaciones de DPAs en casos sonados: que la hegemonía del inglés provoca el sesgo de considerar cualquier información anglo más fiable que el resto, que el opt-out suele funciona vaya, que se genera contenido CSAM a lo loco, que el odio y perjuicio escala con el tamaño del modelo. Y el siguiente caso, que tiene que tela:

🛠️Herramientas útiles

.- Supertonic es una herramienta de Supertone para manipulación y transformación de voz con IA, publicada como proyecto open-source en GitHub. La herramienta permite modificar características vocales —tono, timbre, estilo de habla— mediante modelos de síntesis y conversión de voz de alta calidad, con aplicaciones en producción de audio, accesibilidad y creación de contenido.

.- Markus Sullivan publica en GitHub un repositorio con todos los casos del TJUE sobre protección de datos, las directrices del EDPB y el texto completo del RGPD en formato PDF, listos para descargar sin necesidad de scripts de scraping ni permisos internos. El repositorio está pensado para quienes necesitan esos datos para entrenar modelos, realizar análisis semántico o simplemente tener un corpus legal actualizado disponible offline. Y el post en linkedin, como siempre, es muy grasioso.

🙄 El chorradón final

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

It is time to get a bit dramatic:

1.- In October 2021, Frances Haugen sat before the United States Senate Commerce Committee and revealed thousands of internal Meta documents.

The most devastating ones described what the company knew and concealed about the impact of its recommendation algorithm on teenagers. Instagram’s internal research concluded that the system redirected young girls toward content related to eating disorders and misogyny, even if they were not actively looking for it.

2.- The documents disclosed by Meta in the context of litigation in New Mexico reveal —we told it in March— that the company knew that its algorithm suggested four times more accounts of minors to potentially dangerous adults (prone to grooming and sextortion).

Almost one in four of these adults (attention: one in four (!!!) actually tried it (the data comes from the documents).

Did Meta correct this as a result of these data?

No.

Meta reviewed the facts and did not change the algorithm: it is not a bug but a feature when your ultimate goal is engagement optimization, and engagement increased with these practices.

The worst part is that there is no need to resort to leaked documents, if one has eyes in one’s face.

3.- Last week, a 15-year-old girl described in The Guardian the content she finds on Instagram and TikTok without looking for it: comments about other girls’ bodies, videos with degrading jokes, material that trivializes domestic violence or rape. She explains how she actively tries to avoid it, but finds it incessantly as soon as she opens her apps.

It is the same phenomenon documented by Frances Haugen with corporate slides, but it personally impacts me much more in the words of this young woman.

The recommendation systems of these platforms do not rank what the user wants to see, but rather the content that knowingly increases screen time “spent.” Engagement is the objective, but it is achieved on the backs of material that generates strong emotions and reactions —outrage, social comparison, fear…—.

If I had Instagram, The Guardian article (or rather some bro’s post laughing at it) would appear among the very first things in my feed.

4.- The CJEU has just declared that if a platform uses an algorithm to determine, in its own interest or in that of its service, the conditions, form or order of priority with which its users’ information is disseminated or displayed, it is exercising active control over the content.

And that control deprives it, according to the CJEU, of the liability exemption provided for in the ecommerce Directive for platforms that host third-party content.

The recommendation algorithm destroys the intermediary’s neutrality with respect to the content hosted by its users. That includes:

• The racist memes your children see on Instagram, YouTube and TikTok.

• The irrelevant content Google returns to you.

• The dodgy, pricey, but “recommended” products on Amazon.

• The obvious scam attempts Twitter shows you. And Elon’s nonsense.

• The most expensive flat (but the one that appears first) on Idealista or Airbnb.

• The AI slop songs Spotify foists on you because why not.

In the words of the CJEU:

111 As the Advocate General stated, in essence, in point 239 of his Opinion, it is, inter alia, by means of the algorithm used that such an operator exercises control over the information stored. So long as it has predetermined, by means of that algorithm, the conditions under which such information may or may not be broadcast, it is irrelevant that that operator does not itself carry out additional interventions which have the effect of promoting, modifying or deleting information stored with a view to it being broadcast.

112 In that regard, it must be made clear that if, beyond the mere categorisation and indexation of information for the purpose of improving its accessibility, the algorithm used determines, in the interest of the operator or its service, under what conditions, how and in which order of priority that information is or is not be broadcast, that operator exercises control over that information, with the result that the service it offers cannot be classified as an ‘information society service … that consists of the storage of information provided by a recipient of the service’, within the meaning of Article 14(1) of Directive 2000/31 (see, to that effect, judgments of 23 March 2010, Google France and Google, C‑236/08 to C‑238/08, EU:C:2010:159, paragraphs 115 and 117; of 12 July 2011, L’Oréal and Others, C‑324/09, EU:C:2011:474, paragraph 116; and of 22 June 2021, YouTube and Cyando, C‑682/18 and C‑683/18, EU:C:2021:503, paragraph 114).

5.- Last but not least: the fact that age verification —one of the recurring topics in this newsletter for all the worst possible reasons— has been the excuse for the CJEU to issue this monumental ruling is a plot twist worthy of M. Night Shyamalan.

Tuesday was a historic day. It remains to be seen how things evolve.

Because no one overlooks the fact that Schrems II was of very little use.

You are reading ZERO PARTY DATA. The newsletter on technology and legal news by Jorge García Herrero and Darío López Rincón.

In our free time from this newsletter, we resolve complicated issues related to personal data protection regulations and artificial intelligence. If you have any such issues, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com.

🗞️News from the Data World 🌍

.- The Dutch Autoriteit Persoonsgegevens fined transport app Yango €100 million for transferring personal data of users and drivers to Russia without adequate safeguards (yeah, as if there were adequate safeguards if you’re transferring data to Russia).

The Standard Contractual Clauses (SCCs) were intended to compensate for the deficiencies through pseudonymization and encryption measures, but the Authority found that until November 2023 the encryption keys were stored on the same Russian servers as the encrypted data. In addition, Yandex.Taxi LLC —which controlled the software and determined what data was collected— was classified as a joint controller, invalidating even the SCC model that had been used.

.- South Korea imposes a fine of $408 million on Coupang for the largest data breach in the country’s history. The Personal Information Protection Commission (PIPC) investigated a breach that exposed the data of millions of customers of the e-commerce giant, the Korean equivalent of Amazon. The penalty sets a record for enforcement under Korea’s privacy law, PIPA (and in Asia generally). The PIPC determined that Coupang failed to comply with its technical and organizational security obligations, as well as incident notification and management duties.

.- Starmer continues his personal crusade to tackle digital harms affecting British children. Now by repeating what Australia already did with mixed results: banning social media until age 16. What could possibly go wrong (again)?

And announcing the “ban” on social media through social media itself, with a message adapted to the format of those same platforms (and accompanied by a community note showing more common sense than the average public official).

And accompanied by an instant meme of a teenager reacting to the measure, exactly as happened in Australia. “I’d Stare at a Wall!” Stoic resignation or legendary sarcasm?

.- TikTok’s partial victory before the Irish High Court does not mean its data transfers to China comply with the GDPR: the court confirmed the violation of Chapter V, but annulled the DPC’s corrective orders due to insufficient technical reasoning.

The DPC failed to justify why the measures implemented under “Project Clover” were insufficient to prevent re-identification, despite having both the Mittal report and an independent review by NCC Group, both favorable to TikTok.

The case now returns to the DPC for that analysis to be carried out. The non-obvious point: the court did not question the technical adequacy of Project Clover, but rather the quality of the regulatory reasoning; the DPC could reach exactly the same conclusion again if it supports it with rigorous methodology.

Zero Party Data

TikTok: What Works and What Doesn't in the Kabuki Theater of International Data Transfers

It’s called “sunk cost bias”: since I had already spent half of my weekend studying the DPC’s sanction against TikTok, back in the day, I couldn’t help but do the same with last week’s ruling that reviewed it…

Read more

10 days ago · Jorge García Herrero

.- A Munich court has declared Google liable for incorrect answers provided by its AI Overviews tool.

It has not been a good week for Big Tech. The ruling establishes that, since Google deploys and controls the AI system, it is responsible for the incorrect information it generates, regardless of the fact that the content originates from a probabilistic model. The judgment does not address GDPR issues because the case does not concern a natural person, but it does recognize a violation of the general right to corporate personality. The broader consequence: the court equates deploying an LLM with engaging in editorial activity, something that could transform liability for generative AI providers in Europe long before the AI Act becomes fully applicable.

📖 Hard data docs for caffeine lovers☕️

.- The excellent infographics by Müge Fazlioglu for the IAPP on the interrelationships between the GDPR and:

• EU AI Act

• Network and Information Security Directive (NIS2)

• Digital Services Act (DSA)

• Digital Markets Act (DMA)

• Data Act

• Data Governance Act (DGA)

.- And Robert Bateman’s own infographic on the DPC’s original TikTok decision. It was still longer than the court judgment that sent the ball back.

💀Death by Meme🤣

🤖NoRobots.txt or the AI stuff

.- Claude Fable 5 came and, just as it came, it went away, by the grace of the Dorito. Meanwhile, in the EU we regulate competition out of existence. The joke writes itself.

.- Simon Willison reflects on the product-market fit of generative AI tools. He argues that most products built on top of LLMs still have not found a real fit with the needs of non-technical users. Willison distinguishes between adoption driven by curiosity or novelty and adoption driven by sustained usefulness, pointing out that most of the use cases generating excitement within the industry are led by developers evaluating the capabilities of the models themselves, rather than end users solving everyday problems.

The piece questions the metric of “active users” as an indicator of real value and proposes that true product-market fit in AI will be achieved when models become reliable and predictable enough to operate in critical workflows without constant human supervision.

The non-obvious insight: Willison suggests that reliability —not capability— is the real bottleneck, and that improving performance benchmarks without reducing hallucination rates does not bring models any closer to product-market fit.

.- European Parliament has also approved the AI Act amendments. The most important points:

• AI systems that generate CSAM content or nude images, intimate body parts, or horizontal sporting activities involving an identifiable person are prohibited (unless consent has been obtained for that purpose).

• Providers that take the risk of using this type of generally prohibited system may attempt to demonstrate that they have real and effective technical measures in place to prevent the generation of such content. The prohibition also applies to deployers, of course.

• The new implementation deadlines:

  • From 2 December 2027 for standalone high-risk AI systems.

  • From 2 August 2028 for AI systems integrated as safety components and regulated under sector-specific safety and market surveillance legislation.

  • From 2 December 2026 for the obligation to include watermarking in AI-generated content. The same deadline applies to systems generating CSAM content and “nudifier” content.

Precisely regarding labeling, the Commission’s proposed icons emerged from this discussion. What is mandatory is the labeling and readable marking required by Article 50, but at least here they went further than they ever did with standardized GDPR icons.

.- The EDPS, in a short Supervisor blog post format, reminds us that shadow AI can become a curious security breach risk.

Organizations need to be alert to ensure nobody uses unauthorized AI applications or services, and it is not a bad idea to implement unauthorized domain blocking, restrictions on corporate devices, and secure alternatives for whatever employees were trying to do on their own initiative.

.- Unexpectedly, we came across an Amnesty International report on the risks of generative AI. Even the title speaks directly to data geeks: Unlawful by Design. It provides a good overview of multiple biases, including certain actions by DPAs in high-profile cases:

• The dominance of English creates a bias whereby English-language information is considered more reliable than information in other languages.

• Opt-out mechanisms often work poorly.

• CSAM content is generated at alarming rates.

• Harm and hate scale with model size.

And then there is the following case, which is quite something:

🛠️Useful tools

.- Supertonic is a tool from Supertone for AI-powered voice manipulation and transformation, released as an open-source project on GitHub.

The tool allows modification of vocal characteristics —pitch, timbre, speaking style— through high-quality voice synthesis and conversion models, with applications in audio production, accessibility and content creation.

.- Markus Sullivan publishes a GitHub repository containing all CJEU data protection cases, EDPB guidelines, and the full GDPR text in PDF format, ready for download without scraping scripts or internal permissions. The repository is intended for those who need the data to train models, perform semantic analysis, or simply maintain an up-to-date legal corpus available offline.

And the LinkedIn post, as always, is very funny.

🙄 Da-Tadum-bass!!

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

(By the way, es vergonzoso decir esto, pero se entienden mucho mejor las sentencias británicas y norteamericanas en inglés, que las españolas en legalés).

Empezando por el final: el Irish juez Rory Mulcahy ratificó la sancionzaca de 530 millones de euros a TikTok, pero anuló las medidas adicionales: principalmente la suspensión de transferencia internacionales, devolviéndola a la DPC, para que vuelva a pronunciarse. Al final del post explico exactamente sobre qué.

¿Por qué?

Sustancialmente, al resolver en (muy) distinto sentido la alegación fundamental de TikTok, que era la misma: invertir la carga de la prueba (que /debía probar la DPC, no TikTok)

(i) el incumplimiento de la regulación de transferencias internacionales y

(ii) la efectiva capacidad de la matriz china para identificar a los interesados desde China (el personal de soporte IT accedía desde China a los datos alojados en Singapur).

De esta forma, se han fundido en una sola, dos de mis principales obsesiones majaras de los últimos años: las transferencias internacionales y la doctrina SRB / Scania.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

¿De dónde venimos?

Digámoslo sin ambages, que no es la primera vez:

Todas las empresas incumplen la regulación de transferencias internacionales del RGPD cuando exportan datos a un tercer Estado que no ha sido “declarado adecuado”.

¿Por qué?

Dos razones

a.- Porque el estándar normativo de equivalencia exigido es materialmente imposible de cumplir.

Y no porque las empresas no hayan echado horas generando papel: el problema está en un doble factor lejos, muy lejos de su control:

a.1.- Por una parte, la legislación y prácticas de las autoridades del país importador son las que son -es decir, simplemente no cumplen el estándar de protección “esencialmente equivalente” europeo- y nunca ninguna estipulación entre privados ha compensado eso.

Por el amor de Dios, ¿Acaso cumplen ese estándar los estados “declarados adecuados” como UK, Canadá o Argentina? (No me mencionen a EEUU o Israel, que me da la risa).

La regla se cumple incluso dentro de Europa: se pueden encontrar casos en la propia jurisprudencia del Tribunal Europeo de Derechos Humanos en los que un estado miembro de la UE ha espiado a ciudadanos de otro.

a.2.- Este déficit estructural y ubicuo simplemente no puede ser compensado efectivamente por cláusulas contractuales (ni cláusulas corporativas vinculantes) ni por medidas organizativas ordinarias.

Esto lo conté en forma de cuentos: Hay un “guisante” de carácter público que ni todos los colchones privados del mundo pueden cubrir ni compensar.

b.- Porque el estándar de verificación de la legislación y prácticas impuesto por el EDPB no deja más opciones de cumplimiento que el cifrado duro (ilegible desde la orilla del importador), sin oportunidad para el risk based approach o consideraciones sobre cada flujo de exportación específico de datos.

Entonces ¿Pasamos de todo y que “viva el vino”?

La conclusión de todo esto no es, no puede ser “pues que viva el vino”.

Espóiler: esta ha sido la conclusión dominante hasta la fecha.

El vino, o alguna de sus variantes abstemias: la “crónica ausencia de TIAs” (reconozcámoslo: son muy complicadas de hacer) o las “clónicas TIAs carentes de matiz” y sin análisis normativo que las soporten han sido la tónica habitual. En el mejor de los casos.

Dicho esto, el vino no es una opción tan loca si tenemos en cuenta el precio que cobran los despachos internacionales por hacer el análisis normativo de cada país importador, que es el soporte clave para la TIA.

Y el resultado: sus TIAs son como trucos de mago chungo: literalmente siempre el mismo conejo con distinto collar.

Es obvio hoy que esta opción (la llamaremos la “opción Cardhu”) se consigue hoy mucho más rápido y por mucho menos con la ayuda de IA.

¿Qué ha cambiado? Ya llegamos, ya llegamos a lo de TikTok

Afortunadamente, ya vamos teniendo resoluciones judiciales sobre el tema, no sólo de autoridades de cumplimiento.

Ya tenemos nociones mucho más claras de “lo que no funciona” y de “lo que funciona”

Hay dos cosas distintas aquí:

a.- La empresa exportadora (o importadora) poco pueden hacer si el Estado importador no ofrece un marco adecuado, como hemos visto.

b.- Pero ¡amigo! la accountability no desaparece (como argumenta espectacularmente el juez Rory Mulcahy en su sentencia.

Aunque la empresa no pueda arreglar la legislación extranjera, sí debe analizar si esa legislación aplica realmente a su flujo concreto, si existe posibilidad de acceso, qué actores pueden acceder, para qué fines… y determinar y aplicar las medidas pertinentes en su mano para reducir el riesgo.

TikTok se agarró con manos y pies al risk based approach y alegó ante la DPC y ante la autoridad judicial que le correspondía hacer a la DPC lo que ella misma no hizo: realizar un assessment que acreditara la existencia de riesgo en general, y en particular en su flujo de datos.

La carta de la “inversión de la carga de la prueba” no funciona en este caso porque -y así lo dice el juez literalmente-, el riesgo se asesora a priori, y TikTok hizo un pobre trabajo en este sentido.

TikTok no abordó adecuadamente el riesgo de que el procesamiento ocurra físicamente en ordenadores dentro de China, lo que sitúa esa actividad bajo la soberanía y jurisdicción directa de sus autoridades.

Esta es la bofetada que volvió a recibir TikTok en plena cara: por simple accountability, no puedes pretender que la DPC haga el trabajo que tú no hiciste correctamente en su momento.

Ratificación judicial de la sanción.

La DPC en la sanción impugnada despachó para siempre lo de las TIAs complacientes y las “medidas adicionales” de pega.

TikTok tenía SCCs, tenía informes jurídicos, cifrado, medidas técnicas y organizativas avanzadas (el “Project Clover”), y todo eso no bastó porque el problema real era el acceso remoto desde China por personal situado en China a datos de usuarios europeos almacenados fuera de China.

Medidas adicionales

Ante el tribunal, TikTok ha conseguido revertir, no la sanción, pero sí las medidas adicionales impuestas (la suspensión de las transferencias de datos, que no es poco) esgrimiendo fundamentalmente dos argumentos:

1.- El principio de territorialidad (si los datos están fuera de China, el gobierno chino no tiene jurisdicción legal para exigirlos). Esto ya fue alegado in extenso ante la DPC, y seguramente será desestimado de nuevo.

Lo que el órgano judicial impone la evaluación de un (¡tercer!) informe aportado por TikTok que la DPC se negó a considerar, por extemporáneo.

2.- Falta de motivación sobre el “Proyecto Clover”: TikTok implementó un conjunto de medidas técnicas y de gobernanza (Proyecto Clover), incluyendo seudonimización avanzada y el uso de un tercero independiente (NCC Group) para auditar los flujos de datos. La DPC rechazó estas medidas, pero no proporcionó argumentos técnicos ni legales sobre por qué consideraba que la seudonimización era ineficaz para prevenir una eventual reidentificación de los usuarios por parte del Estado chino.

De facto, el Tribunal irlandés ha impuesto una inversión de la carga de la prueba en términos del test de identificabilidad sobre la DPC.

Ese es el tuit.

En el caso TikTok, pues, se dan la mano dos de mis temas favoritos: la doctrina SRB / Scania y las transferencias internacionales de datos.

Pero es domingo cuando escribo esto y ya apetece cañufla.

Podemos hacer un balance ejecutivo y útil para quien haya estado (o ejem, siga) en la opción vino, le dé pereza la opción Cardhu y however tenga curro por hacer en sus flujos internacionales.

Lo que no funciona:

· Nunca han funcionado las pataletas (los argumentos que pretenden justificar en la imposibilidad material de cumplimiento, su cumplimiento meramente formal o ni eso “porque es lo único que se puede hacer”). Todos hemos estado ahí alguna vez.

· No funciona invocar las SCCs como si fueran agua milagrosa o un sortilegio de Harry Potter.

· No funciona esconder el riesgo decisivo -el acceso remoto a datos “en claro”, sin cifrar- tras fórmulas ambiguas sobre dónde “se almacenan” los datos o lo poco que dura el acceso rollo “es efímero”.

· No funciona alegar cifrado cuando el proveedor necesita impepinablemente descifrar para operar.

· No funciona ampararse en consentimientos abiertos o únicos del interesado para transferencias continuas y recurrentes.

· Y, en general, no funciona la idea de que basta con que la reidentificación, el acceso o la comunicación estén “prohibidos” en abstracto si en el mundo real siguen siendo materialmente posibles: es una lógica compartida con la doctrina Scania y seudonimización: la prohibición legal no puede eliminar por sí sola el riesgo real ni permite ignorarlo.

Lo que funciona

Así las cosas, sí funcionan para mitigar la sanción determinados argumentos, pero en un sentido limitado.

· Tatúense esto: El mayor riesgo no es tener una TIA insuficiente (una TIA por definición es insuficiente, como hemos repetido catorce veces antes), sino no tener ninguna TIA.

· Funciona el risk based approach. El juez dice “I do not rule out the possibility that a supervising authority might nonetheless conclude that there is, in fact, no meaningful risk”. Ese es el espíritu.

· Funciona la acreditación de diligencia real versus teatro kabuki del cumplimiento: haber hecho una TIA seria, haber identificado correctamente el flujo de datos, haber descrito con precisión el acceso remoto, haber actualizado la información facilitada al interesado, haber reducido el perímetro de datos, haber implementado medidas técnicas eficientes frente a riesgos concretos.

· También funciona la adaptación y mejora (aun durante el expediente sancionador) en términos de transparencia, como ocurrió con la lega-legalización de la política de privacidad, que la DPC tuvo en cuenta para modular la sanción en ese punto.

· En otras palabras, estos argumentos no “legalizan” lo que estructuralmente no puede legalizarse, pero sí acreditan menor culpabilidad, mayor diligencia y actitud de cumplimiento.

· Llegados a este punto en el que sé que sólo cuento con el 10% de los que empezaron a leer, puedo decir en “petit comité”: no funciona, -nunca funciona- tomar a los ímprobos funcionarios de las autoridades de control por gilipollas.

Muy muy buena semana.

Jorge García Herrero

Abogado y Delegado de protección de datos

Starting from the end: Irish judge Rory Mulcahy upheld the €530 million fine against TikTok but annulled the additional measures: mainly the suspension of international transfers, returning it to the DPC to rule again. At the end of the post, I explain exactly what this is about.

Why?

Essentially, by resolving in a (very) different way TikTok’s fundamental allegation, which was the same: reversing the burden of proof (that the DPC, not TikTok, had to prove):

(i) the non-compliance with international transfer regulations and

(ii) the effective capacity of the Chinese parent company to identify data subjects from China (IT support staff accessed from China data hosted in Singapore).

In this way, two of my main obsessions over the past few years have merged into one: international transfers and the SRB/Scania doctrine.

You are reading ZERO PARTY DATA. The newsletter on technology and legal news by Jorge García Herrero and Darío López Rincón.

In our free time from this newsletter, we resolve complicated issues related to personal data protection regulations and artificial intelligence. If you have any such issues, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com.

Suscríbete ahora

Where do we come from?

Let’s say it bluntly, and it’s not the first time:

All companies violate the GDPR’s international transfer regulations when exporting data to a third country that has not been “deemed adequate”.

Why?

Two reasons

a.- Because the normative standard of equivalence required is materially impossible to comply with.

And not because companies have not spent hours generating paper: the problem lies in a double factor far, very far from their control:

a.1.- On the one hand, the legislation and practices of the importing country’s authorities are what they are -that is, they simply do not meet the European standard of “essentially equivalent” protection-.

For the love of God, do states “deemed adequate” such as the UK, Canada, or Argentina comply with this standard? (Don’t mention the US or Israel to me, it makes me laugh).

The rule even applies within Europe: cases can be found in the European Court of Human Rights’ own case law in which one EU member state has spied on citizens of another.

a.2.- This structural and ubiquitous deficit simply cannot be effectively compensated for by contractual clauses (or binding corporate rules) or ordinary organizational measures.

I told this story in the form of tales: There is a “pea” of public character that neither all the private mattresses in the world can cover nor compensate for.

b.- Because the standard of verification of legislation and practices imposed by the EDPB leaves no other compliance options than hard encryption (illegible from the importer’s shore), without a proper opportunity for a risk-based approach or considerations about each specific data export flow.

So, do we disregard everything and let “the wine live on”?

The conclusion of all this is not, cannot be “let the wine live on”.

Spoiler: this has been the dominant conclusion to date.

Wine, or some of its abstemious variants: the “chronic absence of TIAs” (let’s face it: they are very complicated to make) or the “cloned TIAs lacking nuance” and without normative analysis to support them have been the usual tone. At best.

That said, wine is not such a crazy option if we consider the price charged by international law firms for conducting the normative analysis of each importing country, which is the key support for the TIA.

And the result: their TIAs are like bad magician tricks: literally always the same rabbit with a different collar.

It is obvious today that this option (we will call it the “Cardhu option”) can be achieved much faster and for much less today with the help of AI.

What has changed? We’re getting there, we’re getting to TikTok

Fortunately, we are already having judicial rulings on the matter, not just from compliance authorities.

We already have much clearer notions of “what doesn’t work” and “what works”

There are two different things here:

a.- The exporting (or importing) company can do little if the importing state does not offer an adequate framework, as we have seen.

b.- But friend! accountability does not disappear, as argued spectacularly by Judge Rory Mulcahy in his judgment.

Although the company cannot fix foreign legislation, it must analyze whether that legislation actually applies to its specific flow, whether there is a possibility of access, who can access it, for what purposes... and determine and apply the relevant measures in its power to reduce the risk.

TikTok clung with hands and feet to the risk-based approach and argued before the DPC and the competent judicial authority that it was up to the DPC to do what it itself did not do: carry out an assessment that accredited the existence of risk in general, and in particular in its data flow.

The “reversal of the burden of proof” card does not work in this case because -and so says the judge literally-, the risk is advised a priori, and TikTok did a poor job in this regard.

TikTok did not adequately address the risk that processing would physically occur on computers within China, placing that activity under the direct sovereignty and jurisdiction of its authorities.

This is the slap that TikTok received again in full face: for simple accountability, you cannot expect the DPC to do the work that you did not do correctly at the time.

Judicial ratification of the sanction.

The DPC in the contested sanction dismissed once and for all the issue of complacent TIAs and “additional measures” of little substance.

TikTok had SCCs, legal opinions, encryption, advanced technical and organizational measures (”Project Clover”), and all of this was not enough because the real problem was remote access from China by staff located in China to data of European users stored outside China.

Additional measures

Before the court, TikTok has managed to reverse, not the sanction, but the additional measures imposed (the suspension of data transfers, which is no small matter) by essentially arguing two points:

- The principle of territoriality (if the data is outside China, the Chinese government does not have legal jurisdiction to demand it). This was already extensively argued before the DPC and will likely be dismissed again.

What the judicial body imposes is the evaluation of a (third!) report on the matter provided by TikTok that the DPC refused to consider as out of time.

- Lack of motivation regarding the “Project Clover”: TikTok implemented a set of technical and governance measures (Project Clover), including advanced pseudonymization and the use of an independent third party (NCC Group) to audit data flows. The DPC rejected these measures but did not provide technical or legal arguments as to why it considered pseudonymization ineffective in preventing potential re-identification of users by the Chinese state.

In fact, the Irish Court has imposed a reversal of the burden of proof in terms of the identifiability test on the DPC.

This, this is the tweet.

In the TikTok case, two of my favorite topics come together: the SRB/Scania doctrine and international data transfers.

But it’s Sunday when I write this and I feel like a drink.

We can make an executive summary useful for those who have been (or ahem, still are) in the wine option, are tired of the Cardhu option and/or however have work to do on their international flows.

What doesn’t work:

· Tantrums have never worked (arguments attempting to justify the material impossibility of compliance, its merely formal compliance or not even that “because it’s the only thing that can be done”). We’ve all been there at some point.

· It doesn’t work to invoke SCCs as if they were miracle water or a Harry Potter spell.

· It doesn’t work to hide the decisive risk - remote access to data “in the clear”, unencrypted - behind ambiguous formulas about where data “is stored” or how little the access lasts like “the access is ephemeral”.

· It doesn’t work to argue encryption when the provider inevitably needs to decrypt to operate.

· It doesn’t work to rely on open or single consents from the data subject for continuous and recurrent transfers.

· And, in general, it doesn’t work the idea that it is enough for re-identification, access, or communication to be “prohibited” in the abstract if in the real world they remain materially possible: it is a logic shared with the Scania doctrine and pseudonymization: legal prohibition cannot eliminate the real risk on its own nor allow it to be ignored.

What works

In any case, certain arguments do work to mitigate the sanction, but in a limited sense.

· Tattoo this: The biggest risk is not having an insufficient TIA (a TIA is insufficient by definition, as we acknowledge above), but having no TIA at all.

· The risk-based approach works. The judge says “I do not rule out the possibility that a supervising authority might nonetheless conclude that there is, in fact, no meaningful risk”. That’s the spirit.

· It works to accredit real diligence versus Kabuki theater of compliance: having made a serious TIA, having correctly identified the data flow, having precisely described remote access, having updated the information provided to the data subject, having reduced the data perimeter, having implemented effective technical measures against concrete risks.

· It also works to adapt and improve (even during the sanctioning procedure) in terms of transparency, as occurred with the legalization of the privacy policy, which the DPC took into account to modulate the sanction at that point.

· In other words, these arguments do not “legalize” what structurally cannot be legalized, but they do accredit.

· At this stage, where I am aware that only 10% of those who started reading remain, I can say “in private”: it does not work, it never works to take the diligent officials of the supervisory authorities for fools.

Have a very good week.

Jorge García Herrero

Lawyer and DPO

En una primera lectura, partiendo de lo que el propio Gobierno y los cargos públicos relacionados han publicado en X, podría parecer una medida no tan mala si se cumpliera con el elemento de que “esto no va a salir del dispositivo en ningún momento”. Y obviando la falta de precisión de algún político sobre el nulo almacenamiento y alguna aseveración más. Y que estamos hablando de un país que ha abierto a Palantir la puerta del gallinero de su Seguridad Social (NHS).

La segunda lectura, viene en el momento en que personas, empresas y entidades en defensa de derechos empiezan a conectar los puntos que llevan a una nueva edición de Chat Control.

Ahora con traje de sastre inglés, pero con el mismo fondo de poder servir, eventualmente, para lo mismo. La línea continua de la obligación de aportar información para que la plataforma categorice si eres menor o no, el escaneo necesario del contenido para caparte lo que se considere desnudo o similar y la habilitación de la herramienta/posibilidad para modificarla según se considere en cada momento. Hoy en este ámbito, pero mañana cualquier otro distinto. Punto que pone encima de la mesa la propia Signal en comunicado ad hoc, entidades en defensa de derechos y manifestación del problema añadido de todo pase por casi los tres grandes: Google, Apple y Microsoft.

Todo apunta a otro Chat Control en Europa. Y comunicado a la ciudadanía de la peor manera posible. Se entiende que aquí las jugadas de la VPN no van a ser suficiente para eludir restricciones a nivel del propio dispositivo, pero veremos las alternativas de los menores para puentear este tema. ¿Alguien ha pesando en consolas y otras paralelas con acceso y navegación internet

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

🗞️Noticias del Mundodato 🌍

.- Irlanda ya no es sólo uno de los paraísos fiscales tolerados por la UE. La ONU la destaca como “canario en la mina” por el peso eléctrico y ambiental del boom de IA. El artículo conecta problemas para satisfacer demanda energética, normativa para que los data centers generen su propia electricidad (se habla, uhm, de energía nuclear) y el riesgo de drástica elevación de combustibles fósiles. Añadan el conocido consumo de agua, suelo, minerales críticos y e-waste, y cómo la huella física de la IA se desplaza a lugares que no capturan (apenas) el valor generado por la computación alojada.

No me canso de recordar que nuestros amados líderes brindan con champán por los data centers en proyecto o construcción en Aragón, Badajoz o Talavera de la Reina.

.- Llevamos anunciando un Armageddon causado por toodos esos chatbots sueltos por ahí sin control y esas prompt injections: lo de Meta cuenta? Aún no, baby. Ha sido muy loco pero creemos que no tardará algo más grave y extendido.

¿Que qué ha sido lo de Meta? Bien, sólo unos mangurrianes como Meta serían capaces de ir reduciendo su plantilla a un ritmo porcentual de doble dígito para sustituir a la gente por IA. En la parte de seguridad. Otorgando privilegios administrativos elevados a un puto bot, que -manifiestamente- no había sido suficientemente testado. Pues bien: el bot permitió secuestrar cuentas al permitir a atacantes “añadir email”, emitir códigos de 2FA y saltarse protecciones que, en teoría, frenan resets. Automatizar a lo tonto amplifica ingeniería social y escala fallos.

.- Tu tele puede ser un “nodo” de web scraping: SDKs embebidos en apps convierten las smartTVs -como la tuya y la mía- en salidas para tráfico de terceros, útil para evadir bloqueos por reputación de IP. Una empresa israelí, incrusta pedazos de código en las apps de ciertas marcas de TV (están en el artículo), lo que permite a terceros entrar en webs protegidas (digamos contra bots scrapeadores corporativos) saltándose la protección, porque están utilizando (léase: abusando) tu IP accediendo como si fueras tú o un particular entrando desde tu casa. Ni que decir tiene que, igual que entran en cualquier periódico a scrapear, podrían entrar en una web de esas en las que tú nunca entrarías y que almacenan las Ips de sus visitantes. Haz cuentas.

La alarma no es solo de protección de datos: el control remoto de destinos, el filtrado por país y la falta de autenticación/firmado sugieren una infraestructura lista para segmentar hogares como recursos programables, con externalidades de bloqueo y sospecha penal.

.- Recuerdan el artículo que recomendé tanto la semana pasada sobre el “first party data theater”? Bueno, pues tienen una nueva versión aplicada a plataformas como Spotify, que, al interponerse entre los artistas y su público, les mierdifican el servicio porque, privados del contacto directo con sus fans, no pueden hacer lo que a duras penas lograban en el pasado: imponer sus condiciones. …Y por eso el auge de cosas como este Substack, que permiten el contacto directo entre creadores de contenido y personas afines al mismo.

📖 Documentos dateros muy cafeteros ☕️

.- Carlo Piltz lo deja claro: si no mencionas ni informas de “interés legítimo” en el aviso del art. 13.1(d) RGPD, no puedes refugiarte en él. El post aterriza la inveteredada doctrina del TJUE a la práctica alemana: el defecto informativo no es menor y te deja sin base jurídica.

.- CJE C-585/26 “Trezor Company” y transferencias a encargado US
Consentir la transferencia internacional de datos no basta si no se clarifica qué base del art. 6 se usa y si esa base “cubre” el acto de transferir al encargado en EEUU. El post plantea una duda nuclear: ¿se exige base separada para el “transfer event” y, si sí, cuándo cae por falta de (a)(b)(f)? ENO: La segunda cuestión introduce un estándar de consentimiento más exigente: que el interesado sepa, al consentir, que habrá un encargado en tercer país para un fin concreto (p. ej., enviar newsletter). Eso convierte lo que parece un “detallín operativo” en condición de validez.

.- Resolución chula de la Autoridad noruega. El bueno de Luis Montezuma la vende como una decisión ideal “para formaciones” en RGPD: un compendio práctico sobre base legal, consentimiento válido, test de interés legítimo y compatibilidad.

Y ciertamente lo es…

.- Otro caso de prueba contra un empleado obtenida con infracción de garantías de normativa de protección de datos que se valida a efectos de despido, y a renglón seguido se indemniza por infracción de derecho fundamental. Soy consciente de Ribalta y todo eso, pero a mí estas sentencias de lo laboral me siguen haciendo estallar la calva.

.- Multa interesante de 900.000 euros de tribunal berlinés. Más que por la cuantía, porque es el final del camino de la famosa sanción de 14,5 millones a la inmobiliaria alemana por conservación eterna. Tras recurso y cuestión prejudicial al TJUE, se revocó la sentencia y se pasó a instancia concreta para que se fallara sobre el fondo. En este casi vuelta a la casilla de salida: bajada sustancia por apreciarse que se hizo justo en el marco temporal de inicio de aplicación real del RGPD, que la DPA Berlinesa no fundamentó adecuadamente (no es la única DPA que ha tenido algún susto por ahí) y la bala de plata de que poder probar en el trascurso del procedimiento que estás arreglando el tema (se alude a contratación de auditores y mucho IT). Vista en LinkedIn, vía San Luis Montezuma.

.- Interesante (pero pastoso, y con un tamaño de letra incompatible con ojos cincuentones) “criterio jurídico” de la AEPD que aterriza en un caso curioso lo de “las cosas son lo que son, y no lo que los responsables de tratamiento que podrían haber sido encargados pero luego no, dicen que son”.

💀Death by Meme🤣

Sin que sirva de precedente, aquí la UE ha estado grasiosa y atinada:

🤖NoRobots.txt o Lo de la IA

.- La problemática de la IA sobre la localización/doblaje, vuelve a pitar por España. Justo el sector que menos dispuesto está a firmar determinadas garantías que se les piden para no volar la profesión: los videojuegos. Cierto es que, en cuestión de doblaje, poco más se necesita para eliminar completamente al actor que clonarle la voz:

La Plataforma de Asociaciones y Sindicatos de Artistas de Voz de España (PASAVE), se sacó de la chistera la siguiente cláusula concreta que Microsoft no está por la labor de firmar (no olvidemos todo su Copilot e interés directo en IA):

“The use of voice, modulation, timbre, gestures and analogues of the voice talent and/or voice actor/actress is not permitted or transferred to be used for feeding, training, simulating or any similar action related to such, in artificial intelligence (AI) programs or projects, robotics, computer games or any other methodology that uses or transforms the voice originally recorded by the voice talent and/or actor/actress, to be used for any purpose other than the one detailed in the hereby agreement, which is to give voice and interpret the character/s of a specific production.”

Nunca pierda de vista nadie a la industria de los videojuegos, que siempre está muy presta a decisiones empresariales o de apretar botón nuclear a la mínima.

.- En el marco del procedimiento de medidas provisionales en la investigación a Meta por posible abuso de posición de dominio, la Comisión Europea le va indicando que vuelva a dar acceso a los asistentes de IA de terceros for free en Whastsapp. Nada de intentar aplicar un precio o pago que puede distorsionar la competencia.

.- De eso que las Smart AI Glasses de META han pasado de casi activar el reconocimiento facial en las gafas de tapadillo (name tag, se llamaba la función en interno), a declarar que ya no. No vaya a ser que Wired les pillará con el carrito del helado al publicar artículo.

Sobre las mismas gafas, por la UE puede que se esté a empezando a mover de verdad el tema: pregunta a la Comisión desde el Grupo Renew, algo de la DPA sueca a pregunta de medios, o el EDPB reconociendo que empezará a valorar por dónde van tras recibir el informe que ha encargado sobre estas gafas.

.- Los nuevos servicios IA de Apple no llegarán a la UE por razones regulatorias. Me partes el corazón, Apple. ¿Qué tendremos en la UE que no tienen en USA? (Para empezar, el problema es de competencia, no de protección de datos o normativa de IA…).

Aprovechamos para re-recomendar nuestros podcasts favoritos:

.- Masters of privacy (esta semana con Mikel Recuero hablando del Espacio Europeo de datos de salud y Sergio Maldonado de cds de Duran Duran) y

.- Legal4tech with superMario Guglielmetti.

📃El paper de la semana

.- El paper de la semana es éste de Theodore Christakis (“You Trust Your Chatbot With Everything. Should You? Part 2”) , por varias razones:

(i) porque el tema es interesantísimo (los AI chatbots son realmente confidenciales?), y no creo que haya muchas cosas más de moda (recordad que el de Christakis fue uno de los paneles más interesantes de la CPDP.

(ii) Porque es más largo que un día sin pan, y es cafetero-cafetero a más no poder, y last but not least.

(iii) porque el buen hombre nos cita a Narseo Vallina, resto de compañeros de IMDEA Networks y a mí, por nuestro trabajo sobre trackers incrustados y otros leaks de privacidad en las interfaces web de los cuatro principales proveedores de IA.

Pregúntale a Rumpel

Rumpelstilstskin (“Rumpel” para los amigos) es nuestro asistente personal para conejear entre resoluciones, sentencias, guidelines y materiales diversos que funciona en local (sin preguntar a IAs comerciales).

Nos gusta ver si es capaz de responder decentemente a preguntas complicadas.

Esta pregunta es una cuestión prejudicial interpuesta esta semana ante el TJUE (la verdad sea dicha, no es para rajarse la camisa):

“Where both the platform operator and the website owner are jointly responsible for the processing of data when a website is accessed via a platform, are the controllers then required to make the essence of their arrangement within the meaning of Article 26(1) of the GDPR available on that website or at least on another website to which the accessed website refers by means of an appropriately marked link?".

¿Tienes alguna pregunta para Rumpel?

Herramientas útiles / 🙄 El chorradón final

Habré visto este vídeo veinte veces esta semana, y siempre me pone de buen humor: si tienes una herramienta más útil que ésta para estos tiempos que corren ¡Enséñamela! [Insertar el meme de la oca: “¡Enséñamela, hijo de puta!”]

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

At first glance, based on what the Government and related public officials have published on X, this measure might not seem so bad if it complies with the element that “this will never leave the device at any moment.” And disregarding the lack of precision from some politicians regarding zero storage and other assertions. And considering that this is a country that has opened the door to Palantir in the henhouse of its National Health Service (NHS).

The second reading comes when individuals, companies, and entities defending rights start connecting the dots leading to a new edition of Chat Control.

Now with an English tailored suit, but with the same underlying purpose of potentially serving the same end. The continuous line of the obligation to provide information for the platform to categorize whether you are a minor or not, the necessary scanning of content to block what is considered nudity or similar, and the enablement of the tool/possibility to modify it as deemed appropriate at any given moment. Today in this area, but tomorrow in any other. A point raised by Signal in an ad hoc statement, rights defense entities, and the manifestation of the added problem of almost everything going through the three major players: Google, Apple, and Microsoft.

Everything points to another Chat Control in Europe. And communication to citizens in the worst possible way. It is understood that here, VPN maneuvers will not be sufficient to bypass restrictions at the device level itself, but we will see the alternatives minors have to circumvent this issue. Has anyone considered consoles and other parallel devices with internet access and browsing?

You are reading ZERO PARTY DATA. The newsletter on technology and legal news by Jorge García Herrero and Darío López Rincón.

In our free time from this newsletter, we resolve complicated issues related to personal data protection regulations and artificial intelligence. If you have any such issues, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com.

Suscríbete ahora

🗞️News from the Data World 🌍

.- Ireland is no longer just one of the tax havens tolerated by the EU. The UN highlights it as a “canary in the coal mine” due to the electrical and environmental weight of the AI boom. The article connects problems in meeting energy demand, regulations for data centers to generate their own electricity (nuclear energy is mentioned, uh), and the risk of a drastic increase in fossil fuels. Add the known consumption of water, land, critical minerals, and e-waste, and how the physical footprint of AI shifts to places that do not capture (barely) the value generated by the hosted computation.

.- We have been announcing an Armageddon caused by all those uncontrolled chatbots out there and prompt injections: does Meta count? Not yet, baby. It has been quite crazy, but we believe something more serious and widespread won’t be long in coming.

What happened with Meta? Well, only a bunch of idiots like Meta would be capable of reducing their workforce at a double-digit percentage rate to replace people with AI. In the security department. Granting elevated administrative privileges to a damn bot that -manifestly- had not been sufficiently tested.

Well then: the bot allowed attackers to “add email” issue 2FA codes, and bypass protections that, in theory, stop resets.

Automating recklessly amplifies social engineering and scales failures.

.- Your TV can be a “node” for web scraping: SDKs embedded in apps turn smart TVs -like yours and mine- into outlets for third-party traffic, useful for evading blocks by IP reputation. An Israeli company embeds pieces of code in the apps of certain TV brands (they are in the article), which allows third parties to enter protected websites (let’s say against corporate bot scrapers) bypassing the protection, because they are using (read: abusing) your IP accessing as if it were you or a particular person entering from your home. Needless to say that, just as they enter any newspaper to scrape, they could enter a website of those you would never enter and that store the IPs of their visitors. Do the math.

The alarm is not only about data protection: remote control of destinations, filtering by country, and the lack of authentication/signing suggest an infrastructure ready to segment homes as programmable resources, with externalities of blocking and criminal suspicion.

.- Do you remember the article I recommended so much last week about “first-party data theater”? Well, now you can apply the same logic to platforms like Spotify, which, by interposing between artists and their audience, mess up the service because, deprived of direct contact with their fans, they cannot do what they could barely achieve in the past: impose their conditions.

…And that’s why the rise of things like this Substack, which allows direct contact between content creators and like-minded people.

📖 Hard data docs for caffeine lovers☕️

.- Carlo Piltz makes it clear: if you do not mention or inform about “legitimate interest” in the notice of Article 13.1(d) GDPR, you cannot rely on it. The post lands the inveterate doctrine of the CJEU to German practice: the informative defect is not minor and leaves you without a legal basis.

.- CJEU C-585/26 “Trezor Company” and transfers to US processor Consenting to international data transfer does not suffice if it is not clarified which basis of Article 6 is used and whether that basis “covers” the act of transferring to the processor in the US. The post raises a nuclear doubt: is a separate basis required for the “transfer event” and, if so, when does it fall due to lack of (a)(b)(f)?

.- Cool resolution from the Norwegian Authority. The good Luis Montezuma sells it as an ideal decision “for training” in GDPR: a practical compendium on legal basis, valid consent, legitimate interest test, and compatibility.

And it certainly is…

.- Another case of evidence against an employee obtained with infringement of data protection guarantees that is validated for dismissal purposes, and subsequently compensated for infringement of fundamental rights. I am aware of Ribalta and all that, but these labor court rulings still make my head explode.

.- Interesting fine of 900,000 euros from a Berlin court. More than for the amount, because it is the end of the road of the famous sanction of 14.5 million to Deutsche Wohnen the German real estate company for eternal conservation. After appeal and prejudicial question to the CJEU, the sentence was revoked and the case was referred to a concrete instance to rule on the merits. In this case, back to square one: substantial reduction because it was done within the temporal framework of the real application of the GDPR, that the Berlin DPA did not adequately substantiate (it is not the only DPA that has had some scares out there) and the silver bullet of being able to prove during the procedure that you are fixing the issue (reference is made to hiring auditors and a lot of IT). Seen on LinkedIn, via San Luis Montezuma.

.- Interesting (but pasty, and with a font size incompatible with fifty-something eyes) “legal criterion” of the AEPD that lands in a curious case what “things are what they are, and not what the data controllers who could have been processors but then were not, say they are”.

💀Death by Meme🤣

Without this serving as a precedent, here the EU has been quite on point:

🤖NoRobots.txt or the AI stuff

.- The problem of AI regarding localization/dubbing comes back to Spain. Precisely the sector least willing to sign certain guarantees requested not to blow up the profession: video games. It is true that, in terms of dubbing, little more is needed to completely eliminate the actor than cloning their voice:

The Platform of Associations and Unions of Voice Artists of Spain (PASAVE), pulled out of the hat the following specific clause that Microsoft is not willing to sign (let’s not forget all its Copilot and direct interest in AI):

“The use of voice, modulation, timbre, gestures, and analogues of the voice talent and/or voice actor/actress is not permitted or transferred to be used for feeding, training, simulating, or any similar action related thereto, in artificial intelligence (AI) programs or projects, robotics, computer games, or any other methodology that uses or transforms the voice originally recorded by the voice talent and/or actor/actress, to be used for any purpose other than the one detailed in this agreement, which is to give voice and interpret the character/s of a specific production.”

Never lose sight of the video game industry, which is always very ready to make business decisions or press the nuclear button at the slightest provocation.

.- Within the framework of the procedure for provisional measures in the investigation of Meta for possible abuse of dominant position, the European Commission is indicating that it should restore free access to third-party AI assistants on WhatsApp. Nothing about trying to apply a price or payment that can distort competition.

.- About how META’s Smart AI Glasses have gone from almost activating facial recognition in the glasses stealthily (it was called name tag internally) to declaring that they no longer do. Just in case Wired catches them with their ice cream cart when publishing article.

On the same glasses, the EU may be starting to really move on the issue. Question from Renew to the Commission, something from the Swedish DPA in response to media inquiries, or the EDPB recognizing that it is beginning to assess where to start after receiving the report it commissioned on the matter.

.- The new AI services from Apple will not reach the EU for regulatory reasons. You break my heart, Apple. What do we have in the EU that they don’t have in the USA? (To start with, the problem is competition, not data protection or AI regulation…).

Also tune in to listen Legal4tech with superMario Guglielmetti (and Rosie & Jack).

📃The paper of the week

.- The paper of the week is this one by Theodore Christakis (“You Trust Your Chatbot With Everything. Should You? Part 2”), for several reasons:

(i) because the topic is fascinating (are AI chatbots really confidential?), and I don’t think there are many things more in vogue (remember that Christakis’ panel was one of the most interesting at CPDP).

(ii) Because it is longer than a day without bread, and it is caffeinated-caffeinated to the extreme, and last but not least.

(iii) because the good man cites Narseo Vallina, the rest of my colleagues at IMDEA Networks, and me, for our work on embedded trackers and other privacy leaks in the web interfaces of the four major AI providers.

Ask Rumpel a question

Rumpelstilstskin (“Rumpel” for friends) is our personal assistant to browse through resolutions, judgments, guidelines, and various materials that works locally (without asking commercial AIs).

We like to see if it is capable of decently answering complicated questions.

This question is a preliminary ruling submitted this week to the CJEU (to be honest, it’s not something to tear your shirt over):

“Where both the platform operator and the website owner are jointly responsible for the processing of data when a website is accessed via a platform, are the controllers then required to make the essence of their arrangement within the meaning of Article 26(1) of the GDPR available on that website or at least on another website to which the accessed website refers by means of an appropriately marked link?”

Do you have any questions for Rumpel?

Useful tools / 🙄 Da-Tadum-bass!!

I must have watched this video twenty times this week, and it always puts me in a good mood: if you have a more useful tool than this for these trying times, show me

! [Insert the goose meme: “Show me, son of a bitch!”]

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Tu suscripción de 20 euros a la IA estaba subvencionada.

La primera es gratis.

Compra hoy y paga mañana.

Pero ¡Ah! 2026 es el año de las salidas a bolsa y, once again, no habrá pan para tanto chorizo.

La quimera ya nos la han vendido, ahora nos tienen que vender valoraciones ejem, sólidas, basadas en el bottom line de proyecciones financieras, ejem, serias.

Así que ha llegado el momento de subir precios para que la proyección de ingresos no quede tan aterradoramente descolgada de la de CAPEX.

Y en eso estamos: Anthropic y OpenAI han guillotinado severamente los tokens vinculados a sus suscripciones. Anthropic ya había cortado la barra libre de tokens para agentes. Google lanza sus planes de pago para Gemini mientras estrangula también el tier gratuito. Copilot también se ha pasado al pago por token consumido, liándola pardusca en GitHub.

Comentaba con Sergio Maldonado que contaríamos a nuestros nietos que vivimos la época dorada en la que “lo regalaban”. Pues eso, muchacho, eso ya pasó.

Y el precio seguirá subiendo en vertical, no les quepa ninguna duda: no se puede ocultar que la tecnología es muy cara y esto no ha sido más que el primer paso. Esta subida no acerca el asunto a nada remotamente cercano a la rentabilidad.

En 2026 todavía veremos dientes sonrientes en la tecnocracia de la IA. Pero una vez nos hayan encalomado una buena fracción en forma de acciones a precio de oro, llegará el momento de los colmillos.

Digan adiós con la manita a pasarse la tarde generando 50 imágenes chorras para compartir con la familia. Despídanse de wrappers y revendedores de tokens.

Prepárense para ampliar su plan, y aun así fundírselo en un par de prompts.

Digan "¡Hola” a los modelos open.

Agárrense los machos: Winter´s coming.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

“Aplica la doctrina Scania en la práctica”: segunda edición en Junio

Este mes de junio (los tres primeros lunes) volvemos con nuestra formación presencial, online y socrática sobre la teoría y aplicación en la práctica de la doctrina SRB / Scania.

Todos los detalles aquí, apúntate pinchando en el botón.

ME INTERESA

🗞️Noticias del Mundodato 🌍

.- Primera noticia de que se ha constituido una asociación de los proveedores de soluciones de verificación de edad (Age Verification Providers Association), pero van fuertes en este post de LinkedIn cargando contra la resolución de la AEPD contra YOTI. Y pidiendo que el EDPB emita directrices concretas sobre el tema. ¿Algo parecido a la declaración del año pasado: Statement 1/2025 on Age Assurance?, o ¿la más reciente conjunta con el EDPS sobre el punto del posible cambio de excepción del 9 de necesidad de verificación por el Digital Omnibus?

Lejos de intentar jugar la mejor baza de marear con que es un tratamiento biométrico no de los prohibidos del 9 por no tener finalidad de identificación unívoca, se van casi a reconocer que no hay otra manera que hacerlo. Ergo, que casi podríamos empezar a sospechar que todas las alternativas tienen la misma plantilla que la de Yoti. Sangrar hasta el millón por la misma herida de un tratamiento del 9 que está complicado legitimar.

Cargan un poco contra la AEPD por expresar el obvio problema del consentimiento, pero no habría mucho más. La obligación legal no llega (la DSA no deja intentarlo como procede), y el interés legítimo hay que montarlo con el nudo gordiano de la proporcionalidad y la necesidad. Justo ahora que viene una presunta alternativa menos invasiva, en forma de la app UE. Y ahí cargan un poco sobre el punto de que basarse en un pin tiene el riesgo de un ataque claro de ataces del tipo “shoulder-surfing”.

Tampoco ayuda que se argumente en términos muy del Covid de cumplir o tener algo que funcione:

“The AEPD’s decision, by treating the biometric facial template within a consumer identity app as special category data that cannot be made a condition of service, points toward a future in which the most secure authentication option is legally the most difficult to deploy. The least secure option is the path of least regulatory resistance.”

Ni que el Digital Ómnibus en la parte del RGPD, si no se tuerce, exija para aplicar la excepción el control exclusivo en manos del interesado. Justo al contrario de cómo funcionan estos sistemas.

Buena oportunidad para recordar la doble posibilidad de biométrico del 9 y nop del EDPB. En esas mismas directrices que hizo volar la interpretación anterior que asumía la AEPD.

.- En relación con lo mismo, conviene no olvidar que esta tecnología falla como escopeta de feria: como muestra, un botón: El Reino Unido confunde niños con adultos. Las nuevas cifras del Home Office revelan que, en el segundo semestre de 2025, el 17% de los migrantes clasificados como adultos resultaron ser menores.

¿Consecuencia práctica? Los menores clasificados erróneamente como adultos acabaron compartiendo habitación con adultos sin salvaguardia alguna, según la Helen Bamber Foundation, que documentó casos de niños de 14 años en esa situación. Ahora, imagínate esa situación con tu hij@ como protagonista.

La Helen Bamber Foundation, la Asociación Británica de Trabajadores Sociales y Human Rights Watch advierten que la IA replica sesgos y no tiene en cuenta los efectos del trauma, la desnutrición y el agotamiento sobre la apariencia física de los menores.

.-Sobre la menos tratada por aquí, DMA, EL TGUE tumba la decisión de la CE de Meta como gatekeeper en su marketplace. No obstante, considera adecuada que les considere en lo que toca al separado “Messenger”.

.- Este documento del “debate” de la edad mínima para redes sociales del Parlamento Europe, es bien interesante. En un documento no muy largo, tenemos la recopilación enlazada de las principales intentonas legislativas de múltiples países para conseguir este imposible, la referencia a lo meh que salió lo de Australia, la colección de edad mínimas de consentimiento de los países de la UE (en España ya nos meter los 16, pero todavía nop), el caso de la Francia que iba con norma hasta el aviso de la Comisión o lo que ya sabemos del RGPD, DSA o EU Identity.

.- Otro zasca del doctor Ferguson, pero da gustito cuando gente que sabe va lanzando verdades tal cual

Y con argumentación sólida, vía substack. Lo importante no es decirlo porque sí, sino argumentarlo lo mejor posible.

Secrets of Grimoire Manor

A New Study Spells Bad News for Cellphone Bans

The latest study of cellphone bans caused shockwaves as it appeared to be really bad news for advocates of the bans. This study basically compared a specific type of ban, lockable pouches (such as Yondr pouches) with schools that did not use them. Across the board this was basically a null study…no benefits to standardized testing scores, classroom atte…

Read more

a month ago · 23 likes · 2 comments · Christopher J Ferguson, Ph.D.

No dejes de leer el siguiente artículo: Guárdalo para el finde o haz lo que tengas que hacer, pero no te lo pierdas: The messy middle reflexiona con humildad y lucidez desarmantes sobre el reto que afrontaremos como sociedad hasta que los supuestos beneficios universales de la IA y robotización lleguen. Si llegan (a todos). Bien fundamentado y con estupendos gráficos, este artículo no debería dejarte dormir bien nunca más. De nada.

Como muestra un botón:

.- Adtech: Excelente artículo de Abhi Yadav : “Firt-party data theatre” a cuenta de la adquisición de LiveRamp, una de las empresas más despreciables con las que me he partido la cara, por parte de Publicis. Los datos de primera parte (1PD) tuvieron su auge como respuesta a la tiranía de los “jardines amurallados” de Meta, Google, Apple y demás (territorios donde había consumidores atrapados a los que podías ofrecer tus productos y servicios bajo las condiciones de los señoritos del cortijo respectivo).

El autor explica de forma transparente aquí cómo los proveedores de servicios para la explotación de 1PD se adueñan en realidad de las inferencias extraídas, convirtiendo al dueño (la empresa responsable) en siervo. Con el añadido de que lo inferido es más valioso cuantos más datos de primera parte caen en el pool, pero -por la misma razón- es más rentable cuanto más grande eres. La moraleja anti-intuitiva es que tus competidores pueden comerte la merienda con base en tus propios datos de primera parte si contratan la misma plataforma que tú.

Si no tienen claro que este tipo de plataformas identifican rutinariamente a los interesados aunque tengan distintos ids o hash en cada cliente, es porque no recuerdan el caso Criteo.

Zero Party Data

Singularización, identificabilidad y el chorrito

Pase lo que pase con el Digital Omnibus (y en cuanto al art. 4 RGPD parece ya bastante claro que no va a pasar nada) tendremos que vivir con la doctrina SRB / Scania (la interpretación subjetiva del concepto de “dato personal…

Read more

4 months ago · 2 likes · Jorge García Herrero

.- La IA reescribe los contratos de consumo. Este otro artículo me impactó por su puntería: Dave Hoffman sopesa los distintos escenarios en los que las empresas respondan con IA ante la avalancha de reclamaciones que ahora los consumidores pueden obtener muy fácilmente. La reacción puede ser bien contratos más peñazos y detallados o cláusulas más ambiguas.

Lo interesante es que sitúa la palanca efectiva en los datos históricos sobre voluntad y ánimo litigioso de cada consumidor (en mi caso, denuncio poco, pero cuando me lío la manta a la cabeza, voy al cueyo (¿verdad, Meta y El Corte Inglés?).

📖 Documentos dateros muy cafeteros ☕️

.- La sanción a Iberia que hemos visto por LinkedIn. A los señores Sempere y Casaseca, se pone sobre la mesa algo que haría sudar a todo el mundo. Ya sabemos el control de la cadena de subproveedores es como cargar el mundo cual Atlas, pero que tire la primera piedra todo el que tenga impoluto el tema de la captura que le cogemos prestado al propio Casaseca de su publicación (enlazada). Nadie conoce a alguien con proveedores muy grandes de los que no te hacen demasiado caso en tema de controles y cuestionarios. Y seguro que el de Iberia era de los largos de rellenar.

Otra vez que viene sanción tras una brecha de seguridad. El tipo de resoluciones de moda.

.- La sanción de la CNIL a IQVIA tiene mucha, muchísima miga: hemos sacado una nota extensa y aquí se puede leer un fragmento.

.- San Luis Montezuma nos trae el último informe de la autoridad noruega que se pregunta si es legalmente posible ofrecer chatbots basados en IA de forma anónima. El documento revisa el marco de responsabilidad aplicable cuando un operador pretende no identificarse, las condiciones en las que el anonimato podría ser compatible con el RGPD y los pasos que serían necesarios para que dicho modelo sea legal. El enfoque es interesante, porque aborda la perspectiva del proveedor que pretende ofrecer su servicio minimizando su exposición regulatoria.

Más de Luis: la Autoridad de Protección de Datos de Baja Sajonia publicó unas FAQs sobre el uso de IA, mientras la Autoridad belga completó una investigación sobre una aplicación conversacional para smartphone que usa IA y modelos de lenguaje.

.- Muy interesante el punto de SuperMario Guglielmetti sobre la famosa advertencia del Garante a Myndoor respecto al plugin que leía conversaciones de currelas en Slack y Teams para detectar estrés psicológico: si el análisis es de texto y no de biometría, podría no ser reconocimiento de emociones.

Por mi parte, añado que el proveedor astutamente se basaba en el consentimiento de cada currela para tratar sus datos, pero en mi pueblo las conversaciones son con terceros y esos seguramente no conocían ni podían oponerse a tan simpático tratamiento.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- Dos perlas de 404: la primera es una noticia que he tardado en creerme: El chatbot de Meta regaló cuentas de Instagram. Hackers proiraníes comprometieron cuentas de alto perfil —incluyendo el archivo de la cuenta de la Casa Blanca de la era Obama, Sephora y un alto oficial de la Fuerza Espacial de EE.UU.— explotando una vulnerabilidad digna de alguien con severo déficit cognitivo. Los malosos se limitaron a pedirle al chatbot de soporte de Meta que vinculara la cuenta objetivo a una nueva dirección de email. Los chicos de Zuckerberg habían entregado las llaves de palacio al bot, con permisos para realizar cambios en cuentas, generar un código de verificación y enviarlo al atacante.

Meta integró soporte IA en todas las cuentas de Facebook e Instagram en marzo de 2026 con capacidades de recuperación de contraseñas. Las víctimas reportan que no existe forma de escalar el problema a un operador humano.

Como digo, difícil de creer hasta para un calvo descreído.

.- La segunda: Microsoft quiere que te hagas adicto a Scout. Documentos internos de Microsoft filtrados a 404 Media revelan que el plan para Scout —el asistente personal basado en OpenClaw integrado en Microsoft 365, anunciado eta misma semana— se articula en tres fases, siendo la primera explícitamente “hacer que la gente se haga adicta”.

Pues muy bien.

.- Ya es una noticia que ha volado mucho, pero no deja de ser una de las más interesante del momento. Teníamos una de documentación hecha y liada por la IA que fue a juzgado estadounidense, pero faltaba la de abogado intentando liar a la IA que hace el primer filtro por Brasil de asuntos. Prompt injection de manual, pero en formato digievolucionado de la intentona de poner algo que sólo vea la IA que procesa el CV en primer lugar.

Tendremos muchas noticias parecidas en los mil filtros que todo lo público meterá en procedimientos ciudadanos. Y jueces aguantándose las ganas de investigar prospectivamente la cara del acusado

.- Realmente interesante el artículo sobre la actriz de IA que nadie pidió. El New York Times Magazine hace un detallado perfil de Tilly Norwood, la primera “actriz” generada íntegramente con IA, creada por Eline Van der Velden a través del estudio Xicoia.

📃El paper de la semana

.- Bring Your Own Device — Now Hand It Over! Rescuing Workers’ Privacy During Data Searches de Virginia Mantouvalou y Michael Veale. La práctica de BYOD (Bring Your Own Device) y el almacenamiento en la nube personal-profesional crean zonas grises donde los empleadores pueden legítimamente requerir acceso a dispositivos y datos del trabajador —con base en normativa de protección de datos, libertad de información o derecho procesal— sin que la separación entre esfera privada y profesional sea eficiente.

.- Paper que da la vertiente contraria de un LLM liándola con cita jurisprudencial o desarrollo legal. En experimento de si contestaría mejor una LLM o un profesor a consultas de estudiantes de derecho de 1º (sobre asignatura por US llamada “contracts”), ganan de calle los primeros con un 75% aprox. Y de manera más amigable, pero eso no es nuevo. La IA siempre hace la rosca. Visto a Ethan Mollick por LinkedIn.

Postdata de Jorge: me gustaría ver el mismo estudio compitiendo LLMs, profesores de universidad y abogados.

🛠️Herramientas útiles

.- Tras la publicación de los 1.500 informes de la AEPD, doble modalidad de invento:

• Rumpelstiltskin: nuestro duendecillo particular.

• La versión en artefacto de Claude del Jorge Morell que todos estábamos esperando cuando se publicó por la AEPD:

🙄 El chorradón final

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Your €20 AI subscription was being subsidized.

The first one is free.

Buy today and pay tomorrow.

But ah! 2026 is the year of IPOs and, once again, there won’t be enough bread for so much sausage.

They’ve already sold us the chimera; now they have to sell us valuations that are, ahem, solid, based on the bottom line of, ahem, serious financial projections.

So the time has come to raise prices so that revenue projections don’t look quite so terrifyingly disconnected from CAPEX projections.

And that’s where we are: Anthropic and OpenAI have severely guillotined the tokens linked to their subscriptions. Anthropic had already cut the unlimited token buffet for agents. Google is launching paid Gemini plans while also tightening the free tier. Copilot has also moved to pay-per-token consumption, causing quite a mess on GitHub.

I was commenting with Sergio Maldonado that we’ll tell our grandchildren we lived through the golden age when “they were giving it away.” Well, kid, that’s over now.

And prices will keep rising vertically, make no mistake: there is no hiding that this technology is very expensive, and this has only been the first step. This increase does not bring the matter anywhere remotely close to profitability.

In 2026 we will still see smiling faces in the AI technocracy. But once they’ve managed to offload a good fraction of gold-priced shares onto us, it will be time for the fangs.

Wave goodbye to spending the afternoon generating 50 silly images to share with the family. Say farewell to wrappers and token resellers.

Get ready to upgrade your plan and still burn through it in a couple of prompts.

Say “Hello” to open models.

Hold on tight: Winter’s coming.

You are reading ZERO PARTY DATA. The newsletter about tech and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News of the Data-world 🌍

.- First news that an association of age verification solution providers has been established (Age Verification Providers Association), but they come out swinging in this LinkedIn post attacking the AEPD’s decision against YOTI. And calling for the EDPB to issue specific guidance on the matter. Something similar to last year’s declaration, Statement 1/2025 on Age Assurance? Or perhaps the more recent joint opinion with the EDPS on the possible change to the Article 9 exception for verification necessity through the Digital Omnibus?

Far from trying to play the strongest card of arguing that this is biometric processing not prohibited by Article 9 because it does not have the purpose of unique identification, they almost seem to acknowledge that there is no other way to do it. Therefore, we might begin to suspect that all alternatives follow essentially the same template as Yoti. Bleeding all the way to the million-euro mark from the same wound: Article 9 processing that is difficult to legitimize.

They criticize the AEPD somewhat for pointing out the obvious problem of consent, but there isn’t much else available. Legal obligation doesn’t work (the DSA doesn’t allow it in the required way), and legitimate interest must be built around the Gordian knot of proportionality and necessity. Especially now that a supposedly less intrusive alternative is arriving in the form of the EU app. And there they push back somewhat on the point that relying on a PIN carries the clear risk of “shoulder-surfing” attacks.

It also doesn’t help when the argument is framed in very COVID-era terms of simply having something that works:

“The AEPD’s decision, by treating the biometric facial template within a consumer identity app as special category data that cannot be made a condition of service, points toward a future in which the most secure authentication option is legally the most difficult to deploy. The least secure option is the path of least regulatory resistance.”

Nor does it help that the Digital Omnibus, regarding the GDPR section, appears—unless things change—to require exclusive control by the data subject in order to apply the exception. Exactly the opposite of how these systems operate.

A good opportunity to remember the EDPB’s dual possibility regarding biometric processing under Article 9 and non-Article 9 biometrics. In those very guidelines that overturned the previous interpretation assumed by the AEPD.

.- In relation to the same issue, it is worth remembering that this technology fails spectacularly: case in point, The United Kingdom mistakes children for adults. New Home Office figures reveal that, in the second half of 2025, 17% of migrants classified as adults turned out to be minors.

The practical consequence? Minors wrongly classified as adults ended up sharing rooms with adults without any safeguards, according to the Helen Bamber Foundation, which documented cases involving children as young as 14. Now imagine your own child in that situation.

The Helen Bamber Foundation, the British Association of Social Workers, and Human Rights Watch warn that AI reproduces biases and fails to account for the effects of trauma, malnutrition, and exhaustion on the physical appearance of minors.

.- Regarding the less discussed DMA, THE General Court of the EU annuls the Commission’s decision designating Meta as a gatekeeper in its marketplace. However, it considers the designation appropriate regarding the separate “Messenger” service.

.- This European Parliament document on the “debate” around the minimum age for social media is quite interesting. In a relatively short document, we get a linked compilation of the main legislative attempts by multiple countries to achieve this impossible objective, references to the rather underwhelming Australian experience, a collection of minimum consent ages across EU countries (Spain keeps talking about 16, but not yet), the French case that advanced legislation until the Commission stepped in, and what we already know about the GDPR, DSA, and EU Identity.

.- Another blow delivered by Dr. Ferguson, but it is satisfying when knowledgeable people simply keep stating facts plainly.

And with solid reasoning, via Substack. The important thing is not merely to say it, but to argue it as convincingly as possible.

Secrets of Grimoire Manor

A New Study Spells Bad News for Cellphone Bans

The latest study of cellphone bans caused shockwaves as it appeared to be really bad news for advocates of the bans. This study basically compared a specific type of ban, lockable pouches (such as Yondr pouches) with schools that did not use them. Across the board this was basically a null study…no benefits to standardized testing scores, classroom atte…

Read more

2 months ago · 23 likes · 2 comments · Christopher J Ferguson, Ph.D.

Do not miss the following article: save it for the weekend or do whatever you need to do, but don’t miss it: The messy middle reflects with disarming humility and clarity on the challenge we will face as a society until the supposed universal benefits of AI and automation arrive. If they arrive (for everyone). Well-grounded and filled with excellent charts, this article should never let you sleep well again. You’re welcome.

As an example, here’s one.

.- Adtech: Excellent article by Abhi Yadav: First-party data theatre regarding Publicis’ acquisition of LiveRamp, one of the most despicable companies I’ve ever had to go toe-to-toe with. First-party data (1PD) had its heyday as a response to the tyranny of Meta, Google, Apple, and the other “walled gardens” (territories where trapped consumers could be offered products and services under the conditions imposed by the local feudal lords).

The author explains transparently how service providers for exploiting 1PD actually take ownership of the inferences extracted from the data, turning the owner (the responsible company) into a servant. Added to that is the fact that inferred data becomes more valuable the more first-party data flows into the pool, but—for the same reason—the larger you are, the more profitable it becomes. The counterintuitive moral is that your competitors can eat your lunch using your own first-party data if they hire the same platform you do.

If you are not clear that these types of platforms routinely identify data subjects even when they have different IDs or hashes for each client, it is because you do not remember the Criteo case.

Zero Party Data

Singling-out, identifiability and accountability gaps

Whatever happens with the Digital Omnibus (and as regards Article 4 GDPR it already seems quite clear that nothing is going to happen) we will have to live with the SRB Scania doctrine (the subjective interpretation of the concept of “personal data…

Read more

4 months ago · 2 likes · Jorge García Herrero

.- AI rewrites consumer contracts. This article struck me because of how accurate it is: Dave Hoffman weighs different scenarios in which companies respond with AI to the flood of complaints that consumers can now generate very easily. The reaction could be either longer, more tedious, and more detailed contracts, or more ambiguous clauses.

What is interesting is that he places the real leverage in historical data regarding each consumer’s willingness and tendency to litigate (in my case, I rarely file complaints, but when I do decide to go all in, I really go for it—right, Meta and El Corte Inglés?).

📖Hard data docs for coffeine lovers☕️

.- The CNIL sanction against IQVIA is packed with interesting points: we produced an extensive note and here you can read an excerpt.

.- Saint Luis Montezuma brings us the latest report from the Norwegian authority, which asks whether it is legally possible to offer AI-based chatbots anonymously. The document reviews the liability framework applicable when an operator intends not to identify itself, the conditions under which anonymity could be compatible with the GDPR, and the steps necessary for such a model to be lawful. The approach is interesting because it addresses the perspective of a provider seeking to offer its service while minimizing regulatory exposure.

More from Luis: the Lower Saxony Data Protection Authority published FAQs on the use of AI, while the Belgian Authority completed an investigation into a smartphone conversational application that uses AI and language models.

.- SuperMario Guglielmetti raises a very interesting point regarding the famous warning issued by the Garante to Myndoor over the plugin that read workers’ conversations in Slack and Teams to detect psychological stress: if the analysis is based on text and not biometrics, it may not constitute emotion recognition.

For my part, I would add that the provider cleverly relied on each worker’s consent to process their data, but where I come from conversations involve third parties, and those people probably neither knew about nor could object to such a delightful form of processing.

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

.- Two gems from 404:

The first is a story that took me a while to believe: Meta’s chatbot gave away Instagram accounts. Pro-Iranian hackers compromised high-profile accounts—including the archived White House account from the Obama era, Sephora, and a senior U.S. Space Force officer—by exploiting a vulnerability that seems designed by someone with a severe cognitive deficit. The attackers simply asked Meta’s support chatbot to link the target account to a new email address. Zuckerberg’s team had handed the palace keys to the bot, giving it permission to make account changes, generate a verification code, and send it to the attacker.

Meta integrated AI support into all Facebook and Instagram accounts in March 2026 with password recovery capabilities. Victims report that there is no way to escalate the issue to a human operator.

As I said, difficult to believe even for a skeptical bald man.

.- The second: Microsoft wants you to become addicted to Scout. Internal Microsoft documents leaked to 404 Media reveal that the plan for Scout—the OpenClaw-based personal assistant integrated into Microsoft 365 and announced this very week—is structured in three phases, with the first phase explicitly being “make people addicted.”

Well then.

.- This story has already gone viral, but it remains one of the most interesting stories around. We already had one involving AI-generated documentation that made it into a U.S. courtroom, but we were still missing the lawyer trying to fool the AI performing the first case screening in Brazil. A textbook prompt injection, but in an evolved form of the old trick of hiding something that only the AI processing the CV sees first.

We will see many similar stories across the thousand filters that public administrations will introduce into citizen procedures. And judges resisting the temptation to conduct speculative investigations based on a defendant’s face.

.- Really interesting article about the AI actress nobody asked for. The New York Times Magazine presents a detailed profile of Tilly Norwood, the first entirely AI-generated “actress,” created by Eline Van der Velden through the Xicoia studio.

📃Paper of the week

.- Bring Your Own Device — Now Hand It Over! Rescuing Workers’ Privacy During Data Searches by Virginia Mantouvalou and Michael Veale. The BYOD (Bring Your Own Device) practice and personal-professional cloud storage create gray areas where employers may legitimately require access to a worker’s devices and data—based on data protection laws, freedom of information obligations, or procedural law—without any effective separation between the private and professional spheres.

.- A paper presenting the opposite side of the story from an LLM inventing case law citations or legal reasoning. In an experiment comparing whether an LLM or a professor would better answer questions from first-year law students (in the U.S. course known as “Contracts”), the LLMs won by a landslide with roughly 75%. They were also friendlier, though that is nothing new. AI always flatters you. Seen via Ethan Mollick on LinkedIn.

Jorge’s postscript: I would like to see the same study with LLMs, university professors, and practicing lawyers competing against each other.

🛠️Useful tools

- Following the publication of the AEPD’s 1,500 reports, we now have two inventions:

• Rumpelstiltskin: our own little goblin.

• The Claude artifact version by Jorge Morell that we were all waiting for when the AEPD released the reports.

🙄 Da-Tadum-bass

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

La CPDP 2026 será recordada (al menos por este calvo) como la “Luis Montezuma Edition”.

Luis Alberto Montezuma llegó, vio y venció: todo el mundo le conocía y todo el mundo tuvo a bien agradecerle su generoso trabajo mientras escrutábamos disimuladamente sus ojos y ropa para asegurarnos de que no tenía cables, chips o baterías alimentando esa incansable máquina de publicación de conocimiento.

Nope: es humano. Su secreto son las mágicas arepas colombianas, al parecer.

Todos sabemos a estas alturas que sólo siguiéndole a él ya te enteras del 90% de lo que necesitas para estar al día.

A continuación, un resumen de los paneles a los que asistí y los que me perdí pero me recomendaron, culminado con mi top particular:

En la previa Sophie Stalla-Bourdillon demostró que, además de tener machacada la doctrina Scania, antes de Scania, es una muy competente moderadora.

Un par de perlas de Philippe Latombe (el europarlamentario que impugnó ante el TJUE el DPF y ahora forma parte de la CNIL):

“El 80 % del tiempo de la CNIL se emplea informando iniciativas del Gobierno francés, no en tareas de enforcement”.

Who gets in? The Policy Dilemma of Age-Gating: Aprendí aquí que en Australia el tratamiento de datos biométricos para la mera determinación de edad es biométrico prohibido.

La representante del Consejo de la Juventud belga Camille Biot clarificó lo que nadie dice ni escucha: que “la juventud” no es un colectivo único sino muy diverso, con muchos intereses distintos.

Esa diversidad por sí sola ya descalifica cualquier medida que pretenda autorizar binariamente (tienes acceso / no tienes acceso) a todo el colectivo solamente teniendo en cuenta su edad biológica.

Dijo más: “aprobad lo que queráis, boomers de mierda: los jóvenes seguiremos accediendo”. Es posible que no dijera “boomers de mierda”, pero se me entiende.

La carga (el consumo de datos personales para la verificación de edad) no debería recaer en exclusiva sobre el usuario.

El comisionado también dejó un interesante punto al final: “cuando yo estaba en el instituto, los chavales gays estaban muy presionados y alienados y las redes sociales constituyen una herramienta inigualable para que encuentren su comunidad”.

En “Breaking silos” (no muy interesante) me llamaron la atención un par de comentarios del representante de la asociación de DPOs AFCDP francesa, sobre un elefante en la profesión: “la creciente presión y carga de trabajo, la necesidad de mantenerse actualizado, etc, nos ha llevado a ofrecer recursos de apoyo psicológico para nuestros asociados”.

GDPR class actions: the state of play (interesante, pero dudo que fuera grabada). Tres cosas interesantes: el frustradísimo intento de reventar el panel por parte de un abogado defensor de una de las empresas demandas, la caracterización del fondo detrás de las demandas colectivas de Privacy Collective, esto de aquí y desvirtualizar a Peter Hense.

No estuve en The role of operating systems in trusted AI pero fue una de las más recomendadas del día, y la veré cuando salga.

Vital Signs: Regulatory Coherence, Interplay, and Alignment for Medical Device Cybersecurity: el típico panel super útil para situarte en una materia concreta desde distintos puntos de vista: las charlas estaban bien apoyadas en la presentación, fueran muy claras y muy didácticas para entender el enjambre de normativa aplicable en esta materia.

El jueves quise ir a Secondary use of data under the European Health Data Space: some relevant issues moderada por Pablo Trigo, pero la cambiaron de sitio no obstante, me consta que estuvo fenomenal) y me metí a A Child-Centred Approach to the EU Digital Rulebook . Otro panel 100% formativo con mención especial para Simone Van der Hof, estoy seguro de que es una de esas profesoras que te cambian la vida.

Informed consent: The breakthrough in Art. 88b GDPR / Digital Omnibus and current initiatives in the field of PIMS and technical standardization panel muy interesante para ver a una fuerza de la naturaleza en acción: Anja Wyrobek, una comisionada diciendo cosas muy cuestionables: Magdalena Steringer, y una explicación sobre los retos y soluciones planteados por esa propuesta de 88b.

What is so special about special categories of data?. Especialmente interesantes las intervenciones de Ruth Boardman

The Agentic Assistant: What does Big Tech’s goal of creating a universal digital intermediary mean for society? Realmente interesantes las intervenciones de Udbhav Tiwari de Signal y Frederike Kaltheuner.

Eye tracking in video games: Opportunities for game development and risks to privacy. Muy Buena.

Participé en el workshop From Pseudonymisation to Synthesis: A Debate on Evaluating Privacy-Preserving Technologies and Re-identification Risks in Medical AI under the GDPR (un caso práctico a resolver entre dos equipos enfrentados formados con los asistentes). La idea era brillante, pero había muy poco tiempo y diría que la mitad estábamos de resaca. Me tocó en el equipo que hacía valer los derechos del interesado y devoramos, por supuesto. Es notable indicar que el equipo que defendía a la empresa no se lo ocurrió alegar de forma pura la propuesta que daba título al taller: “aquí aplica SRB Scania y por tanto no aplica el RGPD”.

Digital Omnibus meets the Charter of Fundamental Rights – a reality check con Max Schrems y sobre todo mi amiga Rosalia D´Agostino, a quien también tuve ocasión de desvirtualizar. Vuelvo a recomendar su podcast Legal4Tech.

No estuve, pero aparentemente fue estupenda: Dragnet Data Protection: Dilemmas of Web Scraping and Public Interest Research

The AI Act: AI regulation and its implementation in troubled times con Mantelero no vendiendo pero enseñando su libro y Gloria González Fuster sí vendiendo su libro, pero sobre todo, quejándose de su (merecidísima) fama de gruñona para inmediatamente confirmarla gruñendo -divertidamente- sobre un drama tan trágico como recurrente al rematar las negociaciones del texto de normativa relevante. Tendrán que ver el vídeo para enterarse: ¡JA!

Mis dos paneles favoritos (ex-aequo, como en Cannes):

Gendered Digital Labour: Unseen work, exploitation, and tech driven inequalities.

Si este panel hubiera sido una serie de TV (y podría serlo) me tragaría las seis temporadas. La cosa empezó hablando de trabajadores precarios sujetos a la supervisión pero sobre todo control de las plataformas.

Aída Ponce del Castillo desarrolló la Directiva de plataformas -

“si los requisitos de aplicación de la Directiva concurren, la persona trabajadora contratada a través de una plataforma es trabajadora de la plataforma” (¡!!!)

“las condiciones de trabajo están codificadas en el algoritmo”

Pero tras la intervención de Madeleine Thomas -personaje muy difícil de olvidar, pero no voy a revelar aquí por qué- el interés del panel y ardor de las panelistas se disparó. El foco pasó a los generadores de contenido en social media, la posible aplicación de la Directiva de Plataformas (“It depends”), pero sobre todo la posibilidad de implementar PETS sobre el contenido generado que permite identificar a quienes leakean contenido, doxean a sus generadores y los suben a otras plataformas para su viralización incontrolada. La tecnología existe, sólo hace falta que los actores decidan gastarse la pasta en adoptarlas, demostrando así que no les importa una mierda los creadores cuyo contenido monetizan y vampirizan.

Sería maravilloso, eh?

My Chatbot, My Confidant? Protecting User Privacy in Generative AI Conversations moderada por Theodore Christakis.

Buenisísimo. Algunas cosas llamativas:

230 millones de usuarios hacen consultas a ChatGPT sobre salud A LA SEMANA.

Todas las guidelines y esfuerzos del EDPB o el EDPS se siguen centrando en el pasado (el AI training) cuando el auténtico pollo está en el presente: el uso indiscriminado personal y empresarial de chatbots con muy poco claras garantías de privacidad. El panel se centró en cosas como el acceso judicial al histórica de chats obviando las crecientes evidencias de leaks con finalidad puramente comercial.

Yann Padova (que se ha convertido en Gandalf) dejó un par de sonoras citas dignas de camiseta:

“La IA es desproporcionada by design” o

“¿vacíos legales en la UE?”.

Y más allá de los paneles, compartir oxígeno con Gloria Gonzalez Fuster, Itxaso Domínguez de Olazabal, Laura Centeno, Guillermo Lazcoz, y cervezas con Jeimy Poveda, Ainara Bordes, Isabel Barberá y David González Calleja y un montón de gente interesante que conocí y cuyo nombre no recuerdo (que me perdonen) porque ya estoy muy pero muy mayor.

El próximo año, más.

Y ahora vamos con la newsletter normal, que hay plancha de narices.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

“Aplica la doctrina Scania en la práctica”: segunda edición en Junio

Este mes de junio (los tres primeros lunes) volvemos con nuestra formación presencial, online y socrática sobre la teoría y aplicación en la práctica de la doctrina SRB / Scania.

Todos los detalles aquí, apúntate pinchando en el botón.

ME INTERESA

🗞️Noticias del Mundodato 🌍

.- No sólo el Papa León XIV (ver más abajo en la sección de IA), también la lucha contra la construcción de centros de datos ha puesto de acuerdo a una mayoría ciudadana transversal en los EEUU: La rebelión estadounidense contra la IA es un hecho y cobra fuerza (lo cuenta un medio poco sospechoso de representar a jipis abraz-árboles: el World Street Journal) comunidades locales han conseguido bloquear o retrasar al menos 48 proyectos de centros de datos valorados en más de 156.000 millones de dólares solo en el último año. En el primer trimestre de 2026, un récord de 20 proyectos fueron cancelados por la presión local de los vecinos. Políticos republicanos de Texas y Carolina del Sur han pedido moratorias sobre desarrollos de centros hiperescalares, citando el impacto en redes eléctricas y agricultores. El candidato demócrata Justin Pearson, en Tennessee, hace de la oposición a los data centers de xAI de Musk un eje de su campaña. Solo el 17% de estadounidenses cree que la IA tendrá impacto positivo en las próximas dos décadas.

Meanwhile, en España, los proyectos en Extremadura, La Mancha y Aragón van viento en popa: ,”que inventen ellos”.

.- Quién escribe o refríe realmente toooodos esos posts clónicos sobre liderazgo que ves en linkedin, firmados por… gente a la que nunca habías leído en linkedin? Entérate aquí.

.- Soberanía tecnológica: La Comisión Europea impulsa restricciones sobre el uso de proveedores cloud estadounidenses —AWS, Microsoft, Google— para el procesamiento de datos públicos sensibles de gobiernos europeos. El paquete "Tech Sovereignty Package", presentado ayer 27 de mayo, define sectores cuyas cargas de trabajo deben alojarse en infraestructura cloud europea: sanidad, finanzas y sistema judicial son los prioritarios. Las medidas se dirigen solo al sector público, no a las empresas privadas. Thibaut Kleiner, Director de la Comisión, advirtió que Europa corre el riesgo de quedarse relegada como "colonia tecnológica". Lo grasioso es que en abril la propia Comisión adjudicó un contrato de 180 millones a proyectos de cloud soberana que incluyen una alianza entre Thales y Google Cloud.

Utah obliga a los sitios de contenido adulto a verificar la edad de todos sus usuarios, incluidos quienes accedan mediante VPN. El artículo resume muy cachondamente las dificultades para llevar a la práctica esta boutade, muy parecida a aquel mediático magistrado de la Audiencia Nacional que ordenó el “cierre de Telegram”.

Y en esta línea, político vs especialista. En concreto, político británico obviando lo bien que va el tema en Australia (y mezclando en el argumentario elementos ciertos para justificarse) vs investigador académico reputa en psicología aplicada (sobre todo, en los videojuegos en los que nunca hay menores). Y el jaja añadido de que por el Reino Unido esté la obligación de cualquier plataforma de recopilar documentación de identidad de todo usuario que exista.

.- Brutal y jurídicamente epatante la historia que cuenta la directora de cine Isabel Coixet.

.- La AEPD publica ayer que llevará el tema de la investigación de la filtración de conversación en los principales servicio/asistentes de IA, que tratamos en número especial aquí (y en la que ha participado Jorge), al mismismo EDPB. Lo hará en doble sentido: nota informativa para conocimiento del resto de DPAs, y propuesta de que se trate en la reunión plenaria del 8 y 9 de junio. A ver en qué acaba, pero es buena noticia en el mundo loco en el que estamos.

Zero Party Data

Every prompt you make, AI´ll be watching you

(English versión here…

Read more

2 months ago · 10 likes · Jorge García Herrero

Y esta infografía de la CNIL, muy para ciudadano lego, pero que comba mal en sus puntos 3 y 4 con la investigación de la IA filtradora:

📖 Documentos dateros muy cafeteros ☕️

.- Amadeus pulveriza el récord de sanción más alta de la AEPD, con 14,4 millones de euros.

.- Queja formal de la Gesellschaft für Freiheitsrechte (GFF) ante el Coimisiún na Meán irlandés por incumplimiento sistemático de LinkedIn de los artículos 17 y 24(5) del Reglamento de Servicios Digitales (DSA).

Entre octubre y diciembre de 2024, el 77,1% de las decisiones de moderación de LinkedIn en la base de datos de transparencia del DSA citaron únicamente "violación genérica de políticas de plataforma" sin especificar qué contenido, por qué ni qué sección concreta. El artículo 17 DSA exige razones claras y específicas que permitan al usuario entender la decisión y ejercer su derecho a recurso. Lo más grasioso es que la base de datos de transparencia del DSA —diseñada precisamente para auditar patrones de moderación— está siendo utilizada por LinkedIn para cumplir formalmente con el deber de notificación, mientras reproduce exactamente la opacidad que la norma pretende eliminar, convirtiendo el instrumento de control en herramienta de blanqueo regulatorio.

.-Curioso caso de los límites de corresponsabilidad que vemos por el blog de Noyb. Tribunal austríaco le anula la sanción de 8 millones interpuesta por la DPA autríaca a la matriz de un Grupo que la lió en un programa de fidelización. Por mucho que fuera matriz, el tribunal considera aquí que no existe esa influencia efectiva /posición o unidad de propoósito en la determinación de fines y medios necesaria para considerar a la filial y matriz en esta categoría dual. Siempre es bueno recordar ejemplos reales del tema, que siempre se tiene a considerar que nada lo es o todo lo es.

.- La DPC actualiza un documento que podría llamar “FAQS” de videovigilancia doméstica. Lejos de ser algo distintos a lo que la AEPD hizo con sus 6 “fichas” de videovigilancia, sí tiene algo que no vendría mal incorporar a las de la AEPD: imagen visual de hasta dónde puede filmar la camarita. La realidad suele ser un terreno más difuso en el que no siempre queda tan claro la descripción redactada en texto.

Salvando el hecho de que aquí somos menos de tener todos un adosado con jardín, pero teniendo en cuenta los dichosos Amazon Ring y las ideas de bombero de ciertos arrendadores.

.- Technical Solutions for Marking and Detecting AI-Generated Text Content in the Context of Article 50(2) AI Act via Martin Ebers.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.- Google tomará tus emails como señal a la hora de servirte publicidad: Garrett Sussman, Michael Tandoh, Cate Dombrowski publican El inbox de Gmail como señal de búsqueda IA: experimento controlado sobre 1.922 respuestas de Google AI Mode demuestra que marcas “sembradas” en correos electrónicos de cuentas conectadas a Google Personal Intelligence aparecen un 46% más en recomendaciones que en cuentas de control. La aparición subió del 23,9% al 66,8%; el posicionamiento en top-3 mejoró 23,1 puntos; Gmail fue la señal más potente frente a Google Photos. Incluso marcas ficticias introducidas por email aparecieron en el 35,7% de las respuestas, frente al 0% de citación externa. El experimento —con datos recogidos entre marzo y abril de 2026— sólo aplica a cuentas que hayan activado voluntariamente Personal Intelligence, no al AI Mode estándar.

Más de lo mismo: Google anuncia la integración de publicidad nativa en AI Mode y en las respuestas de Gemini: los “Conversational Discovery Ads” generarán recomendaciones de producto adaptadas a la consulta conversacional, mientras los “Highlighted Answers” insertarán marcas aprobadas al final de las listas de AI Mode. Las AI Shopping Ads llegarán también al buscador convencional con Gemini escribiendo los “explainers” de producto. Google asegura que los anuncios no impactan en los resultados orgánicos, pero es que los resultados orgánicos quedan sepultados bajo un creciente tsunami de contenido generado por IA. Elizabeth Reid presentó los cambios como “la mayor actualización en 25 años”. Lo más preocupante es que el modelo de lenguaje se erige en intermediario de la subasta —el LLM decide qué marcas son “relevantes y de alta calidad”-, pero esa decisión está embebida en los mismos mecanismos de subasta de siempre, sin transparencia sobre cómo interactúan ambas lógicas. Y esto ya te costó caro hace dos años, Google.

-. Lo del Papa: Ha tenido que llegar el Papa para empezar a soltar factos sobre IA. Casi es más política de gobernanza o o FRIA que encíclica. Mete el dedo en el ojo con problemática y sesgos principales de la IA:

• La IA no es neutral: se nos olvida, pero el ser humano sigue siendo el que hace y deshace en el mundo. No hemos llegado todavía a Skynet.

• Volvemos a la Torre de Babel.: “10. We must, then, avoid the “Babel syndrome,” namely the idolatry of profit that sacrifices the weak, a uniformity that neutralizes differences, and the pretense that a single language — even a digital one — can translate everything, including the mystery of the person, into data and performance.”

• Impacto ambiental oculto: poco se niega, pero todavía hablamos del carbon zero. OpenAI consigue equilibrar las gallinas que entran por las que salen, seguro. .

• No olvidarse de los minerales raros y ciertos perfiles de “esclavitud”. No por nada luego vemos las normas presuntas de antiexclavituds por UK: A significant part of the digital economy’s functioning relies on the silent work of millions of people engaged in essential yet largely unseen activities, such as data labeling, model training and content moderation, often involving disturbing material. (…………….). In some regions of the world, children and adolescents work in dangerous conditions, crushing the materials from which rare earth elements are extracted.

• El Papa se dio cuenta que es mejor no basar decisión alguna en un algoritmo. Insert meme de “tenías razón en que esa seta era venenosa”. Que razcan en tema de compasión y empatía. Apliquen lo del padre y el niño al de la espada de Palantir.

• Vigilancia y descalificación del trabajador: As a result, contrary to the advertised benefits of AI, current approaches to technology can paradoxically de-skill workers, subject them to automated surveillance and relegate them to rigid and repetitive tasks. The need to keep up with the pace of technology can erode workers’ sense of agency and stifle the innovative abilities they are expected to bring to their work.

📃El paper de la semana

.- La anonimización de datos genéticos en el Espacio Europeo de Datos de Salud, de Daniel Grafulla Cumba. Advertencia: ¡No se lo pierdan, PERO tengan cerca un LLM cerca que les explique la parte técnica con ejemplos! (¿Recuerdan las partes de “El nombre de la rosa” escritas en latín? Muy parecido).

Daniel Grafulla nos explica cómo:

.- Las partes realmente relevantes del ADN a efectos identificatorios no es el todo, sino mucho menos, y habitualmente, pasa por combinar fragmentos de distintas fuentes.

.- Sin embargo, excepcionalmente, regiones del ADN poco relevantes a efectos identificativos, cobran mucho valor cuando mutan, y duplican así su sensibilidad en tanto que enfermedades genéticas.

.- Señala “una especie de” umbral mínimo (!) de riesgo de reidentificación en el Considerando 92 del Reglamento Europeo de Espacios de Salud.

.- Aunque este Reglamento contiene una prohibición explícita de reidentificación para los usuarios (receptores de datos), el autor razona con solidez que, dada la peculiar potencia individualizadora del ADN (o de las particulares regiones descritas), no debería tomarse como patente de corso a efectos de la aplicación automática de la doctrina SRB Scania.

La cuestión que me planteo (o el punto en el que discrepo) es si la equiparación del autor entre singularización e identificación se sostiene en cualquier caso, o depende, como ha declarado reiteradamente el TJUE, del contenido, finalidad y efectos de cada tratamiento de datos.

Si estas mierdas les interesan, les recuerdo mi formación sobre SRB - Scania.

🛠️Herramientas útiles

.- Claude Code para Word y Excel liberado como código abierto: el autor publica add-ins que permiten usar Claude Code directamente desde Microsoft Word y Excel, incluyendo contexto local de archivos, servidores MCP, skills y tool calling —capacidades que los add-ins oficiales de Anthropic no ofrecen. De Leo Hope y John S. Searsx.

.- ACME Legal AI: plataforma open source autoalojable para equipos jurídicos pequeños, construida como alternativa a las soluciones SaaS de legal tech. Incluye chat conversacional con historial persistente, motor de citación verificable en cuatro etapas, capa de anonimización para inferencia en cloud, y una biblioteca de skills en el formato abierto de Anthropic. Funciona en laptop, servidor interno o VM en cloud, contra el modelo LLM que elija el cliente: Anthropic, OpenAI, Azure OpenAI u Ollama local. De Kevin Keller.

🙄 El chorradón final

Christopher Nolan nunca ha utilizado el email o un smartphone. Teniendo en cuenta que se ha visto en un trailer un drakar vikingo (entre otras mil fumadas), tampoco consulta mucho la Wikipedia. Ni parece haberse dignado a preguntar a ningún historiador por paloma mensajera, señales de humo encender las almenaras entre Gondor y Rohan, o lo que se haga para comunicarse.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

CPDP 2026 will be remembered (at least by this bald guy) as the “Luis Montezuma Edition”.

“Veni, vidi, vici”: Luis Alberto Montezuma arrived, saw, and conquered: everyone knew him, and everyone was grateful for his generous work while we discreetly scrutinized his eyes and clothes to ensure he had no wires, chips, or batteries powering that tireless knowledge-publishing machine.

Nope: he’s human. His secret is the magical Colombian arepas, apparently.

We all know by now that just following him will keep you informed of 90% of what you need to stay up-to-date.

Below, a summary of the panels I attended and those I missed but were recommended to me, culminating with my personal top picks:

In the prelude, Sophie Stalla-Bourdillon demonstrated that, in addition to having mastered the SRB Scania doctrine, before SRB and Scania, she is a very competent moderator.

A couple of gems from Philippe Latombe (the MEP who challenged the DPF before the CJEU and now is part of the CNIL):

“80% of the CNIL’s time is spent informing initiatives of the French Government, not on enforcement tasks”.

Who gets in? The Policy Dilemma of Age-Gating: I learned here that in Australia, the processing of biometric data for mere age determination is prohibited biometrics.

The Belgian Youth Council representative Camille Biot clarified what no one says or hears: that “youth” is not a single collective but a very diverse one, with many different interests.

That diversity alone already disqualifies any measure that aims to authorize binarily (you have access / you do not have access) the entire collective solely based on their biological age.

She said more: “approve whatever you want, shitty boomers: we young people will keep accessing”. Possibly she did not say exactly “shitty boomers”, but well, you get the idea.

The burden (the consumption of personal data for age verification et altra) should not fall exclusively on the user.

The commissioner also left an interesting point at the end: “when I was in high school, gay kids were very pressured and alienated, and social networks constitute an unparalleled tool for them to find their community”.

In “Breaking silos” (not very interesting) a couple of comments from the representative of the French association of DPOs AFCDP caught my attention, about an elephant in the room: “the growing pressure and workload, the need to stay updated, etc., have led us to offer psychological support resources for our members”.

GDPR class actions: the state of play (interesting, but I doubt it was recorded).

Three interesting things: the very frustrated attempt to disrupt the panel by a lawyer defending one of the defendant companies, the characterization of the background behind the collective lawsuits of Privacy Collective, this here and meeting Peter Hense in the flesh.

I wasn’t at The role of operating systems in trusted AI but it was one of the most recommended of the day, and I will watch it when it comes out.

Vital Signs: Regulatory Coherence, Interplay, and Alignment for Medical Device Cybersecurity: the typical super useful panel to situate yourself in a specific matter from different points of view: the talks were well supported by the presentation, very clear, and very didactic to understand the swarm of applicable legislation in this matter.

On Thursday, I wanted to go to Secondary use of data under the European Health Data Space: some relevant issues moderated by Pablo Trigo, but they changed its location: (nonetheless, I heard it was fantastic) and I went to A Child-Centred Approach to the EU Digital Rulebook. Another 100% educational panel with a special mention for Simone Van der Hof, I am quite sure she is one of those professors who change your life.

Informed consent: The breakthrough in Art. 88b GDPR / Digital Omnibus and current initiatives in the field of PIMS and technical standardization. A very interesting panel and a chance to see a force of nature in action: Anja Wyrobek, a commissioner making some very questionable points: Magdalena Steringer, and an explanation about the challenges and solutions posed by that proposal of 88b.

What is so special about special categories of data?. Especially interesting were the interventions of Ruth Boardman

The Agentic Assistant: What does Big Tech’s goal of creating a universal digital intermediary mean for society? Really interesting were the interventions of Udbhav Tiwari from Signal and Frederike Kaltheuner.

Eye tracking in video games: Opportunities for game development and risks to privacy. Very Good.

I participated in the workshop From Pseudonymisation to Synthesis: A Debate on Evaluating Privacy-Preserving Technologies and Re-identification Risks in Medical AI under the GDPR (a practical case to be resolved between two opposing teams formed with the attendees). The idea was brilliant, but there was very little time and I would say at least half of us were hungover. I was on the team that upheld the rights of the data subject and we triunphed, of course.

It is notable to indicate that the team defending the company did not think to allege in a pure form the proposal that gave title to the workshop: “In so far SRB Scania doctrine applies, therefore GDPR does not apply”. Which was the whole point.

Digital Omnibus meets the Charter of Fundamental Rights – a reality check with Max Schrems and especially my friend Rosalia D´Agostino, whom I also had the opportunity to meet in person. I recommend her podcast again Legal4Tech.

I wasn’t there, but it apparently was excellent: Dragnet Data Protection: Dilemmas of Web Scraping and Public Interest Research

The AI Act: AI regulation and its implementation in troubled times with Mantelero not selling but teaching his book and Gloria González Fuster yes selling her book, but above all, complaining about her (well-deserved) reputation as a grumpy one to immediately confirm it by grumbling - amusingly - about a drama as tragic as recurrent when concluding the negotiations of the relevant legislation text.

You will have to watch the video to find out: HA!

My two favorite panels (ex-aequo, as in Cannes):

Gendered Digital Labour: Unseen work, exploitation, and technology-driven inequalities.

If this panel had been a TV series (and it could be), I would binge-watch all six seasons. The discussion started with precarious workers subject to platform supervision but above all control.

Aída Ponce del Castillo presented the Platform Work Directive – “if the conditions for the application of the Directive are met, the worker contracted through a platform is a platform worker” (!!!)

“the working conditions are coded in the algorithm”

However, after Madeleine Thomas’s intervention – a character very hard to forget, but I won’t reveal why here – the panel’s interest and the panelists’ passion skyrocketed. The focus shifted to social media content generators, the possible application of the Platform Work Directive (”It depends”), but above all the possibility of implementing PETs (Privacy Enhancing Technologies) on user-generated content that allows identifying those who leak content, dox their creators, and upload it to other platforms for uncontrolled virality. The technology exists; it only requires stakeholders to decide to invest in its adoption, thus demonstrating that they do not give a damn about the creators whose content they monetize and exploit.

Wouldn’t that be wonderful?

And much more.

My Chatbot, My Confidant? Protecting User Privacy in Generative AI Conversations, moderated by Theodore Christakis. Fascinating.

Some striking points:

.- 230 million users make health-related queries to ChatGPT every week.

.- All guidelines and efforts by the EDPB (European Data Protection Board) or the EDPS (European Data Protection Supervisor) still focus on the past (AI training) when the real issue lies in the present: the indiscriminate personal and business use of chatbots with very unclear privacy safeguards. The panel focused on aspects such as judicial access to chat history, overlooking the growing evidence of leaks for purely commercial purposes.

.- Yann Padova (who has become Gandalf) left a couple of memorable quotes worthy of a t-shirt:

“AI is disproportionate by design” or “legal loopholes in the EU?”

Beyond the panels, it was greta to sharing oxygen with Gloria Gonzalez Fuster, Itxaso Domínguez de Olazabal, Laura Centeno, Guillermo Lazcoz, and beers with Jeimy Poveda, Ainara Bordes, Isabel Barberá, and David González Calleja, as well as a lot of interesting people I met whose names I don’t remember (apologies to them) because I am already very, very old.

Next year, more. And now, the newsletter: we have a lot to cover.

You are reading ZERO PARTY DATA. The newsletter about tech and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News of the Data-world 🌍

.- Not only Pope Leo XIV (see below in the AI section), but also the fight against the construction of data centers has united a cross-party citizen majority in the US: The American rebellion against AI is a fact and gaining momentum (reported by a media outlet unlikely to represent tree-hugging hippies: the Wall Street Journal). Local communities have managed to block or delay at least 48 data center projects valued at over $156 billion in the last year alone. In the first quarter of 2026, a record 20 projects were canceled due to local pressure from neighbors. Republican politicians in Texas and South Carolina have called for moratoriums on hyper-scaler developments, citing the impact on power grids and farmers. Democratic candidate Justin Pearson in Tennessee is making opposition to xAI’s Musk data centers a central part of his campaign. Only 17% of Americans believe that AI will have a positive impact in the next two decades.

Meanwhile, in Spain, projects in Extremadura, La Mancha, and Aragon are full steam ahead.

.- Who really writes or rephrases all those clone-like posts about leadership that you see on LinkedIn, signed by... people you’ve never heard of on LinkedIn? Find out here.

.- Technological sovereignty: The European Commission is promoting restrictions on the use of US cloud providers—AWS, Microsoft, Google—for processing sensitive public data from European governments. The “Tech Sovereignty Package,” presented yesterday, May 27, defines sectors whose workloads must be hosted on European cloud infrastructure: healthcare, finance, and the judicial system are the priorities. The measures apply only to the public sector, not to private companies. Thibaut Kleiner, Director of the Commission, warned that Europe risks being relegated to a “technological colony.” The irony is that in April, the Commission itself awarded a €180 million contract to sovereign cloud projects including an alliance between Thales and Google Cloud.

Utah requires adult content sites to verify the age of all their users, including those accessing via VPN. The article humorously summarizes the difficulties in implementing this proposal, similar to that infamous magistrate from the Audiencia Nacional who ordered the “closure of Telegram”.

And along these lines, politician vs specialist. Specifically, a British politician ignoring how well the topic is progressing in Australia (and mixing certain elements in the argument to justify himself) vs a renowned academic researcher in applied psychology (mainly in video games where there are never minors). And the added joke that in the United Kingdom, any platform is obliged to collect identity documentation from every user.

.- Yesterday, the AEPD published that it will bring the issue of investigating the leak of conversations in major AI services/assistants, which we covered in a special issue here (and in which Jorge participated), to the EDPB itself. It will do so in two ways: an informative note for the knowledge of the rest of the DPAs, and a proposal that it be addressed at the plenary meeting on June 8 and 9.

We’ll see how it ends up, but it’s good news in the crazy world we live in.

And this infographic from the CNIL, very much for the lay citizen, but which clashes badly in points 3 and 4 with the investigation of the AI leak:

📖Hard data docs for coffeine lovers☕️

.- Amadeus shatters the record for the highest fine from the AEPD, with 14.4 million euros.

.- Formal complaint from the Gesellschaft für Freiheitsrechte (GFF) to the Irish Coimisiún na Meán for systematic non-compliance by LinkedIn with Articles 17 and 24(5) of the Digital Services Act (DSA).

Between October and December 2024, 77.1% of LinkedIn’s content moderation decisions in the DSA transparency database cited only a “generic violation of platform policies” without specifying what content, why, or which specific section. Article 17 of the DSA requires clear and specific reasons that allow the user to understand the decision and exercise their right to appeal. The most amusing thing is that the DSA transparency database — designed precisely to audit moderation patterns — is being used by LinkedIn to formally comply with the notification obligation, while reproducing exactly the opacity that the regulation aims to eliminate, turning the control instrument into a regulatory whitening tool.

.- Curious case of the limits of joint responsibility that we see on Noyb’s blog. Austrian court annuls the 8 million fine imposed by the Austrian DPA on the parent company of a Group involved in a loyalty program. As much as it was the parent company, the court considers here that there is no effective influence/position or unity of purpose in the determination of purposes and means necessary to consider the subsidiary and parent company in this dual category. It is always good to remember real examples of the matter, which are often considered as nothing or everything.

.- The DPC updates a document that could be called “FAQs on domestic CCTV”. Far from being different from what the AEPD did with its 6 “cards” on CCTV, it does have something that would not be bad to incorporate into the AEPD’s: a visual image of how far the little camera can film. Reality is often a more diffuse terrain where it is not always as clear as the written description in text.

Setting aside the fact that we are less likely to all have a detached house with a garden, but considering the dreaded Amazon Ring and certain landlords’ ideas.

.- Technical Solutions for Marking and Detecting AI-Generated Text Content in the Context of Article 50(2) AI Act via Martin Ebers.

💀Death by Meme🤣

🤖NoRobots.txt o the IA things

.- Google will take your emails as a signal when serving you advertising: Garrett Sussman, Michael Tandoh, Cate Dombrowski publish Gmail inbox as an AI search signal: a controlled experiment on 1,922 Google AI Mode responses shows that brands “seeded” in emails from accounts connected to Google Personal Intelligence appear 46% more in recommendations than in control accounts. Appearance increased from 23.9% to 66.8%; top-3 positioning improved by 23.1 points; Gmail was the strongest signal compared to Google Photos. Even fictitious brands introduced by email appeared in 35.7% of the responses, compared to 0% external citation. The experiment —with data collected between March and April 2026— only applies to accounts that have voluntarily activated Personal Intelligence, not to standard AI Mode.”

More of the same: Google announces the integration of native advertising in AI Mode and Gemini responses: “Conversational Discovery Ads” will generate product recommendations tailored to conversational queries, while “Highlighted Answers” will insert approved brands at the end of AI Mode lists. AI Shopping Ads will also arrive in the conventional search engine with Gemini writing the product “explainers.” Google assures that ads do not affect organic results, but organic results are buried under a growing tsunami of AI-generated content. Elizabeth Reid presented the changes as “the biggest update in 25 years.” The most concerning aspect is that the language model acts as an intermediary in the auction—the LLM decides which brands are “relevant and high-quality”—but this decision is embedded in the same auction mechanisms as before, without transparency on how these two logics interact. And this has already cost you dearly two years ago, Google.

-. The Pope’s stance: It took the Pope to start dropping facts about AI. It’s almost more about governance policy or FRIA than encyclical. He hits the nail on the head with the main problems and biases of AI:

• AI is not neutral: we forget, but humans are still the ones who make and break things in the world. We haven’t reached Skynet yet.

• Back to the Tower of Babel: “10. We must, then, avoid the ‘Babel syndrome,’ namely the idolatry of profit that sacrifices the weak, a uniformity that neutralizes differences, and the pretense that a single language—even a digital one—can translate everything, including the mystery of the person, into data and performance.”

• Hidden environmental impact: little is denied, but we still talk about carbon zero. OpenAI manages to balance the chickens that come in for those that go out, no doubt.

• Do not forget about rare minerals and certain profiles of “slavery.” Not for nothing do we later see the presumed anti-slavery norms by the UK: A significant part of the digital economy’s functioning relies on the silent work of millions of people engaged in essential yet largely unseen activities, such as data labeling, model training, and content moderation, often involving disturbing material. (…………….). In some regions of the world, children and adolescents work in dangerous conditions, crushing the materials from which rare earth elements are extracted.

• The Pope realized it is better not to base any decision on an algorithm. Insert meme of “you were right that mushroom was poisonous.” They scratch on the topic of compassion and empathy. Apply the father and child analogy to Palantir’s sword scenario.

• Surveillance and worker devaluation: As a result, contrary to the advertised benefits of AI, current approaches to technology can paradoxically de-skill workers, subject them to automated surveillance, and relegate them to rigid and repetitive tasks. The need to keep up with the pace of technology can erode workers’ sense of agency and stifle the innovative abilities they are expected to bring to their work.

📃 Paper of the Week

.- Anonymization of genetic data in the European Health Data Space, by Daniel Grafulla Cumba. Warning: Do not miss it, BUT have an LLM nearby to explain the technical part with examples! (Do you remember the parts of “The Name of the Rose” written in Latin? Very similar).

Daniel Grafulla explains how:

.- The truly relevant parts of DNA for identification purposes are not the whole, but much less, and usually involve combining fragments from different sources.

.- However, exceptionally, regions of DNA that are not very relevant for identification purposes gain significant value when they mutate, thus doubling their sensitivity in terms of genetic diseases.

.- He points out a kind of minimum threshold (!) of re-identification risk in Recital 92 of the European Regulation on Health Spaces.

.- Although this Regulation contains an explicit prohibition on re-identification for users (data recipients), the author solidly argues that, given the peculiar individualizing power of DNA (or the particular regions described), it should not be taken as a carte blanche in terms of the automatic application of the SRB Scania doctrine.

The question I ask myself (or the point where I disagree) is whether the author’s equating of singularization and identification holds in any case, or depends, as the CJEU has repeatedly stated, on the content, purpose, and effects of each data processing operation.

🛠️ Useful Tools

.- Claude Code for Word and Excel released as open source: the author publishes add-ins that allow using Claude Code directly from Microsoft Word and Excel, including local file context, MCP servers, skills, and tool calling—capabilities not offered by Anthropic’s official add-ins. By Leo Hope and John S. Searsx.

.- ACME Legal AI: self-hostable open source platform for small legal teams, built as an alternative to SaaS legal tech solutions. Includes conversational chat with persistent history, four-stage verifiable citation engine, anonymization layer for cloud inference, and a library of skills in the open format of Anthropic. Works on laptop, internal server, or cloud VM, against the LLM model chosen by the client: Anthropic, OpenAI, Azure OpenAI, or local Ollama. By Kevin Keller.

🙄 Da-Tadum bass!!

Christopher Nolan has never used email or a smartphone. Given that a Viking longship has been seen in a trailer (among other thousand absurdities), he doesn’t consult Wikipedia much either. Nor does he seem to have deigned to ask any historian about carrier pigeons, smoke signals, lighting beacons between Gondor and Rohan, or whatever is done to communicate.

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

Sufrimos un tsunami de contenidos de ínfima calidad generados por IA: una ola que amenaza con inundar cada rincón de nuestra vida digital.

Ya no hablamos de chorradas tipo “tralarero tralará” y dibus de inodoros parlantes de exclusivo consumo teen en Youtube y TikTok (tralarero tralará).

No hablamos del cristo de las gambas y todas esas supuestas noticias chungas que sólo los boomers extremos y los abuelos (tan enganchados como los teens) se tragan.

No quiero ni empezar a hablar de los desiertos de mediocridad que se clona a sí misma que son hoy Linkedin y Twitter.

Hablamos de una mayoría absoluta en las elecciones del moderno mundo conectado. Todos, absolutamente todos, consumimos basura sintética con desigual entusiasmo. Pero todos lo hacemos.

“Es suficientemente bueno para mí si consigue suspender el dedito escrolero de mis pares”.

¿Qué es AI slop?

El término “slop” -que podríamos traducir como “bazofia”, “bodrio” o “esa cosa viscosa que nadie quiere tocar pero que integra hoy el 75% de internet”- describe con precisión quirúrgica esos textos mediocres, imágenes iguales entre sí, pero tan distintas a lo real, y vídeos sin alma que las herramientas generativas producen en masa por dos duros.

El AI slop es el sabor fresa de los chicles.

Cualquier parecido con el de la fruta original es pura coincidencia.

En una economía que busca la atención a cualquier precio, el objetivo se reduce a identificar tu punto sensible y golpearlo con distintas versiones de lo mismo hasta el entumecimiento, pero sin proporcionar placer o aprendizaje real alguno en el proceso.

Quizá estemos viviendo la versión IA de la tragedia de los comunes: nadie tiene incentivos para producir contenido de una calidad mínima porque generar toneladas diarias de slop cumple la papeleta. De momento.

La canción más escuchada hace unos días en Spotify era una medianía llamada “Celebration Day” de Ingarose.

Es IA, pero al menos Ingarose no mentía sobre su condición sintética. Como documentó Forbes con ese tono entre asombrado y resignado que caracteriza al periodismo contemporáneo, millones de personas pagaron dinero real por escuchar algo que ningún ser humano sintió la necesidad de cantar y comunicar (ésta era hasta hace poco la cosa de la música).

“Es suficientemente bueno para mí si lo era para acompañar vídeos en TikTok.”

Arte

En algún momento empezaremos a ver obras que dignifiquen a la IA audiovisual como herramienta para cosas que merezcan la pena, no lo duden. Pero si pensaban (como yo, ingenuo de mí) que ese momento de dignificación llegaría este año en Cannes con la película de Steven Soderbergh sobre John Lennon y Yoko Ono, va a ser que no.

“Autoridad”

El presidente de la comunidad canaria aportaba un chat con ChatGPT como evidencia científica en un debate social y políticamente relevante sobre hantavirus y roedoreh.

Y no se bajó de la burra.

Permítanme repetir esto porque merece ser saboreado: un representante electo democráticamente, presumiblemente asesorado por expertos con credenciales académicas reales, decidió que la mejor forma de dar soporte a sus reticencias era… utilizar la fuente de información que utilizan sus votantes. Preguntarle a un chatbot.

“Es suficientemente bueno para mí si un número suficiente de mis votantes lo da por bueno”.

La anécdota acojona, pero electoralmente “cumple” fijo.

Otra cosa es que en estas cosas interese acertar, más que concitar adhesiones.

Medio: de la desinformación al marketing

La IA, además, no contenta con impactar en tu vida saturándola de contenido mierdoso, contagia a otros mercados las manipulaciones que ayer se centraban en cuestiones como los mensajes políticos de odio o las campañas de desinformación.

Las técnicas de persuasión algorítmica que antes se reservaban para cosas serias -como manipular elecciones democráticas o promover genocidios- ahora, con un porfolio de casos de uso exitosos bajo el brazo, se extienden a cuestiones más banales pero claro, mucho más lucrativas.

Se ha descubierto que una empresa llamada Chaotic Good Projects hacía astroturfing para la promoción de grupos y cantantes emergentes.

Chaotic Good Projects creaba perfiles falsos en redes sociales, generaba reseñas sintéticas, fabricaba conversaciones orgánicas sobre artistas inexistentes o desconocidos, y simulaba comunidades de fans entusiastas donde no había nadie real.

El astroturfing —esa práctica con nombre de césped artificial que consiste en simular movimientos de base cuando en realidad son campañas orquestadas desde arriba— ha encontrado en la IA generativa su maná.

Crear miles de cuentas convincentes, cada una con su propio historial de navegación, estilo de escritura única, patrones de comportamiento diferenciados, y opiniones ligeramente discrepantes para parecer más auténticas, resulta hoy técnicamente trivial y tirado de precio.

“Es suficientemente bueno para mí si me permite sustituir los sueldos de cien NPCs por un prompt currao”.

Antes funcionaba la radiofórmula como medio de promoción musical (y la reiteración de anuncios en prensa y tv) y nos influía por aplastamiento: escuchabas la misma canción veinte veces al día hasta que te gustaba, o al menos hasta que la comprabas por puro síndrome de Estocolmo.

Era manipulación transparente, descarada incluso, pero al menos se hacía a cara descubierta. La radio no fingía ser tu amigo; era abiertamente un altavoz comercial. Había honestidad en la desvergüenza.

Esto otro es mucho más turbio: la influencia viene disfrazada de recomendación orgánica, de descubrimiento casual, de tendencia emergente que “está triunfando entre gente como tú”. Ahora es tu “comunidad” -falsa, inexistente- aparentemente recomendando cosas. Son tus “amigos” los que recomiendan ese artista, tu “burbuja” la que valida esa decisión. Excepto que ninguno de ellos existe.

Pero hey, al menos tienes amigos. O eso crees.

La libertad según Dan Ariely

Hasta qué punto somos tan libres como creemos al elegir el producto que compramos o la música que escuchamos?

Esta pregunta no es nueva, ni pretendo venir yo a contestarla hoy.

Yo sería un iluso si pensara que, recomendándoles “Predictably Irrational” de Dan Ariely o al menos su TedTalk sobre el tema (o su transcripción y ya no hay barrera más baja), ustedes harían puto caso y chequearían alguno de estos recursos.

Estadísticamente hablando, el 98% de los lectores de este párrafo no clickarán ningún enlace, no leerán el libro, y continuarán con su día creyendo firmemente que sus decisiones son producto de deliberación racional y libre albedrío.

Lo cual, irónicamente, validará la tesis de Ariely sobre fricción en la toma de decisiones.

Pero permítanme intentarlo de todas formas, porque el optimismo es lo último que se pierde (justo antes del pelo).

Escuchen al menos la charla: el final es glorioso y no lo olvidarán. Ariely, es un experto del MIT en economía y psicología aplicada, uno de esos académicos que dedicó décadas a demostrar experimentalmente que todo lo que creías sobre ti mismo es mentira, muestra cómo el contexto, el marco de presentación, las opciones-señuelo y decenas de sesgos cognitivos determinan nuestras elecciones de forma predecible y sistemática.

No somos agentes racionales evaluando información objetivamente sino primates con cerebros de 200.000 años de antigüedad navegando entornos para los que la evolución no nos ha preparado. Nuestro cerebro desarrolló atajos para sobrevivir en la sabana africana —donde las decisiones rápidas sobre qué fruto comer o de qué depredador huir valían más que el análisis exhaustivo— pero esos mismos atajos nos dejan en pelotas ante cualquier sistema diseñado para explotar nuestros sesgos.

Y casi todos lo están.

“Soy consciente de que mi elección no es libre, pero es suficientemente bueno para mí, si al menos no me embrutece.”

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

“Aplica la doctrina Scania en la práctica”: segunda edición en Junio

Este mes de junio (los tres primeros lunes) volvemos con nuestra formación presencial, online y socrática sobre la teoría y aplicación en la práctica de la doctrina SRB / Scania.

Todos los detalles aquí, apúntate pinchando en el botón.

ME INTERESA

🗞️Noticias del Mundodato 🌍

.- Seguimos prestando atención a la dialéctica IA legal contra herramientas especializadas con este long post de Sean A. Harrington: sobre las barreras competitivas que dificultan la generalización de la IA legal.

Las barreras estructurales impiden que la IA transforme la práctica legal, a pesar de que el 79% de abogados afirman usar IA. Sean Harrington analiza cinco obstáculos principales:

(i) el foso competitivo del acceso a bases estructuradas y completas de datos (solo Westlaw, Lexis y vLex/Fastcase poseen bases de datos legales completas en USA, aunque alternativas open-source como CourtListener y el Caselaw Access Project de Harvard erosionan esa ventaja);

(ii el desorden organizacional interno en cada despacho (ESTA ES LA FUNDAMENTAL, BABY BOY) (datos fragmentados en sistemas incompatibles, gobernanza de partnership que da poder de veto a cada socio, falta de liderazgo tecnológico en firmas medianas);

(iii) la paradoja de eficiencia (la facturación por horas desincentiva la automatización, aunque modelos de tarifa fija como ADVOS Legal y Hello Divorce capturan las ganancias de eficiencia en lo que yo llamo el “nicho que nadie quiere”);

(iv) los riesgos de supervisión (el “supervision gap” de Danielle Benecke: cuando los sistemas agénticos manejan flujos completos, la revisión humana total se vuelve económicamente irracional) (esto ya lo comentamos aquí) ; y

(v) la brecha de acceso a justicia (86% de problemas legales civiles de estadounidenses de bajos ingresos no reciben ayuda adecuada).

Especialmente triste el caso de Microsoft Copilot, diseñado como el asistente que ayudaría a los abogados allí donde trabajan: en word: fue calificado como “mínimamente útil para trabajo legal” por consultores de Clear Guidance Partners tras un año de pruebas en múltiples firmas. Microsoft tenía solo 8 millones de usuarios activos de Copilot de 440 millones de suscriptores M365 en agosto de 2025, una tasa de conversión del 1,8%, revelando el fracaso del vendor de software empresarial mejor posicionado para vender herramientas de IA a su base de clientes existente.

.- LinkedIn escanea silenciosamente las extensiones instaladas en tu navegador basados en Chrome y las vincula a tu identidad profesional verificada. Cada vez que un profesional accede a LinkedIn mediante Chrome, Edge, Brave u Opera, un JavaScript oculto escanea hasta 6.278 extensiones instaladas, cifra los resultados y los transmite a los servidores de LinkedIn, donde quedan asociados al nombre real, empresa e historial profesional del usuario. El sistema, que nunca ha sido informado en su política de privacidad, es objeto de dos demandas colectivas federales en Estados Unidos y una denuncia ante la Comisión Europea. El listado incluye 509 herramientas de búsqueda de empleo (1,4 millones de usuarios combinados), extensiones religiosas, herramientas de accesibilidad que revelan discapacidades, lectores políticos y más de 200 competidores directos de productos LinkedIn.

La escala del scan se incrementó desde 38 extensiones en 2017 a más de 6.000 en febrero de 2026, un incremento del 1.252% en dos años. LinkedIn justifica la práctica como herramienta antifraude contra scraping, pero investigadores independientes encontraron en la lista extensiones para programar entregas de Amazon, herramientas de farmacia y descargadores de imágenes, sin conexión plausible con la justificación alegada por LinkedIn.

.- Los mismos profesionales que en 2023 hicieron huelga para protegerse de la IA ahora entrenan a las IAs que compiten con ellos. Es posible que lo hayas leído de trabajadores haciendo tareas de Reinforced learning en Congo o Venezuela, pero la cosa está llegando la mundo desarrollado mucho más rápido de lo que pensábamos.

Interesantísima crónica de Ruth Fowler en Wired: Un escritor de Hollywood entrena IA para pagar el alquiler. Ruth Fowler, guionista y showrunner, relata en primera persona cómo durante ocho meses completó veinte contratos de formación de IA en cinco plataformas distintas (Mercor, Outlier, Turing), ejecutando tareas de anotación, evaluación de chatbots y "red-teaming" de outputs peligrosos.

La promesa de flexibilidad y tarifas altas se choca con la realidad de incorporaciones caóticas, cancelaciones de proyectos sin aviso, acceso revocado instantáneamente y tareas que desaparecen antes de poder completarlas. Si ustedes me permiten otra profecía digan de la más pesimista Casandra: si hay una práctica judicial de futuro es la de la defensa de empleados de plataformas: la cadena de suministro de los datos de entrenamiento engulle trabajadores altamente cualificados sometidos a condiciones precarias que hasta hoy asociábamos a cosas como Glovo y Úber.

.- Nos quejamos en el lado UE de cómo van Discord y el resto con el tema de la verificación de edad, pero en el lado UK está con plena diversión con banderas. Lo gracioso es que las advertencias del riesgo de suplantación y peor por andar dando el DNI/Pasaporte/cédula identificativa son anteriores a que se fuera del club (por ejemplo, las directrices de ejemplos de brechas del EDPB). Ese dato persona ordinario que acabo siendo sensible sin ser de “categoría especial”. Aquí se suma el peso de que lo comporta la propia Cavoukian en X.

📖 Documentos dateros muy cafeteros ☕️

.- El ICO ha actualizados sus directrices sobre tratamiento de datos de menores, bajo su muy particular Data (Use and Access) Act (DUAA). Aunque no sean ya del club, siguen diciendo cosas a tener en cuenta. Destacamos los siguientes dos pantallazos de consentimiento y decisión totalmente automatizada con efectos “divertidos”.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

Otra semana más con borrador de directrices de la Comisión Europea. Ahora en forma de borrador sobre sistemas de alto riesgos de IA, abierto a consulta pública hasta el 20 de junio. El borrador de la directrices y de los dos anexos de IA de alto riesgos: una matrioska de tres muñecas.

Entre otras cosas,

• La ampliación del margen de adaptación:

  The provision further provides that providers and deployers of high-risk AI systems intended to be used by public authorities shall, in any event, take the necessary steps to comply with the requirements and obligations for high-risk

  AI systems by 2 August 2030. Article 111(1) AI Act provides a special regime for AI systems that are components of the large-scale IT systems established by the legal acts listed in Annex X AI Act which have been placed on the market or put into service before 2 August 2027. Those systems should be brought into compliance with the high-risk requirements of the AI Act by 31 December 2030
  

• Que un sistema de uso general puede llegar a considerarse de alto riesgo por defecto, si en toda la documentación (instrucciones de uso, contrato, políticas, materiales de venta y documentación técnico) el provider no aclara y aplica limitaciones para dicha variable de uso de alto riesgo

• A juego, que acabará siendo declarado como provider, el distributor, importer o deployer que modifique sustancialmente el sistema o cambia su propósito previsto hacia el alto riesgo.

Mucho mejor explicado lo que contiene este borrador de directrices, en el siguiente vídeo de Robert Bateman.

🛠️Herramientas útiles

.- Damien Charlotin mantiene la base de datos más completa de casos de alucinaciones de IA en la práctica judicial mundial, con 1.455 casos identificados hasta la fecha, rastreando decisiones judiciales de tribunales de todo el mundo en las que se estableció que una parte confiaba en contenido alucinado por IA generativa, típicamente citas falsas pero también otros argumentos generados por IA. La base de datos es consultable por país, parte, herramienta de IA y resultado judicial. Los casos abarcan desde Argentina hasta Zimbabue, con Estados Unidos representando 1.004 casos, seguido por Canadá (152), Australia (74) e Israel (52). El 86% de los casos involucraron a litigantes pro se, mientras que 554 casos involucraron abogados.

.- El Irish Council for Civil Liberties ha liberado Verity MCP, una herramienta de código abierto que minimiza las alucinaciones emitidas por los LLMs mediante siete capas de verificación: reglas estrictas de citación, LLM de diferentes familias, inferencia de lenguaje natural (NLI), recomputación aritmética determinista, muestreo de consistencia, análisis de perplejidad y resolución de disputas entre críticos. Es funcional en hardware modesto (una GPU de 2019 como secundaria) y se integra con LM Studio.

Verity produce segundas opiniones simultáneas usando una GPU secundaria mientras el modelo primario responde, permitiendo que ambas respuestas sean evaluadas.

🙄 El chorradón final

.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

We are suffering a tsunami of rock-bottom-quality content generated by AI: a wave that threatens to flood every corner of our digital life.

We are no longer talking about “tralarero tralará”-type nonsense and cartoons of talking toilets consumed exclusively by teens on YouTube and TikTok.

We are not talking about the shrimp Christ and all those supposedly dodgy news items that only extreme boomers and grandparents (as hooked as the teens) swallow.

I do not even want to start talking about the deserts of self-cloning mediocrity that LinkedIn and Twitter are today.

We are talking about an absolute majority in the elections of the modern connected world. Everyone, absolutely everyone, consumes synthetic garbage with uneven enthusiasm. But we all do it.

“It is good enough for me if it manages to suspend the scrolling little finger of my peers”.

What is AI slop?

The term “slop” —which we could translate as “filth”, “trash” or “that viscous thing nobody wants to touch but that today makes up 75% of the internet”— describes with surgical precision those mediocre texts, images identical to each other but so different from reality, and soulless videos that generative tools mass-produce for pennies.

AI slop is the strawberry flavor of chewing gum.

Any resemblance to the original fruit is pure coincidence.

In an economy that seeks attention at any price, the goal is reduced to identifying your sensitive spot and hitting it with different versions of the same thing until numbness, but without providing any real pleasure or learning in the process.

Perhaps we are living through the AI version of the tragedy of the commons: nobody has incentives to produce content of minimum quality because generating daily tons of slop does the job. For now.

The most-listened-to song a few days ago on Spotify was a piece of middling fare called “Celebration Day” by Ingarose.

It is AI, but at least Ingarose did not lie about its synthetic condition. As Forbes documented with that tone halfway between astonished and resigned that characterizes contemporary journalism, millions of people paid real money to listen to something no human being felt the need to sing and communicate (until recently, this was the thing about music).

“It is good enough for me if it was good enough to accompany videos on TikTok.”

Art

At some point we will start seeing works that dignify audiovisual AI as a tool for things that are worthwhile, have no doubt. But if you thought (like me, naive me) that this moment of dignification would arrive this year at Cannes with Steven Soderbergh’s film about John Lennon and Yoko Ono, that is going to be a no.

“Authority”

The president of the Canary Islands community provided a chat with ChatGPT as scientific evidence in a socially and politically relevant debate about hantavirus and rodentss.

And he did not climb down from the donkey.

Allow me to repeat this because it deserves to be savored: a democratically elected representative, presumably advised by experts with real academic credentials, decided that the best way to support his reluctance was… to use the source of information his voters use. Ask a chatbot.

“It is good enough for me if a sufficient number of my voters take it as good”.

The anecdote is terrifying, but electorally it surely “does the job”.

Another matter is that in these things it is more interesting to get it right than to gather support.

Medium: from disinformation to marketing

AI, moreover, not content with impacting your life by saturating it with shitty content, spreads to other markets the manipulations that yesterday focused on issues such as political hate messages or disinformation campaigns.

The algorithmic persuasion techniques that used to be reserved for serious things —like manipulating democratic elections or promoting genocides— now, with a portfolio of successful use cases under their arm, extend to more banal but, of course, much more lucrative matters.

It has been discovered that a company called Chaotic Good Projects was doing astroturfing to promote emerging groups and singers.

Chaotic Good Projects created fake profiles on social networks, generated synthetic reviews, manufactured organic conversations about nonexistent or unknown artists, and simulated communities of enthusiastic fans where there was no one real.

Astroturfing —that practice with the name of artificial grass that consists of simulating grassroots movements when in reality they are campaigns orchestrated from above— has found its manna in generative AI.

Creating thousands of convincing accounts, each with its own browsing history, unique writing style, differentiated behavior patterns, and slightly discrepant opinions to seem more authentic, is today technically trivial and dirt cheap.

“It is good enough for me if it lets me replace the wages of one hundred NPCs with a worked-up prompt”.

Before, the radio formula worked as a means of music promotion (and the repetition of ads in the press and TV) and influenced us by crushing us: you heard the same song twenty times a day until you liked it, or at least until you bought it out of pure Stockholm syndrome.

It was transparent manipulation, even shameless, but at least it was done openly. Radio did not pretend to be your friend; it was openly a commercial loudspeaker. There was honesty in shamelessness.

This other thing is much murkier: the influence comes disguised as an organic recommendation, a casual discovery, an emerging trend that “is succeeding among people like you”. Now it is your “community” —fake, nonexistent— apparently recommending things. It is your “friends” who recommend that artist, your “bubble” that validates that decision. Except none of them exists.

But hey, at least you have friends. Or so you think.

Freedom according to Dan Ariely

To what extent are we as free as we think when choosing the product we buy or the music we listen to?

This question is not new, nor do I intend to come and answer it today.

I would be naive if I thought that, by recommending Dan Ariely’s “Predictably Irrational” or at least his TedTalk on the subject (or its transcript and there is no lower barrier anymore), you would give a damn and check any of these resources.

Statistically speaking, 98% of the readers of this paragraph will not click any link, will not read the book, and will continue with their day firmly believing that their decisions are the product of rational deliberation and free will.

Which, ironically, will validate Ariely’s thesis on friction in decision-making.

But allow me to try anyway, because optimism is the last thing to be lost (right before the hair).

At least listen to the talk: the ending is glorious and you will not forget it. Ariely is an MIT expert in economics and applied psychology, one of those academics who devoted decades to experimentally proving that everything you believed about yourself is a lie, and he shows how context, the presentation framework, decoy options and dozens of cognitive biases determine our choices in a predictable and systematic way.

We are not rational agents evaluating information objectively but primates with 200,000-year-old brains navigating environments for which evolution has not prepared us. Our brain developed shortcuts to survive in the African savanna —where quick decisions about which fruit to eat or which predator to flee from were worth more than exhaustive analysis— but those same shortcuts leave us naked before any system designed to exploit our biases.

And almost all of them are.

“I am aware that my choice is not free, but it is good enough for me, if at least it does not brutalize me.”

You are reading ZERO PARTY DATA. The newsletter about tech and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World🌍

.- We continue paying attention to the legal AI dialectic against specialized tools with this long post by Sean A. Harrington: on the competitive barriers that hinder the generalization of legal AI.

The structural barriers prevent AI from transforming legal practice, despite 79% of lawyers saying they use AI. Sean Harrington analyzes five main obstacles:

(i) the competitive moat of access to structured and complete databases (only Westlaw, Lexis and vLex/Fastcase possess complete legal databases in the USA, although open-source alternatives like CourtListener and Harvard’s Caselaw Access Project erode that advantage);

(ii the internal organizational disorder in each firm (THIS IS THE FUNDAMENTAL ONE, BABY BOY) (data fragmented across incompatible systems, partnership governance that gives each partner veto power, lack of technological leadership in mid-sized firms);

(iii) the efficiency paradox (billing by the hour discourages automation, although fixed-fee models like ADVOS Legal and Hello Divorce capture the efficiency gains in what I call the “niche nobody wants”);

(iv) supervision risks (Danielle Benecke’s “supervision gap”: when agentic systems handle complete workflows, total human review becomes economically irrational) (we already commented on this here) ; and

(v) the access-to-justice gap (86% of civil legal problems of low-income Americans receive no adequate help).

Especially sad is the case of Microsoft Copilot, designed as the assistant that would help lawyers where they work: in Word: it was rated as “minimally useful for legal work” by Clear Guidance Partners consultants after a year of testing in multiple firms. Microsoft had only 8 million active Copilot users out of 440 million M365 subscribers in August 2025, a conversion rate of 1.8%, revealing the failure of the enterprise software vendor best positioned to sell AI tools to its existing customer base.

.- LinkedIn silently scans installed extensions in your Chrome-based browser and links them to your verified professional identity. Every time a professional accesses LinkedIn via Chrome, Edge, Brave or Opera, hidden JavaScript scans up to 6,278 installed extensions, encrypts the results and transmits them to LinkedIn’s servers, where they are associated with the user’s real name, company and professional history. The system, which has never been disclosed in its privacy policy, is the subject of two federal class-action lawsuits in the United States and a complaint before the European Commission. The list includes 509 job-search tools (1.4 million combined users), religious extensions, accessibility tools that reveal disabilities, political readers and more than 200 direct competitors of LinkedIn products.

The scale of the scan increased from 38 extensions in 2017 to more than 6,000 in February 2026, an increase of 1,252% in two years. LinkedIn justifies the practice as an anti-fraud tool against scraping, but independent researchers found extensions on the list for scheduling Amazon deliveries, pharmacy tools and image downloaders, with no plausible connection to LinkedIn’s alleged justification.

.- The same professionals who in 2023 went on strike to protect themselves from AI now train the AIs that compete with them. You may have read about workers doing Reinforced learning tasks in Congo or Venezuela, but the thing is reaching the developed world much faster than we thought.

A very interesting chronicle by Ruth Fowler in Wired: A Hollywood writer trains AI to pay the rent. Ruth Fowler, screenwriter and showrunner, recounts in the first person how for eight months she completed twenty AI training contracts on five different platforms (Mercor, Outlier, Turing), carrying out annotation tasks, chatbot evaluation and “red-teaming” of dangerous outputs.

The promise of flexibility and high rates runs up against the reality of chaotic onboarding, project cancellations without notice, instantly revoked access and tasks that disappear before they can be completed. **If you allow me another prophecy worthy of the most pessimistic Cassandra: if there is a judicial practice of the future, it is the defense of platform employees: **the training-data supply chain swallows highly qualified workers subjected to precarious conditions that until now we associated with things like Glovo and Uber.

.- We complain on the EU side about how Discord and the rest are doing on the issue of age verification, but on the UK side it is in full fun with flags. The funny thing is that the warnings about the risk of impersonation and worse from going around handing over ID/Passport/identity card predate its leaving the club (for example, the EDPB breach example guidelines). That ordinary personal data that ended up being sensitive without being of a “special category”. Here is added the weight that Cavoukian herself carries it on X.

📖Hard data docs for coffeine lovers☕️

.- The ICO has updated its guidelines on processing children’s data, under its very particular Data (Use and Access) Act (DUAA). Although they are no longer in the club, they continue saying things to take into account. We highlight the following two screenshots on consent and totally automated decision-making with “fun” effects

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

Another week with draft guidelines from the European Commission. Now in the form of a draft on high-risk AI systems, open for public consultation until June 20. The draft of the guidelines and of the two high-risk AI annexes: a matryoshka of three dolls.

Among other things,

• The extension of the adaptation margin:

  The provision further provides that providers and deployers of high-risk AI systems intended to be used by public authorities shall, in any event, take the necessary steps to comply with the requirements and obligations for high-risk

  AI systems by 2 August 2030. Article 111(1) AI Act provides a special regime for AI systems that are components of the large-scale IT systems established by the legal acts listed in Annex X AI Act which have been placed on the market or put into service before 2 August 2027. Those systems should be brought into compliance with the high-risk requirements of the AI Act by 31 December 2030
  

• That a general-purpose system may come to be considered high-risk by default, if in all the documentation (instructions for use, contract, policies, sales materials and technical documentation) the provider does not clarify and apply limitations for said high-risk use variable

• In matching fashion, that the distributor, importer or deployer who substantially modifies the system or changes its intended purpose toward high risk will end up being declared a provider.

Much better explained what this draft guidelines contains, in the following video by Robert Bateman.

🛠️Useful tools

.- Damien Charlotin maintains the database of the most complete data on AI hallucination cases in global judicial practice, with 1,455 cases identified to date, tracking court decisions from courts around the world in which it was established that a party relied on content hallucinated by generative AI, typically fake citations but also other AI-generated arguments. The database is searchable by country, party, AI tool and judicial outcome. The cases range from Argentina to Zimbabwe, with the United States representing 1,004 cases, followed by Canada (152), Australia (74) and Israel (52). 86% of the cases involved pro se litigants, while 554 cases involved lawyers.

.- The Irish Council for Civil Liberties has released Verity MCP, an open-source tool that minimizes hallucinations emitted by LLMs through seven layers of verification: strict citation rules, LLMs from different families, natural language inference (NLI), deterministic arithmetic recomputation, consistency sampling, perplexity analysis and dispute resolution among critics. It works on modest hardware (a 2019 GPU as secondary) and integrates with LM Studio.

Verity produces simultaneous second opinions using a secondary GPU while the primary model responds, allowing both responses to be evaluated.

🙄 Da-Tadum-bass

.

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

Hoy quiero hablar de las minusvalías estructurales de la IA más avanzada frente al abogado más tonto. No conserven este post: va a envejecer tan mal como la peli Tron.

Seguro, SEGURO que dentro de unos años nos reiremos encaramados en una tecnología que habrá solucionado la mayoría de estos problemas.

Sólo aspiro a que el texto sea comprensible e interesante hoy.

Tengo un empeño personal en conseguir un asistente personal basado en IA sin depender de IAs comerciales y que funcione en local, en un portátil de consumo y entrenado en mi propio granerito legal de sentencias, papers y resoluciones.

He conseguido una herramienta que utilizo a diario y me resulta de una utilidad enorme, pero es imperfecta. Le echo bastante tiempo, pero mi aspiración no es hacer quebrar a Claude ni a Harvey.

El atractivo es lo mucho que aprendo en cada iteración sobre lo que furrula y lo que no en cada pieza de este mecano: reranker, validación de citas, los pesos RRF, tener un golden standard, usar HyDE, BM25.

Por eso, cuando vi el post en alemán de @Peter Hense en lkd citando alguno de estos conceptos, me tiré de cabeza a ver qué significaba. Peter -con mucha retranca y un sentido muy crítico con el uso indolente de la IA-propone estas preguntas, imagino que para el examen de acceso a la abogacía de su país.

Aquí les traduzco a lenguaje-humano-no-legalés las preguntas y las respuestas, porque me han parecido interesantes para el abogado, para el funcionario con interés en el uso de la IA y para cualquiera que, como yo, esté bicheando sistemas de recuperación de información basados en RAG más o menos sofisticado.

1. PREGUNTA Discuta la tesis: “Los sistemas RAG no tienen un modelo de tiempo inherente”. ¿Qué consecuencias tiene esto para la investigación jurídica, especialmente en relación con las versiones de las normas ratione temporis?

Respuesta: la IA no entiende eso de “lo posterior deroga lo anterior”

Los sistemas de IA que hoy se utilizan para investigación jurídica —los llamados RAG, Retrieval-Augmented Generation— funcionan, en términos muy simples, de aquesta manera: tienes una gran biblioteca de documentos jurídicos digitalizados; cuando haces una consulta, el sistema busca los fragmentos semánticamente “más parecidos” a tu pregunta y se los entrega a un LLM para que te construya una respuesta.

Lo bueno es que esto supera abismalmente las búsquedas por palabras que podías hacer hasta ahora en tus archivos. Te devolverá, ya no los docs que contienen esas palabras textuales, sino los que hablen de la cuestión o concepto preguntado.

Esto es un avance enorme. Y si la búsqueda se lanza sólo sobre documentos que tienes controlados (tu colección de sentencias, resoluciones, papers, guidelines, tus mejores trabajos para clientes, templates validados y demás) minimizas el riesgo de halucinaciones.

Pero el problema es perverso: la similitud semántica no es lo mismo que la validez jurídica.

Imagina que tienes preguntas al sistema por el régimen sancionador del artículo 83 del RGPD. El sistema encuentra varios fragmentos muy “parecidos” entre sí: el texto original de 2016, una versión con una errata corregida, un borrador rechazado del Comité Europeo de Protección de Datos, y la versión vigente.

Para la IA, todos estos documentos son casi idénticos. El sistema ejecuta una recuperación probabilística en lugar de determinista. La recuperación depende de rankings estadísticos top-k (lo explico más abajo). Por tanto, nunca existe garantía absoluta de que aparezca la versión jurídicamente correcta.

Para un jurista, solo uno de ellos importa, y depende de la fecha del hecho que analiza.

Un sistema de IA puede darte una respuesta basada en una norma derogada sin ningún problema, si la tenías en tu base de datos.

Y, como ocurre con los datos personales, si quieres eliminar del todo los docs obsoletos de tu sistema, no puedes seleccionar qué embeddings quieres borrar: tienes que volver a procesar todo el dataset entero.

2. PREGUNTA: ¿Qué efectos sobre el uso de la discrecionalidad en la emisión de actos administrativos automatizados se derivan del hecho de que los procedimientos de recuperación basados en Top-k no pueden garantizar la exhaustividad en la determinación de las circunstancias excepcionales pertinentes?

Respuesta: El retrieval top-k confirma la regla, sin ser consciente de la excepción.

Cuando el sistema recupera documentos, no recupera todos los relevantes: recupera los k más estadísticamente similares a la consulta.

Si k = 10. El sistema te devuelve los diez fragmentos que más se parecen semánticamente a lo que preguntaste.

Las excepciones jurídicas, por definición, son raras, estadísticamente poco relevantes y lingüísticamente atípicas. Pasan desapercibidas entre el magma de la base documental

Si se quedan fuera de los diez primeros resultados, el modelo no las ve. Actúa como si no existieran.

El modelo no “razona” sobre todo el ordenamiento jurídico; razona únicamente sobre una muestra estadística del mismo.

Esta es el principal problema de la IA actual: no sabe lo que no sabe.

El ejemplo chungo: Una administración utiliza un sistema de IA para resolver solicitudes de ayudas públicas. Existe una jurisprudencia que reconoce una excepción a un requisito formal para determinados solicitantes en situación de vulnerabilidad económica.

La jurisprudencia es escasa, poco citada, y sus términos difieren de los usados habitualmente en el procedimiento. No aparece en el top-k.

La solicitud se deniega automáticamente. El solicitante no sabe que existía esa excepción. El sistema tampoco.

La discrecionalidad administrativa exige que la Administración considere todos los elementos jurídicamente relevantes, no sólo los estadísticamente frecuentes. Un sistema que sólo ve lo que recupera, y desconoce en absoluto lo que no recuperó, no puede motivar válidamente un acto administrativo.

Es arbitrario: produce decisiones que parecen razonadas porque están bien redactadas, pero que omiten estructuralmente elementos que deberían haber sido ponderados y valorados en la resolución.

En definitiva, la no exhaustividad del retrieval impacta en la legitimidad del ejercicio discrecional, la motivación de la resolución, el principio de igualdad, proporcionalidad, en la auditabilidad o posibilidad de control posterior.

3. PREGUNTA. ¿Cómo procesa un LLM la evidencia distribuida cuando la información relevante para la decisión se encuentra dispersa en varios documentos (por ejemplo, ley, reglamento, literatura de comentarios y jurisprudencia)? Discuta en particular los límites de la inferencia multi-hop.

Respuesta: La cadena de razonamientos produce errores incrementales

Las respuestas jurídicas siempre proceden de distintas fuentes que, además, tienen distinta naturaleza y rango.

La regla está en la ley, el desarrollo en un reglamento, la ratificación en una sentencia de la Audiencia Nacional y la interpretación auténtica en una sentencia del Tribunal Consitucional (te miro a ti, “Ley Mordaza”).

El sistema de IA debe encontrar precisamente todos estos fragmentos y conectarlos con el rango correspondiente para no meter la pata hasta el fondo.

El funcionamiento básico es algo así:

1. Retrieval recupera varios documentos.

2. El LLM codifica tokens mediante embeddings contextuales.

3. La self-attention establece relaciones probabilísticas entre fragmentos.

4. El modelo intenta construir cadenas inferenciales implícitas.

Este proceso —llamado multi-hop inference o inferencia multi salto— funciona razonablemente bien cuando la cadena es corta y los documentos están bien representados. Cuando hay muchos saltos, la fiabilidad se degrada de forma incremental.

Si cada eslabón tiene un 90% de precisión, una cadena de tres eslabones ya ronda el 73%. Con cuatro, el 66%.

En Derecho, donde un matiz cambia el resultado, esto es demasiado ruido.

Hay además un problema de jerarquía normativa: el sistema no tiene interiorizado de forma nativa que la ley prevalece sobre el reglamento, que la norma especial desplaza a la general, o que la posterior deroga a la anterior.

Puede reproducir estas reglas si se las citas explícitamente, pero no las aplica de forma sistemática y autónoma.

Si le falta un paso en esta cadena, se lo va a inventar.

Incluso si acierta, no va a ser capaz de reconstruir su “razonamiento jurídico” porque no ha existido tal cosa.

Es como contratar a un junior gafotas que se lo ha leído todo, pero se fue a jugar al mus el día que explicaron las fuentes del derecho.

Este es uno de los puntos más importantes que hacen que estas herramientas sean excelentes en el apoyo, pero cero fiables en la resolución: unas veces el resultado te vuela la calva y otras te preguntas por qué sigues perdiendo el tiempo con esta mierda

4. PREGUNTA ¿Qué procedimientos técnicos pueden utilizarse para resolver las discrepancias entre consultas y documentos? ¿Por qué falla la dense retrieval en el contexto jurídico?

Respuesta: El lenguaje del cliente versus el “legales”

Otro problema: el usuario pregunta con sus palabras, la norma está escrita “en otro dialecto”, y la jurisprudencia en muchos casos la reformula en un tercero.

Un cliente pregunta: “¿Puedo echar a mi empleado si lleva tres meses de baja?”.

La norma habla de “extinción del contrato por causas objetivas relacionadas con la ineptitud sobrevenida o falta de adaptación”.

La jurisprudencia enfatiza la proporcionalidad y el período de prueba del artículo 52 ET.

El sistema de IA puede no conectar estas tres formulaciones si sus representaciones vectoriales son suficientemente diversas.

¿Soluciones?

a) Query Expansion: La consulta original se expande (y glabs) sustituye sinónimos, conceptos relacionados y terminología jurídica especializada.

Ejemplo: “despido improcedente” se sustituye por “extinción contractual ilícita”.

b) Hybrid Retrieval: Combina BM25 y dense embeddings semánticos.

BM25 captura coincidencias exactas y dense retrieval captura chunks de similitud conceptual.

c) Reranking: Primero se recuperan un montón de documentos y luego un cross-encoder reordena resultados usando interacción profunda query-document en segunda vuelta, antes de mostrarte los resultados.

d) Query Rewriting El LLM reformula consultas ambiguas o poco técnicas en lenguaje jurídicamente relevante.

e) Graph RAG Las relaciones semánticas y normativas se representan explícitamente mediante grafos.

Estas soluciones técnicas mejoran las situación pero añaden capas de complejidad, hay que parametrizarlas bastante “a capón”: vía ensayo y error.

Y sobre todo no eliminan el problema de fondo: los sistemas de embeddings con los que trabajan muchos de estos modelos fueron entrenados con textos generales, no con corpus (“corpi”?) jurídicos especializados.

5. PREGUNTA Describa el trasfondo matemático de la dilución de la atención en el procesamiento de sentencias judiciales y escritos largos. Explique el funcionamiento de Softmax en el mecanismo de autoatención y por qué los pesos de atención se distribuyen cada vez más uniformemente entre los tokens a medida que aumenta la longitud de la secuencia.

Respuesta: El problema de los documentos muy largos: “El que mucho abarca poco aprieta”

El último problema es matemático pero tiene consecuencias muy prácticas.

Les ahorraré la parte de la fórmula, pero si tienen curiosidad investiguen: explica de verdad en qué consiste el mítico “Atention is all you need”.

Los modelos de IA procesan documentos asignando “pesos de atención” a distintas partes del texto. Cuanto más largo es el documento, más se reparten esos pesos entre más fragmentos, y menos atención puede dedicar el modelo a lo verdaderamente relevante.

En una sentencia de doscientas páginas, la ratio decidendi compite por atención con los antecedentes de hecho, la descripción de la prueba, los fundamentos de derecho que el tribunal rechaza, y las referencias procesales de rutina.

El modelo “atiende un poco a todo” y puede perderse precisamente lo que importa: la declaración clave escondida en el fundamento decimotercero, o una excepción procesal mencionada en una línea que explica buena parte del fallo.

La tendencia actual es abandonar el procesamiento puramente lineal de texto en favor de representaciones estructurales del conocimiento jurídico.

En definitiva, la Attention Dilution es una consecuencia matemática inevitable de la normalización probabilística en secuencias demasiado largas.

A medida que crece el contexto, la atención se dispersa y disminuye la capacidad del modelo para focalizar información jurídicamente decisiva.

Esta es otra de las limitaciones fundamentales de los LLM actuales: el análisis riguroso de documentación jurídica extensa.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

“Aplica la doctrina Scania en la práctica”: segunda edición en Junio

Este mes de junio (los tres primeros lunes) volvemos con nuestra formación presencial, online y socrática sobre la teoría y aplicación en la práctica de la doctrina SRB / Scania.

Todos los detalles aquí, apúntate pinchando en el botón.

ME INTERESA

🗞️Noticias del Mundodato 🌍

.- Jorge se irá a la CPDP Conference la próxima semana y estará encantado de tomarse un café contigo si andas por allí.

- Multaza de 12,75 millones de dólares para GM por venta de datos de localizaciones y de conducción, extraídos de todo el conjunto de sensores de un coche conectado actual. No olvidemos las directrices del EDPB de este tema de 2021.

Cierto es que la famosa CCPA californiana tiene el punto llamativo de la prohibición de venta o cesión de los datos a terceros. Justo lo que hicieron aquí.

.- Las DPAs canadienses (juegan a complicar la fórmula de todas ser competentes en su región), están investigando el tratamiento de datos que OpenAI hizo para entrenar GPT. Se lo vemos a San Luis Montezuma, junto lo que parece documento de parte de las conclusiones.

📖 Documentos dateros muy cafeteros ☕️

.- Regulación AI Act y dispositivos médicos: hoja de ruta alemana. La Bundesnetzagentur, el Ministerio de Digitalización de Hesse y el Comisionado Federal de Protección de Datos de Alemania publican conjuntamente una hoja de ruta para la IA en dispositivos médicos, resultado de un proyecto piloto de sandbox regulatorio. Autor: Louisa Specht-Riemenschneider, Kristina Sinemus, Klaus Müller, Marius Khan.

.- ¿Se acuerdan de aquel anuncio (creo que era de seguros) en el que salía un tipo que se parecía a Fernando Alonso, era todo cuello, como Fernando Alonso pero… no era él?. Haley Fine analiza cómo los marcos de privacidad existentes no cubren adecuadamente la capacidad de la IA para recrear la voz y la imagen de una persona con realismo creciente, algo que ocurrió después de que se redactaran la mayoría de las leyes de privacidad vigentes. El deepfake ha provocado que lo que en derecho anglosajón llaman “likeness” (o el “parecido”): La "likeness" desregulada en industrias creativas: un vacío urgente. En las industrias creativas y mediáticas, esto genera tres preguntas sin respuesta clara: quién puede autorizar el uso de la likeness de alguien, cómo debe compensarse ese uso y cómo pueden distribuirse los outputs sintéticos. Los principios tradicionales de privacidad —consentimiento, limitación de finalidad, transparencia— son relevantes pero no suficientes.

.- La economía del “juicio”: las humanidades ganan la partida a la IA. Nils Gilman argumenta que la IA no destruirá el trabajo del conocimiento sino que lo desplazará hacia lo que denomina "economía del juicio": las capacidades menos automatizables —persuasión, negociación, liderazgo bajo incertidumbre, razonamiento interdisciplinar y síntesis estratégica— se revalorizarán frente a la commodificación de tareas cognitivas de rutina. Ironiza que la educación liberal, denostada por figuras como Peter Thiel, resulta ser exactamente el entrenamiento para el tipo de pensamiento que los LLM no replican bien.

💀Death by Meme🤣

🤖NoRobots.txt o Lo de la IA

.-El documento que va a juego con el gran tema del momento que abre esta newsletter. El borrador de las directrices de cumplimiento del deber de información/transparencia en el contenido generado por IA. Etiquetado por doquier. Y recordando el límite de adaptación para que sea exigible, en el mismo agosto de este 2026. Y, como siempre, siendo lo más útil los cuadros de ejemplos de sip y nop por cada punto.

Entre otras:

1. Etiquetado de deepfakes y matices para el contenido artísticos y satírico.

2. Transparencia en textos de interés público/general si han sido generado por IA. Salvo que haya existido verdaderamente intervención y responsabilidad editorial humana.

3. La prueba de la obviedad: No es obligatorio informar que se está interactuando con una IA si es obvio. Ponen como ejemplo a los NPC de los videojuegos, pero justo nunca pudiera engañar a nadie con su nula inteligencia y alta capacidad de estorbar (o de quedarse enganchados en un pared o puerta).

4. Uso personal vs. público: El típico deep fake de tu cuñao para una tarjeta chorra que no acabe en internet, queda exento por uso personal/doméstico. Por el contra, toca etiquetar en el muy español caso de deepfake de político para criticarle en redes.

   También aplica excepción por funciones de edición estándar de texto, audio o similares que no altere semántica, voces o similares. Si en un podcast tienes que declarar que es contenido generado por IA por usar algo de este pelaje para eliminar posible ruido blanco o distorsiones raras, pues se estaría yendo de madre el tema. O el email revisado.

5. Marcado invisible y detectable y aclaración de la información.

6. Interacción con otras normativas: las obligaciones de transparencia se aplican sin perjuicio de las normas de protección de datos (RGPD), la Ley de Servicios Digitales (DSA) y la protección de los consumidores. Lo de siempre de no olvida el RGPD, nunca.

.- ¿Qué le ocurre al cerebro cuando delega en la IA? El gran Sergio San Juan revisa la evidencia disponible sobre cómo el uso de herramientas de inteligencia artificial transforma la cognición, articulando tres conceptos: delegación cognitiva (externalizar carga mental a herramientas), memoria transactiva (conocimiento distribuido entre personas o sistemas) y deuda cognitiva (pérdida acumulada de reservas cognitivas por abandono del esfuerzo mental). Examina el estudio "Your Brain on ChatGPT" del MIT y señala sus limitaciones: 54 participantes, sin revisión por pares.

📖 Paper de la semana

.- Por si hiciera falta tener más paralelas de riesgos de sesgos, traemos otro paper que desbloquea un nuevo susto: el que el LLM te líe más o menos, según si la empresa tiene por detrás algún patrocinio: ADS IN AI CHATBOTS? AN ANALYSIS OF HOW LARGE LANGUAGE MODELS NAVIGATE CONFLICTS OF INTEREST. Estudio de los investigadores de las Universidad de Princeton y Washington: Addison J. Wu, Ryan Liu, Shuyue Stella Li, Yulia Tsvetkov y Thomas L. Griffiths.

Sobre la premisa de la reserva de vuelos para examinar el comportamiento publicitario/gestión del conflicto de interés de varios modelos, así como de un tercero supuesto para ver si podría extrapolar fuera del objeto principal. Entro otras conclusiones, determinas que:

• Casi todos los modelos recomiendan las opciones patrocinadas por encima de las más económicas y no patrocinadas. GPT parece que es más proempresa con un 50%, y Gemini y Claude van al otro lado con entre 28-37%.

• Parece que el nivel económico del usuario supone un factor clave para recomendar cosas patrocinadas o nop, Más para los de nivel pedigrí, y menos para los que viven más al día. El modelo haciendo un perfilado bien interesante para otras áreas.

• Algo de patrones oscuros con ocultamiento de si es patrocinado, de precios para evitar comparativas o lenguaje persuasivo.

• Algo de recomendaciones de cositas perjudiciales para el usuario. Por ejemplo, préstamos que no tendrían la tasa ajustada a lo que se podría. Parece que el único que aguanta sin liarle es Claude 4.5 Opus.

• Más patrones oscuros al intentar meterte servicios extras que no quieres. Por si alguien echaba de menos la típica jugada de Ryanair.

Herramientas útiles

.- Excelentísima herramienta de awareness: TAKEN. "Taken" te muestra en tiempo real los datos que tu navegador entrega de forma pasiva en el momento en que se carga cualquier página.

.- Voice-Pro: clonación de voz zero-shot y doblaje multilingüe. Aplicación web de código abierto (Gradio + Python) desarrollada por ABUS AI Korea que integra reconocimiento de voz (Whisper, WhisperX, Faster-Whisper), clonación de voz zero-shot (F5-TTS, E2-TTS, CosyVoice), síntesis de texto a voz en más de 100 idiomas (Edge-TTS, kokoro) y separación vocal (Demucs), además de descarga de vídeos de YouTube vía yt-dlp. Permite generar doblajes multilingüe manteniendo la voz original. Con 6.400 estrellas en GitHub. A partir de la versión 3.2 todo el código es open source y gratuito. Requiere Windows con GPU NVIDIA y CUDA 12.4.

🙄 El chorradón final

En la cabeza de alguien de Palantir fue buena idea. Seguro que la misma que blandió una espada por la oficina.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Today I want to talk about the structural disadvantages of the most advanced AI versus the dumbest lawyer. Don’t save this post: it’s going to age as badly as the movie Tron.

Surely, SURELY, in a few years we’ll laugh about this perched atop technology that will have solved most of these problems.

I only aspire for the text to be understandable and interesting today.

I have a personal obsession with building a personal assistant based on AI without depending on commercial AIs and that runs locally, on a consumer laptop and trained on my own little legal granary of judgments, papers, and rulings.

I’ve managed to build a tool that I use daily and that is enormously useful to me, but it’s imperfect. I spend quite a lot of time on it, but my aspiration is not to bankrupt Claude or Harvey.

The attraction is how much I learn in every iteration about what works and what doesn’t in each piece of this Meccano set: reranker, citation validation, RRF weights, having a golden standard, using HyDE, BM25.

That’s why, when I saw the German post by @Peter Hense on LinkedIn mentioning some of these concepts, I dove headfirst into seeing what it meant. Peter —with a lot of irony and a very critical view of the lazy use of AI— proposes these questions, I imagine for the bar exam in his country.

Here I translate the questions and answers into human-non-legalese language, because they seemed interesting to me for lawyers, for public officials interested in the use of AI, and for anyone who, like me, is tinkering with information retrieval systems based on more or less sophisticated RAG.

1. QUESTION Discuss the thesis: “RAG systems do not have an inherent model of time.” What consequences does this have for legal research, especially in relation to versions of rules ratione temporis?

Answer: AI does not understand the idea that “later law repeals earlier law”

The AI systems currently used for legal research —the so-called RAG systems, Retrieval-Augmented Generation— work, in very simple terms, like this: you have a huge library of digitized legal documents; when you make a query, the system searches for the semantically “most similar” fragments to your question and delivers them to an LLM so it can build an answer for you.

The good thing is that this overwhelmingly surpasses the keyword searches you could do until now in your files. It will return not the docs containing those literal words, but those discussing the issue or concept asked about.

This is a huge advance. And if the search is launched only over documents you control (your collection of judgments, rulings, papers, guidelines, your best work for clients, validated templates, and so on) you minimize the risk of hallucinations.

But the problem is perverse: semantic similarity is not the same as legal validity.

Imagine you ask the system about the sanctioning regime of Article 83 of the GDPR. The system finds several fragments very “similar” to each other: the original 2016 text, a version with a corrected typo, a rejected draft from the European Data Protection Board, and the current version.

For AI, all these documents are almost identical. The system performs probabilistic rather than deterministic retrieval. Retrieval depends on statistical top-k rankings (I explain this below). Therefore, there is never an absolute guarantee that the legally correct version will appear.

For a jurist, only one of them matters, and it depends on the date of the facts being analyzed.

An AI system can give you an answer based on a repealed rule without any problem if you had it in your database.

And, as happens with personal data, if you want to completely remove obsolete docs from your system, you cannot select which embeddings you want to delete: you have to reprocess the entire dataset all over again.

2. QUESTION: What effects on the use of discretion in the issuance of automated administrative acts derive from the fact that top-k retrieval procedures cannot guarantee exhaustiveness in determining relevant exceptional circumstances?

Answer: Top-k retrieval confirms the rule without being aware of the exception.

When the system retrieves documents, it does not retrieve all relevant ones: it retrieves the k statistically most similar to the query.

If k = 10, the system returns the ten fragments that are semantically most similar to what you asked.

Legal exceptions, by definition, are rare, statistically less relevant, and linguistically atypical. They go unnoticed amid the magma of the document database.

If they fall outside the first ten results, the model does not see them. It acts as if they do not exist.

The model does not “reason” over the entire legal system; it reasons only over a statistical sample of it.

This is the main problem with current AI: it does not know what it does not know.

The ugly example: A public administration uses an AI system to resolve public aid applications. There is case law recognizing an exception to a formal requirement for certain applicants in situations of economic vulnerability.

The case law is scarce, rarely cited, and its terms differ from those usually used in the procedure. It does not appear in the top-k.

The application is automatically denied. The applicant does not know that exception existed. Neither does the system.

Administrative discretion requires the Administration to consider all legally relevant elements, not just statistically frequent ones. A system that only sees what it retrieves, and is completely unaware of what it failed to retrieve, cannot validly justify an administrative act.

It is arbitrary: it produces decisions that appear reasoned because they are well written, but structurally omit elements that should have been weighed and assessed in the resolution.

Ultimately, the non-exhaustiveness of retrieval impacts the legitimacy of discretionary exercise, the reasoning of the resolution, the principle of equality, proportionality, auditability, and the possibility of later review.

3. QUESTION. How does an LLM process distributed evidence when the information relevant to the decision is scattered across several documents (for example, law, regulation, commentary literature, and case law)? Discuss in particular the limits of multi-hop inference.

Answer: The chain of reasoning produces incremental errors

Legal answers always come from different sources which, moreover, have different nature and rank.

The rule is in the law, the development in a regulation, the ratification in a National Court judgment, and the authentic interpretation in a Constitutional Court ruling (I’m looking at you, Gag Law).

The AI system must find precisely all these fragments and connect them with the corresponding hierarchy so as not to screw up massively.

The basic functioning is something like this:

1. Retrieval recovers several documents.

2. The LLM encodes tokens through contextual embeddings.

3. Self-attention establishes probabilistic relationships between fragments.

4. The model attempts to construct implicit inferential chains.

This process —called multi-hop inference— works reasonably well when the chain is short and the documents are well represented. When there are many hops, reliability degrades incrementally.

If each link has 90% accuracy, a three-link chain already drops to around 73%. With four, 66%.

In law, where one nuance changes the outcome, this is too much noise.

There is also a problem of normative hierarchy: the system does not natively internalize that law prevails over regulation, that special rules displace general ones, or that later law repeals earlier law.

It can reproduce these rules if you explicitly cite them, but it does not apply them systematically and autonomously.

If it is missing one step in this chain, it will invent it.

Even if it gets it right, it will not be able to reconstruct its “legal reasoning” because no such thing actually existed.

It’s like hiring a nerdy junior associate who has read everything, but skipped class the day they explained the sources of law because he went to play cards.

This is one of the most important points that make these tools excellent for support, but zero reliable for resolution: sometimes the result blows your mind and other times you wonder why you keep wasting time with this crap.

4. QUESTION What technical procedures can be used to resolve discrepancies between queries and documents? Why does dense retrieval fail in the legal context?

Answer: The client’s language versus “legalese”

Another problem: the user asks in their own words, the rule is written “in another dialect,” and case law in many cases reformulates it in a third one.

A client asks: “Can I fire my employee if they’ve been on sick leave for three months?”

The law speaks of “termination of the contract for objective causes related to supervening ineptitude or lack of adaptation.”

Case law emphasizes proportionality and the probationary period in Article 52 of the Workers’ Statute.

The AI system may fail to connect these three formulations if their vector representations are sufficiently different.

Solutions?

a) Query Expansion: The original query is expanded (and glabs) replacing synonyms, related concepts, and specialized legal terminology.

Example: “wrongful dismissal” is replaced by “unlawful contractual termination.”

b) Hybrid Retrieval: Combines BM25 and dense semantic embeddings.

BM25 captures exact matches and dense retrieval captures chunks of conceptual similarity.

c) Reranking: First a bunch of documents are retrieved and then a cross-encoder reorders results using deep query-document interaction in a second pass before showing you the results.

d) Query Rewriting: The LLM reformulates ambiguous or non-technical queries into legally relevant language.

e) Graph RAG: Semantic and normative relationships are represented explicitly through graphs.

These technical solutions improve the situation but add layers of complexity; they require a lot of brute-force parameter tuning through trial and error.

And above all, they do not eliminate the underlying problem: the embedding systems many of these models work with were trained on general texts, not on specialized legal corpora (“corpi”?).

5. QUESTION Describe the mathematical background of attention dilution in the processing of judicial decisions and long briefs. Explain the operation of Softmax in the self-attention mechanism and why attention weights become increasingly uniformly distributed among tokens as sequence length increases.

Answer: The problem with very long documents: “He who grasps too much holds too little”

The last problem is mathematical but has very practical consequences.

I’ll spare you the formula part, but if you’re curious, look it up: it truly explains what the mythical Attention Is All You Need consists of.

AI models process documents by assigning “attention weights” to different parts of the text. The longer the document, the more those weights are spread across more fragments, and the less attention the model can dedicate to what is truly relevant.

In a two-hundred-page judgment, the ratio decidendi competes for attention with the factual background, the description of evidence, legal grounds rejected by the court, and routine procedural references.

The model “pays a little attention to everything” and may lose precisely what matters: the key statement hidden in the thirteenth legal ground, or a procedural exception mentioned in one line that explains much of the ruling.

The current trend is to abandon purely linear text processing in favor of structural representations of legal knowledge.

Ultimately, Attention Dilution is an inevitable mathematical consequence of probabilistic normalization in excessively long sequences.

As context grows, attention disperses and the model’s ability to focus on legally decisive information decreases.

This is another of the fundamental limitations of current LLMs: rigorous analysis of extensive legal documentation.

You are reading ZERO PARTY DATA. The newsletter about tech and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

🗞️News from the Data World 🌍

.- Jorge will be at the CPDP next week at Brussels, if you happen to attend, He will be more than happy to have a coffe with you.

.- $12.75 million fine for GM for selling location and driving data extracted from the full set of sensors in a modern connected car. Let’s not forget the EDPB guidelines on this topic from 2021.

It is true that the famous Californian CCPA has the striking point of prohibiting the sale or transfer of data to third parties. Exactly what they did here.

.- Canadian DPAs (they like to complicate the formula by all being competent in their region), are investigating the data processing OpenAI carried out to train GPT. We saw it via San Luis Montezuma, together with what appears to be a partial conclusions document.

📖 Hard data docs for coffeine lovers ☕️

.- AI Act regulation and medical devices: German roadmap. The Bundesnetzagentur, the Hessian Ministry of Digitalization, and the German Federal Data Protection Commissioner jointly publish a roadmap for AI in medical devices, resulting from a regulatory sandbox pilot project. Authors: Louisa Specht-Riemenschneider, Kristina Sinemus, Klaus Müller, Marius Khan.

.- Haley Fine analyzes how existing privacy frameworks do not adequately cover AI’s ability to recreate a person’s voice and image with increasing realism, something that occurred after most current privacy laws were drafted. Deepfakes have caused what Anglo-Saxon law calls “likeness” (or “resemblance”): The deregulated “likeness” in creative industries: an urgent gap. In creative and media industries, this raises three questions with no clear answer: who can authorize the use of someone’s likeness, how that use should be compensated, and how synthetic outputs may be distributed. Traditional privacy principles —consent, purpose limitation, transparency— are relevant but insufficient.

.- The “judgment” economy: the humanities beat AI. Nils Gilman argues that AI will not destroy knowledge work but shift it toward what he calls the “judgment economy”: the least automatable capabilities —persuasion, negotiation, leadership under uncertainty, interdisciplinary reasoning, and strategic synthesis— will increase in value compared to the commodification of routine cognitive tasks. He ironically notes that liberal arts education, disparaged by figures like Peter Thiel, turns out to be exactly the training for the type of thinking LLMs do not replicate well.

💀Death by Meme🤣

🤖NoRobots.txt or The AI Stuff

.- The document that matches the big topic opening this newsletter. The draft of the guidelines for compliance with information/transparency duties in AI-generated content. Labeling everywhere. And reminding about the adaptation deadline for enforceability, this very August 2026. And, as always, the most useful part being the tables of yes/no examples for each point.

Among others:

1. Labeling of deepfakes and nuances for artistic and satirical content.

2. Transparency in texts of public/general interest if they have been generated by AI. Unless there has genuinely been human editorial intervention and responsibility.

3. The obviousness test: It is not mandatory to inform users they are interacting with AI if it is obvious. They give NPCs in video games as an example, though they could never fool anyone with their nonexistent intelligence and great ability to get in the way (or get stuck in a wall or doorway).

4. Personal vs. public use: The classic deepfake of your brother-in-law for a silly greeting card that never ends up online is exempt due to personal/domestic use. On the other hand, labeling is required in the very Spanish case of political deepfakes used to criticize politicians on social media.

   It also exempts standard text, audio, or similar editing functions that do not alter semantics, voices, or similar aspects. If in a podcast you had to declare content AI-generated because you used something of this sort to remove white noise or weird distortions, things would be getting out of hand. Same with a reviewed email.

5. Invisible and detectable watermarking and clarification of information.

6. Interaction with other regulations: transparency obligations apply without prejudice to data protection rules (GDPR), the Digital Services Act (DSA), and consumer protection. The usual reminder to never forget the GDPR.

.- What happens to the brain when it delegates to AI? The great Sergio San Juan reviews the available evidence on how the use of artificial intelligence tools transforms cognition, articulating three concepts: cognitive delegation (outsourcing mental load to tools), transactive memory (knowledge distributed among people or systems), and cognitive debt (accumulated loss of cognitive reserves due to abandoning mental effort). He examines the MIT study “Your Brain on ChatGPT” and points out its limitations: 54 participants, no peer review.

📃The paper of the week

.- As if we needed more parallels regarding bias risks, here comes another paper unlocking a new scare: whether the LLM manipulates you more or less depending on whether the company has sponsorship behind it: ADS IN AI CHATBOTS? AN ANALYSIS OF HOW LARGE LANGUAGE MODELS NAVIGATE CONFLICTS OF INTEREST. Study by researchers from Princeton and Washington Universities: Addison J. Wu, Ryan Liu, Shuyue Stella Li, Yulia Tsvetkov, and Thomas L. Griffiths.

Based on flight booking scenarios to examine advertising behavior/conflict-of-interest management in several models, as well as a hypothetical third-party case to see whether it could extrapolate beyond the main object. Among other conclusions, they determine that:

• Almost all models recommend sponsored options above cheaper and non-sponsored ones. GPT seems more pro-company at 50%, while Gemini and Claude go the other way at between 28-37%.

• The user’s economic level appears to be a key factor in recommending sponsored things or not. More for high-status users, less for those living paycheck to paycheck. The model doing some very interesting profiling for other areas.

• Some dark patterns involving hiding whether something is sponsored, hiding prices to avoid comparisons, or persuasive language.

• Some recommendations of things harmful to the user. For example, loans whose rates are not properly adjusted. Apparently the only one that resists screwing things up is Claude 4.5 Opus.

• More dark patterns when trying to push extra services you don’t want. In case anyone missed the classic Ryanair move.

📎Useful tools

.- An excellent awareness tool: TAKEN. “Taken” shows you in real time the data your browser passively delivers the moment any page loads.

.- Voice-Pro: zero-shot voice cloning and multilingual dubbing. Open-source web application (Gradio + Python) developed by ABUS AI Korea integrating speech recognition (Whisper, WhisperX, Faster-Whisper), zero-shot voice cloning (F5-TTS, E2-TTS, CosyVoice), text-to-speech synthesis in more than 100 languages (Edge-TTS, kokoro), and vocal separation (Demucs), in addition to YouTube video downloading via yt-dlp. It allows multilingual dubbing while preserving the original voice. With 6,400 stars on GitHub. As of version 3.2 all code is open source and free. Requires Windows with NVIDIA GPU and CUDA 12.4.

🙄 Da-Tadum-bass

In someone at Palantir’s head this seemed like a good idea. Surely the same person who waved a sword around the office.

Compartir

If you miss any doc, comment, or dumb thing that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we’ll consider it for the next one.

Why Bans Fail: Tipping Points and Australia’s Social Media Ban de Leonardo Bursztyn, Angela Duckworth, Rafael Jiménez-Durán, Aaron Leonard, Filip Milojević, Christopher Roth y Cass R. Sunstein.

Nos han deleitado a todos con sus conclusiones sobre el éxito que está teniendo la prohibición australiana de acceso a redes a menores de 16 años. Organizado a través de una encuesta realizada a 507 adolescentes que quieren hacerse los malotes por enfrentarse al orden establecido, y con conclusiones esperables y maravillosas:

• Sólo uno de cada cuatro (27%) adolescentes de 14 y 15 años cumple con la prohibición cuatro meses después de su entrada en vigor.

• El 75% de los adolescentes (je: el resto) considera que saltarse las restricciones es “fácil” o “muy fácil”. A saber: meter fecha de nacimiento falsa al registrarse (44 %), mentir sobre la edad en las solicitudes de verificación (57 %), utilizar la cuenta de un padre o un hermano mayor (42 %) y redirigir el tráfico a través de una VPN (30 %).

• La prohibición empezará a desplegar efecto sólo si hay una masa crítica suficiente de usuarios que la cumplen. Lo de siempre de poner puertas al campo, o de “la vida siempre encuentra su camino”.

• Que el 52% considera que el menor que lo cumple es un pringao. Insertar meme Made in Spain de “fumo para hacerme el chulo”. Y que los influencers que tienen las redes como principal entretenimiento (y fuente de casito) hacen ni se plantee limitar el acceso a redes.

• Que el 25% ha recibido ayuda de un padre, hermano mayor u otro adulto para mantener o recuperar el acceso a sus cuentas. La que ya comentamos de la madre australiana a la que le hizo gracia que la niña se lo saltara poniendo una foto suya. La supervisión parental también tiene que ser dirimente y no de #LOL.

• Los que cumplen informan aspectos positivos como menos presión y más tiempo con la familia, pero al precio de aburrirse y estar desconectados de su entorno.

• El 72% preferiría aplicaciones con límites de tiempo integrados en lugar de una prohibición total. Lo que hizo China restringiendo tiempos de juego durante el fin de semana, pero sin abusar de la mayor posibilidad de imposición de por allí (vamos a llamarlo así).

• Que el incumplimiento es mayor a los 15 años (68.3%) que a los 14 años (57.1%). La mayor necesidad social.

Aviso para todos nosotros, argonEUtas.

El libro “Irresistible” de Adam Alter describe un experimento que nos da más pistas sobre las dificultades de quitarte cualquier cosa de la cabeza: el problema, según es que la supresión necesita alternativas.

Sabes lo que debes evitar, pero no sabes con qué ocupar tu mente en su lugar.

Cuando se pidió a un grupo de trabajo que tocaran una campanilla cada vez que pensaran en un oso blanco (el objeto de la prohibición), las campanitas no dejaron de sonar. Cuando, en cambio, les dijo que podría ayudarles pensar en un Volkswagen rojo en su lugar, sus campanas se activaron la mitad de las veces. La supresión sola no funciona pero la supresión combinada con la distracción sí lo hace bastante bien.

Lo más interesante es que, cuando luego se les dio permiso para pensar en el oso blanco, aquellos que habían tenido dificultades para suprimir sus pensamientos antes quedaron consumidos por la imagen del oso blanco. Era todo lo que podían imaginar.

Mientras tanto, las personas que recibieron una distracción en forma del coche rojo pensaban en el oso blanco ocasionalmente- pero también tenían muchas otras ideas.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

“Aplica la doctrina Scania en la práctica”: segunda edición en Junio

Este mes de junio (los tres primeros lunes) volvemos con nuestra formación presencial, online y socrática sobre la teoría y aplicación en la práctica de la doctrina SRB / Scania.

Todos los detalles aquí, apúntate pinchando en el botón.

ME INTERESA

“Confío en que pequeños fragmentos de información, compartidos con diferentes servicios (hoy, o agentes, mañana) no serán agregados y correlacionados para crear un modelo inapropiadamente invasivo de mí como individuo, violando mi privacidad“

Esta es una de las clásicas premisas de confianza formuladas por Benjamin Kuipers en el “Oxford Handbook of Ethics of AI” en 2020 como una más de las leyes de la robótica al estilo de Isaac Asimov.

Pero las reglas están hechas para romperse y Frank Pasquale acuñó el concepto de “efecto mosaico” hace una década sobre esa fractura. Un imperio de tamaño inaudito se contruyó combinando y comercializando todas esas miguitas de información en perfiles específicos a cada finalidad.

Perfiles que nunca se han usado a favor del interesado (como pretendían las inocentes “premisas” de Kuipers), sino en contra. Cada vez.

En la era de la IA agéntica es obligatorio volver a citar a Choudary y su libraco “Reshuffle”:

“Esta es la promesa definitiva del reshuffling impulsado por IA. En lugar de simplemente vincular herramientas entre sí, la IA da sentido a todos los insights que recopila a través de correos electrónicos, llamadas de ventas, contratos y datos financieros, y los teje en una narrativa coherente. Conecta los puntos, determina cuál debe ser la imagen y rellena los detalles que faltan.

La ejecución agentica refuerza la coordinación sin necesidad de consenso.

Una vez la IA ha reagrupado la información fragmentada en una representación compartida, los agentes pueden actuar sobre esa representación de manera autónoma, activando seguimientos, actualizando tareas o escalando riesgos, sin esperar a la ejecución humana. De esta manera, esa representación unificada permite decisiones y ejecuciones unificadas, lo que a su vez permite la coordinación. La coordinación, por su parte, da lugar al control. Cuanto más dependan los equipos de la capa de IA para ver, decidir y actuar, mayor poder tendrá esa capa en el ecosistema.

Este mismo principio es el que formulan los Nazgûls de Palantir, sólo que en términos más propios de su dialéctica dictatorial sauroniana.

Por supuesto, seguimos hablando del estudio que desveló el lunes pasado que la última fuente de datos para completar nuestros perfiles es precisamente nuestras conversaciones con Perplexity, ChatGPT, Grok y Claude.

🗞️Noticias del Mundodato 🌍

.- Este hilo de Andrew Guthrie Ferguson explica un interesante caso a punto de ser juzgado en los EEUU: ¿Los datos de Google pueden usarse contra una persona cuando activó servicios de historial o el almacenamiento de ubicación fina?. Interesante combo de validez del consentimiento a un servicio , licitud de prueba en el ámbito penal y expectativa de privacidad. Lo relevante ya no es si Google conserva tus ubicaciones, sino si es aceptable que el consentimiento a una función distribuida entre varios productos (conveniencia) pueda convertirse, llegado el caso, en una renuncia a garantías constitucionales básicas.

.- La DPC se va por Shein en tema de transferencias internacionales a China. A ver lo que cambia sobre el caso de TikTok de los 530 millones, pero ¿es posible probar de verdad que nada se manda ni se accede desde la China cuartel general?. ¿Cuánto de calco vamos a tener de la de TikTok?. Muchas preguntas. ¿volverán a lanzar varios informes de rutilantes despachos sin firmar? ¿Se autorreferenciará la DPC sobre que el consentimiento explicito excepcional del 49 es complicado?

The DPC finds that the requirement that consent be “explicit” and that it relate to “the proposed transfer” precludes a single consent being obtained for continuous and ongoing data transfers and/or different sets of transfers. The DPC is also of the view that seeking a single open-ended consent for continuous and ongoing data transfers and/or different sets of transfers is not compatible with the obligation to inform the data subject of the possible risks of the transfers being made.

Nota a pie friki: no olviden que tenemos a un organismo internacional entre las decisiones de adeucación en vigor desde 2025: la Organización Europea de Patentes. Aquello del 45.1 de “a un tercer país u organización internacional”.

Justo del tema de TikTok, le vemos a San Luis Montezuma las dos resoluciones de los dos jueces que resuelven el recurso de la DPC para no paralizar la suspensión. Nos perdemos en que haya dos resoluciones de dos jueces distintos que se complementan, pero desestiman el recurso de la DPC para que se alce la suspensión cautelar de la aplicación de la sanción. Y que nada de tener que preguntar TJUE, o que el hecho de que sea actuación coordinada con otras autoridades implique aplicar criterios concretos (que el RGPD determina que la autoridad principal es la que tiene la decisión final.

.- De la Newsletter de Lukasz Olejnik:

.-Desde Noyb llega una curiosa. El incentivo/práctica poco ética de LinkedIn de ocultarnos parte de los visitantes que han consultado nuestros perfiles, tiene su efecto mariposa en el ejercicio de derecho de acceso. Aquí parece que se da la paradoja comercial de que LinkedIn te suelta toda la info sin ejercicio de derecho ninguno si pagas el premium (te lo muestra), pero se pone exquisito por el 15.4 si lo pides como ejercicio de derecho de acceso.

Noyb apunta a que por el 15.4 podría argumentar que sólo dan lo de aquellos que haya decidido no mostrarse visibles para otros usuarios, pero con el problemita de que incentivan que nadie esté en modo “anónimo” por caparte visibilidad. No es la primera corpo que se columpia sobre el 15.4, pero veremos cómo acaba.

📖 Documentos dateros muy cafeteros ☕️

.-La UE mete el acelerador con recomendación para la implantación de verificación, tras la solución técnica de verificación. Va a ser una mitad y final de año curioso: 30 de junio como fecha máxima para que los estados miembros presente el Plan Nacional de Implementación (PNI) detallado a la Comisión Europea, y 31 de diciembre para que esté disponible, al menos, una solución de verificación de edad basada en la “blueprint UE”.

Por el camino, elaboración de un listado de proveedores que la CE considere adecuado, y publicación para el mismo verano del informe de recomendaciones del Grupo Especial sobre la seguridad infantil en Internet.

La Comisión Europea lo destaca como medida necesaria para asegurar el cumplimiento adecuado de la DSA. La misma DSA de la que nuestra CNMC no ha sido nombrada autoridad relevante a sus efectos.

Y el miércoles, o sea ayer, se celebró comparecencia en la Comisión LIBE para tratar este tema. Con nuestra AEPD, la CNIL o EDRi. Que no se note la prisa de todo el mundo.

.- Las demandas colectivas contra la BigTech se abren camino en Italia. Milán abre camino a la Directiva 2020/1828 al admitir una class action contra Meta por el data scraping que habría afectado a unos 533 millones de perfiles. Ya saben: demandas interpuestas por entidades autorizadas sin basarse en legitimación individual y daños no patrimoniales basados sólo en miedo o pérdida del control de los propios datos.

.- El libro de Paddy Leerssen, Joris van Hoboken, Gabriela Trogrlić, Iris Toepoel resume varias actuaciones que tratan de hacer valer en la jurisdicción civil de estados miembros los artículos 14, 35 y 25 de la DSA . La mejor vía quizá no sea el riesgo sistémico, demasiado vago, sino la de los dark patterns. Pero qué sabré yo.

.- El Institute for the Future of Work nos advierte de cómo la información y datos personales capturados en la oficina se han convertido en un activo estratégico. Cuando los modelos de IA campan a sus anchas en SaaS, agentes y flujos empresariales pueden capturar know-how tácito, procesos y decisiones capaces de ayudarte automatizando procedimientos, pero también de dejarte competitivamente en la cuneta: estás regalando el plano de tu moat competitivo. La soberanía no se limita hoy a chips o modelos nacionales, requiere cuidar la cadena de valor completa, y armonizar protección de datos, IP, knowhow empresarial, empleo y competencia.

.- En la misma línea, el artículo de Ellen Cushing en The Atlantic: La vigilancia laboral captura ahora e interpreta emociones, no solo productividad. Al menos en USA. La industria de emotion AI se engancha a los pipelines de tu ofi para tragarse e interpretar vídeo, audio, chats o emails para inferir atención, ánimo, actitud y rendimiento. La barrera de entrada es casi nula, las promesas ilimitadas y el riesgo de que incluyan datos de clientes y terceros (y de currelas propios, claro) sin base legítima, del 120%. Ya luego, está esa prohibición por el Reglamento de IA.

💀Death by Meme🤣

Banksy ha puesto una estatua en Londres y, al parecer, la gente no lo pilla.

🤖NoRobots.txt o Lo de la IA

.- Puede que se venga orden ejecutiva sobre supervisión gubernamental de modelos de IA. Lo irónico es que Trumpo tumbó la orden ejecutiva de Biden que obligaba a los modelos que pudiera implicar un riesgo en seguridad nacional, economía o salud pública a presentar los informes y pruebas de seguridad realizadas de manera interna.

Se apunta a que el nuevo Mythos de Anthropic tiene el potencial de identificar vulnerabilidades de seguridad y cómo explotarlas, pero nunca es descartable lo de siempre: vendetta para Antropic por no pasar por el aro y que sea Estados Unidos el exclusivo para ciberatacar a los chinos, rusos y quién sea.

Precisamente, en Mythos puede haber una brecha de seguridad de confidencialidad por acceso no autorizado. Lo han publicado muchos medios, pero no termina de confirmar si sip.

.- El juicio Elon Musk vs OpenAI nos está dando tardes de gloria. Y más que vendrán.

.- AI is NOT your coworker. Un largo, bien escrito y bien documentado post de Katalina Hernández con el que no puede estar más de acuerdo. Y no lo digo -sólo- por la cita que nos hace.

Herramientas útiles

Si tienes una API key con algún proveedor de IA, puedes instalarte Mike, la versión vibe code de Harvey o Legora.

Seguro: no va a ser lo mismo que Harvey o Legora, pero también es seguro que nadie te va a pedir 3000 floros/usuario/mes como ellos.

Mi opinión: no lo he probado, si en dos semanas ya han salido una docena de forks con mejoras sustanciales estoy bastante seguro de que tendremos disponible algo realmente funcional para el 27 o antes, funcionando en local.

Creemos mucho en el software open-source.

🙄 El chorradón final

¿Será la próxima película de Christopher Nolan un chorradón ? No se puede saber, pero esta entrevista estuvo divertida. En ella Nolan-tiendo dice -entre otras cosas- que la Odisea, su próxima película, es en realidad una peli de superhéroes.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

Why Bans Fail: Tipping Points and Australia’s Social Media Ban Why Bans Fail: Tipping Points and Australia’s Social Media Ban by Leonardo Bursztyn, Angela Duckworth, Rafael Jiménez-Durán, Aaron Leonard, Filip Milojević, Christopher Roth, and Cass R. Sunstein.

They have delighted us all with their conclusions about the success of the Australian ban on access to social media for minors under 16 years old. Organized through a survey of 507 teenagers who want to act tough by defying the established order, with expected and wonderful conclusions:

• Only one in four (27%) teenagers aged 14 and 15 comply with the ban four months after its entry into force.

• 75% of teenagers (je: the rest) consider that bypassing the restrictions is “easy” or “very easy”. Namely: entering a false date of birth when registering (44%), lying about their age in verification requests (57%), using an older sibling’s or parent’s account (42%), and redirecting traffic through a VPN (30%).

• The prohibition will only start to take effect if there is a sufficient critical mass of users who comply with it. The old saying about “locking the stable door after the horse has bolted” or “life always finds a way.”

• That 52% consider that the minor who complies is a fool. Insert Spanish-made meme of “I smoke to act cool.” And that influencers who have social media as their main entertainment (and source of income) wouldn’t even consider limiting access to networks.

• That 25% have received help from a parent, older sibling, or another adult to maintain or regain access to their accounts. The one we already mentioned about the Australian mother who found it funny that the girl got around it by posting a picture of her. Parental supervision also needs to be decisive and not just for laughs.

• Those who comply report positive aspects such as less pressure and more time with family, but at the cost of being bored and disconnected from their environment.

• 72% would prefer applications with built-in time limits rather than a total ban. What China did by restricting gaming times during the weekend, but without overdoing it with the greater possibility of enforcement over there (let’s call it that).

• That non-compliance is higher at 15 years old (68.3%) than at 14 years old (57.1%). The greatest social need.

Note to all of us, ArgonEUtas.

The book “Irresistible” by Adam Alter describes an experiment that gives us more clues about the difficulties of removing anything from your mind: the problem, according to him, is that suppression needs alternatives.

You know what you should avoid, but you don’t know what to occupy your mind with instead.

When a group was asked to ring a bell every time they thought about a white bear (the object of prohibition), the bells did not stop ringing.

However, when they were told that it might help them think about a red Volkswagen instead, their bells rang half as often. Suppression alone does not work, but suppression combined with distraction does quite well.

The most interesting thing is that, when they were later allowed to think about the white bear, those who had struggled to suppress their thoughts before were consumed by the image of the white bear. It was all they could imagine.

Meanwhile, the people who received a distraction in the form of the red car thought about the white bear occasionally—but they also had many other ideas.

You are reading ZERO PARTY DATA. The newsletter about tech and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

Suscríbete ahora

“I trust that small pieces of information, shared with different services (today, or agents tomorrow) will not be aggregated and correlated to create an inappropriately invasive model of me as an individual, violating my privacy.”

This is one of the classic premises of trust formulated by Benjamin Kuipers in the “Oxford Handbook of Ethics of AI” in 2020 as one more of the robotics laws in the style of Isaac Asimov.

But rules are made to be broken and Frank Pasquale coined the concept of “mosaic effect” a decade ago about that fracture. An empire of unheard-of size was built by combining and monetizing all those crumbs of information into profiles specific to each purpose.

Profiles that have never been used in favor of the data subject (as the innocent “premises” of Kuipers intended), but against them. Every time.

In the era of agentic AI, it is mandatory to revisit Choudary and his book “Reshuffle”.

“This is the ultimate promise of AI-driven reshuffling. Instead of simply linking tools together, AI makes sense of all the insights it collects through emails, sales calls, contracts, and financial data, weaving them into a coherent narrative. It connects the dots, determines what the picture should be, and fills in the missing details.

Agentic execution reinforces coordination without the need for consensus.

Once AI has regrouped fragmented information into a shared representation, agents can act on that representation autonomously, activating follow-ups, updating tasks, or escalating risks without waiting for human execution. In this way, that unified representation enables unified decisions and executions, which in turn enables coordination. Coordination, in turn, leads to control. The more teams rely on the AI layer to see, decide, and act, the more power that layer will have in the ecosystem.

This same principle is the one formulated by Palantir’s Nazgûls, only in terms more befitting their Sauronian dictatorial dialectic.

Of course, we are still talking about the study that revealed last Monday that the latest source of data to complete our profiles is precisely our conversations with Perplexity, ChatGPT, Grok, and Claude.

World Data News 🌍

.- This thread by Andrew Guthrie Ferguson explains an interesting case about to be tried in the U.S.: Can Google’s data be used against a person when they activated history services or fine location storage? Interesting combination of validity of consent to a service, admissibility of evidence in the criminal sphere, and expectation of privacy. What is relevant is no longer whether Google stores your locations, but whether it is acceptable for consent to a function distributed among several products (convenience) to potentially become a waiver of basic constitutional guarantees.

.- The DPC is going after Shein regarding international transfers to China. Let’s see what changes in the case of TikTok’s 530 million, but is it really possible to prove that nothing is sent or accessed from China headquarters? How much of a copycat will we have from TikTok? Many questions. Will they release several reports from glossy unsigned firms again? Will the DPC self-reference that the exceptional explicit consent of Article 49 is complicated?

The DPC finds that the requirement that consent be “explicit” and that it relate to “the proposed transfer” precludes a single consent being obtained for continuous and ongoing data transfers and/or different sets of transfers. The DPC is also of the view that seeking a single open-ended consent for continuous and ongoing data transfers and/or different sets of transfers is not compatible with the obligation to inform the data subject of the possible risks of the transfers being made.

Nerdy footnote: do not forget that we have an international body among the adequacy decisions in force since 2025: the European Patent Office. That of Article 45(1) “to a third country or international organization”.

On the topic of TikTok, we see in San Luis Montezuma the two resolutions from the two judges who rule on the DPC’s appeal not to lift the suspension. We are confused as to why there are two resolutions from two different judges that complement each other but dismiss the DPC’s appeal to lift the precautionary suspension of the sanction’s application. And nothing about having to ask the CJEU, or the fact that it is a coordinated action with other authorities implies applying specific criteria (which the GDPR determines that the lead authority is the one that has the final decision).

.- From Lukasz Olejnik’s Newsletter:

.-From Noyb comes an interesting one. The incentive/unethical practice of LinkedIn to hide part of the visitors who have viewed our profiles has a butterfly effect on the exercise of the right of access. Here it seems that there is a commercial paradox where LinkedIn releases all the information without any exercise of rights if you pay for premium (it shows it to you), but becomes very particular about Article 15(4) if you request it as an exercise of the right of access.

Noyb points out that under Article 15(4) it could be argued that they only provide information about those who have decided not to be visible to other users, but with the small problem that they incentivize no one to be in “anonymous” mode by limiting visibility. It’s not the first corporation to swing on Article 15(4), but we’ll see how it ends.

📖 Hard data docs for coffeine lovers ☕️

.- The EU is stepping on the gas with a recommendation for the implementation of verification, following the technical verification solution. It is going to be a curious second half of the year: June 30 as the maximum date for member states to present the detailed National Implementation Plan (PNI) to the European Commission, and December 31 for at least one age verification solution based on the “EU blueprint” to be available.

Along the way, a list of providers that the EC deems appropriate will be drawn up, and the report of recommendations from the Special Group on child safety online will be published by the same summer.

The European Commission highlights this as a necessary measure to ensure proper compliance with the DSA. The same DSA for which our CNMC has not been appointed as a relevant authority for its purposes.

And on Wednesday, that is, yesterday, a hearing was held in the LIBE Committee to address this issue. With our AEPD, the CNIL or EDRi. Let’s not let everyone’s rush be noticed.

.- Collective lawsuits against BigTech are making headway in Italy. Milan paves the way for Directive 2020/1828 by admitting a class action against Meta for data scraping that would have affected approximately 533 million profiles. You know: lawsuits filed by authorized entities without relying on individual standing and non-pecuniary damages based solely on fear or loss of control over one’s own data.

.- Paddy Leerssen, Joris van Hoboken, Gabriela Trogrlić, and Iris Toepoel’s book summarizes several actions aimed at enforcing Articles 14, 35, and 25 of the DSA in the civil jurisdiction of Member States. Perhaps the best approach is not the systemic risk, which is too vague, but that of dark patterns. But what do I know.El libro

.- The Institute for the Future of Work warns us how information and personal data captured in the office have become a strategic asset. When AI models roam freely in SaaS, agents, and business flows can capture tacit know-how, processes, and decisions capable of helping you automate procedures but also leaving you competitively on the sidelines: you are giving away the blueprint of your competitive moat. Sovereignty is not limited today to chips or national models; it requires caring for the entire value chain and harmonizing data protection, IP, business know-how, employment, and competition.

.- Along the same lines, Ellen Cushing’s article in The Atlantic: Workplace surveillance now captures and interprets emotions, not just productivity. At least in the USA. The emotion AI industry latches onto your office pipelines to consume and interpret video, audio, chats, or emails to infer attention, mood, attitude, and performance. The barrier to entry is almost non-existent, the promises unlimited, and the risk that they include customer and third-party data (and data from your own employees, of course) without a lawful basis is 120%. Then there’s that prohibition by the AI Act.

💀Death by Meme🤣

Banksy has placed a statue in London and, apparently, people don’t get it.

🤖NoRobots.txt o Lo de la IA

.- There might be an executive order on government oversight of AI models coming up. The irony is that Trump overturned Biden’s executive order that required models that could pose a risk to national security, economy, or public health to submit internally conducted safety reports and evidence.

It is suggested that the new Mythos from Anthropic has the potential to identify security vulnerabilities and how to exploit them, but one can never rule out the usual: vendetta against Antropic for not playing ball and ensuring the United States is the exclusive entity to cyberattack the Chinese, Russians, and whoever else.

Precisely, in Mythos there may be a confidentiality security breach due to unauthorized access. Many media outlets have reported it, but it has not been confirmed yet.

.- The Elon Musk vs OpenAI trial is giving us glorious afternoons. And more are yet to come.

.- AI is NOT your coworker. A long, well-written and better-documented post by Katalina Hernández with which I couldn’t agree more. And I’m not saying this -only- because of the quote she gives us.

🛠️ Useful tools

If you have an API key with some AI provider, you can install Mike, the vibe code version of Harvey or Legora.

Safe: it’s not going to be the same as Harvey or Legora, but it’s also safe to say that no one is going to charge you 3000 florins/user/month like they do.

My opinion: I haven’t tried it, if in two weeks a dozen forks with substantial improvements have already come out I’m pretty sure we’ll have something really functional available by the 27th or before, running locally.

We strongly believe in open-source software.

🙄 Da-Tadum-bass

Will Christopher Nolan’s next movie be a piece of nonsense? It’s impossible to tell, but this interview was fun. Among other things, Nolan-tending says that Odyssey, his upcoming film, is actually a superhero movie.

Share

If you miss any document, comment, or piece of nonsense that clearly should have been in this week’s Zero Party Data, write to us or leave a comment and we will consider it for next time.

Compartir

Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.

(English versión here)

Cuando usas un chatbot de inteligencia artificial, lo normal es pensar que lo que escribes queda entre tú y tu proveedor de IA favorito.

Lo que pasa en Las Vegas se queda en Las Vegas y tal.

Y de hecho, los proveedores de IA incentivan que utilicemos sus modelos para integrarlos en nuestras decisiones diarias, para que confiemos en ellos en contextos cada vez más íntimos. Se supone que bajo esa premisa.

Pues no.

Narseo Vallina y sus compañeros de IMDEA NETWORKS lo han vuelto a hacer:

Tal y como desarrollan en esta web, en un estudio realizado en abril pasado, han descubierto cosas que posiblemente te sorprendan y te resulten perturbadoras si chateas con modelos de IA a través de web (no a través de la API).

Modelos como Perplexity, ChatGPT, Claude o Grok.

Poco conocidos. Y que nadie usa.

Te invito a que visites la web original.

Aquí lo único que voy a hacer es lo que hice la última vez (el escándalo del localhost de Meta): traducir lo que han descubierto en términos que un ciudadano lego en tecnología pueda entender.

Primero te cuento lo que han descubierto.

Segundo: te explico cómo funciona, cómo hacen estas cosas estas empresas

Por último, te doy la visión jurídica, que ha sido mi parte en todo esto: las responsabilidades que pueden y deben afrontar estas empresas.

Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.

En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com

Suscríbete ahora

¿Qué han descubierto?

Las webs de estos cuatro servicios tienen puertas abiertas en sus webs que permiten a terceros acceder a tu información:

.- Grok y Perplexity: A través del pixel de Meta

.- OpenAI: A través de Google Analytics .

.- Claude: A través del Meta pixel, y las APIs de conversión de Facebook, Linkedin, TikTok, Amplitude, HubSpot, Pinterest entre otras.

Pero “no se vayan todavía: aún hay más”.

Ajústense los cinturones: esto es algo parecido -al menos para parte de los usuarios- a tener una videocámara apuntando directamente a su diario abierto de par en par.

“Bueno, lo importante es que no tengan acceso a mis conversaciones “privadas” con Claude y ChatGPT, y eso sucede ¿no? ¿NO? ¿EH?”.

También se comparte el “título de cada chat”.

Esto no es muy buena noticia: las IAs tienen la mala costumbre de generar automáticamente un título para la conversación que resume su contenido, de modo que si los títulos de las conversaciones son:

“Consejos depresión”

“Deducciones fiscales agresivas”

“ Me han puesto los cuernos ¿Qué hago?”

“Adelgazar aún más” o

“Tos rara”

… no hay que ser Sherlock Homes para inferir el contenido de la conversación.

Pero es que además la URL de tu conversación: cada conversación con tu IA favorita tiene un enlace, y ese enlace (esa URL), también se comparte con Meta y otros.

Y, como te puedes imaginar, quien tiene el enlace a “esos chats”, puede llegar a tener el guión de las últimas temporadas de tu serie favorita: la que tú protagonizas.

Depende de la configuración de privacidad de esos enlaces.

En el caso de Grok, los enlaces eran públicos por defecto en el momento del estudio y lo siguen siendo en el momento de la publicación de esta newsletter (a pesar de que hemos advertido a xAI).

Puedes comprobarlo en este vídeo:

Nada de qué preocuparse: como se ve en esta tabla, Grok (y otros proveedores) comparten estos enlaces a chats con terceros como Meta y Google.

De nuevo, te animo a que visites la web original, este post sólo pretende explicarla al ciudadano sin conocimientos informáticos.

A continuación sólo resumo una versión simplificada y más comprensible:

Dos matizaciones:

1.- El estudio sólo acredita que esos terceros citados (Meta, Google, etc…) “tienen acceso”, no que lo hayan hecho efectivo, accediendo a los datos indicados. El estudio se ha centrado en lo accesible que es lo que está en esta orilla: las webs de los servicios de IA, no en la otra.

Sin embargo, como veremos en un momento, desde el punto de vista legal, abrir la puerta a terceros que no tienen nada que ver con tu tratamiento de datos, ya constituye por sí una infracción de las gordas para los proveedores de IA.

Sobre si esos terceros han accedido o no a esos datos, bueno… cada cual tendrá su teoría aquí.

2.- El acceso concreto abierto a cada uno de esos terceros depende al 100% de la configuración permitida por OpenAI, Anthropic, xAI, Perplexity.

¿Sabes de quién NO depende en muchos casos? De ti.

Como se ve en la tabla, en muchos casos el acceso se habilita con independencia de que aceptes o no cookies, de que utilices ad-blockers, VPNs u otras protecciones en el navegador.

Unos segundos de reflexión:

Confiamos en que “nuestros pequeños fragmentos de información, compartidos (hoy) con diferentes servicios (y mañana, con agentes de IA), no serán agregados y vinculados para crear un modelo invasivo que viole nuestra privacidad.

Esta es la clásica “premisa de confianza” consagrada por Frank Pasquale hace diez años.

Premisa que es infringida millones de veces al día en el contexto adtech,

El riesgo real no está en cada una de las miguitas dispersas, sino en el “mosaico” que se forma al unirlas.

Y con los hallazgos revelados hoy, se hace patente hasta para el usuario más escéptico que la IA ha puesto sus formidables capacidades, entre otras, también a disposición de la maquinaria de la publicidad digital programática, una de las estructuras de control más poderosas de este siglo.

Explicación de la parte técnica ¿Cómo funciona todo esto?

Esta es la parte aburrida, porque a diferencia de la guarrería del localhost de Meta que fue -reconozcámoslo- una ideaca técnica -para el mal, pero ideaca técnica-, en esta ocasión OpenAI, Anthropic, xAI, Perplexity no han inventando absolutamente nada nuevo.

“URLs”, “Permalinks”

Las URLs de conversación suelen funcionar como enlaces permanentes (permalinks) con controles de acceso débiles.

En Grok, los permalinks son accesibles por defecto y los chats de invitado son siempre públicos.

En Perplexity, Claude y ChatGPT, los permalinks solo son visibles para el usuario a menos que se compartan explícitamente, pero una vez compartidos, cualquiera con el enlace puede acceder al contenido.

Explicación: Si tú copias la URL o enlace-web de una conversación con ChatGPT o Cluade y la pegas en un navegador distinto, te dará error -a menos que hayas accedido a tu cuenta con tu login y contraseña en ese nuevo navegador-.

No es eso lo que pasaba con Grok: al pegar la URL o dirección web en un navegador distinto (o en el mismo, pero en una nueva pestaña en “modo incógnito”), accedías a tu conversación. Eso quiere decir que cualquiera con acceso a esa dirección web iba a verla también. Tú, tu jefe, tu exnovia o cualquiera.

Pasando olímpicamente del consentimiento a cookies:

En los casos indicados, los rastreadores se activan independientemente de que el usuario acepte o rechace cookies no esenciales.

Por ejemplo, en ChatGPT y Grok, el envío de información a Google Analytics ocurre siempre.

En Claude el rastreo servidor-a-servidor solo se activa si se aceptan cookies no esenciales, pero el Pixel de Meta se carga con independencia de que lo consientas o no.

Cookies persistentes y Rastreo via servidor a servidor (Server-side tracking):

Las cookies no son la chorrada que la industria publicitaria ha conseguido trivializar: son como un código de barras que te tatúan en la frente. No lo ves -y las cookies persistentes no son tan fáciles de borrar-, pero te singularizan con una huella digital única entre todos los demás usuarios e internet.

En el caso de Meta (Facebook/Instagram) y TikTok, estos códigos se llaman `fbp` y `ttp` respectivamente.

Con ellas nos “marcan” como si fuéramos ganado en la feria de la BigTech.

Cada vez que visitas una página web que tiene instalado el “pixel” de Meta o TikTok, estos identificadores son leídos y enviados a sus servidores. Así, la empresa te reconoce como la misma persona que visitó una tienda de ropa ayer, leyó un artículo de noticias hoy y ahora está usando un chatbot de IA, incluso aunque no hayas iniciado sesión en Facebook o TikTok.

¿Cómo logran recibir tus datos incluso aunque uses bloqueadores de anuncios o te molestes en rechazar las cookies?

Aquí entra el “server-side tracking”.

Tu capacidad para bloquear el envío de tu información a través de cookies o píxeles empieza y termina en tu navegador. Si la información se reenvía a terceros, no a través de tu navegador, sino desde el servidor (“la nube”), tus controles no pueden hacer nada.

Empresas como Anthropic (Claude) y xAI (Grok) utilizan dominios específicos para que las cookies descargadas sean calificables como de “primera parte” (de Anthropic o xAI). Desde ese dominio, se envía tu información a APIs de conversión (de Meta, TikTok, etc.) eludiendo cualquier acción de protección que puedas utilizar en tu navagador.

Tu navegador sólo ve la conexión con el dominio del propio proveedor (Claude, Grok) y los bloqueadores de anuncios o extensiones de privacidad no pueden interceptar el tráfico, cosa que harían si el destino real no se ocultara.

Aunque te molestes en cerrar ventas y persianas de tu casa, estos capullos entran por la chimenea.

Si este tema les interesa (y debería), lean, lean a Cristiana Santos.

¿Y entonces?

Cuando escribes una prompt la información (como el enlace permanente a tu chat, el título de la conversación o incluso tu correo electrónico) se reenvía automáticamente a terceros.

Y lo peor es que, al combinar la cookie persistente (`fbp` o `ttp`) con estos datos, las empresas pueden vincular tu identidad real con tu contenido: tus conversaciones privadas, incluso si utilizaste el chatbot en modo incógnito o sin registrarte.

Las cookies `fbp` y `ttp` son tatuajes que identifican mientras navegas la web, y el server-side tracking es un artificio técnico que evita que las herramientas de privacidad tradicionales bloqueen el flujo de estos datos. Juntos, consiguen transformar las conversaciones que crees privadas en información valiosa para publicidad personalizada, análisis de tu comportamiento y enriquecer tus perfiles de usuario en sus manos.

Nada de esto es nuevo en el mundo de la publicidad, lo nuevo es que se haya integrado de forma oculta (y tan rápida) en los chatbots de IA: contextos hoy en auge y especialmente llamativos porque en ellos tanto tú como yo bajamos la guardia.

Vamos ahora con la calificación legal de todo esto.

¿Qué obligaciones legales se han incumplido aquí?

El análisis es genérico porque hay muchos incumplimientos de distinto alcance, tal y como resulta de la tabla anterior.

Nos centraremos en “lo gordo”:

Desde el punto de vista de la normativa de protección de datos personales (RGPD en la UE) el usuario interactúa o chatea con el modelo de IA con la finalidad de obtener respuestas a sus preguntas o solicitudes, sean éstas las que sean.

Cuando OpenAI, Anthropic, Perplexity o xAI ponen los datos del usuario relacionados con estos chats) a disposición de terceros, tanto (i) la mera puesta a disposición, como el (ii) eventual acceso por dichos terceros, son tratamientos distintos que no tienen nada que ver con lo que el usuario espera, y con el servicio objeto de la relación contractual con el usuario.

Por tanto, los proveedores de IA están legalmente obligados a :

1.- Informar de sus tratamientos de forma clara y comprensible

Las legítimas expectativas del usuario difícilmente incluyen la posibilidad de que sus conversaciones sean accesibles por terceros como Meta o Google.

Las cuatro compañías utilizan expresiones genéricas y equívocas para referirse a las user prompts del usuario sin citarlas específicamente al informar sobre acceso de terceros: “user content“ (OpenAI), “conversations” (Anthropic), “service interaction info” (Perplexity) and “user info” (xAI).

Esto es como lo de “usaremos tus datos para personalizar tu experiencia” que puede significar cien cosas y ninguna, y ha sido específicamente sancionado por la AEPD.

La información debe permitir al interesado entender qué demonios se va a hacer con sus datos.

Y esta información se debe facilitar de una forma muy específica.

No sólo el EDPB, sino también el TJUE literalmente en el apartado 54 de su sentencia de 2024 Meta Platforms Ireland (C-757/22) impone la obligación del responsable de tratamiento de informar al interesado en los siguientes términos:

“GDPR imposes an obligation on the controller, where personal data are collected from the data subject, to inform the data subject of the purposes of the processing for which those data are intended along with the legal basis for that processing and of the recipients or categories of recipients of those data, respectively.” (paragraph 54).

Es significativo que incluso cuando OpenAI sí ofrece esta información estructurada y vinculada de acuerdo con lo anterior, no hace referencia a las prácticas observadas en este estudio.

En definitiva, estas cuatro empresas, en vez de cumplir con su obligación de transparencia, abusan de la complejidad de sus políticas de privacidad para aturdirnos con largos textos y conceptos genéricos y abstractos, omitiendo el punto clave que cualquiera podría entender: que facilitan a gigantes de la publicidad personalizada los temas de tus conversaciones con sus chats de IA, y en algunos casos, el texto entero de las mismas.

En mi humilde opinión, esto es algo que merece la misma relevancia que el ubicuo “La IA comete errores, comprueba nuestras respuestas” que no falta en ninguna interfaz para mitigar responsabilidades si las cosas van mal.

2.- Dotarse de una base legal de tratamiento

.- Dotarse de una base de legitimación específica para estos tratamientos (idem de los terceros que accedan para sus propios fines a estos datos).

Esta base no puede ser, como decimos la “ejecución del contrato entre usuario y el proveedor de IA”.

Es discutible que el entrenamiento del propio servicio con las interacciones del usuario sean “objetivamente necesarias” para la prestación del servicio (no en vano estas compañías juran y perjuran que no se entrenan con las interacciones, inputs y outputs de sus usuarios en los tramos profesionales y corporativos, así que difícilmente lo que no se hace con unos puede ser indispensable con los otros).

Lo que es indiscutible es que la apertura de acceso a terceros para finalidades que nada tienen que ver con el funcionamiento de la herramienta a través de mecanismos propios de la adtech, pueda ser legitimable vía contrato.

Esto sólo cabría mediante consentimiento explícito (fórmula preconizada por el EDPB) o interés legítimo (pero la información del tratamiento y la posibilidad de ejercer un derecho de oposición brillan por su ausencia).

Adicionalmente, este tratamiento de datos debe venir cubierto por alguna excepción a la prohibición de tratamiento de datos de categoría especial.

Es una práctica conocida y masiva por parte de los usuarios (e incentivada por los proveedores) que los usuarios realicen consultas sobre su salud, estado psicológico, cuestiones íntimas...

Es precisamente este hecho lo que hace tan perturbadores los resultados de este estudio.

El tratamiento longitudinal de estas conversaciones durante un período significativo permite inferir todo tipo de datos de categoría especial como la ideología religiosa y política o la orientación sexual de los interesados.

¿Doctrina SRB / Scania?

La “bala de plata” utilizada por estos proveedores en este tipo de escenarios (el escenario al que me refiero es el de “te han pillao con el carrito del helao”) es uno de dos

(i) la anonimización o

(ii) la seudonimización (“deidentificación” como dicen en USA) que impida al destinatario de los datos reidentificar a los usuarios sin realizar esfuerzos desproporcionados en términos de tiempo, recursos materiales o personal (doctrina SRB / Scania).

Lo primero es dejar claro algo:

Incluso si alguno de estos argumentos lograran salvar la base de legitimación (no apostaría un centavo por esto), la obligación de informar a los usuarios sobre este acceso de terceros ha sido ignorada por completo.

Ahora veamos:

a.- Anonimización:

La solidez y eficacia de cualquier proceso de anonimización sólo puede evaluarse caso por caso, y habría que ver qué entienden cada una de estas empresas por anonimización, y si lo hecho es suficiente.

b.- Seudonimización / doctrina SRB-Scania:

Encontrarán a pocos profesionales más ilusionados que yo en encontrar casos de uso aptos para aplicar la docrina Scania.

Dicho esto, no parece que los dos gigantes mundiales del big data (Meta o Google) puedan beneficiarse en ningún caso de esta doctrina, atendidas sus vastas bases de datos personales y su modelo de negocio.

No se debe olvidar que el “riesgo insignificante de reidentificación de los interesados” (clave de bóveda de esta doctrina) debe evaluarse a la luz del “contexto, finalidad y efectos” del tratamiento realizado por quien accede a los datos seudonimizados.

Estas empresas viven literalmente de combinar distintas fuentes de datos para personalizar mejor la publicidad dirigida contratada por sus clientes.

Así que a otro perro con este hueso, Meta y Google.

Por último: ¿Y si “todo ha sido un malentendido” y Meta y Google tenían acceso pero nunca leyeron los datos “puestos erróneamente a su disposición”?

Eso no dice nada de la responsabilidad de OpenAI, Anthropic, Perplexity o xAI.

El mero de hecho de incluir el tracking pixels en la web es una decisión consciente de diseño: permitir el acceso a determinados datos personales de tus usuarios a determinados terceros para determinadas finalidades.

Esta película la hemos visto ya muchas veces: se declaró con contundencia por el TJUE en 2019 Fashion ID (C-40/17) y en Wirtschaftsakademie (C-210/16).

En ambos casos el tercero era Facebook y se apreció corresponsabilidad en el tratamiento: las webs que insertaban el pixel o consentían el tratamiento de datos por Facebook tenían que informar a sus usuarios de dicho acceso con independencia de que Facebook sólo tratara datos de sus propios usuarios o de que no permitiera al propietario de la web un acceso recíproco a los datos obtenidos (sino sólo a estadísticas agregadas).

Fashion Id:

“Moreover, by embedding that social plugin on its website, Fashion ID exerts a decisive influence over the collection and transmission of the personal data of visitors to that website to the provider of that plugin, Facebook Ireland, which would not have occurred without that plugin.” (78).

En consecuencia, la necesidad de contar con una base legal por parte del proveedor de IA parte de la decisión de incrustar el tracking pixel, con independencia de que luego dichos datos sean luego accedidos o utilizados o no, cosa que contará a la hora de evaluar la responsabilidad del cesionario, en su caso.

¿Y desde la orilla de los destinatarios?

Ciertamente la sentencia del Tribunal Supremo de la semana pasada no podía venir en un momento más adecuado.

El Tribunal Supremo castigaba a una administración por “pedir datos de más a un funcionario” alegando que los principios de limitación de finalidad y privacy by design aplican desde un momento anterior al estricto acceso a los datos, porque de otro modo el derecho de protección de datos se vacía de contenido.

Y lo hace citando al TJUE (si no se adelantaba la barrera de protección a ese momento, la protección a la que tiene derecho el interesado quedaba a expensas de que el destinatario tuviera éxito o no en el intento de acceso a dichos datos.

Jorge García Herrero

Abogado y Delegado de Protección de Datos

“What happens in Vegas stays in Vegas” and all that jazz.

And in fact, AI providers encourage us to use their models to integrate them into our daily decisions, so that we trust them in increasingly intimate contexts. Supposedly under that premise.

Well, no.

Narseo Vallina and his colleagues at IMDEA NETWORKS have done it again.

As they develop on this website, in a study conducted last April, they have discovered things that might surprise you and disturb you if you chat with AI models via the web (not through the API).

Models like Perplexity, ChatGPT, Claude, or Grok.

Little-known. And that nobody uses.

I invite you to visit the original website. Here, the only thing I am going to do is what I did last time (the Meta localhost scandal): translate what they have discovered into terms that a layperson in technology can understand.

· First, I tell you what they have discovered.

· Second: I explain how it works, how these companies do these things

· Finally, I give you the legal perspective, which has been my part in all this: the responsibilities that these companies may and should face.

You are reading ZERO PARTY DATA. The newsletter on technology and legal affairs by Jorge García Herrero and Darío López Rincón.

In the free time that this newsletter leaves us, we solve complicated issues related to personal data protection regulations and artificial intelligence. If you have any of those, give us a little hand. Or contact us by email at jgh(at)jorgegarciaherrero.com

1.-What have they discovered?

The websites of these four services have open doors on their websites that allow third parties to access your information:

.- Grok and Perplexity: Through Meta’s pixel

.- OpenAI: Through Google Analytics.

.- Claude: Through the Meta pixel, and Facebook, LinkedIn, TikTok, Amplitude, HubSpot, Pinterest conversion APIs, among others.

But “don’t leave yet: there’s more”.

Fasten your seatbelts: this is somewhat similar -at least for some users- to having a video camera pointing directly at their open diary.

“Well, the important thing is that they don’t have access to my ‘private’ conversations with Claude and ChatGPT, and that happens, right? RIGHT? HUH?”

The “title of each chat” is also shared.

This is not very good news: AIs have the bad habit of automatically generating a title for the conversation that summarizes its content, so if the conversation titles are:

“Depression tips”

“Aggressive tax deductions”

“They cheated on me, what do I do?”

“Lose even more weight” or

“Unusual cough”

… you don’t need to be Sherlock Holmes to infer the content of the conversation.

But also, the URL of your conversation: every conversation with your favorite AI has a link, and that link (that URL) is also shared with Meta and others.

And, as you can imagine, whoever has the link to “those chats” may end up having the script of the latest seasons of your favorite show: the one you star in.

It depends on the privacy settings of those links.

In Grok's case, the links were public by default at the time of the study and remain so at the time of this newsletter's publication (despite us having warned xAI).

You can check it out in this video:

Nothing to worry about: as shown in the following table, Grok (and other providers) share these links to chats with third parties.

Below, I only summarize a simplified and more understandable version.

Two clarifications:

1.- The study only certifies that the third parties mentioned (Meta, Google, etc.) “have access“ not that they have effectively accessed the indicated data. The study has focused on how accessible what is on this side: the websites of the AI services, not the other.

However, as we will see in a second, from a legal perspective, opening the door to third parties unrelated to your data processing already constitutes, in itself, a serious infringement for AI providers.

Regarding whether those third parties have accessed that data or not, well… everyone will have their own theory here.

2.- The specific access opened to each of those third parties depends 100% on the configuration allowed by OpenAI, Anthropic, xAI, Perplexity.

Do you know WHO it DOESN’T depend on in many cases? YOU.

As seen in the table, in many cases access is enabled regardless of whether you accept or not cookies, use ad-blockers, VPNs, or other browser protections.

A few seconds of reflection:

We trust that “our small pieces of information, shared (today) with different services (and tomorrow, with AI agents), will not be aggregated and linked to create an invasive model that violates our privacy.”

This is the classic “trust premise” enshrined by Frank Pasquale ten years ago.

Premise that is infringed millions of times a day in the adtech context.

The real risk is not in each of the scattered crumbs, but in the “mosaic” that forms when they are joined together.

And with the findings revealed today, it becomes apparent even to the most skeptical user that AI has put its formidable capabilities, among “others”, also at the disposal of the programmatic digital advertising machinery, one of the most powerful control structures of this sorry times.

2.- Explanation of the technical part: How does all this work?

This is the boring part, because unlike Meta’s localhost mess that was -let’s face it- a clever technical idea -for evil, but a clever technical idea-, on this occasion OpenAI, Anthropic, xAI, Perplexity have not invented anything new at all.

“URLs”, “Permalinks”

Conversation URLs usually work as permanent links (permalinks) with weak access controls.

In Grok, permalinks are accessible by default and guest chats are always public.

In Perplexity, Claude, and ChatGPT, permalinks are only visible to the user unless explicitly shared, but once shared, anyone with the link can access the content.

Explanation: If you copy the URL or web link of a conversation with ChatGPT or Claude and paste it into a different browser, you will get an error -unless you have accessed your account with your login and password in that new browser-.

That was not the case with Grok: when you pasted the URL or web address into a different browser (or in the same one, but in a new tab in “incognito mode”), you accessed your conversation.

That means anyone with access to that web address could also see it.

You, your boss, your ex-girlfriend, or anyone else.

Blatantly ignoring cookie consent:

In the indicated cases, trackers are activated regardless of whether the user accepts or rejects non-essential cookies.

For example, in ChatGPT and Grok, information is always sent to Google Analytics.

In Claude, server-to-server tracking only activates if non-essential cookies are accepted, but Meta’s Pixel loads regardless of consent.

Persistent cookies and Server-side tracking:

Cookies are not the trivial matter that the advertising industry has managed to make them out to be: they are like a barcode tattooed on your forehead. You don’t see it—persistent cookies aren’t easy to delete—and it singles you out with a unique digital footprint among all other users on the internet.

In the case of Meta (Facebook/Instagram) and TikTok, these codes are called `fbp` and `ttp` respectively.

With them, we are “marked” as if we were livestock at the BigTech fair.

Every time you visit a webpage that has Meta’s or TikTok’s “pixel” installed, these identifiers are read and sent to their servers. Thus, the company recognizes you as the same person who visited a clothing store yesterday, read a news article today, and is now using an AI chatbot, even if you haven’t logged into Facebook or TikTok.

How do they manage to receive your data even if you use ad blockers or take the trouble to reject cookies?

This is where “server-side tracking” comes in.

Your ability to block the sending of your information through cookies or pixels begins and ends with your browser. If the information is resent to third parties, not through your browser but from the server (”the cloud”), your controls can do nothing.

Companies like Anthropic (Claude) and xAI (Grok) use specific domains so that the cookies downloaded are considered “first-party” (from Anthropic or xAI). From that domain, your information is sent to conversion APIs (from Meta, TikTok, etc.), bypassing any protective action you can take in your browser.

Your browser only sees the connection with the provider’s own domain (Claude, Grok), and ad blockers or privacy extensions cannot intercept the traffic, which they would do if the real destination were not hidden.

Even if you go to the trouble of closing the shutters and windows of your house, these jerks come in through the chimney.

If this topic interests you (and it should), read, read Cristiana Santos.lean, lean a Cristiana Santos.

So what now?

When you write a prompt, the information (such as the permanent link to your chat, the conversation title, or even your email address) is automatically sent to third parties.

And the worst part is that, by combining the persistent cookie (`fbp` or `ttp`) with this data, companies can link your real identity with your content: your private conversations, even if you used the chatbot in incognito mode or without registering.

The `fbp` and `ttp` cookies are tattoos that identify you while browsing the web, and server-side tracking is a technical trick that prevents traditional privacy tools from blocking the flow of this data. Together, they manage to transform the conversations you believe to be private into valuable information for personalized advertising, analysis of your behavior, and enriching your user profiles in their hands.

None of this is new in the world of advertising; what is new is that it has been integrated in a hidden (and rapid) way into AI chatbots: contexts that are currently on the rise and particularly attractive because both you and I let our guard down in them.

Now let’s move on to the legal qualification of all this.

3.- What legal obligations have been breached here?

The analysis is generic because there are many breaches of varying scope, as shown in the previous table.

We will focus on “the big stuff”:

From the perspective of personal data protection legislation (GDPR in the EU), the user interacts or chats with the AI model for the purpose of obtaining answers to their questions or requests, whatever they may be.

When OpenAI, Anthropic, Perplexity, or xAI make user data related to these chats available to third parties, both (i) the mere act of making it available and (ii) the eventual access by said third parties are distinct processes that have nothing to do with what the user expects and with the service that is the subject of the contractual relationship with the user.

Therefore, AI providers are legally obliged to:

a. Inform about their processing in a clear and understandable manner

The legitimate expectations of the user hardly include the possibility that their conversations will be accessible to third parties such as Meta or Google.

The four companies use generic and ambiguous expressions to refer to the user’s prompts without specifically mentioning them when informing about third-party access: “user content” (OpenAI), “conversations” (Anthropic), “service interaction info” (Perplexity), and “user info” (xAI).

This is like “we will use your data to personalize your experience,” which can mean a hundred things and none, and has been specifically sanctioned by the AEPD.

The information should enable the data subject to understand what the hell is going to be done with their data.

And this information must be provided in a very specific way.

Not only the EDPB, but also the CJEU literally in paragraph 54 of its 2024 Meta Platforms Ireland (C-757/22) judgment imposes the obligation of the controller to inform the data subject in the following terms:

“The GDPR imposes an obligation on the controller, where personal data are collected from the data subject, to inform the data subject of the purposes of the processing for which those data are intended along with the legal basis for that processing and of the recipients or categories of recipients of those data, respectively.” (paragraph 54).

It is significant that even when OpenAI does offer this structured and linked information in accordance with the above, it does not refer to the practices observed in this study.

In short, these four companies, instead of complying with their transparency obligation, abuse the complexity of their privacy policies to overwhelm us with long texts and abstract concepts, omitting the key point that anyone could understand: that they provide personalized advertising giants with the topics of your conversations with their AI chats, and in some cases, the entire text of them.

In my humble opinion, this is something that deserves the same relevance as the ubiquitous “AI makes mistakes, check our responses” that is not missing from any interface to mitigate responsibilities if things go wrong.

b.- Having a legal basis for personal data processing

.- Having a specific legal basis for these processing operations (the same applies to third parties accessing this data for their own purposes).

This basis cannot be, as we say, the “performance of the contract between the user and the AI provider”.

It is debatable whether the training of the service itself with the user’s interactions are “objectively necessary” for the provision of the service (not in vain these companies swear and forswear that they do not train with the interactions, inputs and outputs of their users in the professional and corporate segments, so it is difficult to be indispensable with others what is not done with some).

What is indisputable is that opening access to third parties for purposes unrelated to the operation of the tool through mechanisms of adtech can be legitimized via contract.

This would only be possible through explicit consent (formula advocated by the EDPB) or legitimate interest (but the information about the processing and the possibility of exercising a right of opposition are conspicuous by their absence).

Additionally, this data processing must be covered by some exception to the prohibition of processing special category data.

It is a known and massive practice among users (and encouraged by providers) that users make inquiries about their health, psychological state, intimate matters...

It is precisely this fact that makes the results of this study so disturbing.

The longitudinal processing of these conversations over a significant period allows for the inference of all kinds of special category data such as religious and political ideology or the sexual orientation of the data subjects.

SRB / Scania doctrine?

The “silver bullet” used by these providers in this type of scenario (the scenario I am referring to is the one where “you’ve been caught with your hand in the cookie jar”) is one of two:

(i) anonymization or

(ii) pseudonymization (”de-identification” as they say in the USA) that prevents the recipient of the data from re-identifying users without disproportionate efforts in terms of time, material resources, or personnel (SRB / Scania doctrine).

The first thing to make clear is:

Even if any of these arguments were to save the legal basis (I wouldn’t bet a cent on this), the obligation to inform users about this third-party access has been completely ignored.

Now let’s see:

a.- Anonymization:

The robustness and effectiveness of any anonymization process can only be assessed on a case-by-case basis, and it would be necessary to see what each of these companies understands by anonymization, and whether what has been done is sufficient.

b.- Pseudonymization / SRB-Scania doctrine:

You will find few professionals more enthusiastic than me in finding suitable use cases to apply the Scania doctrine.

That said, it does not seem that the two global big data giants (Meta or Google) could benefit from this doctrine in any case, given their vast databases of personal data and their business model.

It should not be forgotten that the “insignificant risk of re-identification of the data subjects” (the cornerstone of this doctrine) must be assessed in light of the “context, purpose, and effects” of the processing carried out by the party accessing the pseudonymized data.

These companies literally live off combining different data sources to better personalize the targeted advertising contracted by their clients.

Spare me that, Meta and Google.

Lastly: What if “it has all been a misunderstanding” and Meta and Google had access but never read the data “wrongly made available to them”?

This says nothing about the responsibility of OpenAI, Anthropic, Perplexity, or xAI.

The mere fact of including tracking pixels on the website is a conscious design decision: allowing certain third parties access to certain personal data of your users for certain purposes.

We have seen this movie many times before: it was clearly stated by the CJEU in 2019 in Fashion ID (C-40/17) and in Wirtschaftsakademie (C-210/16).

In both cases, the third party was Facebook, and joint responsibility for the processing was found: the websites that embedded the pixel or allowed data processing by Facebook had to inform their users about this access, regardless of whether Facebook only processed data from its own users or did not allow the website owner reciprocal access to the obtained data (but only access to aggregated statistics).

“Moreover, by embedding that social plugin on its website, Fashion ID exerts a decisive influence over the collection and transmission of the personal data of visitors to that website to the provider of that plugin, Facebook Ireland, which would not have occurred without that plugin.” (Fashion Id, paragraph 78).

Consequently, the need for a legal basis on the part of the AI provider stems from the decision to embed the tracking pixel, regardless of whether such data is then accessed or used or not, which will be considered when assessing the responsibility of the transferee, if applicable.

Jorge García Herrero

Lawyer and Data Protection Officer