#30 Se acabó el verano, bitches
... y ya estamos bastante quemados.
El verano se ha ido y nadie sabe como ha sido.
Quizá se nos ha consumido, como todas esas hectáreas de bosque. O como las ganas de leer una sola noticia más que incluya a Trump, Netanyahu o Putin.
Añadiendo dolor a tu síndrome post-vacacional, hemos recopilado un buen montón de los materiales más interesantes que gloriosamente te has perdido estos dos últimos meses.
Y reserva fuerzas de flaqueza porque el próximo 4 de septiembre se vienen dos fallos del TJUE de esos de titular.
1.- ¿Se reconfirmará la doctrina Scania? Pensamos que ese tema ya no tiene vuelta atrás aunque media Europa siga en disonancia cognitiva.
2.- ¿Tumbará -hehe- de nuevo el TJUE el marco convencional de transmisión de datos personales EU-USA?.
Latombe 1 sería Schrems 3.
Pero ese caballo no tiene tan buena pinta.
Estás leyendo ZERO PARTY DATA. La newsletter sobre datos, tecnopolios y derecho de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas de IA y protección de datos personales. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
🗞️Noticias del Mundodato 🌍
Este verano hemos flipado fuerte con…
… la primera bajada seria de pantalones por el AI training.
El fallo preliminar del juez Alsup da una de arena y otra de cal. No se lo pierdan: podría ser el doc del verano, pero esta edición viene petada.
La de arena delimita en términos muy sencillos el “fair use” en el Ai training: mientras los modelos no reproduzcan total o parcialmente las obras originales no había caso. Los modelos están aprendiendo a hacer cosas diferentes y aprendieron utilizando las obras originales, sí. Pero "la normativa no está para proteger a los autores de la competencia" dijo famosamente, utilizando una metáfora perdurable: los autores no pueden impedir que en las universidades se enseñe a los alumnos de literatura a escribir grandes obras nuevas.
La de cal: está acreditado que Anthropic (y por ejemplo, en otra demanda muy seguida: Meta en relación con Llama) obtuvieron las obras para entrenar sus modelos, no de canales legales (comprándolas) sino de repertorios ilegales como libgen y similares. Y ahí es donde Alsup traza otra línea: "descargar libros de una web pirata es infracción de derechos de autor, punto".
Les dejo con la afirmación final de Alsup, que es la que bien puede explicar que, de pronto, estas empresas tengan prisa por pagar ahora lo que no pagaron en su día: se trataría de mitigar responsabilidades exigibles en otros órdenes y jurisdicciones.
… el Risketto
En uno de los episodios más famosos de la seminal y totémica serie de ciencia ficción “The twilight zone” (adaptado al pie de la letra en el primero de los episodios especiales de Halloween de los Simpson), un pueblo rural vive completamente acojonado por un niño de unos diez años que, por lo que sea, es omnipotente. Puede hacer lo que le da la gana. Y vaya si lo hace. Hasta sus padres se la cogen con papel de fumar cuando lidian con él.
Es una historia de miedo e impotencia, porque no hay nada peor que un niñato al que nunca nadie le ha puesto límites y que, por lo que sea, alcanza una posición de omnipotencia.
Por supuesto, en la vida real literalmente no hay posiciones de omnipotencia (sólo las que todos los demás permitimos), y eso es algo que no debemos perder de vista.
… El ensordecedor rumor que recorre el mundillo financiero. ¿Hay burbuja en la IA? O más bien: ¿Cuándo explotará? Responda primero a la segunda pregunta.
Edward Zitron contesta y le pone fecha somehow a la movida. Uno que ya tiene una edad, ha aprendido que hay una burbuja que acabará reventando cuando ves alguna de las siguientes cosas:
a.- Que una familia que no puede pagar un determinado alquiler, se mete a pagar una hipoteca sólo un poco más “barata”.
b.- Que hasta tu cuñao más delulu o amigo más tonto se ha metido a invertir en ESO. Siendo eso cualquier cosa, da igual: cripto, Telepizza o acciones de los siete magníficos. Llegados a este punto, los que saben ya han vendido.
Suscríbanse a esta newsletter para más escabrosas profecías de Cassandra basadas en lo que mi hígado me diga en cada momento... NO.
…el mapa colonial de la IA.
Un largo y profundo artículo que expone las consecuencias de la puesta en marcha de enormes centros de datos en países con normativas más laxas y dirigentes menos (aún) exigentes y protectores de sus ciudadanos que los nuestros: Chile y México.
Sobre explotación de acuíferos (con cortes de agua para la población) e incremento abismal de la factura de la luz (para todos), por citar sólo un par de cosas.
Un buen indicio de lo que se viene por parte de Amazon en Huesca -se trata en el artículo- y Meta en Talavera de la Reina -no-. Porque para algunas cosas, Europa empieza al norte del Báltico.… las noticias sobre la app Tea.
Lo que al principio parecía una brecha de seguridad, apunta según las últimas noticias a un auténtico McGuffin que desde el primer momento buscaba aprovecharse de las usuarias.
… las empresas de demoscopia que encuestan a IAs.
Después de las nuevas redes sociales en las que estás tú solo con IAs (Social AI, Replika) llegan los sondeos electorales en los que lo sondeado no son personas reales sino sintéticas. Para sorpresa de nadie, los entrevistados sintéticos son aún más erráticos que los reales.
… y las IAs que hacen benchmarking de otras IAs.
Este hilo es para leerlo. A estas alturas ya todos sabemos que cuando cuando fijas un incentivo para alcanzar un objetivo, el incentivo se convierte en el objetivo, y la cosa suele acabar mal.
Dicho de otro modo… ¿Se acuerdan de cuando VolksWagen diseñó su coche para detectara cuándo estaba siendo sometido a un test, y sólo entonces mitigaba las emisiones? Pues eso es lo que ha aprendido a hacer ChatGPT, de acuerdo con este investigador. Y nadie le puede extrañar: si algo hacen los modelos de IA mejor que los humanos es detectar patrones y explotarlos.
📄Documentos dateros-muy-cafeteros☕️
.- Guía de ciberseguridad para directivos del Cybersecurity Council de los Países Bajos
Una guía clara, visual y nada condescendiente, útil para todo el mundo. Lo más interesante: incluye una lista de checks ejecutivos basada en escenarios reales de brechas, no en wishful thinking. Una lectura perfecta para quienes aún creen que “tener actualizado el antivirus” es estrategia.
.- Guía de la ICO sobre el “Interés Legítimo Reconocido” .- La ICO británica publica una guía sobre cómo aplicar una de las ideacas-barra-especialidades de su UK GDPR: el “interés legítimo reconocido” como nueva base legal para tratamiento de datos. En España nos inventamos las presunciones iuris tantum de “existencia de interés legítimo”. En UK se han sacado de la manga una serie de situaciones, er, más o menos matizadas, en las que te puedes ahorrar la LIA o evaluación interna.
.- Interesante post de Mateusz Kupiec describiendo un curioso caso en Polonia (“reteníamos esos datos para defendernos porsiaca”) que mezcla elementos de retención de datos, distinción entre responsable/encargado e interpretación correcta del interés legítimo. Revísenlo: les sorprenderá.
.- La ICO ha publicado (mejor dicho: Luis Montezuma ha publicado) la PIA de la ICO sobre la app Microsoft Teams. ¿Y bien? Meh.
.- Otra aportación de Luis, ésta mucho más sesuda:
ONKIDA provides an initial overview and serves as an aid for working with these guidance aids by enabling faster access to individual aspects of central data protection regulations. The application includes a left column (vertical line) with central data protection requirements ("Top Ten Data Protection and AI") that regularly play a role in AI applications with pbD. In the right-hand column, you will find a selection of guidance from various supervisory authorities or cooperating bodies on the interfaces between GDPR and AI, each linked to the original documents. For each document, ONKIDA indicates in the individual fields whether and, if so, at what point (page, marginal number) the respective paper contains statements about the specifications in the left-hand column.
Descarga del one pager (ojo que está en tedesco) aquí.
🤖NoRobots.txt o Lo de la IA
.- Conclusiones de una mesa redonda organizada por la FPF sobre la convergencia entre privacidad y desarrollo de IA. Uno de los autores es el pope Rob van Eijk. Se tratan cuestiones de privacidad relacionadas con el entrenamiento de modelos, el funcionamiento de los transformers, la memorización o no de datos personales, datos sintéticos, privacidad diferencial… Bueno y breve.
.- Vadym Honcharenko comenta en linkedin un paper que va directo a la nuez: el título es autoexplicativo: “Machine Learners Should Acknowledge the Legal Implications of Large Language Models as Personal Data” de Henrik Nolte, Michèle Finck, Kristof Meding.
.- Esta jefaza nos cuentas los pros y los contras de hacerlo todo con un modelo local (cojonudo, pero local) en tu portátil. Siempre en mi equipo.
.- Jose Miguel Such, Xiao Zhan, Juan Carlos Carrillo Moraga y William Seymour te hacen una pregunta muy simple y de plena actualidad: ¿Te fiarías de una IA que siempre se muestra simpática contigo, pero que subrepticiamente trata de sacarte tu información personal? y luego, claro, te la responden con un paper.
Este: Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information
🧷Herramientas Útiles 🔧
.- Victor Viloria se ha sacado de la manga, nada más y nada menos que un MCP para enganchar al modelo de tu elección a… ¡booom! el BOE. Info aquí y enlace a git aquí.
.- En PCMag unos sencillos consejos para eliminar contenidos generados por IA de los resutlados de Google Search. (Nota: es aún mejor no usar Google search, pero…). El artículo detalla cómo eliminar el nuevo "AI Overview", modificar preferencias y recuperar búsquedas tradicionales. Lo grasioso: Google no ofrece una opción directa de desactivación permanente, lo que revela que la IA no es una función más, sino el nuevo pilar de su modelo de negocio.
.- Este gráfico de Heiko Roth me tuvo un buen rato pensando. Heiko ha estado muy actrivo este verano, recomiendo pegarle un buen vistazo a sus posts.
El chorradón final
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.
Siempre inspiradísimo, un gusto :)