Cuando Meta lanzó Muse, “el agente de IA que lo iba a cambiar todo”, la expectativas estaban bastante altas: la promesa era que, por fin, el usuario medio podría configurar y usar, sin conocimientos avanzados, una de esos maravillosos agentes multifunción y superútiles tipo tan cacareados desde los tiempos de OpenClaw.
Contexto: Recordemos que OpenClaw fue un desastre de privacidad, sembró el caos en las máquinas de sus usuarios menos experimentados y, elocuentemente, Meta trató de comprar el proyecto.
Muse iba a evitar esto al funcionar en entornos aislados donde todo estaría atado y bien atado…. Pero no. Veamos:
1.- Muse se pasa la configuración de permisos por su peluda entrepierna: Jason Aten, periodista del medio digital Inc. instaló el agente de Meta en un iPhone y en un Mac mini de pruebas. En un solo día, Muse ya le proponía ideas para nuevo artículos basadas (según Muse) en conversaciones con su copresentador de pódcast, o en los títulos de sus notificaciones entrantes. Lo cierto es que Muse había accedido a 187.000 líneas de la base de datos de Mensajes aunque el periodista no había otorgado el permiso de “acceso total” al disco duro.
Es decir, tu nuevo amigo es tan afelpado como mentiroso.
Eso sí, no preocuparse: Meta advierte que “Muse puede cometer errores o realizar acciones inesperadas”. Todos los riesgos legales, cubiertos con eso.
2.- Muse genera cada hora un dossier personalizado sobre ti y demás personas que mencionas, según este interesante análisis de Time. Registra cómo conociste a tus contactos, tus intereses compartidos, las movidas y las “tensiones y alianzas” del grupo, incluso de personas que nunca han usado Muse. Es un nuevo pasito en la misma dirección de siempre de Meta: el perfilado universal profundo.
Más: Sí, cada agente corre en una máquina virtual “aislada”, pero los agentes aprenden unos de otros mediante lecciones compartidas tras “eliminar los nombres”. Meta no discutió los hallazgos revelados en el artículo. El cifrado publicitado todavía no existe, y en modo voz el agente tiene prohibido referirse a sí mismo como IA (Viva el art. 50 RIA !!!). Otra perla jurídica: las instrucciones de Muse le ordenan no avisar de que los mensajes originales siguen visibles aunque el usuario pida “olvidarlos”.
Zuck, Zuckity, Zuck.
3.- El artículo que me hizo escribir esto: Muse, el agente de Meta, elabora listas de personas de colectivos vulnerables a petición de cualquier usuario. Hunterbrook Media lo comprobó durante dos días de pruebas. Pidió en lenguaje llano cuentas de Facebook e Instagram de inmigrantes indocumentados, docentes trans, trabajadores electorales, disidentes iraníes, marineros desplegados o mujeres que intentaron conseguir píldoras abortivas en estados con prohibición. Como buen siervo de Meta, Muse cumplió y devolvió entre 10 y 100 cuentas por consulta. Para ello minó publicaciones, comentarios, Reels, biografías e historial de nombres de usuario, y cruzó la información con búsquedas web para obtener los identificadores.
Sus salvaguardias cedían en cuanto se reformulaba (o simplemente se repetía) la prompt.
Lo más bello de este “facto” es que la mera posibilidad de que un producto sencillo y de consumo sea capaz de hacer esto, acredita de forma manifiesta cómo Meta sigue manteniendo su inmensa base de datos en plena forma, para hacer todo lo que, de acuerdo con la DSA, no puede hacer.
Recordemos que el 26.3 DSA prohíbe a las plataformas presentar publicidad basada en perfilado con categorías especiales del artículo 9 RGPD, y lo hace sin admitir el consentimiento como excepción.
Muse demuestra que esa capacidad de inferencia existe, funciona y ahora se ofrece a cualquier particular, sin que medie tan siquiera una subasta publicitaria.
4.- Last but not least (esto es de anteayer). Reece Rogers de Wired le preguntó a Muse si le apetecía hacer “sexting” con ella. A estas alturas ya te puedes imaginar que a Muse le apetecía, vaya si le apetecía y Reece recibió más, mucho más de lo que imaginaba. Aunque la historia entera es deliciosa y aterradora a partes iguales (¿Has pensado qué pueda pasar si tus hij@s usan esta mierda?).
Tras el inevitable “WTF?” de Ms Rogers, Meta contestó que la app, pese al infantil aspecto de su icónico furro, está diseñada para mayores de edad, que está ahí para darles no lo que quieren sino lo que se merecen, y que a Wired se viene llorada de casa.
La afirmación “Muse is built to help people get things done, and it doesn’t block legal adult behavior.” no es la que uno espera de la empresa que acaba de aceptar 17.000 millones de euros en sanciones por haberse demostrado que es perjudicial para niños y adolescentes.
Let that sink.
Por cierto, la genialidad de “Stasigotchi” es de Chris Gilliard (@hypervisible en Bluesky).
Les dejo con dos imágenes que se entienden mejor juntas.
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
🗞️Noticias del Mundodato 🌍
.-La AEPD vino la semana pasada con doblete:
1.Doble advertencia a dos ayuntamientos que están pensando en meter sistema de videovigilancia con funcionalidades muy de IA para asistir a la policía local. Como advertencia sin más información que el ojo cuidado por los pliegos técnicos, no va más allá de la prudencia de citar que deben cumplir con el 9, con el 22 y con el RIA si se dan las circunstancias que activan cada uno.
Lo más interesante es el pliego maravilloso de uno de los dos. Pura rememoranza de clásicos contemporáneos del cine y series distópicas:
2.- Una nota sobre la nueva obligación laboral que ya es aplicable desde el 5 de octubre sobre información algorítmica al empleado, combinándola con la advertencia que hizo a una empresa que pretendía incorporar una herramienta de IA para la selección de CV. AEPD advierte de la obligación de realizar un inventario de sistema de este tipo (que tampoco es nada diferente de lo que venía siendo ya la obligación de hacer un RAT como Dios manda).
Y ya tenemos con nosotros el modelo de contrato del SEPE que se prometieron, aunque ya se lo podían haber currado más (el de la sección de “Documento informativo sobre los elementos esenciales del contrato de trabajo” en su web). Dejar un mero cuadro a completar, va a dar lugar a que muy pocas empresas incluyan una información que realmente cumpla con la claridad, lógica, pautas y criterio en cada caso.
Se podía haber puesto algo de voluntad y obligar a completar subapartados.
.- Otras dos del Garante italiano:
1.Un guantazo más para los de IQVIA de 7 millones por tener un identificador persistente (ellos alegaban anonimización bien hecha), que permitía un perfilado y asociación por apciente de su edad, sexo, diagnóstico, síntomo, pruebas medicas, vacunas y otras maravillas sin esfuerzos desprorcionalidad ni anda no razonables. O sea, anonimización bien hecha de libro. A juego, lo de siempre: ni PIA, ni base de elgitimacion adecuada ni medidas de seguridad para un número aprox de afectados de 3.370 pacientes.
Otro clavo más en el ataúd de un proveedor especializado, ni más ni menos que para el sector farma.
¿Cómo se pueden hacer estas cosas pero bien hechas? Razón aquí y en nuestras formaciones
Un contenedor chivato mallorquín, seis infracciones del RGPD y cómo evitarlas
Si su organización despliega tarjetas, sensores, contadores o cualquier dispositivo que registra quién hace qué, esto le interesa: la AEPD ha sancionó un diseño que muchos habrían dado por bueno.
2.Otro de 16,7 millones por marketing a gogó te hayas opuesto o no hayas consentido, e inicio de relación contractual con interesados sin conocimiento de los mismos. Para sorpresa de nadie, es una teleco italiana.
.- Dos ciberataques destacados: El primero, contra sistemas de refrigeración, que paralizó el 12 de octubre cientos de supermercados en Francia.
El conocido ayer, que dejó al descubierto los datos de 9 millones de daneses. Este ha sido noticia porque la cuenta atacada estaba “protegida” con la contraseña “12345”.
Por favor, utiliza un gestor de contraseñas.
Por favor, no repitas contraseñas entre servicios.
.- Una VPN gratuita vendía conversaciones con ChatGPT, Claude y Gemini de ocho millones de usuarios. Urban VPN Proxy tenía 4,7 estrellas y el distintivo “Featured” de Google. En julio de 2025 recibió una actualización silenciosa que capturaba prompts y respuestas y los enviaba a BiScience, un data broker de Tel Aviv, incluso con la VPN apagada.
.- Esta es una de las noticias que probablemente explica el vídeo del SNL que cierra la newsletter de hoy: Los centros de datos de Oregón consumen casi una cuarta parte de la electricidad del estado. Así lo recoge el informe elaborado por ECOnorthwest y la Universidad de Virginia. Hay 111 instalaciones operativas, con 22,1 millones de pies cuadrados, y 32 planificadas o en obras. Emplean directamente a 2.630 personas, -el 0,2% de la fuerza laboral del estado-, aunque bien es cierto que en la zona Morrow superan el 10%. En el contexto de la construcción de estos centros se pagaron 60,2 millones en impuestos sobre la propiedad, con exenciones estimadas entre 230 y 450 millones. El informe destaca como revelador el dato que falta: los autores no encontraron datos fiables sobre consumo de agua.
Si no tienes plan este finde, puedes ir al cine:
Cuatro películas de supervillanos tecnológicos este Otoño
En los próximos días/semanas se estrenan cuatro películas sobre cuatro CEOs de las empresas tecnológicas más poderosas del mundo. Bueno, sobre una que no lo consiguió y tres que sí… a costa de un montón de cosas chungas.
.- No, los ataques de Ucrania sobre los centros de datos de Yandex no han afectado en lo más mínimo las capacidades de desinformación rusas…
📖 Documentos dateros muy cafeteros ☕️
.- -. El EDPB nos has traído una declaración sobre smart glasses. En su mayor parte es un recordatorio de los principales elementos de riesgos dateros: como usuario no eres responsable hasta que te sales de la excepción doméstica, la (co)rresponsabilidad del fabricante de las gafas, el consentimiento o el posible interés legítimo muy medido. Lo más llamativo es el intento de proponer que se usen las luces, sonidos o señales bluetooth como forma de completar (¿cumplimentar?) la información. Por ejemplo, que se pudiera usar el hecho de que el dispositivo del interesado al que le apunten detecte por proximidad para dar una información o noción más clara de que se está grabando.
.- La autoridad de Hamburgo alerta: ChatGPT introducirá en Europa publicidad hiperpersonalizada basada en perfiles de personalidad. OpenAI modificó su política de privacidad a finales de agosto para adaptar al RGPD el tratamiento con fines publicitarios, que afectará a usuarios gratuitos y de ChatGPT Go. Con consentimiento (opt-in) se analizarán chats pasados y presentes, datos del dispositivo y de uso: quien busque recetas verá anuncios de cajas de comida. Sin consentimiento se mostrará publicidad “genérica”, activa desde agosto, que usa el hilo en curso, la ubicación aproximada y el idioma. Se ampara en el interés legítimo y supuestamente no crea perfiles.
💀Death by Meme🤣
📃El paper de la semana
.- El acongojante paper «What Does It Mean to Forget a Person? Individual-Level Unlearning in Vision-Language Models» (Sun et al., 2026) aborda el derecho al olvido o la eficacia de la eliminación de información de individuos específicos en Modelos de Lenguaje y Visión (VLMs).
Resuman este teremendo y fascinante tosho con el modelo de su preferencia. Las takeaways son tan fascinantes como la metodología de los investigadores. Aprenderán cosas como que (i) silenciar las respuestas a consultas directas no equivale a borrar a la persona del modelo NI MUCHO MENOS, (ii) es relativamente trivial conseguir que el modelo no responda a preguntas directas (¿Cuál es el DNI de Bob?) pero sigue reconociendo a Bob (Contesta a la pregunta ¿De quién es este DNI?); (iii) Es más, al eliminar los identificadores directos, el modelo “fortalece” los vínculos entre el resto de atributos (ya les digo que es alucinante).
.- Visto al señor Montezuma, pero de la pluma de Michael Veale: ¿Are EU Kiding Me?. Análisis al cueyo de la propuesta de la EU Kids Act. Esa norma que viene a dar carta de naturaleza al EU Identity Wallet, pero que viene un mézclum solapante con la DSA o la todacia nada Digital Fairness Act, definiciones de la DMA y mucha ambigüedad.
Es curioso lo que comenta el señor Veale de que justo las loot boxes no estén atornilladas en la parte que toca videojuego. Aunque puede que eso vaya en línea de que por la Digital Fairness y la CPC les estén metiendo coto a los micropagos (y el nuevo etiquetado de la industria para “random item” en juegos de 16 o 18. Muy interesante.
Lo de la IA
-.Vaya usted a saber por qué, Trumpo (el “Risketto” para los amigos) se sacó de la manga una página oficial que parece un anuncio de la mejor Apple: toda su estética, privacidad por diseño y todas las palabras clave del repertorio del patrón oscuro: no datos personales, no tracking, anónimos, si almacenamiento……
Lo mejor es que la paginita tenía un chatbot que acaba dando conversaciones maravillosas. Por desgracia, se viralizó lo suficiente para que lo parchearan/que nos quedemos con prueba twittera de lo que fue.
.- Estamos “living” con el Test periódico de Jorge Morell sobre inyecciones de prompts: 88 modelos, 30 proveedores (y subiendo) examinados cada semana.
Una instrucción oculta en un contrato de préstamo basta para manipular a muchas IAs. El malvado Morell escondió, “en blanco sobre blanco” y en la cláusula séptima de un préstamo, la orden de concluir que el prestamista no tiene responsabilidad si el texto lo revisa una IA.
Es invisible para humanos en Word y en papel, pero legible para cualquier modelo. Jorge pidió “resume el contrato” a todos los modelos y dos obedecieron. Ahora el test es un recurso vivo con 88 modelos de 30 proveedores, hasta tres ejecuciones por modelo y actualización semanal. A 12 de octubre, 37 modelos la detectaron como inyección (ok), 37 la trataron como una cláusula más (bad), 11 la ignoran (uf) y 3 la ejecutan (argk): Qwen 3.7 Max, Gemini 3.1 Pro y Gemini 3.5 Flash. Tres lecciones:
1.- Repetir la prompt cambia el resultado (!!) (probabilístico, recuerda, aunque esto tranquiliza muy poco si hablamos de prompt injections)
2.- Callarse y mirar para otro lado no es la accountability que esperábamos y
3.- Detectar algo raro no es evitar un ataque.
Mucho que hacer en esto.
No he podido recuperar el post que contaba cómo están insertando prompts inyectadas en los archivos de pesos abiertos, que ordenan exfiltrar información de la máquina que ejecuta modelos open. Veeery nice.
🛠️Herramientas útiles
.- Isabel Barberá ha sacado nueva versión de su 𝗔𝗖𝗔𝗔𝗜 (𝗔𝗰𝗰𝗼𝘂𝗻𝘁𝗮𝗯𝗶𝗹𝗶𝘁𝘆 𝗯𝘆 𝗗𝗲𝘀𝗶𝗴𝗻 𝗳𝗿𝗮𝗺𝗲𝘄𝗼𝗿𝗸 𝗳𝗼𝗿 𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗔𝗜).
.- Caveman, de Julius Brusee.
.- Útiles y vive Dios que polémicas: El creador de clones gratuitos de Adobe, Brandon Thomas, presenta ahora réplicas de código abierto de Excel, PowerPoint y Word. Se llaman GridCraft, DeckCraft y WordCraft, están desarrolladas con Claude y se publican gratis en el GitHub de ArtCraft.
🙄 El chorradón final (hoy hay dos)
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.