#50 La IA en guerra híbrida. Verificación de edad. Carga cognitiva, deuda cognitiva, deuda técnica
Te vas a hartar de leer sobre estas cosas y la IA
“Carga cognitiva”
Es el esfuerzo mental de, en el mejor de los casos, procesar información y en el peor, de coordinar un proyecto entero: claro que no lo haces todo, pero tú eres el gilipollas que tiene todo en la cabeza y se responsabiliza de que las cosas salgan bien.
Porque alguien tiene que hacerlo.
Al tirar de una IA para resolver problemas, externalizamos parte de ese esfuerzo: el modelo piensa, nosotros validamos.
El problema es que, con el tiempo, el músculo mental tiende a atrofiarse por falta de uso.
“Deuda cognitiva”
Es el coste inherente a la atrofia de ese músculo mental.
Cada vez que delegamos una tarea mental en una IA —resumir, razonar, estructurar— en lugar de hacerlo nosotros, acumulamos una deuda: la capacidad que no practicamos hoy nos costará recuperarla mañana.
Más que pérdida, me gusta más llamarla erosión.
“Deuda técnica”
Concepto original del desarrollo de software (incluir librerías públicas, testadas en tu proyecto para acabar antes, sin correr riesgos, sin reinventar una rueda que gira ya en un millón de sitios).
En el contexto de uso de la IA, se refiere a “pedir” código, documentos complejos o flujos de trabajo sin conocimiento externo de la materia y su contexto.
Cuando la IA te empluma alucinaciones, el script deja de funcionar o te da un error que no entiendes, el usuario se queda en pelotas porque nunca dominó el proceso original.
A medida que el uso de IA se va extendiendo todos estos conceptos ganan importancia y popularidad:
Hoy dedicamos cuatro palabras a hablar de la carga cognitiva con este artículo en el que particularmente me he visto muy reflejado: la sensación de estar agotado a media mañana porque me he metido en tres fregados duros a la vez: he prompteado el primero con un testamento de casi mil palabras, estoy puliendo y optimizando el segundo y el tercero, y antes de ver el nuevo output del segundo ya he caído en una forma distinta -y por supuesto, mejor- de plantear el primero: la IA es maravillosa pero llegar hasta donde nunca pensaste llegar solo, pero perseguir el arco iris tiene un coste muy obvio.
Hay un mantra ubicuo these days: “La IA no te quitará el trabajo: alguien que la domine lo hará”.
Quizá.
Este task-based-approach tiene las piernas bastante cortas, pero ya hablaremos de eso.
Lo cierto es que microdespachos como el mío estamos multiplicando nuestras posibilidades mes a mes.
Pero me resulta obvio que pequeños y grandes necesitamos sistematizar esfuerzos para no acabar trabajando el doble que antes en vibecodear todos lo mismo, consumirse en revisar deep-researchs mellizos, conseguir el jaque-mate de todas las skills e ingerir, resumir y extraer insights de las penúltimas guidelines publicadas por la autoridad de Sebastopol.
Ya luego está el tema de que al optimizar de ese modo a Claude, estás entregándole todo tu mojo. Y ése: ése sí es el tema.
Pero esa historia será contada en otra ocasión.
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, resolvemos movidas complicadas relacionadas con la normativa de protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
🗞️Noticias del Mundodato 🌍
.- El salseo del fin de semana mantuvo como protagonista a Dario Amodei: se plantó ante el Gobierno USA, mantuvo como última frontera de su AI Ethics sujetar a salvaguardias las capacidades de vigilancia masiva y las de autonomía total para finalidades letales. Como respuesta, Trump firmó con OpenAI y metió a Anthropic en una especie de lista negra para contrataciones con la administración USA.
El último episodio de este enfrentamiento ha sido el éxodo masivo de ChatGPT a Claude que ha situado a esta última en la primera posición de apps descargadas en los principales markets.
.- Lukasz Olejnik nos explica la parte digital del “ataque híbrido” a Irán (Israel hackeó “BadeSaba”, una popular app iraní de rezos para hacer llegar a buena parte de la población el tipo de propaganda que en las pelis antiguas se lanzaba en forma de octavillas desde aviones.
Todo esto fue antes de que los Ayatollahs cortaran el acceso a internet, claro.
Decía que Lukasz no sólo lo explica sino que saca pechote de haberlo vaticinado en su libro “Propaganda”.
.- Dell Cameron en Wired: Las brechas de seguridad de data brokers han costado veinte mil millones de euros en USA.
La parte social de esta noticia: un informe del Joint Economic Committee de los demócratas cuantifica los daños causados por suplantaciones de identidad y responsabiliza a cuatro brechas relevantes en el ecosistema de data brokers.
El artículo recupera una investigación previa sobre páginas de opt-out de estas empresas voluntariamente invisibilizadas (con instrucciones “noindex” incrustadas para buscadores) y las enlaza con nuevas presiones políticas: auditorías, peticiones de información a brokers concretos.
La parte jurídico-técnica: el mecanismo “noindex” es un patrón de infracción del deber de accountability ferpestamente cuantificable: basta rastrear estos índices para detectar (y documentar) la voluntad concreta de incumplir el RGPD.
.- Uno de los momentos más perturbadores que este calvo ha tenido esta semana (y no han sido pocos): Los documentos revelados por Meta en el contexto de un litigio en Nuevo México revelan que la compañía conocía que su algoritmo sugería cuatro veces más cuentas de menores de edad a adultos potencialmente peligrosos (proclives a hacerles grooming y sextorsión).
Casi uno de cada cuatro de estos adultos (atención: uno de cada cuatro (¡!!) lo intentaron efectivamente (el dato resulta de los documentos).
¿Meta corrigió el algoritmo a consecuencia de estos datos? No.
¡¡Es el engagement, amigo!!
.- La India sigue siendo uno de los mejores terceros países para transferencia internacional. Cada vez más: “El estado indio de Maharashtra está desarrollando una herramienta de inteligencia artificial que utiliza «el acento, el tono y la elección de palabras» para identificar y deportar a los musulmanes bangladesíes y a los rohingyas desplazados de Myanmar.”
Se está quedando desactualizado aquel informe de la normativa relevante que encargó el EDPS sobre China, Rusia y la propia India.
.- “La puntita nada más”. Noticia muy interesante sobre la dualidad entre la DSA y el juicio bueno por Estados Unidos con META y TikTok por medio. La capacidad de que los documentos jugosos de responsabilidad sobre todo el ecosistema adictivo creado, salgan a la luz.
Por ejemplo, que sólo autorizarían crear algo de control de tiempo de pantalla si no reducía más del 5% el de uso total de usuario.
Aquí te enseña la política de uso razonable de pantalla facherita por Compliance, pero allí se tiene que sacar el doc interno de la cúpula.
.- Le hemos visto a Natzir T. por Linkedin, una enlace de los que asustan más si lo hace Hacienda. Se ve que han tenido la feliz idea de licitar para obtener: “Arrendamiento de una Herramienta de Software para Obtención de Información en Redes Sociales con destino a la AEAT”. Saquen sus conclusiones, y el puñito por lo que pasaría si a alguno le diera por validar maravillas de este palo del lado privado
Formación RGPD + IA
¿Estás interesado en apuntarte a la próxima edición de nuestra formación para aplicar el RGPD a la IA como un auténtico samur-ai ?
Toda la info aquí, salvo las fechas, pendientes de determinar, pero en todo caso para terminar antes de julio.
Si quieres apuntarte, mándame un email, pincha aquí:
Verificación de edad
Tenemos tanto sobre este tema esta semana que le dedicamos una sección.
.- Empezamos con este completo artículo de Waydell D. Carvalho y Michelle Donelan que acumula en un solo lugar todos los problemas que presenta la aparentemente buena idea de imponer la verificación de edad a las plataformas.
.- Discord ahora nos dice que retrasa la implantación de la verificación por estimación facial a fecha indeterminada de mediados de año. Ponen sobre la mesa que entiende que gente tenga dudas sobre privacidad, pero van a intentar ser más transparentes. Puede que no haya ayudado que nunca se dijera qué base de legitimación se usa, que a nivel de proveedor se deslicen opciones divertidas como “verificación por huella digital asociada al correo electrónico”, o el punto que siguen dejando caer del profiling que ya les permite inferirla.
Nunca hay que poner la mano en el fuego diciendo un perfilado sea menos invasivo que un estimación facial sin info suficiente de ambos, pero tres preguntas: ¿para qué necesitas lo segundo si tienes lo primero?, ¿tenemos dos sistemas de verificación de edad: el no declarado ni informado para el 90% de la gente, y el facial que querían meter?, y ¿no revisa nadie de legal estos post de CEO salvaje explicando cosas?
La puntilla es que reconozcan que no les convenció Persona como proveedor específico + que la información nunca abandonó el dispositivo. Puede que no sea muy buena cosa para Linkedin o Reddit, por comparativa. Aunque por Bluesky apunta a dudas sobre las afirmaciones de Discord.
.- Last but not least: Carta conjunta abierta firmada por un montón de científicos contra… ¿lo adivinan? la verificación de edad.
La carta distingue verificación, estimación e inferencia de edad, y alerta de daños técnicos y de todos los colores si se despliega control de acceso a escala Internet sin más miramientos.
Resumen de los riesgos (agárrense los machos): fácil bypass (VPN, credenciales prestadas, deepfakes); posibilidad aumento de malware/estafas por migración a servicios alternativos; necesidad de infraestructuras de confianza global complejas; invasión de privacidad por biometría y control comportamental; sesgos y errores, entre otros.
Pero el principal argumento es de irreversibilidad: una vez instalado el control de acceso universal, el deslizamiento hacia una reutilización para censura u otros fines chungos es mucho más probable que su desmantelamiento; es un riesgo de gobernanza, no solo de privacidad.
📖 Documentos dateros muy cafeteros ☕️
.- Este paper de Theodore Christakis contando todos los datos que te pispan los modelos de IA más extendidos.
💀Death by Meme🤣
🤖NoRobots.txt o Lo de la IA + 📃El paper de la semana
.- Duro de leer, pero fascinante: The Dead Law Theory: The Perils of Simulated Interpretation.
.- Del mismo Natzir y el mismo post de Linkedin interesante, también viene el paper de investigadores de ETH Zurich, MATS y alguien de Anthropic, sobre que los LLMs pueden permitir desanonimizar de manera masiva y automatizada.
Aparte de contener los prompts usados, da un poco de miedito en fiabilidad lo conseguido:
Hacker News, conectado con LinkedIn: el agent identificó correctamente 226 de los 338 objetivos (67 %) con una precisión del 90 % (IC del 95 %: 86-93 %; 5 identificaciones incorrectas, 86 abstenciones).
En Reddit: precisión del 25-52 % con una precisión del 72-90 %;
En transcripción de entrevistas de Anthropic: identificó a 9 de los 33 científicos con una precisión del 82 % ( con 2 errores, 22 rechazos). La captura es justamente este caso con el flujo de funcionamiento.
📎Herramientas útiles
.- Nos declaramos fans absolutos de Tey Bannerman. Y Tey, amigos, lo ha vuelto a conseguir. No es nada fácil simplificar con este detalle cosas tan complejas. Recomiendo dedicar una mañanita de sábado a impregnarse en profundidad de este framework que te ayudará mucho, muchísimo a utilizar mejor la IA.
.- No es una herramienta de las de uso directo que se ponen en esta sección, pero alguien se ha marcado una de cotejo de contratación menor en lo público. Una iniciativa ciudadana de un ingeniero informático para sacar red flags de muchos contratos de cantidad limitada. Enlace a la web para visualizar métricas y datos: contratación abierta. Enlace al hilo de X con la explicación del autor.
🙄 El chorradón final
No habrá cartel alguno, pero han bordado el punto de garantizar que sepas que te vigilan.
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.