#40 ¿Cuál es la mejor IA en lo jurídico? Fácil: la que usen las principales firmas...
Fausto lo sabía. Tú lo sabes.
El note en Substack de Sergio Maldonado es un directo en la mandíbula.
1.- Toda gran firma legal está interesada en invertir en tecnología para no quedarse atrás, para no perder competitividad. Pero al mismo tiempo, debe guardar celosamente el knowhow de sus valiosos violinistas del derecho: estas estructuras tienen excelentes profesionales cuyas ideas felices se despachan sin fricción adicional a todos sus clientes, con beneficios exponenciales.
Problema: el que compra de tecnología no suele ser el encargado de proteger el knowhow. Y ciertamente, nunca es el violinista.
2.- Todos los pequeños despachos estamos encantados con la IA. Y ya tú sabes si tienes cara de early adopter, es agotador: cuando parecía que y ahabías terminado de atender a tus clientes, tienes que atenderte a ti mismo y echar otro par de horas experimentando con cada nueva iteración e ideaca de la BigTech.
Pero vaya si renta.
Todos los little early adopters jurídicos hemos percibido algo este año: en los últimos seis meses, los modelos frontera han mejorado bestialmente en lo jurídico. Mi opinión de cuñao, que no alcanza a los tecnicismos y mejoras del entrenamiento y razonamiento, coincide al 100% con la de Sergio: esos modelos han digerido inmisericordemente el knowhow de todos esos colosos legales que se han abandonado a los tentáculos de ChatGPT, Gemini, Claude o Harvey (also ChatGPT, si hacemos caso a cosas).
3.- Con todo lo fan que soy de la democratización del conocimiento, mis sentimientos en este caso son encontrados:
Es obvio que la BigTech se entrena con cada suspiro o movimiento de ratón que se produce en las cercanías de sus modelos. El abismal latrocinio que vio nacer esta tecnología no va a parar en el medio plazo. Y es una lástima porque parece que si se quiere, se puede. (Si alguien me puede contar la sesión de la IAPP en la que la gran Lokke Moerel explicó los pormenores del entrenamiento compliant de un LLM, soy todo oídos, gracias).
Es obvio que las razonamientos jurídicos de los modelos frontera representan lo que dice “la clase media”. Dicho de otro modo, el mínimo común múltiplo de lo que reciben e ingieren en su día a día. El consenso de mercado. Esto ya es útil para cualquier especialista cuando consulta disciplinas que le son ajenas. Si en la dieta del LLM entra la obra de violinistas, la media general -y utilidad- será mucho más alta.
4.- Como dice Sergio, los juniors -o vaya, los generalistas- que amaestren LLMs podrán engañar al cliente, porque a los ojos del profano un doc con buena pinta es difícil de distinguir de uno excelente.
5.- Ahora imaginen lo que puede hacer un little experimentado violinista (o, ejem, un ex-violinista) cabalgando un LLM nutrido por todas esas orquestas que no querían “quedarse atrás” y han vendido sus DMS al diablo.
Jueguen, experimenten, niños y niñas, el mundo es nuestro.
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad y derecho tecnológico de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas en protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
🗞️Noticias del Mundodato 🌍
Semana realmente petada de cosas importantes ya comentadas en linkedin y que no deberías perderte:
.- En una aplicación espectacular (y ya tocaba) de la doctrina Lindenapotheken del TJUE, un juzgado de lo mercantil madrileño condenó a Meta a indemnizar con 479 millones de euros a la asociación de la prensa digital española.
¿Por qué? Meta incumplía el RGPD y fue sancionada por ello por las autoridades competentes (la Autoridad irlandesa, con el EDPB retorciéndole el brazo por detrás).
Ese incumplimiento (tratar los datos personales de sus usuarios sin base legal suficiente para bombardearles con publicidad personalizada) le brindaba una ventaja competitiva en el mercado publicitario (adtech) sobre la prensa digital, que le ha permitido prácticamente repartirse ese mercado con Google.
En Lindenapotheken el TJUE declaró que los competidores en una situación como esta pueden, denunciar e interponer acciones judiciales por estas infracciones (aunque no sean las personas afectadas por el incumplimiento en sus propios datos), y además -y es lo que aquí se ha hecho- pueden exigir indemnización civil por estas infracciones del RGPD que son a la vez infracciones del derecho de competencia..- Lo del FoloToy: el osito de peluche con IA (powered by GPT 4.0) que, en pruebas y sin demasiados esfuerzos, osó (perdón, perdón) “asesorar” a sus delicados propietarios sobre temas como sexo sadomaso y dónde encontrar cuchillos en su casa.
.- Sanción de la AEPD de 4 millones a XFERA MÓVILES por brecha de seguridad. El dúo dinámico del 5.1.f) y 32 RGPD strikes again.
.- Sanción a AENA de más de 10 millones (record absoluto para la AEPD) por tratamiento de datos biométricos sin la preceptiva evaluación de impacto (tras dos intentos que fueron rechazados por la AEPD).
.- Sanción de 650.000 euros a la Universidad Internacional de Valencia por su herramienta de proctoring Smowl (tratamiento biométrico ilícito por hiperchapucera justificación de excepción a la prohibición general de tratamientos biométricos con finalidad de identificación).
(Del excelente blog de Simon Willison)
.- “El 50% de las empresas utilizan IA sobre sus trabajadores” (y lo hacen mal). Porque la supervisión humana tiene que ser efectiva.
Supervisión Humana Efectiva: the M-AI-nority Report
Descubrí este framework de Tey Bannerman para aterrizar en la práctica ese tópico tan cuqui del “human in the loop” en herramientas de IA y me enamoré de él:
.- Nuevo galimatías datero-legal relacionado con el colectivo LGTBI+, esta vez relacionado con el cumplimiento de la paridad en las listas electorales.
.- Lo irónico -a la vista del Digital Omnibus que se ha puesto encima de la mesa- de los millonazos vertidos en la promoción de esa nebulosa “Carta de derechos digitales” impresa en papel mojado.
📄Papers de la semana
.- “Deberían haber enviado a un poeta”: Un equipo de investigadores italianos se ha saltado las salvaguardias del 90% de los LLMs (esos que les impiden contestar cuando les preguntas cómo enriquecer uranio para fabricar bombas atómicas o crear virus troyanos persistentes -dos retos reales conseguidos en esta investigación-).
Ha sido más fácil engañar a los modelos más grandes que a los pequeños.
¿Cómo demonios lo han hecho? Pidiendo lo mismo, PERO EN VERSO.
Los investigadores del laboratorio DEXAI descubrieron que la estructura poética opera como un “operador de jailbreak universal”. Al reformular solicitudes dañinas en forma de verso, metáfora y ritmo, las salvaguardas de los modelos de lenguaje se desvanecen como lágrimas en la lluvia.
El estudio demuestra que los modelos más grandes son paradójicamente más vulnerables: GPT-5-nano mostró 0% de vulnerabilidad mientras Gemini-2.5-pro alcanzó el 100%. La sofisticación interpretativa parece comprometer la adherencia a las directivas de seguridad. Los filtros optimizados para prosa directa carecen de robustez ante reformulaciones narrativas o estilizadas de intención idéntica.
📖 Documentos dateros muy cafeteros ☕️
.- El análisis de Giancarlo Malgieri sobre el Omnibus Digital, cortito y al pie.
.- Las impagables tablas resumen sobre aspectos específicos del mismo Omnibus que nos está regalando el bueno de Laszlo Pok: RGPD, notificación de incidentes, novedades para PYMES, AI Act. No dejes de echarle un vistazo a su newsletter semanal: Datawlogy (está en nuestra web entre nuestras newsletters recomendadas).
El regalo datero ferpesto para estas Navidades
La recomendación la hacíamos la semana pasada, pero el libro se ha publicado hoy en castellano: El imperio de la IA bien puede ser el libro del lustro. No tan académico como la obra de Zuboff, ni tan humanista como “Privacidad es poder” de Carissa Veliz, ni tan marujero como “Los irresponsables”, el libro de Karen Hao es completista, riguroso y despiadado. Y eso nos gusta.
Recuerda que aquí nadie se lleva un duro ni nada parecido por nuestras recomendaciones.
💀Death by Meme🤣
🤖NoRobots.txt o Lo de la IA
.- Interesante paper de Wenlong Li y Jingwu Zhao sobre las diferencias y posible integración y coherencia entre las soluciones a uno y otro lado del Atlántico en relación con la pretendida supresión de datos en LLMs: disgorgement en USA y otras cosas en EU.
.- Una long read interesante de narices: la analogía del incendio forestal como más adecuada que la de la burbuja para lo que está pasando en el mundo de la IA llega hasta donde llega, pero principalmente la segunda mitad del artículo pega donde duele.
🙄 El chorradón final
El michi debe ser el de Mike Oldfield, por lo menos.
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.