#26 ¿La IA es tan lista como Skynet o tan boba como C-3PO? Depende a quién preguntes...
Con los abogados pasa algo muy parecido
La IA es listísima y estamos a dos días de la inteligencia artificial general, o es muy tonta, realmente no ha demostrado nada y es todo hype… depende a quién leas/ preguntes.
A un lado del ring, tenemos un post muy jaleado en linkedin de Dagmar Monett diciendo que la IA no es ni mucho menos tan inteligente como nos la pintan. Y aporta un montón de papers en apoyo de su moción.
En esta misma línea, otro paper aún más viral “The illusion of thinking” publicado con el apoyo de Apple. Su bottom line es que las IAs actuales son bastante buenas con los problemas poco complejos, pero que en cuanto les pones algo realmente difícil, desbarran y fracasan lamentablemente.
En una posición opuesta pero no extrema, Ethan Mollick contesta con bastante gracia que el problema con el paper de Apple es que da por hecho que las limitaciones comentadas son inherentes a los LLMs, cuando en realidad lo que se está analizando son las versiones de consumo de modelos avanzados, que han sido limitadas por diseño para que no consuman demasiados tokens.
Mollick repite incansablemente, y por aquí estamos de acuerdo, que aunque no se alcance la mítica inteligencia artificial general antes del 2525, las innovaciones que tenemos encima de la mesa son ya suficientemente disruptivas como para cambiarnos la vida a todos en nada y menos.
Por otra parte, mi opinión de cuñao es que Apple, precisamente Apple, debería pensárselo dos veces antes de criticar IAs ajenas: las suyas ni están ni se las espera.
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad, tecnopolios y derecho de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas en protección de datos personales. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
🗞️Noticias del Mundodato 🌍
.- En Polonia ha pasado un lo mismo que en Almendralejo (España) antaño: deepfakes sexuales donde menores de edad son autores y víctimas. La Autoridad polaca de protección de datos ha sacado la mano a pasear: según Mateusz Kupiec la normativa administrativa de protección de datos polaca prevé multa, y prisión hasta dos años, y la penal, prisión hasta quince. Veremos. Los daneses están estudiando elevar a 15 el uso de redes sociales, nosotros con subida a 16 de la edad de consentimiento y todos haciendo algo sobre menores.
.- Como anticipamos la semana pasada, la Universidad de Radboud y personal de IMDEA capitaneados por Narseo Vallina han descubierto la última gran chorizada de Meta: una bien grande que puede costarle multas billonarias. Te lo explicábamos (porque el tema es durillo) esta misma semana en lo que ha sido, con mucha diferencia, la edición de Zero Party Data más leída de su corta historia.
.- No todas las gafas inteligentes están hechas por gentuza indecente privatísticamente hablando (un fuerte abrazo a Zuck desde aquí). También hemos visto a la startup finlandesa IXI lanzar unas gafas… autofocus. Como lo lees. Utilizan un sensor de seguimiento ocular y “lentes líquidas” 😶 que se ajustan automáticamente según la distancia focal, mejorando así la experiencia visual en comparación con las lentes bifocales y progresivas, a las que pretenden sustituir.
Justo el seguimiento ocular es otra frontera que está ahí. Mucho se habla de hipótesis de futuro sobre neuroprivacidad, privacidad mental y neuroderechos, pero todavía nos queda la salida obvia sin cubrir bien. ¿Nadie ve a Meta intentando nada con el seguimiento ocular y biosensores de su amplia gama de gafas?. En las que estás pensando de Ray-Ban, pero también en los visores de realidad virtual.
No por nada, tiene las más vendidos del sector: Meta Quest aka Oculus. Los movimientos involuntarios del ojo dan mucha información: Estado de ánimo, calidad del sueño, patologías oculares, saber a ciencia cierta si algo te gusta……. En las patentes está lo interesante que nunca llegará a la política de privacidad.
.- La serie “Adolescencia” se queda muuuy corta comparada con el caso real de Rhianan Rudd. Una historia terrible de principio a fin. Recomiendo el long read del Financial Times. Para quien no tenga acceso de un modo u otro, dejo aquí el enlace a The Guardian.
.- El fiscal general de Oregón+ 28 estados han metido una demanda por consumidores para evitar que se subasten los datos genéticos que tiene 23andMe en los cajones. Ya lo hacían mal antes, como para creer que van a pedir consentimiento previo en caso de bancarrota.
.- "Por lo que sea", los proveedores de IA chinos paralizan sus sistemas de IA durante la PAU ("selectividad" para los viejos rockeros y “Gaopao” en chino).
Un movimiento polémico muy parecido a lo que hace en España LaLiga para evitar el pirateo de partidos, pero -aquí sí- con un componente sólido de interés general, aunque también hace pagar a justos por pecadores.
Me apuesto el flequillo a que lo acabaremos viendo en la vieja Europa, cuando alcancemos el nivel de penetración chino.
📄Documentos dateros-muy-cafeteros☕️
.- ¿Necesitamos una nueva base legal para el tratamiento de datos personales en AI training? Si crees que sí, este discussion paper de Christiane Wendehorst es para ti. Via Luis Montezuma. Añado la crítica constructiva (pero al cuello) de Heiko Roth.
.- La AEPD ha publicado una guía sobre aprendizaje federado.
.- Y el EDPB, aparte de sus guidelines sobre el art 48 RGPD (transferencias internacionales de datos personales a requerimiento de una autoridad extranjera) y además, lo que viene siendo un auténtico cursillo con sus lecciones y quizzes y toda la pesca!! Fundamentals of Secure AI Systems with Personal Data de Enrico GLEREAN.
.- Una presentación de 61 páginas (!!) “resumiendo” la regulación de sistemas de IA de alto riesgo en el RIA. Del tocayo Georg Philip Krog.
.- Unas recomendaciones de la CNIL para algo que he comentado muchas veces y que puede ser peliagudo: QUIERES conocer la diversidad de tu plantilla (simplemente para incluir la información en la Memoria de Responsabilidad social corporativa o bien para valorar medidas de promoción o protección donde resulte adecuado) pero NO PUEDES preguntar a tus empleados por su religión, orientación sexual entre otros datos de categoría especial. Recomendaciones en el contexto de encuestas para medir la diversidad en el trabajo. Traducidita al castellano con la ignota colaboración de Google. De nada.
.- Para sorpresa de nadie, Meta está rechazando los ejercicios de derecho de oposición de sus usuarios contra el AI training sobre sus contenidos, invocando “intereses legítimos imperiosos”. Eso, añadido al sistema de oposición en cinco pasos que montaron. Yo sólo tengo esto que decir:
💀Death by Meme🤣
The Elon vs Trump beef special. (no incluímos los tuits directos, porque están ya muy sobeteados a estas alturas), estos son los que nos han hecho grasia:
Y un final no relacionado, pero 120% Musk…
🤖NoRobots.txt o Lo de la IA
.- Profundizando sobre un aspecto de lo mismo: ¿Qué es una técnica subliminal?, via Josuan Eguiluz.
.- En este paper Arnoud Engelfriet discute la diferencia entre “sesgo” y “discriminación” comparando el binomio con el célebre en los años dorados del Big Data entre correlación y causación. Interesante.
.- ¿No sabes cómo empezar a usar una IA? Los propios currelas de Anthropic te dan ideas sobre lo que ellos hacen con Claude.
.- El último paper de Philippe Hacker con Matthias Howeg: The Regulation of Fine-Tuning: Federated Compliance for Modified General-Purpose AI Models.
📄El paper de la semana
.- Borgesius está de año sabático en Berlín, pero sigue dale que te pego. y nosotros se lo agradecemos. Acaba de sacar un paper con Pieter Wolters sobre la DSA y la publicidad online. La DSA introduce requisitos específicos: transparencia, un repositorio público de anuncios para VLOPs y la prohibición de anuncios basados en el comportamiento con datos sensibles o dirigidos a niños. Además, las reglas generales sobre contenido ilegal también aplican en este ámbito.
🧷Herramientas Útiles 🔧
… no tan útiles:
.- Esto de Marc van Opijnen sí es útil: como crear enlaces imperecederos a artículos y exponendos en eur-lex.
🙄 El chorradon final
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.