#19 AGI & abismo digital in a slop world
Tenemos el gazpacho ganadorr
El debate sobre si la AGI (o IA general) está (a) al caer o (b) “only in your dreams motherfucker” me supera porque no tengo el acceso a info buena-buena de primera mano…..
A lo que sí tengo acceso es a observar -inquieto- cómo muchas plumas no precisamente crédulas ni sicofantes van cayendo del lado de los que dicen que llegará bien pronto.
Para entendernos -y atisbar la relevancia del timing-, durante el mandato de Trump.
Aparte de Ezra Klein en diciembre, el último en manifestarlo ha sido Kevin Roose.
Todos conocemos la Ley de Amara, que sostiene que las personas tienden a sobrestimar los efectos de una nueva tecnología en el corto plazo, pero subestiman su impacto real y duradero a largo plazo. ¿Romperá esta ley la AGI? Tal como está el patio, yo diría “endesdeluego”.
Como dijo Delia el otro día: “No sabemos lo importante que es esto, no tenemos ni idea”.
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad, tecnopolios y derecho de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas en protección de datos personales. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
🗞️Noticias del Mundodato 🌍
.- Van a reformar el RGPD. He visto cosas que los humanos no creeríais. He visto tormentas de rayos gamma en la Puerta de Tannhauser. Y a Axel Voss y Max Schrems dándose un apretón de manos por la modificación del RGPD. Veremos. De momento, me quedo con opiniones tan aterrizadas y bien tiradas como la de Markus Sullivan sobre “la desaparición del RAT”.
.- El martes tuviste una newsletter especial de parte de lo que Jorge aportará en la consulta pública previa del plan estratégico de la AEPD (Jorge dixit por Linkedin). La 2º parte tocará el martes que viene, pero queda ya claro que nuestro punto favorito de este plan es: “Se investigará y actualizará en su caso la posición de la Agencia en inteligencia artificial, sistemas biométricos y de reconocimiento facial, espacios de datos, neurodatos, tecnologías cuánticas, blockchain, anonimización, e identidad digital.”
La propia AEPD ya desliza que saber que tiene que actualizar al guía (al estilo de dejarlo en posibilidad), pero siempre viene bien pinchar un poco.
¿Y qué pasa con la pasmosa ausencia de los videojuegos en este punto?. Misterios de la vida de centrarse en los futuribles neurodatos y cosas cuánticas, pero no en el actual sector que aglutina problemática real sobre 1/3 de la población. Puede que sea un poco gran escala, que la AEPD ya ha dado dos cubos sobre el tema, que el informe de patrones adictivos atinara muchas cosas, que en cierto estudio se contara uno de los más invasivos, o que es un sector que se apunta a cualquier fiesta de innovación sin medirlo mucho. Hola, Pokémon Sleep.
En un tono más formal, serio y de jurista se ha propuesto que se tenga en cuenta en el plan. Darío no parará hasta que en Jorge Juan se encierren por dentro cuando le vean venir.
.- El abismo digital: No debes saltarte este enmudecedor artículo de Eva Belmonte para la Fundación Civio, que explica la media verdad, por no decir hipertrola detrás de la siguiente afirmación: “el portal del Plan de recuperación titulaba que España se mantenía a la cabeza de las principales economías de la Unión Europea en digitalización y conectividad. Y destacaba que obtenía, en esa época, “buenos resultados, con un 64% de la población con competencias digitales básicas (frente al 54% de la Unión Europea”.
El tema no es baladí: como todos sabemos por nuestros mayores: con base en la anterior boutade, la administración está -cada día más- sólo disponible a través de transacciones electrónicas. Mucha gente ya ha quedado atrás, por falta de las competencias y/o recursos más básicos.
.- Hoy abusaré del adjetivo “imprescindible” pero este hilo lo es: destaca la ideaca que suelta Sam Altman en la comentada entrevista con Chris Anderson en la TED Conference (cinco minutos desde el 38:59): las salvaguardias éticas y alineamiento de modelos de IA se pueden dejar a cargo del propio modelo, interpretando (y aplicando o no) la ética que toque en cada caso… conforme a su… distribución estadística entre sus usuarios (es decir, lo que opine la mayoría). Por supuesto eso equivale a asumir el credo Dorito, pero dicho con la clásica jerga BigTech. La automatización refleja de las salvaguardias éticas de la IA es algo que no vi venir…
.- Otra lectura larga y sabrosa (y que no incurre -a mi juicio- en edadismo): ¿Se han vuelto gilipollas los universitarios actuales?
.- No te pierdas este imprescindible, arrollador artículo en el Financial Times. Welcome to slop world: how the hostile internet is driving us crazy. De Jacob Silverman, via Sergio Maldonado.
“The last bits of fellowship and ingenuity on the web are being swept away by a tide of so-called artificial intelligence”
“The internet is now optimised for metrics that have nothing to do with human enjoyment, or convenience, or the profits of anyone except the platform overseers.”
.- Como todos, he visto “Adolescencia”. Como todos, he quedado muy impresionado por el asunto. La serie es una auténtica pasada aunque vaya de más a menos. Era inevitable: el episodio inicial es tan poderoso que era imposible mantener la intensidad. Pero yo venía aquí a decir que -intentando superar mi fase “cuñao delulu” sobre el tema machosfera- me ha dado por leer “Los hombres que odian a las mujeres” de Laura Bates. Volveremos sobre este tema. De momento esto, relacionado, me pareció muy interesante.
.- Por cierto, la última temporada de Black mirror, serie de cabecera de cualquier TV- adicto datero que se precie, tiene bastante más nivel que las últimas. ¿Cuál es tu capítulo favorito?. El mío es el de Eulogy, ganando por una nariz al im-presionante “Common people”.
💀Death by Meme🤣
El ciclo del cuchillo de las apps, de cualquier servicio digital y de todas las IAs que brotan como setas ahora.
📄Documentos dateros-muy-cafeteros☕️
.- Aunque la sentencia Dun del TJUE sobre la transparencia y explicabilidad de los algoritmos no es ninguna novedad, los análisis que merecen la pena (en este caso por ser simples y exhaustivos al mismo tiempo) en ocasiones tardan en salir. Yo me guardo este de Stefano Rossetti.
.- Europol se sacó la semana pasada (la mejor para lograr efecto, la verdad), una guía sobre vulnerabilidades en los sistemas biométricos. No es un documento cafetero-datero, pero sí puede servir para dar ideas de cara a enfocar sistemas de este tipo que cada cual tenga sobre la mesa. En especial, para lanzar preguntas incómodas al proveedor o fabricante sobre medidas aplicadas para evitar cosas de Misión Imposible: moldes de silicona con la huella (con o sin cooperación de la personita de la huella), huellas sintéticas digitales, que no quede la huella en alguna superficie recuperable, ¿cómo se evita que se vayan intercambiando la huella para quién sabe?, si el sistema abre la puerta ante ataque dirigido a resetearlo o “tostarlo”, las máscaras hiperrealistas de silicona (muy de la saga de Cruise, pero con ejemplo real en Canadá comentado por Europol), el face morphing que combina varias caras para permitir reconocimiento de ambas personas originales, o los deepfakes faciales.
Y ojo con cómo miden algunos sistemas comerciales de control de acceso que el dedo puesto sea de persona viva. De eso que se empieza con un sensor que mide la conductividad natural el cuerpo humano sin más ni más (para evitar lo de la silicona), y en la nueva versión se mete medición de pulso, venas y otras “innovaciones”.
.- Está interesante el documento del ISMS Forum sobre deepfakes. Qué son, qué ejemplos más importantes se han dado, análisis de cada uno, elementos que nos pueden indicar que lo son (el famoso valle inquietante o que parpadeamos por encima de lo que pensamos), o herramientas de detección.
.- ¿Providers or deployers? : Everything everywhere all at once
🤖Robot.txt o lo de la IA
.- Desde la Comisión Europea viene documento sobre IA generativa para investigadores. No es la gran cosa, pero viene bien para repasar principios. Y otro documento más al repositorio del tema de moda.
.- El documento que sí es de obligada lectura en la materia, es el AI Privacy Risks & Mitigations Large Language Models (LLMs) de Isabel Barberá. Bajo bandera del pool de expertos del EDPB, tenemos un doc completo y aterrizado: ¿qué es un LLM?, ¿cómo funciona, Data flow y riesgos de privacidad asociados, identificación, evaluación y clasificación de riesgos, medidas de mitigación, evaluación de riesgo residual, tres casos de uso y enlaces a metodologías, herramientas y guías.
.- Jorge Morell cuenta que Arabia Saudí se pondrá a usar la IA en materia legislativa. Ya hay normativa actual que parece que la hizo una 1ªversión de Chatgpt, pero habrá que coger palomitas para ver cómo acaba. No significa que no se esté por España intentando meter IA. La misma AEPD, o en el ámbito de Justicia.
🧷 Herramientas útiles 🔧
.- “Build Your Own” O365 Data Protection Impact Assessment for the Public Sector. Pues eso: si alguien prueba esta cosa, que nos cuente.
.- La “no herramienta”: Copilot Recall de Microsoft: vuelven a la carga con este desastre de privacidad y confidencialidad.
📖El libro de la semana
Careless people, de Sarah Wynn-Williams. Del artículo de 404:
The reason the book feels so important and cathartic is because, as a memoir, it does something that reported books about Facebook can’t quite do. It follows Wynn-Williams’ interior life as she recounts what drew her to Facebook (the opportunity to influence politics at a global scale beyond what she was able to do at the United Nations), the strategies and acts she made for the company (flying to Myanmar by herself to meet with the junta to get it unblocked there, for example), and her discoveries and ultimate disillusionment with the company as she goes on what often feels like repeated Veep-like quests to get Mark Zuckerberg to take interactions with world leaders seriously, to engineer a “spontaneous” interaction with Xi Jinping, to get him or Sandberg to care about the role Facebook played in getting Trump and other autocrats elected.
y este otro artículo en Techcrunch.
🙄 Los chorradones finales
.- ¿Por qué los logos de las compañías de IA se parecen tanto a esfínteres?
.- Es el fin del mundo: han automatizado a los italianos
.- META es META. Que no se note el sarcasmo de ninguna manera.
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.