#39 Llega el imperio de la IA...
... y también el libro de Karen Hao.
Para ti que lees esto, hoy es jueves y ya sabes si Nvidia se ha metido la hostia o no (NO), si la versión oficial del Digital Omnibus es tan mala como la pintaban o no (SI).
Nosotros no lo sabemos, así que la intro habla de otra cosa.
El libro “Empire of AI” de Karen Hao, sale a la venta en castellano la próxima semana. IMHO, es el libro del año.
Condensa en un solo lugar todos los ángulos turbios de la burbuja de la IA (chistesito). Y digo todos, porque los toca todos, con más o menos detalle. Además pone en su sitio de manera inmisericorde -que, je, es como nos gusta a nosotros- a los bros que encabezan esta historia. Sin caer en el puro chismorreo como “Los irresponsables”, menciona un montón de detalles e historias personales de estos billonarios, humanizándolos -so to speak- en sus contradicciones.
En una semana en la que Yann Le Cun le ha dicho hasta luego al mismísimo Chad Zuck, es bueno subrayar, como hace Karen Hao en el libro, que estas despedidas son una constante en la breve historia de la IA modelna.
Elon Musk unió fuerzas (y millones) con un entonces desconocido Sam Altman para pescar talento en las BigTech con la dorada promesa de incorporarse a un proyecto, OpenAI, en el que prevalecería la seguridad y el alineamiento de la IA (y, ejem, la AGI cuando llegara) sobre la obsesión por la pasta y el éxito a cualquier precio que se criticaba en DeepMind, la división de IA de Google capitaneada por el mítico Geoffrey Hinton.
Esa dorada y empoderadora promesa, unida a unos cuantos éxitos técnicos y una amalgama de cosas como el Altruismo Efectivo hicieron fortuna y provocaron un pequeño éxodo de talento a OpenAI, le permitieron subir como la espuma y camelarse a Microsoft como uno de los primeros paganinis de la fiesta.
Cuando bien pronto (entre el lanzamiento de ChatGPT 3.5 y 4.0) quedó bien claro que lo único dorado que prometía Sam Altman era la pasta que necesitaba, buscaba y encontraba para financiar la ingente escala de medios necesarios para entrenar la siguiente generación de modelos, los hermanos Amodei, líderes de la división de seguridad de OpenAI hicieron las maletas y montaron Anthropic.
Buena parte de la pasta del Altruísmo efectivo (movimiento bastante tocado después de la debacle de FTX) se fue con ellos.
Para sorpresa de nadie, Anthropic ha acabado siendo una versión más pequeña y rentable de OpenAI, sin grandes ventajas en términos de seguridad y alineamiento, por cierto.
Tras el efímero golpe de estado en OpenAI y el retorno de un Sam Altman fortalecido, Ilya Sutskever tuvo que largarse y montar su propia compañía. Sutskever probablemente tenía más razón que un santo pero, AY! el equipo de OpenAI tenía entre ceja y ceja sus prometidas acciones en el vehículo empresarial a medio montar de Sammy.
Esta semana, Yann Le Cun, le hace así con la manita a Zuckerberg, no se sabe si molesto por haber elegido el caballo rezagado o, simplemente, por Zuckerberg.
Hagan, hagan sus apuestas por ver al próximo pope que hace las maletas para abrir su propio chiringuito en pro del bien (propio o colectivo).
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad tecnológica desde el punto de vista del derecho de protección de datos e IA de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas en protección de datos personales e inteligencia artificial. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
🗞️Noticias del Mundodato
.- Investigadores de la UCL han estudiado las mejoras que supondría cambiar los actuales (y nefastos) botones sociales de “me gusta” y “compartir” por “confío” / “no confío” (trust/distrust) con resultado mucho más que esperanzadores: se reduce la viralidad de desinformación y fakenews y se incremente la calidad en general del feed en la red social de turno.
Of course, cuando se ha compartido este estudio en redes sociales, todo el mundo ha apuntado lo evidente: que las tribus a favor y en contra de cada contenido se organizarían formal o informalmente para “hackear” el sistema y votar como confiable lo que no lo es, o viceversa. Esto se puede comprobar en las puntuaciones exageradamente altas o bajas en imdb de cualquier película o serie mínimamente polarizadora en su argumento. Da igual: todos los esfuerzos en este sentido deben ser aplaudidos, y nosotros lo hacemos desde la modestia de esta newsletter.
.- Microsoft AI Teams revelará a tu jefesito tu localización a través de la interpretación de cosillas como la red wifi a la que te conectes.
Tu corazón dice que qué demonios.
Microsoft dice que el “feature” es opt-in.
Clara Hawking dice que sí, pero que ese opt-in debería ser decidido o no por el currela, no por el jefesito que es como lo ha montado la empresa del campo verde, logo azul e ideacas color alerta roja.
.- Si quieres hacer pasar desapercibido tu ciberataque basado en IA, sólo tienes que fragmentarlo en tareas sencillas y asignaras a distintos modelos, de modo que ninguno vea “the complete picture”, o eso es lo que nos cuenta Lukasz aquí.
.- Amazon tiene una buena semana gracias al binomio DSA/DMA. El TGUE le ha dicho que nop al recurso contra su designación como VLOP de la DSA, y ahora va la Comisión Europea con su pretensión de meter a AWS como gatekeeper de la DMA (cosa que ya es la Amazon core).
¿Lo hacen por respeto a la típica corporatividad de estos colectivos? ¿Tú que crees, Baldomero?
¿Lo hacen para evitar que el usuario se haga daño hacieNdo caso de un output que suele estar bien documentado y mal dirigido, por (lógicamente) falta de contexto? Adivina, Pichurri.
No, simplemente lo prohíben vía términos y condiciones con la única finalidad (y recuerden: esto no es automáticamente válido, o no al menos en la UE (gracias a todas esas horribles y farragosas normas que ahora hay que derogar).
📄Documentos cafeteros y papers de la semana
.- Ahora sí que tenemos el borrador de Digital Omnibus publicado. Al menos, para comprobar si la versión filtrada era exacta o no. En cualquier caso, todavía queda recorrido.
.- Este del mítico Carl Susstein, describiendo los límites de los actuales modelos de IA. Merece como mínimo una pasadita por NotebookLM. Como mínimo.
.- Este otro de Dave Michels, Christopher Millard, Ian Walden, y Ulrich Wuermeling, sobre las fisuras de la entente cordiale -so to speak- entre la UE y los EEUU que es el DPF y que constituye el complemento perfecto al episodio de Masters of Privacy de Sergio Maldonado con Gloria Gonzalez Fuster sobre la desestimación (by now) de las acciones de Latombe contra esta instrumento de adecuación.
.- Este, firmado por un buen puñado de gente de Amazon Web Services, proponiendo una solución (complicada, como todas las soluciones de verdad de la buena, pero prometedora) a los boquetes de seguridad de la IA Agéntica. Enlazo aquí el comentario de Stuart Winter-Tear, porque me sé que muy pocos llegarán al paper.
.- Watermarks in the Sand: Impossibility of Strong Watermarking for Generative Models creo que el título no deja espacio al misterio sobre su contenido.
.- Documento resumen de la DPA holandesa sobre el proceso de consulta pública sobre sistemas de IA con finalidad de social scoring. Via San Luis Montezuma.
📎Herramientas útiles
Este post en el blog de la EFF sobre el cifrado (o no) de las copias de seguridad de nuestros (glups, chats) realizado por las apps de mensajería más utilizadas. Este tema cobró relevancia de pronto con el juicio al Fiscal General del Estado. Pero es muy relevante “en sí mismo considerado”.
💀Death by Meme🤣
Comida benéfica Sirera
Viernes 28 de noviembre, Black Friday, este año en el Restaurante Bicai Moda Shopping.
Una reunión peligrosa de gentussa diversa de distintos rincones del sector digital; derecho, privacidad, seguridad, auditoría... unidos para recaudar fondos para Aldeas Infantiles SOS de España.
Con los tradicionales atracos a mano armada en forma de papeletas, rifas de cosas navideñas y calóricas, mucha gente y muy buen rollo datero...
Si no puedes venir a comer, siempre puedes acercarte a tomar café por la tarde con nosotros. Es difícil que Mahoma abandone esa montaña hasta altas horas.
👉🏽 https://bit.ly/Comida28N (últimas plazas: corred, insensat@s)
🤖NoRobots.txt o Lo de la IA
.- Estos 50 minutos con Snowden (no el whistleblower, el otro: el del cynefin framework) son oro puro.
🙄 El chorradón final
Tan proactiva con la privacidad de los michis, y tan poco los esclavos humanos de los michis.
Si crees que esta newsletter puede gustar e incluso ser útil a alguien, reenvíasela.
Si echas de menos algun doc, comentario o chorradón que manifiestamente debería haber estado en el Zero Party Data de la semana, escríbenos o deja un comentario y lo valoraremos para la próxima.