¿Por dónde puedes empezar a automatizar?
Todo el mundo se hace la misma pregunta
Hace ya dos años leí un libro que me ayudó a entender muchas cosas.
Una de ellas contesta a dos preguntas que, una vez lo entiendes, son la misma:
.- ¿Por dónde empiezo a automatizar?
.- ¿En qué lugares de mi organización me voy a encontrar más resistencia en la implementación de nuevos procesos automatizados de IA?
El libro es “Power and prediction”, una obra fabulosa en su sencillez y presciencia, porque está publicada antes del boom de la actual IA, y sin embargo anticipa buena parte de sus efectos en las organizaciones complejas.
El concepto que me enamoró me gusta explicarlo como “anatomía de una decisión automatizada”, por hacer la cita a la peli de Otto Preminger.
La explicación vale tanto para los algoritmos de toda la vida como para las modernas inteligencias artificiales.
Los elementos son siempre los mismos:
los datos o las bases de datos en las que se basa la predicción,
una “predicción”,
el criterio (judgement) para tomar una decisión basada en la predicción, basada a su vez en los datos disponibles y
la acción desencadenada por la decisión.
Los interesantes son los dos elementos del medio: predicción y criterio.
Estás leyendo ZERO PARTY DATA. La newsletter sobre actualidad, tecnopolios y derecho de Jorge García Herrero y Darío López Rincón.
En los ratos libres que nos deja esta newsletter, nos gusta resolver movidas complicadas en protección de datos personales. Si tienes de alguna de esas, haznos así con la manita. O contáctanos por correo en jgh(arroba)jorgegarciaherrero.com
¡Gracias por leer Zero Party Data! Apúntate!
¿Cómo se tomaban las decisiones hasta que llegaron los algoritmos de decisión automatizada?
Hasta ahora lo normal era lo siguiente: la misma persona (aka: el “jefe de todo esto”) (i) valoraba los hechos, (ii) hacía su propia predicción (iii) y aplicaba su criterio para tomar su decisión. En román paladino, “hacía lo que le salía del chisme”.
El elemento más resbaladizo es el “criterio” o judgement, que en este contexto significa la habilidad para tomar la mejor decisión valorando los pros y los contras de las opciones posibles.
Se entiende mejor con el ejemplo de la predicción meteorológica.
“Paquetón” nos explica lo del “judgement”
Tenemos a Roberto Brasero, un señor al que mi madre, por lo que sea, llama “Paquetón”.
Bueno, imaginemos que este pofesional de pantalón abultado dice que mañana hay un 80% de posibilidades de que llueva.
Lo primero interesante es que su predicción no es determinista, sino probabilista: No te dice que va a ser blanco o negro, no te dice que es seguro o no que vaya a llover.
Te dice que hay un 80% de posibilidades de que llueva. Eso quiere decir es que si hubiera 100 mañanas en 80 de ellos llovería y en los 20 restantes, no.
Y con esa predicción nos toca tomar una decisión.
O bien llevar paraguas, asumiendo que a lo mejor no llueve, y tendremos que cargar con él todo el día,
O bien dejarnos el paraguas en casa, asumiendo que si de verdad acaba lloviendo, nos vamos a mojar.
En este contexto la ventaja comparativa se basa en dos factores:
1.- Tener las mejores predicciones posibles (eso incluye las mejores, más rápidas y más baratas, como veremos de inmediato).
2.- Y también: tener mejor criterio: es decir, ser capaz de evaluar los pros y contras de cada posibilidad y tomar las mejores decisiones a la vista de todo esto.
Automatización
La promesa dorada de la IA es la automatización:
Cuando tenemos procesos perfectamente estudiados y formalizados y divididos en segmentos, y conseguimos previsiones lo suficientemente buenas (y fáciles y baratas), para un entorno razonablemente controlado, se puede “codificar” el criterio y la decisión.
Este es el entorno ideal de la automatización.
Estas semanas hablaremos de algunos problemas jurídicos que, por lo que sea, ningún vendedor de “AI agents”, por poner un ejemplo tonto (pero ubicuo) menciona.
Pero hoy nos quedamos en este plano teórico.
¿Qué provoca la IA allí donde no se puede automatizar el 100%?
En estos casos, la IA produce un efecto muy distinto: (i) lo que Agrawal llama “power shifts” y (ii) resistencia brutal.
¿Power shifts? ¿Qué es esto?
Recordemos que antes decíamos que predicción, criterio y decisión parecían cosas difíciles de distinguir porque las tres se producían dentro de la misma cabeza.
Ahora, se va a separar la sede que emite predicciones y la sede que toma las decisiones definitivas conforme a su criterio.
Dos ejemplos: taxistas y radiólogos
Taxistas
Antes los taxistas tenían el monopolio de su negocio -olvidando movidas de licencias a administrativas y demás- porque tenían el monopolio del conocimiento sobre dónde estaban las calles en cada ciudad, y cuál era la ruta más corta o más fácil para llevarte un sitio a otro.
El taxista predecía, aplicaba su criterio y ejecutaba (uséase, te llevaba a destino).
Los sistemas de navegación basados en GPS, han democratizado la profesión. No es que los taxistas se hayan vuelto gilipollas de pronto, es que cualquier hijo de vecino con un GPS o un móvil, -con el apoyo de sus predicciones instantáneas, y acertadas, y baratas- puede hacerle la competencia al taxista: ahora predice el GPS y cualquiera es capaz de seguir sus indicaciones.
Radiólogos
Un ejemplo más complejo es el de las redes neuronales que analizan imágenes clínicas.
Es famosa la capacidad de las redes neuronales para interpretar las imágenes clínicas, que aparentemente superan a cualquier radiólogo.
Hemos escuchado muchas veces que los radiólogos iban a desaparecer porque una red neuronal es capaz de examinar cientos o miles de patrones en segundos , mientras que los radiólogos humanos, son capaces de gestionar en su cabeza muchos menos. Y además están afectados por el sesgo de proximidad, es decir, por los últimos casos relevantes que han analizado.
En la práctica, lo que sucede es que la redes neuronales son muy certeras, fiables (y no sé si muy baratas) prediciendo cuándo el paciente no tiene cáncer.
Pero cuando el porcentaje de lo contrario es apreciable cobra mucho valor el criterio del radiólogo, porque los radiólogos siguen siendo los únicos capaces de examinar y considerar el contexto del paciente concreto.
Resistencia al cambio
Los clusters de procedimientos susceptibles de ser automatizados están cayendo a la velocidad de la luz. Los profesionales que no sean capaces de cabalgar con su expertise las nuevas oportunidades de la tecnología, serán pisoteados por ella.
En el resto de contextos (muy mayoritarios aún, afortunadamente) ocurren dos fenómenos (que son manifestaciones de lo mismo):
.- Los mandos intermedios cuya capacidad de decisión se ve manifiestamente cuestionada, superada o cuando menos, amenazada por la IA harán todo lo posible por impedir o diferir su implementación.
.- Los curritos que han sabido subirse a hombros de un tamagotchi útil, en su mayoría se callan la boca para impedir que les quiten el mérito, el tamagotchi, o les entierren en curro ya que son tan listos. Muy pocos hacen públicos o comparten sus avances.
Quienes lideren organizaciones capaces de compartir y capitalizar la síntesis armónica de recursos humanos y tecnológicos, se llevarán el gato al AIgua.
Jorge García Herrero
Delegado de Protección de Datos