Una batalla perdida

"Su ego estaba agotado después de un largo día de reuniones. Solo empezó a ejecutar operaciones estándar en vez de pensar cuidadosamente el problema"

Daniel Kahneman

Para el 2.016, en la fintech donde trabajaba en aquel momento, estábamos en la búsqueda de varios cargos para el C-level en Colombia. Por la importancia de las posiciones, varias personas de nuestras oficinas de NYC y Filipinas se trasladaron para entrevistar de primera mano a cada candidato. El proceso estaba cuidadosamente planeado: cinco jornadas de entrevistas, donde cada persona conversaría al menos 30 minutos con el equipo para conocer su experiencia y perspectiva, y entender, como se alineaba con nuestros planes. No queríamos hacer pruebas técnicas que por lo general no conducen a nada (después hablaremos de eso), más bien, entender cómo podía encajar cada potencial colaborador en la cultura y el proyecto de la compañía. Para el final de la semana, el extenso y extenuante proceso había concluido con la contratación de los roles definidos. Solo hubo una curiosidad: todos los candidatos que fueron seleccionados tuvieron el último turno en la ronda de entrevistas de cada día.

***

"Thinking, fast and slow" es tal vez uno de los mejores libros que se puedan leer en estos tiempos. Daniel Kahneman describe de forma interesante como operamos en términos de dos sistemas cognitivos descritos a través de todo el libro. De forma muy resumida:

• El sistema 1 corresponde a nuestro sistema intuitivo, rápido y automático. Es el encargado de tomar decisiones muy rápidas basadas en patrones y experiencias adquiridas. (¿Cuál es la capital de Francia? Sí, esa respuesta viene dada por el Sistema 1).

• El sistema 2 por su parte es nuestro sistema consciente, el que piensa lento, nuestro centro analítico que se dedica a resolver problemas más complejos. (¿Cuánto es 14x26? Acá se activa el sistema 2 y seguramente por un momento esta lectura se va a detener mientras se calcula el resultado).

Después de finalizar el cálculo (364), volvamos a lo que nos interesa: el sistema 2. Nuestro sistema analítico se encarga entre otras de ejecutar tareas que requieren atención y cuidado, ejercer auto-control, y de alguna manera, ejercer esfuerzos físicos significativos. De acuerdo a los experimentos que presenta Kahneman, el sistema 2 tiene una propiedad muy particular: a medida que se repiten tareas que requieren atención, nuestra capacidad de análisis simplemente se va agotando hasta que en algún momento, somos más propensos a:

• Perder el control en situaciones de estrés.

• Caer en la tentación de comer algo dulce que no estaba planeado en la dieta.

• Cometer algún error en la repetición de una de estas tareas que requieren atención.

Es allí donde nuestro sistema 2 necesita una recarga. Tal efecto se conoce como agotamiento del ego (ego depletion). En el capítulo 3, Kahneman introduce un estudio bien interesante de como el Comité encargado de estudiar casos de libertad condicional en Israel tendía a tomar la decisión por default (denegar tales peticiones) producto del agotamiento del sistema analítico justo después de pasar algún tiempo repitiendo la tarea y después de haber dejado de comer por un período prolongado.

***

¡Eureka! Cuando leí esto, entendí que la casualidad del 2.016 no era tal. Más bien era el producto del agotamiento de nuestro sistema 2. Inevitablemente estamos condenados a ver el deterioro de nuestras capacidades analíticas sobre tareas repetitivas que requieran nuestra atención y concentración. A la IA Generativa no le sucede lo mismo. Pase lo que pase, esa batalla la tenemos perdida.

Priorizando casos para implementar IA Generativa.

En estos días donde hay tanta presión de implementar casos de IA Generativa, la pregunta natural es por donde empezar. Y la respuesta la tiene nuestro sistema 2. Convengamos que no todos los procesos son sujetos de implementación de estas soluciones ya sea por costos o por la naturaleza de los mismos. Sin embargo, hay tareas, procesos e incluso roles en compañías, que ejecutados por la IA, tienen mayor probabilidad de tener un impacto importante ya sea por eficiencia operativa, generación de negocio, disminución en la probabilidad de error, capacidad técnica, entre otros. Si nuestro querido lector está en el proceso de adopción de este tipo de herramientas, a continuación una guía rápida para priorizar algunos casos de uso:

1. ¿Es un proceso repetitivo, que requiere atención al detalle y que tiene bien definidas las salidas esperadas? Este tipo de procesos son más que adecuados. Como vimos, es probable que esas tareas hoy presenten problemas de ejecución con los que usted o su compañía se acostumbró a vivir, pero que con la IA Generativa pueden ir a otro nivel.

   
   

   Algunos ejemplos de procesos de este estilo:

   • Procesos que requieren interacciones con clientes (procesos de cobranza, servicio al cliente, atención a PQRs, toma de órdenes).

   • Procesos que se repiten bajo un marco metodológico con entradas y salidas bien definidas (estudios de crédito, emisión de pólizas, control de inventario, control de nómina)

   • Procesos que requieren actualizaciones de sistemas a través de la lectura de documentos (actualización de bases de datos, toma de solicitudes de crédito).

   • Procesos que generan escenarios a través de políticas definidas (simuladores de crédito con versiones más avanzadas que la estándar que encontramos en los sitios web de los bancos por ejemplo).

     
     

2. ¿Es una tarea que aunque no tiene un marco repetitivo, tiene unos límites que un usuario puede definir en las salidas que necesita? Si la respuesta es sí, acá tenemos otro caso bien interesante.

   
   

   Cuales ejemplos tenemos acá:

   • Generación de reportes o dashboards donde el usuario puede definir qué quiere ver y en qué formato.

   • Generación de contenido (sí, generar blogs, hacer planes de proyectos, publicar artículos, hacer piezas visuales).

   • Elaboración de propuestas comerciales o investigaciones de mercado.

     
     

3. ¿Es un proceso en donde hay bases de conocimiento y un cliente que requiere atender dudas sobre el conocimiento establecido? Sí, claro que sí, y acá podemos ir más allá de un simple bot. Acá podemos jugar en grandes ligas con soluciones de voz o texto que tengan la capacidad de solucionar preguntas mucho más complejas que simples pasos de menús.

   
   

   En dónde podríamos generar valor:

   
   

   • Asistentes de voz para llamadas de servicio al cliente.

   • Análisis de casos que requieren conocimiento especializado (atención médica preventiva, análisis inicial de casos judiciales para revisión de jurisprudencia)

   • Preguntas técnicas sobre manuales (Si usted diseña un producto, de repente un manual no es suficiente. Qué tal un asistente en tiempo real que ahorre las búsquedas en esos documentos)

   • Asistentes de talento humano para resolver temas sobre políticas de la compañía sobre vacaciones, nómina, permisos, entre otros.

Todos los procesos anteriores son procesos que requieren una atención al detalle importante, y que hoy pueden estar ejecutando personas bastante propensas a sobrecargar su sistema 2. De hecho hay casos donde la cosa puede ser aún más grave. Imaginemos el analista de microcrédito convencional que debe: conducir un vehículo, probablemente saltarse comidas, para luego tener que estudiar varias solicitudes de crédito. Todas estas actividades sobrecargan y van desocupando las reservas del sistema analítico, así que es precisamente allí donde la IA generativa tiene potencial. De hecho, sospecho que muchos casos de morosidad o alto rechazo de microcrédito corresponden a malas decisiones producto de la saturación del sistema 2.

Donde no vale la pena implementar IA Generativa

Por supuesto, no todos los procesos de negocio pueden tener impacto con IA Generativa. Hay casos donde el rol de personas puede ser muy valioso. Por ejemplo, cuando no hay marcos claros de trabajo, se requiere analizar requerimientos o en cada repetición de la tarea, el contexto cambia significativamente. Igualmente, si el costo del error es bastante alto, mejor asegurarse de tener personas supervisando estas tareas.

Algunos ejemplos prácticos incluyen:

• Administrar un negocio. El caso de Claudius de Anthropic es un muy buen ejemplo de todo lo que puede salir mal con la IA.

• Integrar fuentes de datos. ¿Pensando en reemplazar a sus ingenieros de datos por agentes autónomos? No, no es una buena idea. Integrar fuentes de datos y ejecutar pipelines requiere planeaciones complejas que no son tan fáciles de automatizar.

• El proceso de ciberseguridad. Tampoco es una buena idea. Las consecuencias acá pueden ser fatales.

En resumen!

¿Cuándo usar IA Generativa y cuándo no?

¿Tenemos alguna esperanza?

¡Nuestro sistema 2 nos condena! Definitivamente repetir tareas analíticas termina siendo sumamente costoso, y naturalmente, vamos perdiendo la agudeza en cada repetición. Afortunadamente hay una solución. Kahneman introduce el concepto de flow, que no es más que el estado donde podemos ejecutar una determinada tarea sin que se consuman recursos de nuestro sistema analítico. Allí está la clave para poder ganarle a la batalla a la IA Generativa. Ser capaces de conocer muy bien un proceso para alcanzar el estado de flow.

Hay que ser realistas, la IA sí va a reemplazar roles en las compañías, pero creo que el estado ideal es la combinación de agentes autónomos con personas con amplia experiencia en la materia. Personas con dominio de procesos, capaces de repetir una tarea con destreza que asuman el rol de supervisores, combinado con agentes autónomos que hagan el trabajo operativo, puede ser la combinación ganadora.

Desafortunadamente, mientras generemos cada vez más dependencia en la IA a través del uso innecesario de ChatGPT para tareas que deberíamos realizar, nos estamos condenando a alejarnos cada vez más del estado de flow. Me genera cierta incertidumbre las personas que hoy están renunciando a desarrollar habilidades de lectura, escritura y análisis por simple pereza. Tal vez serán los primeros en ser reemplazados por la IA Generativa, teniendo en cuenta que cada vez les será más difícil alcanzar un estado de flow, y allí la IA tiene la batalla ganada.

En el próximo episodio: Una fábrica de crédito autónoma... en todo sentido. Ciao!