Tu pregunta a la IA es el cuello de botella, no el modelo
Al elegir el modelo de IA, en muy pocas conversaciones escucho decisiones conscientes; escucho costumbre o “usar el mejor” (por miedo a que, de lo contrario, el resultado “no sea lo suficientemente bueno”). Lo uno cuesta dinero y tiempo innecesarios; lo otro – también innecesariamente – calidad.
Y eso que manejar el modelo y el esfuerzo de cómputo es más sencillo de lo que parece:
- El tamaño del modelo escala la capacidad de juicio: matiz, ponderación y, sobre todo, ambigüedad.
- El esfuerzo de razonamiento escala la minuciosidad: varios pasos para cosas que se pueden verificar.
Mi experiencia es la siguiente:
▪ Poco esfuerzo de razonamiento: modelo pequeño. Estructurar, cambiar de formato, resumir, traducir. O simplemente para todo lo que yo mismo puedo comprobar en segundos. Aquí, tres intentos rápidos le ganan a uno caro.
▪ Trabajo del día a día: modelo estándar. Redactar borradores, ordenar resultados de investigación, desarrollar ideas, código de rutina. Tareas estándar que necesitan más profundidad que el trabajo de pura constancia.
▪ Elegir un esfuerzo de razonamiento alto: cuando el problema tiene varios pasos y se puede verificar – cálculo de costos, depuración de código, planeación con muchas dependencias. Muy importante: el modelo puede seguir siendo uno pequeño o más antiguo, siempre que la tarea esté clara (= se resuelve con constancia).
▪ Modelo grande: cuando se requiere juicio. Estrategia, toma de decisiones, posicionamiento, fuentes contradictorias, comunicación delicada. En una oferta de empleo diría: “tolerancia a la ambigüedad”. Aquí la diferencia se vuelve flagrante.
▪ Ambos altos (modelo pesado, esfuerzo alto): solo cuando coinciden tres cosas: 1. no hay un camino de solución inequívoco, 2. hay costos reales por error o decisiones irreversibles, 3. hay suficiente contexto para que la profundidad pueda siquiera surgir. Pero eso es MUCHO menos frecuente de lo que yo pensaba.
▪ ¿Y cuándo un modelo pequeño con poco esfuerzo? Con un prompt delgado, sin costos por error, con un volumen alto. Un modelo de punta con un prompt delgado entrega un resultado demasiado caro. No uso a las fuerzas especiales para un control de tránsito. Probablemente 3/4 de mis consultas a la IA caen en este rango.
Con esto llego al núcleo: ¡el cuello de botella casi nunca es el modelo! El cuello de botella es tu pregunta. Quien no tiene claro su asunto recibe del modelo más grande solo una mejor formulación del mismo asunto poco claro.
Muchos conocen SISO: Shit in → shit out. La fórmula que para mí es estratégicamente más relevante es:
Perception in → Decision out.
La calidad de una decisión está limitada por la calidad de la percepción, del encuadre y de la información que la preceden. (Por cierto, esta fórmula viene de mi sparring con la IA – en este momento yo no lo habría dicho mejor.)
En el acompañamiento de la transformación con IA se desaprovechan eficacia y eficiencia, porque se invierte en herramientas sin que en el Daily Doing esté claro qué es exactamente lo que se quiere preguntar o resolver. Aclarar el asunto (tanto con el empleado administrativo como con el CEO: “¿De qué se trata realmente ahora?”) no es una etapa previa al uso de la herramienta. Es la mitad del trabajo.