Tú y tu empresa ya utilizan inteligencia artificial (IA), quizá incluso sistemas agénticos, que son herramientas capaces de encadenar tareas y ejecutar acciones. ¿Te da miedo que se equivoquen? ¿Qué pasaría si lo hicieran?
Si pedimos una historia para entretenernos y el protagonista cambia de nombre, podemos corregirla. Si un personaje de videojuego responde algo absurdo, quizá terminemos riéndonos. En ciertos usos recreativos, incluso un error grande puede tener consecuencias pequeñas. Esa experiencia cotidiana puede acostumbrarnos a aceptar resultados que parecen suficientemente buenos.
Ahora cambiemos de escenario. Un sistema analiza una imagen médica para ayudar en el diagnóstico de una enfermedad o para priorizar a los pacientes. Una equivocación puede retrasar la atención o influir en una decisión clínica. Aquí necesitamos saber con qué pacientes funciona, cuándo falla y qué ocurre cuando un profesional acepta su recomendación.
Por ello, es imprescindible que los especialistas en el cuidado de la salud trabajen de la mano de los desarrolladores y académicos que abordan problemas tan delicados. Durante la colaboración, se asegurarán de seguir metodologías bien pensadas para el desarrollo, de reportar evaluaciones clínicas tempranas que consideren el desempeño, la seguridad y la interacción humana, y de aplicar buenas prácticas a lo largo de todo el ciclo de desarrollo y de uso. Así, ayudan a exigir evidencia que vaya más allá de una mera demostración convincente. La confianza necesita pruebas y seguimiento.
Supongamos que ya evaluamos el desempeño y establecimos controles para sus riesgos. Queda una tercera pregunta: ¿la inversión será rentable?
El retorno de la inversión (ROI) compara los beneficios económicos con los costos totales. Hay que incluir el desarrollo, la integración, la capacitación, la operación, la supervisión y la corrección de errores. Ahorrar minutos también exige explicar en qué se aprovecharán; el tiempo disponible no se traduce automáticamente en dinero recuperado.
Las grandes compañías tecnológicas que ofrecen servicios de IA en la nube proponen medir el costo por resultado o bien incorporar el valor presente neto y el análisis de escenarios para explorar qué sucede si menos personas utilizan el sistema, si el costo aumenta o si los beneficios tardan en materializarse. También podemos estimar cuánto perderíamos en función de la frecuencia y las consecuencias de sus fallas.
Además, es cierto que contratar y vender capacidad de cómputo son negocios distintos. Las grandes tecnológicas sí están apostando cantidades extraordinarias de miles de millones de dólares en un contexto de fuerte expansión de infraestructura para IA. Son inversiones que también abarcan otros negocios y cuyos rendimientos deben observarse con el tiempo.
Para nuestras empresas, universidades e instituciones, adoptar herramientas y sistemas de IA requiere una razón propia y resultados verificables. Podemos experimentar, medir y ajustar antes de ampliar una inversión. Necesitamos equipos que sepan construir, pero también evaluar.
La próxima vez que alguien diga que debemos incorporar IA porque todos lo están haciendo, preguntemos: ¿sabemos cuánto cuesta que se equivoque y cuánto vale que acierte?