Air Canada: el chatbot que convirtió una respuesta en obligación.

En noviembre de 2022, Jake Moffatt perdió a su abuela y necesitó viajar con rapidez desde Columbia Británica hasta Toronto. Antes de comprar, abrió el asistente virtual de Air Canada y preguntó por la tarifa de duelo. No buscaba una conversación general: necesitaba saber qué debía hacer para acceder a una política concreta mientras tomaba una decisión bajo presión.

El chatbot explicó que podía comprar el boleto y solicitar después una reducción. Indicó que la solicitud retroactiva debía presentarse dentro de los 90 días. La respuesta incluso enlazó una página de Air Canada sobre viajes por duelo. Esa página decía lo contrario: la tarifa reducida no podía aplicarse después de haber completado el viaje.

Moffatt confió en la explicación interactiva, compró un pasaje a precio regular y realizó el viaje. La diferencia entre los dos canales permaneció invisible hasta que intentó obtener el descuento. Lo que para la arquitectura podía parecer contenido en dos superficies distintas, para el pasajero era una sola promesa de Air Canada.

Después del viaje, Moffatt escribió a la aerolínea. Air Canada respondió que el chatbot había utilizado palabras engañosas y prometió actualizarlo, pero sostuvo que la tarifa de duelo no podía aplicarse retroactivamente. El intercambio reconocía el problema del mensaje sin asumir la consecuencia económica que había creado.

La reclamación avanzó hasta el Civil Resolution Tribunal de Columbia Británica. Moffatt pidió la diferencia entre la tarifa pagada y la reducida. Air Canada argumentó que la información correcta estaba disponible en otra parte de su sitio y que la empresa no debía responder por lo que había dicho uno de sus agentes, incluido el chatbot.

La disputa dejó de ser una discusión sobre experiencia de usuario. Pasó a preguntar quién responde cuando una interfaz de una compañía interpreta mal una política y una persona actúa en función de esa interpretación. La respuesta no podía delegarse a la tecnología, porque la tecnología no era una contraparte separada: era el canal elegido por la organización.

El tribunal trató la página estática y el chatbot como partes del mismo sitio. La interactividad no convertía al asistente en una entidad legal independiente ni desplazaba la responsabilidad. Air Canada controlaba ambos canales, y por eso debía tomar cuidado razonable para que la información entregada fuera exacta.

También rechazó la idea de que el pasajero tuviera que comparar cada respuesta con otra sección para descubrir cuál era más confiable. Si dos interfaces oficiales se contradicen, pedir al cliente que audite la arquitectura interna invierte la responsabilidad. La organización conoce sus sistemas, sus políticas y sus cambios; la persona solo ve una marca que le está indicando cómo actuar.

El tribunal concluyó que existió una representación negligente: la información era incorrecta, Moffatt confió razonablemente en ella y esa confianza produjo un daño económico. La precisión del asistente dejó de ser una cualidad deseable del producto. Se convirtió en un componente del deber de cuidado de la empresa.

El 14 de febrero de 2024 llegó la decisión. El tribunal concedió CAD 650,88 por la diferencia de tarifa, CAD 36,14 en intereses previos y CAD 125 por costos del proceso. La orden total fue de CAD 812,02. La cifra es pequeña frente al tamaño de una aerolínea; su significado para el diseño de interfaces es considerable.

El desenlace estableció una conexión directa entre respuesta y consecuencia. No importó que la política correcta existiera en otro lugar ni que el chatbot generara la explicación mediante un flujo distinto. La compañía había puesto esa interfaz frente al cliente para orientarlo y debía sostener lo que decía o reparar el daño producido.

El expediente cerró la reclamación individual, pero hizo visible un problema que muchas organizaciones todavía trataban como experimental. Un asistente que explica precios, elegibilidad, devoluciones o cobertura participa en decisiones económicas. En ese momento deja de ser una demostración de lenguaje y pasa a formar parte de la operación.

Moffatt obtuvo la diferencia que había reclamado, los intereses y el costo del tribunal. Air Canada quedó obligada a pagar dentro del plazo establecido por la decisión. Así terminó una historia iniciada por una pregunta cotidiana y prolongada porque la organización no pudo resolver la contradicción dentro de su propio proceso de atención.

La resolución también corrigió una separación conceptual peligrosa. Un canal digital no puede disfrutar de la autoridad de la marca al recomendar una acción y, al mismo tiempo, quedar fuera de esa autoridad cuando se equivoca. Si la empresa permite que un asistente interprete una regla, debe gobernar la fuente, probar la interpretación y definir qué ocurre cuando la confianza del sistema es insuficiente.

No hace falta que una interfaz complete una transacción para producir una obligación. Basta con que cambie lo que una persona compra, acepta o espera. El daño en este caso fue una diferencia de tarifa; en seguros, salud, crédito o servicios públicos, una contradicción similar puede afectar decisiones mucho más difíciles de revertir.

La lección no es añadir una advertencia genérica al pie del chatbot. Una advertencia no sincroniza políticas ni descubre contradicciones. El diseño necesita una fuente gobernada, versiones identificables, pruebas sobre preguntas sensibles y trazabilidad suficiente para saber qué regla sustentó cada respuesta.

También necesita límites operativos. El asistente debe reconocer cuándo una política depende de condiciones que no puede verificar, cuándo existen excepciones y cuándo corresponde transferir a una persona. Ese escalamiento debe conservar contexto y tener un propietario; enviar al cliente a comenzar de nuevo solo traslada el costo de la incertidumbre.

Air Canada muestra por qué la gobernanza de IA no puede vivir en un comité separado del producto y la operación. La responsabilidad atraviesa contenido, tecnología, servicio, legal y negocio. Una interfaz confiable no es la que responde siempre. Es la que puede sostener cada respuesta, mostrar de dónde proviene y detenerse antes de fabricar una promesa que la organización no cumplirá.