Em novembro de 2022, a OpenAI colocou no mundo o ChatGPT. Nos meses subsequentes, a busca por compreender e aplicar a tecnologia dos modelos de IA (Inteligência Artificial) generativa se tornou prioridade para empresas de todos os tamanhos e setores. Desde janeiro, companhias como Expedia, Kayak, Letsbook e, mais recentemente, o Airbnb, vêm desenvolvendo suas próprias ferramentas. Mas, que tipo de riscos essa tendência envolve?

Conforme a euforia inicial diminui, o debate passa a focar tanto nas oportunidades, quanto nos riscos que essa tecnologia traz consigo. Em uma discussão moderada por Darrell Chan, conselheiro geral do Airbnb na Ásia-Pacífico, na WiT Singapore, executivos da Expedia, Wego, Travelport e Google compartilharam suas preocupações relacionadas ao tema, conforme aponta artigo do Phocuswire.

Uma das principais questões expressas foi a privacidade dos dados. Tom Kershaw, diretor de Produtos e Tecnologia da Travelport, apontou a natureza altamente sensível dos dados na indústria de viagens, que incluem documentos pessoais, por exemplo. “Os tipos de dados com os quais lidamos em nossa indústria são extremamente sensíveis. Em comparação a varejos virtuais como a Amazon, por exemplo, eles são sobre quanto eu visto, grande coisa! O que eles podem fazer com isso?”, pondera o executivo. “Nós lidamos com números de passaportes e outras informações sensíveis. Garantir a proteção desses dados e ainda permitir o check-in e a elegibilidade sem problemas é um equilíbrio muito difícil”, complementou.

Outra questão crucial, levantada por Ross Veitch, co-fundador da Wego, é de quem é a responsabilidade quando agentes de IA cometem erros. “A culpa é do cliente por não prestar atenção, da pessoa que desenvolveu o programa?”, questionou.

A precisão também é uma preocupação latente em relação às respostas geradas por grandes modelos de linguagem. Como exemplo, Veitch disse que ao usar IA generativa para escrever descrições de hotéis, sua empresa descobriu que, quando as propriedades não têm muitas informações publicamente acessíveis, o sistema “simplesmente inventa coisas”.

Outra preocupação de grande relevância é o viés presente nos modelos de linguagem. Karen Bolda, vice-presidente sênior de Produtos e Tecnologia do Expedia Group, compartilhou a importância de um comitê de governança que avalie o uso de IA para garantir que ele esteja alinhado com os valores da empresa, especialmente em termos de equidade e transparência. “Nós entendemos o que esse modelo está fazendo e por que está fazendo? Estamos sendo transparentes tanto com nossos viajantes quanto com nossos parceiros B2B sobre o impacto disso?”, ponderou a executiva.

Potência positiva

A discussão não se concentrou apenas em preocupações. Os participantes também expressaram otimismo em relação ao impacto positivo da tecnologia na indústria de viagens. Kershaw destacou a importância de revolucionar os sistemas internos para melhorar o atendimento ao cliente e a eficiência operacional, enquanto Veitch mencionou o desenvolvimento de uma “ferramenta de agente inteligente” pela Wego, integrada ao aplicativo mobile da empresa, que visa melhorar a experiência do usuário.

(*) Crédito da foto: Freepik