Resumo
- A Deloitte entregou um relatório a um governo do Canadá com citações acadêmicas inexistentes e atribuições erradas, usando IA para embasar o conteúdo.
- A empresa admitiu falhas na verificação dos dados, mas defendeu as recomendações do relatório e prometeu revisar o documento e melhorar práticas de governança de IA.
- O governo da província de Terra Nova e Labrador manteve o relatório no site oficial e solicitou revisão das diretrizes para evitar falhas futuras.
A consultoria Deloitte, uma das maiores do mundo, está novamente envolvida em polêmica sobre o uso irresponsável de inteligência artificial. A empresa entregou um relatório com citações e estudos acadêmicos que não existem ao setor público do Canadá.
De acordo com o The Independent, o material de 526 páginas possui referências bibliográficas fabricadas para embasar análises de custo-efetividade e estratégias de retenção pessoal. O documento custou 1,6 milhões de dólares canadenses (cerca de R$ 6 milhões) ao governo da província de Terra Nova e Labrador.
A Deloitte tentou minimizar o uso da tecnologia. Num comunicado emitido nesta terça (25), ela disse que não usou IA para escrever o relatório completo, mas apenas para embasar o conteúdo em “um pequeno número de citações de pesquisa”.
As invenções da IA
O relatório deveria fornecer base técnica para retenção de médicos e enfermeiros, além de estratégias de atendimento virtual. No entanto, para embasar análises de custo-efetividade e incentivos financeiros, o texto citou artigos acadêmicos que não existem.
Além disso, o documento listava estudos e os atribuía a pesquisadores sem vínculo na vida real, indicando alucinação de IA — quando a ferramenta inventa informações e as utiliza nas respostas como se fossem verdade. Entre elas, a revista científica Canadian Journal of Respiratory Therapy, que declarou não ter sido consultada durante a elaboração do documento e que desconhece a origem dos dados.
A investigação apontou que, em pelo menos dois casos, a Deloitte citou pesquisadores de verdade como autores dos artigos inexistentes. Alguns desses acadêmicos confirmaram que sequer trabalharam juntos, muito menos produziram o estudo mencionado.
Deloitte defende resultados
Apesar de admitir a falha na verificação dos dados, a Deloitte adotou uma postura de defesa do produto final. A empresa declara que “mantém firmemente as recomendações apresentadas no relatório”.
A consultoria prometeu revisar o documento e fazer “um pequeno número de correções de citação”, alegando que os erros não impactam no resultado. Disse também que vai evoluir as práticas de governança em torno do uso de IA.
Até o momento, o governo da província manteve o relatório “Plano de Recursos Humanos em Saúde” no site oficial. O gabinete do primeiro-ministro de Terra Nova e Labrador, Tony Wakeham, informou apenas que solicitou uma revisão das diretrizes para impedir que falhas do tipo voltem a ocorrer em contratos futuros, sem comentar possíveis sanções.
Erro vem se repetindo
A ocorrência no Canadá repete outra gafe cometida pela mesma consultoria há apenas um mês na divisão australiana da empresa. Lá, um relatório de US$ 290 mil (R$ 1,5 milhão) sobre fraudes previdenciárias também foi flagrado contendo citações acadêmicas inexistentes.
Naquela ocasião, a Deloitte admitiu ter utilizado o sistema Azure OpenAI, da Microsoft, para auxiliar na criação do conteúdo. Por lá, no entanto, a Deloitte concordou em reembolsar parcialmente o governo pelo trabalho mal feito.
Consultoria passa vergonha novamente com inteligência artificial
Link do Autor