Ce géant du conseil publie un rapport fait à l’IA complètement faux, il doit rembourser une fortune à son client

Problèmes identifiés dans un rapport de Deloitte

Le cabinet de conseil Deloitte a fait l'objet d'une requête de remboursement par le gouvernement australien concernant un rapport destiné au département de l'Emploi et des Relations au Travail. Ce rapport, intitulé « Targeted Compliance Framework Assurance Review » , visait à fournir une expertise technique sur l’automatisation des pénalités dans le système social australien.

Des universitaires australiens ont détecté de nombreuses anomalies dans le rapport de 273 pages, notamment des citations fantômes, des références inventées et des décisions de justice fictives. Le cabinet a utilisé l'outil Azure OpenAI GPT 4o pour vérifier la conformité entre les codes informatiques et les besoins métiers.

Utilisation de l'intelligence artificielle

Deloitte a reconnu avoir utilisé une IA générative, mentionnée seulement à la page 58 d'une version révisée du document publiée en septembre. Parmi les 141 sources initiales, 14 ont été supprimées car inexistantes.

Conséquences financières et professionnelles

Deloitte a accepté de rembourser une partie de son contrat, bien que la proportion exacte ne soit pas précisée. Le gouvernement a déclaré que le fond du rapport et ses recommandations restent inchangés, mais les experts universitaires expriment des réserves importantes.

L'incident met en évidence les limites de l'utilisation de l'intelligence artificielle dans des contextes professionnels, soulignant la nécessité d'un encadrement rigoureux de son usage.

Le rapport de Deloitte, partiellement généré par une IA, contenait des informations fictives. Deloitte a été contraint de rembourser une partie du contrat au gouvernement australien. Le scandale souligne les limites et les risques de l'intelligence artificielle.

D’après Presse-citron.