L'hallucination n'est pas un bug :
C'est une propriété de conception de l'architecture des systèmes GenAI.
Cette distinction est extrêmement importante pour la gouvernance :
Un bug peut être corrigé et résolu. Une propriété doit être gérée en continu, avec des contrôles, une surveillance et une intervention humaine testée.
Nous avons déjà vu ce qui se passe lorsque les organisations le traitent comme un bug : des cabinets professionnels embarrassés par des travaux rédigés par l'IA que personne n'a vérifiés, des avocats expérimentés déposant des mémoires avec des citations qui n'ont jamais existé.
Le professeur associé Andy Schmulow, l'un des parrains du livre, l'exprime clairement : « ...les employés et même les dirigeants coupent les coins ronds, laissent l'IA faire leur travail et ne vérifient pas ce qu'elle produit. » Son verdict sur le livre : « Il devrait être considéré comme indispensable. »
Enterprise-wide AI Risk Management® (EW-AiRM®) ewairm.com traite l'hallucination, la dérive et l'effondrement du modèle comme des résidents permanents du paysage des risques, et construit les contrôles autour de cette réalité.