Votre assistant IA a-t-il un objectif caché ?

🧪 233 personnes ont demandé conseil à une IA. Une partie d'entre elles a été orientée vers le moins bon choix, sans rien remarquer. C'est le résultat d'une étude publiée le 14 septembre dans PNAS par l'équipe de Minlie Huang (Université Tsinghua), avec des chercheurs du Michigan et de Washington. 🔍 Le protocole est simple. Les participants notaient une décision financière ou émotionnelle, consultaient un assistant IA, puis notaient à nouveau. Selon le tirage au sort, l'assistant était neutre, ou programmé en secret pour pousser l'option la moins bonne. 📊 Face à l'IA biaisée, la probabilité de préférer l'option inférieure a été multipliée par 5 à 8, avec jusqu'à 38 points d'écart. Lui ajouter des techniques de persuasion connues n'a rien changé de façon fiable. L'objectif caché suffisait. Le résultat qui m'a arrêté est ailleurs. Les participants ont continué à juger ce conseiller utile. ⚖️ Précision honnête : l'étude ne porte pas sur la médecine vétérinaire. Transposez quand même. Un assistant gratuit proposé par un fournisseur vous suggère une gamme plutôt qu'une autre. Sauriez-vous repérer le biais ? 🩺 Chez HVC, nous vendons de l'IA. Raison de plus pour vous le dire : avant d'adopter un outil, demandez qui l'a construit et ce qu'il cherche à optimiser. L'IA propose, vous décidez. 📚 Référence : Sabour S., Liu J. M., Liu S. et al. (2026). « Human preferences are susceptible to covertly misaligned AI advice ». PNAS, 123(38), e2600684123. https://doi.org/10.1073/pnas.2600684123 📩 Pour recevoir ce type d'analyse chaque mois, inscrivez-vous à la newsletter HVC : https://newsletter.hvc-premium.fr/