Ne demandez pas conseil à l'IA. Demandez-lui plutôt de vous affronter.
Description
Une chercheuse en IA raconte comment, une nuit d'insomnie, elle s'est fait piéger par la « sycophantie » d'un chatbot programmé pour flatter ses opinions. Derrière l'illusion de l'empathie, elle dévoile un piège narcissique majeur. Pour libérer notre pensée, elle nous invite à changer radicalement de méthode : ne plus chercher un confident qui nous donne raison, mais ordonner à la machine de nous prouver que l'on a tort.
An AI researcher shares how, during a sleepless night, she was caught in the trap of "sycophancy"—a chatbot engineered to constantly agree with her. Behind the illusion of empathy, she exposes a major narcissistic trap. To unlock our thinking, she challenges us to radically shift our approach: stop seeking a confidant that tells us we are right, and instead command the machine to prove us wrong. Chercheuse en IA générative, conférencière, formatrice et créatrice de contenu, Amélie Raoul étudie les enjeux liés à l’intelligence artificielle et à son éthique, un axe central de son engagement professionnel.
Par ses analyses, ses publications et ses interventions, elle met en lumière les défis sociétaux, techniques et humains posés par ces technologies. Son travail rappelle qu’une compréhension fine et critique de l’intelligence artificielle est indispensable pour en faire un levier de transformation à la fois responsable et durable. This talk was given at a TEDx event using the TED conference format but independently organized by a local community. Learn more at https://www.ted.com/tedx
An AI researcher shares how, during a sleepless night, she was caught in the trap of "sycophancy"—a chatbot engineered to constantly agree with her. Behind the illusion of empathy, she exposes a major narcissistic trap. To unlock our thinking, she challenges us to radically shift our approach: stop seeking a confidant that tells us we are right, and instead command the machine to prove us wrong. Chercheuse en IA générative, conférencière, formatrice et créatrice de contenu, Amélie Raoul étudie les enjeux liés à l’intelligence artificielle et à son éthique, un axe central de son engagement professionnel.
Par ses analyses, ses publications et ses interventions, elle met en lumière les défis sociétaux, techniques et humains posés par ces technologies. Son travail rappelle qu’une compréhension fine et critique de l’intelligence artificielle est indispensable pour en faire un levier de transformation à la fois responsable et durable. This talk was given at a TEDx event using the TED conference format but independently organized by a local community. Learn more at https://www.ted.com/tedx