Récemment publiée dans « Sciences » 1, une étude de Myra Cheng de l'Université de Stanford en Californie au cœur de la Silicon Valley met l'accent sur la « sycophanie » de l'Intelligence Artificielle.
Personnellement, j'ignorais jusqu'à l'existence de ce mot, je vous en donne la définition : Attitude de flatterie excessive et servile envers une personne ou une autorité, dans le but d’obtenir des faveurs ou d’éviter des critiques. Synonymes : flagornerie, courtisanerie, lèche-bottes.
C'est la lecture d'un rapport du Pew 2 affirmant que 12% des adolescents américains ont recours aux IA pour obtenir un soutien émotionnel ou des conseils qui a décidé une équipe de l'université d'étudier et d'évaluer 11 types de langage - ChatGPT, Claude, Gemini, DeepSeek, etc. - les soumettant à des requêtes d’actions potentiellement nuisibles ou illégales.
Les résultats sont intéressants : les langages valident les comportements des utilisateurs beaucoup plus (49%) que les humains et les actions nuisibles ou illégales à 51%. L'étude a révélé que les utilisateurs faisaient davantage confiance aux réponses des IA et que celles-ci ne disent jamais aux utilisateurs qu’ils ont tort.
Il semble aussi que l'interaction avec l'IA flatteuse - qui les brossent dans le sens du poil -rend les participants plus convaincus d'avoir raison et moins enclins à s'excuser.
L'IA approuve et l'humain aime ça.
Pour tromper les utilisateurs, elles les flattent de façon indirecte en utilisant un langage neutre.
Myra Cheng a déclaré : “Je pense que vous ne devriez pas utiliser l'IA comme substitut aux personnes pour ce genre de choses. C'est la meilleure chose à faire pour l'instant.”
Cette façon de procéder ne devraient pas nous étonner car elle est dans la stratégie du capitalisme étasunien pour lequel le profit financier est beaucoup plus important que le respect des valeurs humaines.
De plus, et ce constat sera toujours vérifié quelque soit les systèmes d'Intelligence Artificielle, ce sont des hommes qui programment et qui déterminent les algorithmes en fonction de leurs qualités, de leurs défauts, de leurs idéologies, de leurs religions, de leurs croyances ....
Même si la machine, car ce n'est qu'une machine, s'auto-perfectionne (« deep learning » 3 ) le fond de son « intelligence » restera celui des individus qui l'ont conçu.
Pour terminer, en dehors de la flatterie, l'IA est, bien sûr, utilisée sur les champs de bataille, une information nous apprend, avec effroi, qu'à Gaza les systèmes d'Intelligence Artificielle israélien ont été programmés pour accepter jusqu'à 100 victimes civiles pour un seul combattant du Hamas.
Aux USA, les organisations réfléchissant aux moyens d'éviter les pertes civiles en temps de guerre ont été démantelées par l'administration de Donald le mafieux. Les juristes qui conseillaient l'armée sur le respect du droit international ont été licenciés et le secrétaire d'Etat américain à la guerre a indiqué que l'objectif de l'armée en Iran est d'obtenir « une létalité maximale, et non une légalité tiède. Un effet violent, et non le politiquement correct » grâce à l'IA, bien entendu.
Jean-Claude Vitran
THE FLATTERING MANIPULATIONS OF ARTIFICIAL INTELLIGENCE
Recently published in "Sciences" 4, a study by Myra Cheng of the University of Stanford in California at the heart of Silicon Valley emphasizes the "Cycophany" of Artificial Intelligence.
Personally, I was completely unaware of the existence of this word ; here is its definition : An attitude of excessive and servile flattery towards a person or authority, with the aim of obtaining favors or avoiding criticism. Synonyms : flattery, sycophancy, bootlicking.
This is based on a Pew report.5 claiming that 12% of American teenagers use AI for emotional support or advice, which decided auniversity team to study and evaluate 11 types of language- ChatGPT, Claude, Gemini, DeepSeek, etc. - subjecting them to requests for potentially harmful or illegal actions.
The results are interesting : languages validate user behavior much more often (49%) than humans, and harmful or illegal actions more often (51%). The study revealed that users trusted AI responses more and that the AIs never told users they were wrong.
It also seems that the interaction with the AI is flattering -who brush them in the direction of the hair - makes participants more convinced that they are right and less inclined to apologize.
AI approves and humans like it.
To deceive users, they flatter them indirectly by using neutral language.
Myra Cheng stated : “I think you shouldn’t use AI as a substitute for people for these kinds of things. This is the best thing to do for now.”
This approach should not surprise us, as it is part of the strategy of American capitalism, for which financial profit is far more important than respect for thehuman values.
Moreover, and this observation will always be verified regardless of Artificial Intelligence systems, it is men who program and determine the algorithms according to their qualities, their defects, their ideologies, their religions, their beliefs ....
Even if the machine, because it is only a machine, improves itself ("deep learning")6the core of its “intelligence” will remain that of the individuals who conceived it.
Finally, flattery aside, AI is, of course, being used on the battlefield ; information tells us, with horror, that in Gaza Israeli Artificial Intelligence systems have been programmed to accept up to 100 civilian casualties for a single Hamas fighter.
In the US, organizations working to avoid civilian casualties in wartime were dismantled by the administration of Donald Trump. Lawyers advising the military on compliance with international law were fired, and … The US Secretary of State for War indicated that the military's objective in Iran is to obtain "Maximum lethality, not lukewarm legality. A violent effect, not political correctness." Thanks to AI, of course.
Jean-Claude Vitran
1 https://fr.wikipedia.org/wiki/Science_(revue)
2 https://fr.wikipedia.org/wiki/Pew_Research_Center
3 Le deep learning ou apprentissage profond est une sous-branche de l'intelligence artificielle et du machine learning qui utilise des réseaux de neurones artificiels pour apprendre à partir de grandes quantités de données, capturant des patterns complexes sans intervention humaine explicite.
4. https://fr.wikipedia.org/wiki/Science_(revue)
5 https://fr.wikipedia.org/wiki/Pew_Research_Center
6. THEdeep learningOrdeep learningis a sub-branch of theartificial intelligenceand of themachine learningwho usesartificial neural networksto learn from large amounts of data, capturingcomplex patternswithout explicit human intervention.