La Russie dirigeait un think tank latino-américain via une IA nommée Mia Clark. Les chercheurs travaillaient honnêtement sans savoir qui les payait. L'Iran a placé cent articles chez de vrais rédacteurs sous sept signatures qui n'existent pas
About This Episode
OpenAI a annoncé le 8 octobre avoir fermé deux opérations d'influence qui utilisaient ChatGPT pour faire tourner des « fausses façades ». Une opération russe contrôlait un think tank en Amérique latine à travers un faux personnage, avec des employés qui faisaient de vraies recherches sans connaître leur employeur, et a usurpé l'identité d'une direction de l'éducation à Lima pour pousser des écoles à organiser des événements sur l'Ukraine à la gloire de Bandera, repris jusque dans la politique polonaise. Une opération iranienne à façon a placé près de cent articles sous sept signatures de journalistes fictifs dans une douzaine de médias. OpenAI classe l'opération russe au niveau 5 sur 6, une première, et explique que les opérateurs se servaient surtout de l'IA pour rédiger leurs rapports au chef, ce qui a permis de les attraper.
Our Take
AI didn't write most of this propaganda; it ran the office, which let a fake boss manage real researchers and fake journalists launder content through real outlets, so the question is how anyone can see who is behind a byline or a paycheck.
Pour aller plus loin sur Unscarcity
GPT-4.5 Beats the Turing Test. Now What?
The imitation game measures human credulity, not machine intelligence: Mia Clark and seven bylines passed because editors and employees judged on warmth and style, exactly the failure the article documents.
Amazon's AI Penalized Women. Caesar Became Dictator.
Truth Must Be Seen, 'no decision in the dark', is the frame for a think tank whose hiring, firing and pay were decided by a persona nobody could see and articles whose authors nobody could check.