Une IA a écrit seize virus qui n'avaient jamais existé, et le contrôle censé repérer l'ADN dangereux a été conçu pour reconnaître la nature
About This Episode
Des chercheurs de Stanford et de l'Arc Institute ont annoncé jeudi dans la revue Science que des modèles d'intelligence artificielle avaient écrit de toutes pièces des génomes viraux complets. Seize de ces virus ont pris vie et ont tué une bactérie E coli résistante aux antibiotiques. Publié dans le même numéro, un commentaire de spécialistes de la biosécurité de l'université Johns Hopkins avertit que la gouvernance nécessaire n'existe pas encore : le contrôle des commandes d'ADN de synthèse reste volontaire et fonctionne en comparant les séquences à ce que la nature a déjà produit.
Our Take
AI stopped editing life and started writing it from scratch — and the checkpoint meant to catch a dangerous DNA order works by recognizing nature, which is the one thing a machine-written genome is not.
Pour aller plus loin sur Unscarcity
Human-in-the-Loop: Where AI Agents Must Stop
The Evo models wrote each genome in a single uninterrupted pass with no human edit inserted mid-sequence, which makes this the exact design question the article poses: not whether to constrain an autonomous system, but where a human has to stand in the path.
Anthropic Pulled the AI Alarm. Who Can Act on It?
Johns Hopkins biosecurity researchers used the same journal issue to say the oversight machinery for AI-written genomes does not exist — the article's core point that capability arrives before anyone has built the brakes.