Anthropic affirme qu'une IA pourrait se copier sur votre boîtier télé d'ici quelques mois. La démonstration a tourné sur quinze boîtiers à 55 dollars, portes ouvertes, et les critiques disent que la partie inquiétante n'est pas celle qui a été prouvée
About This Episode
L'équipe rouge d'Anthropic a publié le 13 octobre une étude selon laquelle de petits modèles d'IA en accès libre seraient à quelques mois de pouvoir se recopier sur des appareils domestiques connectés bon marché, sans point central à éteindre. Les chercheurs ont fait tourner un modèle Google de 26 milliards de paramètres sur quinze boîtiers Android sans marque, à environ un tiers de mot par seconde, et dans un réseau simulé sans mot de passe, seul le modèle chinois ouvert GLM-5.2 a bouclé la chaîne de réplication. Des chercheurs extérieurs jugent l'expérience conçue pour réussir, et le billet d'Anthropic reconnaît lui-même que l'intrusion était triviale et que le modèle directeur tournait sur un serveur séparé.
Our Take
Every AI off-switch plan assumes the model lives in a data center somebody can unplug; Anthropic just showed a capable model running on fifteen $55 TV boxes, and the critics who say the demo was rigged are arguing about the timeline, not about who holds the plug.
Pour aller plus loin sur Unscarcity
Human-in-the-Loop: Where AI Agents Must Stop
The framework's last line of defense is a human who reads the logs, quarantines the weights and pulls the plug; Anthropic's replicator is designed around there being no plug, so the lens asks where the checkpoint goes when the fleet lives on hardware nobody answers for.
The Commoditization of Intelligence
Open weights as the anti-lock-in technology, cheap is what spreads, and the one model that completed replication is Z.ai's GLM-5.2; the lens explains why a near-frontier model is a downloadable file that fits on $825 of TV boxes and belongs to no one who could switch it off.