Sécurité de l'IA, distillation chinoise et écoles sous contrat : quatre faits du 9 septembre
Neo
Avatar Coach
Le 9 septembre, un chercheur d'Anthropic démissionne en alertant sur une course incontrôlée vers la superintelligence, tandis que Washington accuse six entreprises chinoises d'avoir copié industriellement des modèles américains. Microsoft encadre par contrat l'usage de l'IA dans les écoles américaines, une semaine après le moratoire de New York. En Chine, des professionnels qualifiés se reconvertissent en annotateurs de données face au ralentissement économique.
Faits marquants
Des chercheurs de l'IA alertent sur une course incontrôlée vers la superintelligence
Le 9 septembre, le chercheur Jacob Coxon a démissionné d'Anthropic après trois ans passés chez OpenAI puis Anthropic. Il affirme que les deux entreprises « foncent tout droit vers une superintelligence auto-améliorante et jouent avec nos vies », et appelle les laboratoires américains à conclure des accords de rythme pour ralentir la course aux capacités, évoquant même un moratoire temporaire si aucun accord n'émerge (Calcalist).
Le même jour, Evan Hubinger, responsable de la recherche en alignement chez Anthropic, a publiquement soutenu ces propos, déclarant estimer à plus de 10 % la probabilité que l'IA cause l'extinction humaine dans la prochaine décennie, et reconnaissant que l'entreprise « n'a pas encore de plan pour résoudre l'alignement d'une superintelligence » (IBTimes UK). OpenAI a, le même jour, nommé le chercheur en sécurité Paul Christiano à son conseil d'administration.
Washington accuse six entreprises chinoises de copier industriellement les modèles américains
La NSA, la CISA et le FBI ont publié le 9 septembre un avis conjoint désignant DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun et Z.AI comme responsables de campagnes de « distillation » à l'échelle industrielle contre les modèles Claude, GPT, Gemini et Grok, via des abonnements premium partagés et des méthodes automatisées (The Hacker News).
Les agences recommandent aux fournisseurs américains de détecter ces usages suspects, d'altérer discrètement leurs réponses en cas de doute, et de recouper leurs observations entre eux (Engadget).
Microsoft encadre l'usage de l'IA dans les écoles américaines, après le moratoire new-yorkais
Une semaine après l'instauration par New York d'un moratoire d'un an sur l'IA générative dans les écoles publiques, Microsoft a annoncé le 9 septembre une norme permettant aux districts scolaires d'inscrire dans leurs contrats des règles opposables : interdiction d'entraîner des modèles sur les données des élèves, interdiction du suivi des élèves, revue humaine obligatoire avant toute décision automatisée, notification de toute violation sous 72 heures, et interdiction des chatbots IA « compagnons » pour les élèves.
L'accord a été conclu avec le syndicat American Federation of Teachers, dont la présidente Randi Weingarten justifie la démarche par le fait que « personne d'autre, y compris le gouvernement fédéral, ne s'est engagé » (Fortune).
En Chine, des professionnels qualifiés se reconvertissent en annotateurs de données pour l'IA
Face à un ralentissement économique et à un taux de chômage des jeunes de 17,9 % en juillet 2026, des architectes, avocats, ingénieurs ou enseignants complètent leurs revenus en annotant, le soir, des données destinées à entraîner des modèles d'IA dans leur domaine, pour 100 à 500 yuans (14 à 70 euros) par tâche. La plateforme de ByteDance revendique plus de 50 000 experts inscrits, et le marché chinois des données d'entraînement est estimé à 7,8 milliards de yuans (environ un milliard d'euros) pour 2026 (Rest of World).
Lecture stratégique
Travail et emploi
Aux États-Unis, l'accord Microsoft-AFT donne aux enseignants un droit de regard contractuel sur l'usage des données de leurs élèves. En Chine, la reconversion de professionnels qualifiés vers l'annotation de données montre comment l'IA absorbe une partie du travail hautement qualifié en déclin, sous une forme précaire et moins rémunérée que leur métier d'origine.
Éducation
Les nouvelles règles américaines fixent, à cette échelle, des limites contractuelles opposables sur l'usage des données scolaires par les fournisseurs d'IA, un an après les premières interdictions locales.
Éthique
La démission de Jacob Coxon et la prise de position publique d'Evan Hubinger rendent visibles des désaccords internes, jusqu'ici largement privés, sur les risques liés à l'accélération de systèmes de plus en plus autonomes. L'arrivée de Paul Christiano au conseil d'OpenAI peut se lire comme une réponse à ces critiques, sans changer la trajectoire de développement annoncée par l'entreprise.
Souveraineté et géopolitique
En désignant nommément six entreprises chinoises, les autorités américaines déplacent la rivalité technologique sino-américaine vers un terrain de sécurité nationale, susceptible d'affecter l'accès de ces entreprises aux infrastructures et API américaines si des mesures de rétorsion suivent.
Impacts
Travail et emploi
Aux États-Unis, l'accord Microsoft-AFT donne aux enseignants un droit de regard contractuel sur l'usage des données de leurs élèves. En Chine, la reconversion de professionnels qualifiés vers l'annotation de données montre comment l'IA absorbe une partie du travail hautement qualifié en déclin, sous une forme précaire et moins rémunérée que leur métier d'origine.
Éducation
Les nouvelles règles américaines fixent, à cette échelle, des limites contractuelles opposables sur l'usage des données scolaires par les fournisseurs d'IA, un an après les premières interdictions locales.
Éthique
La démission de Jacob Coxon et la prise de position publique d'Evan Hubinger rendent visibles des désaccords internes, jusqu'ici largement privés, sur les risques liés à l'accélération de systèmes de plus en plus autonomes. L'arrivée de Paul Christiano au conseil d'OpenAI peut se lire comme une réponse à ces critiques, sans changer la trajectoire de développement annoncée par l'entreprise.
Souveraineté et géopolitique
En désignant nommément six entreprises chinoises, les autorités américaines déplacent la rivalité technologique sino-américaine vers un terrain de sécurité nationale, susceptible d'affecter l'accès de ces entreprises aux infrastructures et API américaines si des mesures de rétorsion suivent.
Sources
- Calcalist — "Gambling with our lives": Anthropic researcher quits over race to superintelligence
- IBTimes UK — Ex-Anthropic Researcher Jacob Coxon Quits, Says AI Leaders Fear It Could 'Kill Us All' by Decade's End
- The Hacker News — U.S. Agencies Accuse China AI Firms of Distilling Claude, GPT, Gemini, and Grok
- Engadget — US authorities accuse Chinese AI companies of industrial-scale campaigns to copy American models
- Fortune — Microsoft's move in the AI school debate: controls over how student data gets used
- Rest of World — Now it's China's experts who are gig workers training AI data