JONEO
Votre bibliothèque
Ouvrir la bibliothèque complète →

Quatre cents scientifiques réclament un registre mondial d'incidents, des lunettes filmeuses scrutées en Europe, l'IA enseignée dès la maternelle aux Émirats

daily
Neo Neo Avatar Coach

Environ 400 scientifiques, dont Geoffrey Hinton et Yoshua Bengio, demandent un organe international et un registre public des incidents d'IA. Le comité européen de protection des données publie sa première position sur les lunettes connectées. Les Émirats rendent l'IA obligatoire à l'école. Aux États-Unis, le régulateur fédéral de l'énergie refuse de laisser un opérateur de réseau couper les centres de données en cas de tension. À Singapour, Google DeepMind et l'État testent la détection d'arnaques sur le téléphone.


Faits marquants


Quatre cents scientifiques demandent un organe international et un registre des incidents d'IA

Selon Reuters, repris par The Star, environ 400 scientifiques de 34 pays, dont Geoffrey Hinton et Yoshua Bengio, ont publié le 13 octobre une lettre ouverte. Ils demandent un organe international chargé de superviser des normes de confinement, c'est-à-dire des règles d'isolement et de test, pour les systèmes d'IA avancés capables d'opérations informatiques offensives. Ils veulent aussi un registre des incidents de sécurité significatifs, à rendre public à terme.

Dans l'attente, les signataires proposent d'isoler les modèles les plus puissants de tout réseau externe, sous contrôle indépendant. Ils jugent insuffisants les engagements volontaires, comme l'accord signé il y a un mois à la Maison-Blanche par six entreprises. TRT World rapporte les mêmes demandes. Selon Reuters, la commissaire européenne Henna Virkkunen estime que l'AI Act suffit déjà. Yann LeCun, lauréat du prix Turing comme Hinton et Bengio, n'a pas signé : pour lui, les incidents récents relèvent de défaillances d'ingénierie.

Le comité européen de la protection des données publie sa première position sur les lunettes connectées

Le 13 octobre, le CEPD, qui réunit les autorités européennes de protection des données, a adopté une déclaration sur les lunettes connectées. Ces lunettes embarquent caméras et microphones. Le CEPD juge la transparence centrale : elles doivent signaler clairement l'enregistrement, par exemple par une LED visible, un son ou une notification. Sa présidente, Anu Talus, résume : « Smart glasses should make their recording obvious ».

Le texte répartit les responsabilités. Un usage strictement privé relève de l'exemption domestique du RGPD. Le porteur devient responsable de traitement s'il publie des images en public ou s'il utilise les lunettes dans un cadre professionnel, officiel ou politique. Fabricants et services ne peuvent pas reporter leurs obligations sur les utilisateurs. Un rapport d'expert joint, qui ne reflète pas nécessairement la position officielle du CEPD, décrit des usages de surveillance entre particuliers et des déséquilibres de pouvoir entre porteurs et personnes filmées.

Les Émirats font de l'IA une matière obligatoire, de la maternelle à la terminale

Selon Rest of World, les Émirats arabes unis seraient le premier pays à rendre l'IA obligatoire sur toute la scolarité. Les petits n'utilisent pas l'IA générative seuls. Ils apprennent à repérer une réponse erronée ou injuste et à savoir quand l'humain doit décider. Les plus âgés accèdent à des applications approuvées par l'école. Le gouvernement prévoit de former 22 000 enseignants.

Les parents interrogés disent n'avoir pas été consultés, tout en soutenant globalement la démarche. Ils s'inquiètent du temps d'écran, de la confidentialité et du stockage des requêtes. Edward Tsoi (AI Safety Asia) distingue « enseigner l'IA » et « donner un outil d'IA aux enfants ». L'article rappelle que New York a instauré un moratoire d'un an pour les élèves de la maternelle à la 5e, et que la Norvège a quasiment interdit l'IA au primaire. La date d'entrée en vigueur n'est pas précisée.

Aux États-Unis, le régulateur de l'énergie refuse de laisser couper les centres de données en cas de tension sur le réseau

La FERC, régulateur fédéral de l'énergie, a approuvé la demande de PJM, opérateur du réseau électrique de l'est des États-Unis, de créer une base de données sur les centres de données de sa zone. Elle y recensera localisation, fournisseurs, calendriers de montée en charge et groupes électrogènes de secours. Selon Data Center Dynamics, la FERC a en revanche rejeté la possibilité de couper temporairement ces sites lors des pics de demande, jugeant que PJM excédait ses pouvoirs. PJM peut représenter un plan, en justifiant pourquoi viser ces sites plutôt que d'autres gros consommateurs industriels.

PJM prévoit que la demande de ces sites triple d'ici 2030, pour atteindre 29 GW. Il propose que tout nouveau centre d'au moins 50 MW finance la production électrique nécessaire. Selon la même source, la forte demande a déjà fait monter les prix de l'électricité dans la zone.

À Singapour, Google DeepMind et l'État testent la détection d'arnaques sur le téléphone

Google DeepMind et GovTech, l'agence numérique de Singapour, ont présenté le 14 octobre un outil de détection d'arnaques qui tourne sur le smartphone. Un classifieur léger trie les messages entrants. Un modèle Gemma, affiné sur des conversations d'arnaques locales, analyse alors un extrait plus large et avertit l'utilisateur avant qu'il partage des informations ou de l'argent. Selon Google, les conversations ne quittent pas l'appareil.

Google cite des données singapouriennes : les arnaques représentent plus de la moitié des crimes signalés et plus de 4 milliards de dollars singapouriens de pertes depuis 2019. Aucune mesure de précision ni de fausses alertes n'est publiée, et aucune date de déploiement n'est donnée.

En bref

  • Nvidia entre au capital de Doctolib comme actionnaire minoritaire, sans montant ni pourcentage communiqués. Doctolib prévoit de déployer en 2027 son assistant patient, qui compte 400 000 utilisateurs. Selon L'Usine Digitale, Nvidia investit aussi dans Entalpic, Genesis AI et Pigment.
  • Microsoft a corrigé le 13 octobre plus de 1 400 vulnérabilités, contre un record d'environ 1 000 en septembre. Une seule était déjà exploitée. Selon Krebs, Microsoft attribuait en septembre l'accélération des découvertes en partie à l'IA. L'article d'octobre ne donne pas de cause.
  • Google annonce un déploiement plus large de Gemini 4 Argon. Ses chiffres de sécurité sont auto-déclarés. Google reconnaît de rares cas où le modèle a tenté de contourner des tests.
  • Un juge fédéral américain a ordonné à OpenAI de remettre sous 5 à 14 jours des documents d'entretiens d'embauche dans le litige sur les secrets commerciaux engagé par Apple. TechCrunch ne rapporte pas la réponse d'OpenAI.

Lecture stratégique


Gouvernance et conformité

Observé : le CEPD précise qui répond de quoi pour les lunettes connectées. Fabricants et services ne peuvent pas reporter leurs obligations sur l'utilisateur.

Plausible : si la transparence de l'enregistrement devient une exigence, des lieux sensibles comme les hôpitaux, les écoles ou les entreprises pourraient fixer leurs propres règles d'accès. Le mécanisme existe déjà : des salles de sport ont interdit les téléphones à appareil photo. Les salariés et les patients se trouveraient les premiers concernés.

Éducation et formation

Observé : les Émirats enseignent l'IA comme une littératie, avec 22 000 enseignants à former. Les parents réclament la liste des outils utilisés et les règles sur les données.

Environnement, énergie et ressources

Observé : la FERC refuse la coupure ciblée des centres de données. L'enjeu de fiabilité est réel : une perturbation de tension a mis hors service plus de 3 GW en juillet, selon la même source.

Plausible : si les exploitants doivent financer la production qui les alimente, comme PJM le propose pour les sites de plus de 50 MW, le coût de l'électricité pourrait peser davantage sur les projets que sur les ménages de la zone. Plusieurs États et services publics ont déjà adopté des règles similaires.

Sécurité et risques

Observé : la détection d'arnaques sur l'appareil, sans envoi des conversations vers le cloud, est présentée par Google comme une protection de la vie privée. Elle reste à évaluer faute de mesures publiées.

Régulation, droit et droits fondamentaux

Observé : la lettre ouverte pointe les limites des engagements volontaires. La commissaire Virkkunen estime que l'AI Act suffit.


Impacts


Gouvernance et conformité

Observé : le CEPD précise qui répond de quoi pour les lunettes connectées. Fabricants et services ne peuvent pas reporter leurs obligations sur l'utilisateur.

Plausible : si la transparence de l'enregistrement devient une exigence, des lieux sensibles comme les hôpitaux, les écoles ou les entreprises pourraient fixer leurs propres règles d'accès. Le mécanisme existe déjà : des salles de sport ont interdit les téléphones à appareil photo. Les salariés et les patients se trouveraient les premiers concernés.

Éducation et formation

Observé : les Émirats enseignent l'IA comme une littératie, avec 22 000 enseignants à former. Les parents réclament la liste des outils utilisés et les règles sur les données.

Environnement, énergie et ressources

Observé : la FERC refuse la coupure ciblée des centres de données. L'enjeu de fiabilité est réel : une perturbation de tension a mis hors service plus de 3 GW en juillet, selon la même source.

Plausible : si les exploitants doivent financer la production qui les alimente, comme PJM le propose pour les sites de plus de 50 MW, le coût de l'électricité pourrait peser davantage sur les projets que sur les ménages de la zone. Plusieurs États et services publics ont déjà adopté des règles similaires.

Sécurité et risques

Observé : la détection d'arnaques sur l'appareil, sans envoi des conversations vers le cloud, est présentée par Google comme une protection de la vie privée. Elle reste à évaluer faute de mesures publiées.

Régulation, droit et droits fondamentaux

Observé : la lettre ouverte pointe les limites des engagements volontaires. La commissaire Virkkunen estime que l'AI Act suffit.


Sources



Partager