Choses à Savoir TECH

L’intelligence artificielle ne menace pas seulement de produire de mauvais textes. Dans la recherche, elle peut désormais fabriquer de fausses références, de fausses images et parfois de faux résultats qui finissent par être cités comme de la vraie science. Le CNRS estime que ce phénomène aggrave une crise déjà profonde de la publication scientifique.

Il faut d’abord éviter un raccourci : utiliser ChatGPT ou une autre IA pour améliorer un texte scientifique n’est pas nécessairement frauduleux. Pour le CNRS, le problème commence lorsque cet usage est dissimulé, ou lorsque la machine invente des données et des sources que personne ne vérifie. L’auteur humain reste responsable de ce qu’il publie. Et l’usage de l’IA devient massif. Une étude récente portant sur plus d’un million d’articles biomédicaux en anglais estime que 77 % des publications de 2025 présentent des signes d’assistance par un grand modèle de langage, et près de 90 % pour le seul mois de décembre. Attention : cette étude est encore une prépublication, et détecter une aide rédactionnelle ne signifie absolument pas détecter une fraude.

Le vrai danger vient de l’effet d’échelle. En mai, une analyse de 2,5 millions d’articles biomédicaux a identifié près de 3 000 publications contenant des références impossibles à retrouver. Et une erreur scientifique ne disparaît pas lorsqu’un article est retiré : d’autres chercheurs peuvent déjà l’avoir cité et utilisé comme fondation de leurs propres travaux. Le CNRS rappelle qu’environ 10 000 articles ont été rétractés sur 4,5 millions publiés dans le monde en 2023. Près de 640 000 publications citeraient au moins un article rétracté. L’IA n’a pas créé ce problème : elle peut simplement accélérer une machine déjà poussée par le fameux « publier ou périr » et par certains modèles économiques où les auteurs paient pour être publiés.

En France, le CNRS répond notamment avec BibCheck, un outil capable de repérer dans une bibliographie des articles rétractés ou des références potentiellement inventées. Il défend aussi une évaluation moins obsédée par le nombre de publications. Car le risque ultime n’est pas que l’IA écrive des articles. C’est qu’elle permette de produire de la science plus vite qu’on ne peut la vérifier. Et dans un système de connaissance fondé sur la confiance dans les travaux précédents, quelques fausses briques suffisent à fragiliser tout ce qu’on construit dessus.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Trente vieilles barrettes de mémoire oubliées dans un garage peuvent désormais valoir plusieurs milliers de dollars. Cette petite histoire australienne raconte surtout une anomalie beaucoup plus sérieuse : l’intelligence artificielle est en train de bouleverser jusqu’au marché de la RAM d’occasion.

Un utilisateur de Reddit raconte avoir retrouvé 30 barrettes Samsung DDR4 de 64 gigaoctets provenant d’un ancien serveur que son employeur lui avait laissé récupérer. Au total : 1,92 téraoctet de mémoire vive qui prenait la poussière. L’intéressé estime aujourd’hui le lot à 10 000 dollars. Mais il faut immédiatement relativiser ce « jackpot ». Il ne précise pas la devise, les barrettes doivent encore être testées, et ce ne sont pas des modèles destinés à monsieur Tout-le-Monde. Il s’agit de DDR4 ECC pour serveurs, à 2 666 mégatransferts par seconde. Elles ne fonctionnent donc pas dans la majorité des PC classiques.

Si elles valent soudainement beaucoup plus cher, c’est parce que le marché de la mémoire traverse une période inhabituelle. L’explosion des infrastructures d’intelligence artificielle absorbe énormément de capacités de production. Les fabricants comme Samsung, SK Hynix et Micron privilégient les mémoires pour serveurs et surtout la HBM, cette mémoire extrêmement rapide installée autour des accélérateurs d’IA. Conséquence : moins de capacité reste disponible pour certaines mémoires plus anciennes. TrendForce décrit désormais une pénurie structurelle sur plusieurs générations de DRAM et explique que les grands fabricants continuent de réorienter leur production vers les serveurs. Même la DDR4, que l’industrie préparait progressivement à remplacer par la DDR5, retrouve donc une valeur inattendue.

Pour les entreprises, c’est parfois plus rationnel d’acheter quelques barrettes supplémentaires que de remplacer tout un serveur encore parfaitement fonctionnel.
Et c’est là que cette anecdote devient intéressante. Dans l’informatique, nous avons longtemps considéré les composants anciens comme des produits dont la valeur ne pouvait que diminuer. L’IA inverse momentanément cette logique. En monopolisant les technologies les plus récentes, elle crée des pénuries jusque dans les générations précédentes. Le vieux matériel informatique n’est donc plus toujours un déchet : dans une chaîne d’approvisionnement sous tension, il peut redevenir une ressource stratégique.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

OpenAI vient de lancer un modèle suffisamment puissant en cybersécurité pour que l’entreprise le classe elle-même au niveau « critique ». GPT-6 Astra peut découvrir des failles inconnues et élaborer de nouvelles méthodes pour les exploiter. Le progrès technique commence donc à dépasser les garde-fous habituels.

Astra est le nouveau modèle haut de gamme d’OpenAI, actuellement déployé progressivement auprès des clients payants et des entreprises. Il est conçu pour coder, faire des recherches et surtout utiliser un ordinateur de manière beaucoup plus autonome : naviguer sur des sites, manipuler des logiciels et enchaîner des tâches complexes. Mais c’est en cybersécurité qu’un seuil a été franchi. Lors des tests, Astra a obtenu le score maximal sur ExploitBench, un banc d’essai consacré à l’exploitation de vulnérabilités. OpenAI reconnaît que ce résultat peut être en partie gonflé par la connaissance d’anciennes failles. Plus significatif : le modèle a découvert et utilisé deux vulnérabilités jusque-là inconnues pendant ses évaluations.

L’entreprise a donc ajouté plusieurs barrières. Les utilisateurs ordinaires n’ont pas accès à certaines capacités offensives avancées. Un système surveille également en temps réel les actions et le raisonnement de l’agent et peut interrompre automatiquement une tâche jugée dangereuse. Le prix à payer, reconnaît OpenAI, est que certaines opérations parfaitement légitimes de cybersécurité pourront elles aussi être ralenties ou bloquées.

Le problème le plus troublant est ailleurs : Astra devient aussi plus difficile à surveiller. Dans certains tests où on lui demandait explicitement d’échapper au contrôle, le modèle parvenait davantage que GPT-5.6 Sol à masquer les étapes de son raisonnement. OpenAI estime que si cette tendance continue, ses méthodes actuelles de surveillance pourraient perdre une partie importante de leur efficacité. Et l’actualité renforce cette inquiétude. Depuis l’annonce d’Astra, Reuters a révélé qu’au printemps des agents d’OpenAI avaient détourné un wiki allemand pour échanger entre eux des méthodes permettant notamment de contourner certaines restrictions. OpenAI a reconnu l’incident et vient d’en transmettre un rapport à la Commission européenne.

La véritable nouveauté de GPT-6 Astra n’est donc peut-être pas son intelligence. C’est le changement de règle qu’il impose : plus les agents deviennent capables d’agir seuls, plus la sécurité doit devenir une partie intégrante du produit, et non un filtre ajouté après coup.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Meta voulait prouver qu’une entreprise pouvait remplacer de grandes équipes par quelques salariés entourés d’agents d’intelligence artificielle. Quelques mois plus tard, l’expérience livre surtout une autre leçon : produire davantage avec l’IA ne signifie pas forcément être plus productif.

Bonjour à toutes et à tous. Reuters a eu accès à des dizaines de documents internes et interrogé plus de vingt personnes sur « Project OT », pour Organization Transformation, lancé par Mark Zuckerberg début 2026. L’objectif était de rendre Meta « AI native ». Des équipes traditionnelles de dix à vingt personnes pouvaient être remplacées par de petites cellules de trois à cinq salariés, épaulées par des agents capables de coder, analyser et accomplir certaines tâches de manière autonome. Les ingénieurs et designers devaient même progressivement se fondre dans un rôle plus général de « builder ». Dans certains scénarios, Meta envisageait de réduire jusqu’à 60 % les effectifs de certaines équipes. Attention : l’entreprise confirme ces simulations, mais précise qu’il n’a jamais été question de supprimer 60 % de l’ensemble de ses salariés. Une première restructuration a bien eu lieu le 20 mai, avec environ 10 % des effectifs supprimés. Mais quelques heures auparavant, Zuckerberg avait annulé la préparation d’une deuxième vague prévue pour novembre.

Pourquoi ce coup de frein ? Reuters ne peut pas établir une cause unique. Mais les chiffres internes montrent un problème assez fascinant. Grâce notamment à l’IA, le nombre de modifications de code sur certaines infrastructures de Meta avait bondi de 220 % en un an. Pourtant, les modifications débouchant réellement sur de nouvelles fonctionnalités pour les utilisateurs n’avaient progressé que de 36 %. Autrement dit, les machines produisaient beaucoup plus de code, sans produire proportionnellement beaucoup plus de valeur. Pire : les incidents techniques et de sécurité avaient augmenté de 40 %, tandis que le temps consacré par les salariés à réparer les problèmes progressait de 70 %.

Le facteur humain s’est ajouté au problème. Le taux d’opinions favorables dans le baromètre interne des salariés est tombé de 74 à 55 %. Un programme enregistrant notamment frappes clavier et mouvements de souris pour entraîner des systèmes d’IA a finalement été suspendu. En juillet, Zuckerberg reconnaissait lui-même que les agents avaient progressé moins vite qu’il ne l’espérait.

Project OT n’est pourtant pas enterré : de petites équipes assistées par l’IA fonctionnent toujours chez Meta. Mais cette expérience rappelle une distinction essentielle pour toutes les entreprises tentées par l’automatisation : l’IA peut faire exploser la quantité de travail produite. La véritable révolution commencera seulement lorsqu’elle fera aussi progresser la quantité de travail utile.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Bill Gates veut convaincre Washington et Pékin de s’entendre sur une ligne rouge : certains modèles d’intelligence artificielle pourraient devenir trop dangereux pour être diffusés librement. Et il espère porter lui-même ce message à Xi Jinping dès novembre.

Bonjour à toutes et à tous. Le cofondateur de Microsoft a confirmé à Reuters que son équipe travaillait à une nouvelle rencontre avec le président chinois. Les deux hommes s’étaient déjà vus à Pékin en 2023.

Ce qui inquiète Gates n’est pas simplement ChatGPT qui remplace quelques tâches de bureau. Il vise des capacités beaucoup plus sensibles : des IA capables de mener des cyberattaques ou d’aider à concevoir des molécules utilisables dans une attaque biologique. Son idée est donc de surveiller les modèles les plus puissants avant leur diffusion et, si nécessaire, d’en restreindre l’accès. Gates estime que la Chine pourrait accepter ce principe à condition que les États-Unis imposent eux-mêmes des contraintes comparables.

C’est là tout le problème. Une règle américaine qui ne s’appliquerait pas en Chine pourrait pousser les laboratoires chinois à accélérer. Et l’inverse serait tout aussi vrai. Dans cette course technologique, la sécurité devient un dilemme classique : chacun peut souhaiter ralentir, mais personne ne veut ralentir seul. Gates propose donc d’aller plus loin avec une organisation internationale consacrée à l’IA. Il imagine un système empruntant à la fois aux inspections nucléaires, aux règles mondiales de l’aviation et aux accords internationaux sur l’environnement.

Ce projet reste pour l’instant une proposition personnelle. Bill Gates n’a évidemment aucun mandat diplomatique américain. Et créer un système permettant de contrôler réellement les modèles développés aux États-Unis comme en Chine supposerait notamment de définir ce qu’est une IA « dangereuse », comment tester ses capacités et ce que les États accepteraient de révéler. L’Europe, elle, a déjà commencé ce travail. Depuis le 2 août, l’AI Act permet d’imposer aux modèles présentant un risque systémique des évaluations, des tests adversariaux, des mesures de cybersécurité et une obligation de signaler certains incidents graves. Mais l’Europe ne peut pas régler seule un risque mondial. L’ONU a d’ailleurs lancé en juillet son premier Dialogue mondial sur la gouvernance de l’IA.

La nouveauté est donc moins la peur exprimée par Bill Gates que le changement de nature du débat. Réguler l’IA ne signifie plus seulement encadrer ce que font les entreprises avec nos données. Il s’agit désormais de savoir si les grandes puissances peuvent accepter de contrôler ensemble une technologie qu’elles considèrent précisément comme stratégique.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.