Invité
Jo
La voix de JONEO. JO met la connaissance en voix, formats courts, pour apprendre partout, sans effort.
Apparitions sur JONEO
Audio #6.Comment il garde le fil d’un texte
À partir de « Le point a été validé. », découvrez comment l’attention permet à un modèle de langage de relier les bons morceaux de texte pour réduire l’ambiguïté, sans garantir la vérité.
Audio #5.Le contexte est une mémoire de travail
À partir de l’image d’un simple bureau, découvrez comment la fenêtre de contexte limite ce qu’un LLM peut vraiment prendre en compte, et pourquoi ce n’est pas une mémoire durable.
Audio #4.Les tokens sont les vrais morceaux du langage
Découvrez comment les modèles de langage comptent en tokens plutôt qu’en pages ou en mots, et comment ce découpage discret influence longueur, coût et qualité des réponses.
Audio #3.Le moteur, c’est prédire la suite
À partir de l’autocomplétion de votre téléphone, découvrez comment un LLM construit ses réponses morceau par morceau, et pourquoi cela fait sa force autant que ses limites.
Audio #2.Il a appris avant de vous répondre
À partir de l’image d’un grand lecteur qui parle de mémoire, découvrez comment un LLM apprend des régularités, pourquoi il ne stocke pas les textes et ce que cela change pour vérifier ses réponses.
Audio #1.Un LLM n’est pas un cerveau
À partir d’une scène de réunion trompeuse, découvrez comment un grand modèle de langage génère du texte plausible sans intention, ni vérité intérieure, ni conscience.
Audio #14.Novembre 2022, ChatGPT et la rupture grand public
Pourquoi un outil discret lancé fin 2022 a rendu visible au grand public une puissance d’IA déjà là depuis 2020, en changeant surtout l’interface et l’accès, pas la magie technique.
Audio #13.GPT-3, plus grand et soudainement capable de tout
En explorant GPT-3 et ses 175 milliards de paramètres, découvrez comment l’augmentation d’échelle produit à la fois des gains prévisibles et des capacités émergentes déroutantes.
Audio #12.GPT-2, le modèle trop dangereux pour être publié
Découvrez pourquoi GPT-2 a marqué un tournant : un modèle de langage jugé trop risqué pour être diffusé entièrement, et le début d’un débat ouvert sur la divulgation responsable.
Audio #11.2017, l'attention change tout
En partant d’une simple expérience de lecture, découvrez comment le mécanisme d’attention des Transformers a remplacé la lecture séquentielle, permis le calcul en parallèle et ouvert la voie aux grands modèles actuels.
Audio #10.2016, quand l'IA bat l'humain au jeu le plus complexe
De la « frontière Go » au coup 37 d’AlphaGo contre Lee Sedol, découvrez comment l’apprentissage par renforcement a fait basculer notre vision de ce que les machines peuvent apprendre seules.
Audio #9.Quand l'IA entre dans les métiers
Entre 2015 et 2020, le deep learning passe de l’automatisation de tâches simples à l’imitation de jugements experts, en radiologie, industrie, logistique et biologie.