dotAI 2026

IA & data17 septembre 2026Paris, Folies Bergère5e édition

Jeudi 17 septembre 2026, Folies Bergère, la veille de dotJS. Une journée, une seule piste : 11 talks de 20 minutes et 7 lightning talks, sélectionnés par un comité éditorial indépendant ; soirée de clôture avec H Company.

Une journée sur l'IA qu'on maîtrise vraiment : évaluer sans vérité terrain et de bout en bout (Doctolib, Mirakl), lire l'intérieur et l'incertitude des modèles, choisir le bon modèle (tabulaire, spécialisé, embarqué, ouvert) plutôt que le plus gros, et protéger l'attention humaine, devenue le goulot, face à des agents qui produisent plus vite qu'on ne relit (Polu, Vernade).

18 sessions résumées · 18 vidéos · mise à jour le jeudi 1 octobre 2026 · synthèse à compléter

Sources lues et limites de cette synthèse

Corpus : Agenda officiel (18 sessions), transcripts des 18 vidéos officielles publiées le 28/09 sur la chaîne dotConferences (sous-titres automatiques, de qualité médiocre pour Carrefour), recherche Bluesky (4 posts de participants des 17 et 18/09, dont 3 portant sur un talk), recherche Mastodon (hashtag #dotai : 1 post, version détaillée du post Bluesky de dadideo) et six passes de recherches web LinkedIn/blogs/Medium/dev.to (25/09 au 01/10) sans retour de participant exploitable.

Limites : Les résumés reflètent désormais ce qui a été dit sur scène, mais très peu ce qu'en a retenu la salle : à J+14, aucun post LinkedIn de 2026, article ni sketchnote trouvé (LinkedIn derrière un mur de connexion, résultats de recherche limités aux éditions 2024 et 2025), seuls les talks de Louapre et Brison ont un écho sur Bluesky et Mastodon. Deux talks filmés s'écartent de leur descriptif (Arsenin, Langevin) ; plusieurs talks viennent de fournisseurs qui présentent leurs propres outils (Anthropic, Mistral, NVIDIA, Meta), et leurs chiffres sont ceux des orateurs.

Synthèse globale

1. L'évaluation, fil rouge de la journée

Presque chaque talk revient à la question « comment sait-on que ça marche ? ». Ziv Ilan (NVIDIA) fait des évals métier le préalable à tout post-entraînement et rappelle qu'un nouveau modèle n'est pas forcément meilleur pour son cas. Gaëtan Brison (Doctolib) déroule un benchmark par couche, de HealthBench au simulateur de patients, et insiste sur le fait qu'un bon composant ne fait pas un bon système ; c'est le talk qui a laissé la trace publique la plus nette : un participant en retient des critères qui s'enrichissent à chaque niveau, jusqu'à la dérive d'objectif et l'intégrité du contexte, et « Evaluation as rigorous as the model itself » (dadideo, Bluesky et Mastodon). Diane Le Douaron (Mirakl) montre qu'un juge LLM générique se trompe faute de contexte et qu'il faut des juges maison recalés chaque semaine par des humains. Hélène Philippe (Raidium) isole l'agent de ses outils en les simulant « parfaits » pour mesurer la seule qualité de l'orchestration, et Ian Massingham (Anthropic) conseille de garder chaque échec comme test de régression pour les modèles à venir.

2. Ouvrir la boîte noire, lire l'incertitude

La matinée s'ouvre sur l'interprétabilité mécaniste : David Louapre (Hugging Face) passe des neurones lisibles des modèles de vision aux vecteurs de concepts des LLM, puis au steering (sa « tour Eiffel Llama »), dont un participant plaisante encore le lendemain (nedt.at, Bluesky). Aygalic Jara s'appuie explicitement sur ce talk : une simple régression logistique sur l'espace latent prédit si la réponse sera juste, pour repérer des hallucinations ou trier des tokens en décodage spéculatif. Le même décodage spéculatif est au cœur du lightning de Xuan-Son Nguyen sur llama.cpp : les talks se répondent.

3. Le bon modèle plutôt que le plus gros

Plusieurs orateurs mettent en garde contre le réflexe « LLM pour tout ». Kevin Scaman (Fundamental) montre qu'un LLM seul fait moins bien qu'une forêt aléatoire sur des tables et plaide pour des modèles tabulaires dédiés. Guillaume Blaquiere (Carrefour) raconte une estimation de chiffre d'affaires finalement faite en SQL, en dix minutes, sans IA. Christian Keller (Meta) conseille de partir des contraintes de l'appareil et de préférer des spécialistes (segmentation, traduction) ; Keller comme Mistral citent le même contre-exemple d'un LLM qui suit une balle de tennis là où un modèle de vision suffisait. Maxime Langevin (H Company) défend un modèle spécialisé en computer use, bien plus petit que les modèles frontière.

4. Agents : l'attention humaine est le goulot

Stanislas Polu (Dust) pose le constat : les agents produisent plus vite qu'on ne relit. Il écarte la dark factory (on ne comprend pas un système qu'on ne sait pas maintenir) et la preuve formelle (spec aussi complexe que le code), pour des code contracts vérifiés par agent sur chaque PR. Guillaume Vernade (Google DeepMind) arrive au même point par l'expérience : des agents qui inondent de PR, d'où des skills entretenues, du code cloisonné par feature quitte à dupliquer, et des agents qui testent l'application avant de demander une revue. Greg Qualls (Upsun) propose d'externaliser la mémoire, l'arrêt et le feedback de l'agent, comme on le fait pour un TDAH. Ian Massingham décrit l'autre bout du spectre : chez Anthropic, plus de 80 % du code mergé écrit par Claude, et une revue humaine réservée aux correctifs jugés risqués.

5. Brancher l'agent sur le réel : web, entreprise, appareils

Patrick Brosset (Microsoft Edge) oppose un agent qui devine une page en cliquant à une page qui expose ses outils via WebMCP, plus rapide et deux fois moins gourmande en tokens dans sa démo. Chez Carrefour, l'intégration dans Google Chat a garanti l'adoption mais a mangé 50 à 70 % du temps du projet, et les mainframes sans API restent un mur. Maxime Langevin explique pourquoi le computer use progresse : toute application d'entreprise a une interface graphique, même sans API. Léo Arsenin (Cloudflare) et Christian Keller traitent l'autre contrainte physique : où placer le calcul (périphérie ou cluster, lunettes ou cloud) et comment réutiliser caches et mémoire.

6. Souveraineté et modèles ouverts

L'open weight traverse la journée : Nemotron et NeMo Gym chez NVIDIA, llama.cpp chez Hugging Face, modèles Meta à quantifier et figer, et surtout le plaidoyer de Mistral (« Own your agent ») contre la dépendance aux API : verrouillage, comportement qui change, facture de tokens des boucles d'agent, et fuite de données d'autant plus grande que l'agent est connecté. Ian Massingham défend à l'inverse un Claude branché sur toutes les sources de l'entreprise. Les deux thèses ne se répondent pas sur scène, mais le contraste est net.

7. Tensions et limites de cette synthèse

Plusieurs talks présentent les outils de leur propre entreprise (Anthropic, Mistral, NVIDIA, Meta, H Company) et leurs chiffres (x8 de productivité, point mort à 100 millions de tokens par jour, accélérations) ne sont pas vérifiés de façon indépendante. Deux talks filmés s'écartent de leur descriptif : Léo Arsenin parle d'optimisations d'inférence plutôt que de compression sans perte, Maxime Langevin d'infrastructure d'entraînement plutôt que d'environnements simulés par LLM. Surtout, les résumés reposent sur les transcripts des 18 vidéos et presque pas sur des retours de participants : à J+14, seuls quatre posts Bluesky et un post Mastodon (doublon enrichi de l'un d'eux) ont été trouvés, aucun post LinkedIn ni article. On sait ce qui a été dit, pas ce qui a marqué la salle.

Actions concrètes citées

  1. Évaluer chaque couche avant d'ajouter la suivante, puis le système entier : un bon composant ne fait pas un bon système (Brison).
  2. Sans vérité terrain : peu de métriques nettes, une question par étape du pipeline, des juges maison recalés chaque semaine par annotation humaine (Le Douaron).
  3. Épuiser modèle, contexte, RAG, outils et routage avec des évals métier avant de post-entraîner ; faire de sa propre application l'environnement de RL (Ilan).
  4. Pour la prédiction sur tables, ne pas demander au LLM : il se comporte en plus-proche-voisin ; utiliser un modèle tabulaire et garder le LLM pour comprendre la table (Scaman).
  5. Une régression logistique sur l'espace latent suffit à estimer si une réponse sera juste, pour signaler les hallucinations ou s'abstenir (Jara).
  6. Réduire le coût de la revue : faire aider l'agent à relire, cloisonner le code par feature quitte à dupliquer, exiger qu'il lance l'app avant de demander une revue (Vernade).
  7. Rapprocher la spécification du code avec des contrats structurés vérifiés par un agent sur chaque PR, plutôt que de viser la dark factory ou la preuve formelle (Polu).
  8. Externaliser ce que l'agent ne régule pas : liste de tâches, condition d'arrêt, budget, vérificateur indépendant (Qualls).
  9. Transformer chaque échec d'agent en test de régression pour mesurer les modèles suivants, et supprimer l'échafaudage devenu inutile (Massingham).
  10. Ne pas mettre de GenAI sur des données structurées (du SQL suffit) et budgéter l'intégration dans les outils existants, qui peut prendre plus de la moitié du projet (Blaquiere).

Session par session

Jeudi 17 septembre

Conférence▶ vidéo + transcript

Mechanistic Interpretability

David Louapre — Hugging Face

Retours : Victor (vjo.li, Bluesky), nedt.at (Bluesky)

  • D'après le transcript de la vidéo officielle et deux brefs posts Bluesky.
  • Sur scène : l'interprétabilité mécaniste comme « neurosciences » des réseaux. Dans les anciens modèles de vision, on lit des neurones isolés (détecteur de courbes, détecteur de têtes de chien invariant à la pose) et des circuits (roue + carrosserie + vitre = voiture).
  • Dans un LLM, les neurones individuels ne veulent rien dire ; on cherche des vecteurs de concepts, par méthodes supervisées (sondes linéaires, activations contrastives) ou non supervisées (sparse autoencoders), dont les dictionnaires sont souvent partagés sur le Hub et consultables sur Neuronpedia.
  • Application pratique : le steering. Après le « Golden Gate Claude » d'Anthropic, reproduction sur un Llama ouvert avec la tour Eiffel : stimulation faible, idées de business plus « françaises » ; forte, « I'm a large metal structure » ; excessive, du charabia. Il faut trouver le bon dosage ; quelques lignes avec un hook dans transformers suffisent.
  • Côté salle : « #dotAI is starting strong with David Louapre » (Victor, Bluesky) ; le lendemain, un participant plaisante qu'il voit encore des têtes de chien dans les fauteuils, « still over stimulated from the first #dotai talk » (nedt.at, Bluesky).

Conférence▶ vidéo + transcript

Don't Become Your Agent's B****

Guillaume Vernade — Google DeepMind

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Constat d'un ex-producteur d'Assassin's Creed : au lieu d'une dream team, on hérite d'un « jardin d'enfants d'hyperactifs amnésiques » qui inonde de PR à relire et fait répéter les mêmes consignes (doc en anglais, rebase, CI verte, modèle à jour).
  • Traiter l'agent comme un stagiaire qu'on forme par itérations : des skills maintenues et auditables plutôt que de longues conversations confiées à la compression du harness ; relire les trajectoires pour repérer où l'agent réinvente la roue.
  • La lenteur des agents pousse à lancer dix chantiers en parallèle et à changer de contexte sans cesse : il réclame des modèles rapides (ou un routage rapide/gros) pour rester dans le flow.
  • Tuer le DRY : pour un agent, dupliquer le code ne coûte rien ; cloisonner chaque feature rend la revue plus simple et limite la casse. Commencer par faire aider l'agent à la revue, le vrai goulot.
  • Prochaine percée attendue : des agents meilleurs pour tester (lancer l'app, parcourir le golden path) avant de demander une revue. Leitmotiv : « your time is more precious than your tokens ».

Conférence▶ vidéo + transcript

When Prompting Runs Out: Post-Training an Open Model

Ziv Ilan — NVIDIA

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Tout commence par des critères de succès et des évals propres au domaine, pas les benchmarks des papiers ; l'évaluation est continue (traces, feedback utilisateurs, A/B de modèles). Un nouveau modèle n'est pas forcément meilleur pour son cas, et un 8B peut suffire.
  • Avant de toucher aux poids : choisir le bon modèle, soigner l'entrée, RAG, outils (une calculatrice plutôt qu'apprendre l'arithmétique), décodage contraint, routage. « It's not this or that, it's this and that. »
  • Post-entraînement : SFT sur quelques centaines ou milliers d'exemples « golden » pour le style et la langue ; RL où le modèle génère plusieurs réponses récompensées dans un environnement d'exécution. Idée notée : faire de sa propre application l'environnement RL.
  • Exemple de tool calling (bon outil, bonne entrée, bonne sortie) et ressources NVIDIA ouvertes (NeMo Gym, jeux de données, Nemotron) ; SFT et RL sur petits modèles possibles sur un seul GPU. Distillation et DPO, annoncés au programme, ne sont pas détaillés sur scène.

Conférence▶ vidéo + transcript

AI for Prediction: Why You Need a Statistician, Not a Philosopher

Kevin Scaman — Fundamental

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • La prédiction tabulaire (churn, demande) est dure : haute dimension, signal caché parmi des centaines de colonnes, données bruitées, classes déséquilibrées.
  • Expérience : un LLM seul (sans outils ni code) sur 120 lignes d'entraînement fait nettement moins bien que les baselines simples (k plus proches voisins, forêts aléatoires, gradient boosting) sur 11 tâches de classification. Il se comporte comme un plus-proche-voisin et sa performance baisse quand on ajoute des colonnes, logique pour un réseau conçu pour des séquences.
  • Réponse : les Large Tabular Models (TabPFN, TabICL, puis modèles de Google, Amazon et Nexus de Fundamental), en apprentissage en contexte : toute la table entre dans le forward pass, avec attention sur les lignes et sur les colonnes, pré-entraînement sur des tâches synthétiques.
  • Conclusion : pas d'opposition, le LLM pour comprendre la table et le texte, le LTM pour la puissance statistique.

Conférence▶ vidéo + transcript

WebMCP: Stop scraping the Web, start calling it

Patrick Brosset — Microsoft Edge

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Démo 1 : une extension d'agent commande une pizza en cliquant et scrollant, se trompe de menu, revient ; lent et fragile car elle devine l'interface (DOM plein de div, arbre d'accessibilité pauvre, captures d'écran trompeuses). L'agentic browsing se fait aujourd'hui sans les développeurs web.
  • Démo 2 avec WebMCP : l'agent appelle directement les outils exposés par la page et atterrit sur le paiement ; deux fois moins de tokens dans cette démo (chiffre de l'orateur).
  • Deux API : déclarative (attributs toolname, description sur les formulaires existants) et JavaScript (document.modelContext.registerTool) qui réutilise la logique côté client. Avantages : rapide, sans fragilité d'UI, débogable (panneau WebMCP dans les DevTools Chromium).
  • WebMCP ne remplace pas MCP : il vise les scénarios humain dans la boucle où l'état vit côté client et où l'UI est le produit. Spécification en cours au W3C, testable dans Edge/Chrome derrière un flag, adoption citée (OpenAI, Cloudflare, Playwright, Puppeteer, Angular, React).

Lightning talk▶ vidéo + transcript

llama.cpp - faster and easier for everyone!

Xuan-Son Nguyen — Hugging Face

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Le décodage spéculatif : proposer plusieurs tokens « brouillons » par passe puis ne garder que ceux que le modèle valide ; l'enjeu est le taux d'acceptation.
  • Les variantes supportées par llama.cpp, de la plus simple à la plus récente : n-gram (façon clavier prédictif), petit modèle draft, têtes MTP, DFlash (brouillons générés par diffusion en une passe), puis DeepSpark avec un score de confiance par token.
  • Benchmarks Unsloth cités : environ x2 avec MTP, un peu plus avec DFlash. Démo : installation, CLI puis llama-server avec un modèle multimodal qui décrit une capture d'écran.

Lightning talk▶ vidéo + transcript

How to Be Correct at Scale With No Ground Truth

Diane Le Douaron — Mirakl

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Catalog Transformer convertit les données brutes des vendeurs vers la taxonomie de chaque opérateur de marketplace : un pipeline à base de LLM dont on attend une justesse déterministe (« bleu foncé » doit devenir « navy », seule valeur admise, sinon le produit est rejeté).
  • Méthode en trois temps : définir le succès par peu de métriques non redondantes (« définir une bonne métrique, c'est comme définir une bonne stratégie ») ; décomposer la tâche en étapes avec une seule question chacune (la locale a-t-elle été détectée ?) ; des juges maison.
  • Un LLM générique ne peut pas juger : il prend une réécriture voulue ou un choix contraint pour une hallucination. Les juges sont nourris du fonctionnement du pipeline et des règles de l'opérateur, recalés par annotation humaine hebdomadaire sur les cas difficiles, et servent aux investigations, à l'amélioration du code et à la détection de dérive.
  • Exemple : la traduction traitée dès le début du pipeline, comme un problème de compréhension plus que de traduction.

Lightning talk▶ vidéo + transcript

From Blank Page to Production: A Year of Building AI Agents at Carrefour

Guillaume Blaquiere — Carrefour

  • D'après le transcript automatique de la vidéo officielle (sous-titres de qualité médiocre) ; aucun retour de participant trouvé.
  • Premier agent en février 2025, parti d'une page blanche avec les API Gemini, MVP en production en une semaine ; ADK a depuis simplifié la construction. Mais la plupart des projets échouent, pour trois raisons.
  • Ne pas mettre de la GenAI partout : l'estimation du chiffre d'affaires d'un magasin à racheter se fait désormais en 10 minutes, en SQL, sans IA, car les données sont structurées. L'IA brille sur le non structuré : un agent qui répond aux questions des utilisateurs de la data platform à partir de la doc et du savoir tribal de l'espace Google Chat.
  • Ne jamais sous-estimer l'intégration : intégrer l'agent dans Google Chat a assuré une adoption immédiate mais a pris 50 à 70 % du temps ; les données de mainframe sans API sont un autre mur.
  • Observer : le plugin BigQuery Agent Analytics streame les événements ; une requête avec AI.classify sur le dernier message des sessions a révélé une demande (générer et optimiser du SQL) implémentée ensuite. Le jeu d'évaluation « golden » croisant sessions et pouces levés est encore en chantier.

Lightning talk▶ vidéo + transcript

Your AI agents have ADHD

Greg Qualls — Upsun

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Récit personnel d'un diagnostic TDAH tardif, puis mise en regard des fonctions exécutives et des échecs d'agents : mémoire de travail courte et fenêtre de contexte, auto-surveillance défaillante et dégradation silencieuse.
  • Principe : on ne « répare » pas, on externalise ce qui ne s'autorégule pas.
  • Externaliser le focus : liste de tâches hors de l'agent, re-ancrage régulier sur le plan, file priorisée, spec verrouillée. Externaliser l'hyperfocus : condition d'arrêt, budget par run, vérificateur, points de contrôle humains, soit la « loop engineering ». Externaliser le feedback contre la complaisance : évals indépendantes, seuils de réussite fixés d'avance.
  • Illustré par une campagne Kickstarter montée en 90 jours ; conclusion : miser sur les forces de l'agent et mettre l'infrastructure autour de ses faiblesses.

Lightning talk▶ vidéo + transcript

Hallucinations: Harvesting Uncertainty

Aygalic Jara — Université Paris-Saclay × SCIAM

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Point de départ : deux randonneurs perdus avec une carte générée par IA ; rien n'a « planté », le modèle a produit du plausible, pas du vrai. L'entraînement et les benchmarks n'incitent pas à dire « je ne sais pas » ; RAG et outils baissent le taux d'erreur mais ne la signalent pas.
  • Les probabilités de tokens sont un signal bruité (hésitation entre synonymes) ; le bon signal est dans l'espace latent : une simple régression logistique entraînée sur des Q/R connues (TriviaQA) donne un proxy peu coûteux de la justesse.
  • Applications : détection des passages hallucinés dans des réponses de modèles vision-langage (travail récent de l'équipe), et tête de confiance pour le décodage spéculatif (DeepSpark, 60 à 85 % d'accélération selon l'orateur). Conclusion : « you don't have to trust an AI that doesn't believe in itself ».

Lightning talk▶ vidéo + transcript

Radiological AGI: How Close Are We?

Hélène Philippe — Raidium

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Le suivi oncologique (repérer, mesurer, comparer, caractériser jusqu'à cinq lésions) prend jusqu'à 20 minutes par patient, dans un contexte de pénurie de radiologues. Outils spécialisés trop étroits, VLM qui hallucinent : piste des agents qui appellent les outils.
  • Expérience : reproduire des comptes-rendus (jeu Parrot) avec des outils simulés parfaits, pour évaluer uniquement la capacité de l'agent à les appeler, notée avec RadMatch.
  • Résultats : avec les ~1 000 outils autorisés aujourd'hui en clinique, 17 % de rappel ; avec une boîte à outils infinie, 67 % seulement. Le reste relève de la caractérisation, qui ne s'exprime qu'en langage naturel : d'où la nécessité de VLM travaillant avec les outils.

Lightning talk▶ vidéo + transcript

How Do We Compress Giant AI Models to Run at the Edge?

Léo Arsenin — Cloudflare

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Problème : un CDN n'a pas de grands data centers GPU. Réponse : deux niveaux, GPU dispersés en périphérie pour les petits modèles sensibles à la latence (voix), clusters plus concentrés pour les très gros modèles ; moteur d'inférence maison (Infire).
  • Trois leviers présentés sur scène : quantifier le KV cache et les poids (près de la moitié de la taille gagnée sur de gros modèles ouverts, selon l'orateur), allocation paginée de la mémoire GPU, et affinité de routage vers le même cluster pour réutiliser le cache (60 à 80 % de cache hit).
  • À noter : le talk filmé porte sur ces optimisations d'inférence et ne reprend pas le détail du descriptif (compression sans perte Unweight, codage de Huffman des exposants BF16).

Conférence▶ vidéo + transcript

Will the future of code be formal or informal?

Stanislas Polu — Dust

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • L'attention humaine est le goulot : les agents produisent du code plus vite qu'on ne peut le relire. Revue des tentatives pour sortir le code de la boucle humaine : vibe coding, boucles autonomes (Ralph loop), dark factories / spec as source (scénarios et « satisfactions »), vérification formelle.
  • Petit cours sur les systèmes formels (types, types raffinés, types dépendants) : une spec formelle d'un système complexe est aussi complexe que le code, et plus dure à relire.
  • Contre les dark factories : on ne comprend pas un système qu'on ne sait pas maintenir ; à 4 h du matin, en panne, il n'y a pas de garagiste. La formalité doit suivre la criticité ; le code reste la bonne interface pour les systèmes complexes.
  • Proposition : les code contracts de Dust, commentaires structurés près du code (spécifications, invariants, règles), avec des labels owner et notify, et un vérificateur agentique sur chaque PR. Premiers chiffres sur 10 jours : 509 violations trouvées, 221 corrigées.

Conférence▶ vidéo + transcript

How Anthropic Uses Claude

Ian Massingham — Anthropic

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Contexte : la durée pendant laquelle on laisse un agent travailler seul est passée de minutes à des heures ; le coût d'une même tâche a baissé de 90 à 95 % en un an, mais la dépense totale augmente (paradoxe de Jevons).
  • Chiffres internes annoncés : productivité ressentie x8 (enquête interne), plus de 80 % du code mergé écrit par Claude, et environ 20 % du travail assisté qui n'aurait pas existé sans ces outils.
  • Cinq principes : travailler en public (Claude présent dans chaque compartiment Slack, Drive, mail) et partager les workflows sous forme de skills ; accès généralisé aux outils de code pour tous ; nouvelles interfaces (Claude dans Slack, Zoom, Teams ; interfaces maison) ; construire pour la prochaine génération de modèles ; tuer sans état d'âme ce qui ne sert plus.
  • Préparer l'avenir : transformer chaque échec en test de régression, évaluer les transcripts avec des modèles ; prompt engineering à base de balises et pipelines RAG « chunk + vecteurs » présentés comme des échafaudages que les modèles absorbent.
  • Cas : correctifs autonomes depuis Slack notés par risque, tri des alertes de sécurité. « Everybody has the same models » : l'écart tient à ce que Claude peut voir de l'entreprise. Talk d'un fournisseur sur ses propres outils : les chiffres ne sont pas vérifiés de façon indépendante.

Conférence▶ vidéo + transcript

The Moving Target: Benchmarking Dynamic AI Systems End-to-End

Gaëtan Brison — Doctolib

Retours : dadideo (Bluesky, Mastodon)

  • D'après le transcript de la vidéo officielle et un post de participant (Bluesky, repris plus en détail sur Mastodon) illustré de photos de slides.
  • Sur scène : l'histoire du futur compagnon santé de Doctolib, construit par couches successives, avec un benchmark par étape ; l'équipe se dit au niveau 4 sur 5.
  • Niveaux 0 et 1 : un LLM seul évalué avec HealthBench (rubriques écrites par des médecins ; sécurité exigée à 100 %, exactitude médicale, UX), puis RAG sur des sources médicales (NHS, OMS, HAS) avec des métriques de retrieval, dont la part des documents récupérés qui finissent dans la réponse. Modèles ouverts : l'embedder DrBERT, et bientôt des sparse autoencoders pour un retrieval interprétable.
  • Niveaux 2 et 3 : un bon composant ne fait pas un bon système ; attribution des erreurs en cascade pour savoir quel agent a échoué, puis τ-bench et pass^k pour la robustesse des actions agentiques.
  • Niveau 4 : parcours multi-sessions (mémoire, allergies à ne pas oublier), testés par un simulateur de patients aux profils psychologiques variés (façon Monte-Carlo), et cohérence entre sessions. Niveau 5 visé : un orchestrateur évalué aussi sur latence et tokens (environ 4 s de time to first token en B2C).
  • Retenu par un participant : un parcours en 6 niveaux, du PoC à l'orchestrateur complet, avec des critères d'évaluation qui s'enrichissent à chaque étape : « medical accuracy, safety, triage routing, judge calibration and more » (dadideo, Bluesky). Sur Mastodon, il détaille la liste (attribution des erreurs en cascade, intégrité du contexte, dérive d'objectif, taux d'effets de bord dangereux) et conclut : « Evaluation as rigorous as the model itself » (dadideo, Mastodon).

Conférence▶ vidéo + transcript

We Thought the Digital World Would Be Easy to Simulate. Was it?

Maxime Langevin — H Company

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Le computer use : un modèle vision-langage en boucle (observer l'écran, agir à la souris, au clavier ou par API). Intérêt : l'IT des entreprises est fragmenté, sans API, mais tout logiciel a une interface graphique.
  • Sur OSWorld, les agents sont passés en un an d'environ 20-30 % de réussite au niveau humain (80-90 %).
  • Les progrès suivent la facilité à générer des données (jeux, code, maths vérifiables) ; le computer use est à mi-chemin et plus dur qu'attendu. Il faut une infrastructure de milliers de VM ou conteneurs, des logiciels (open source, applis générées par des agents de code, web avec ses limites : détection de bots, éthique) et de bonnes tâches d'entraînement tirées de la doc, des tutoriels vidéo, du crowdsourcing et des clients.
  • Puis SFT et RL en boucle ; un modèle spécialisé de 35 milliards de paramètres est présenté comme proche des modèles frontière sur ces benchmarks, pour bien moins cher. Le talk filmé ne détaille pas l'idée du descriptif d'un LLM qui simule lui-même l'environnement.

Conférence▶ vidéo + transcript

Own your agent

Joffrey Thomas — Mistral AI, Henry Lagarde — Mistral AI

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Un agent = un modèle + un scaffold (boucle, hooks, contexte, reprises) ; il faut réussir les deux. Les modèles grossissent, mais l'open weight rattrape : environ trois mois de retard sur les modèles fermés selon eux.
  • Comptes de ressources : un bon modèle ouvert tient sur un ou deux GPU haut de gamme en entreprise, un modèle ~27B sur une carte grand public ; point mort autour de 100 millions de tokens par jour face à l'API (sur un benchmark plus ancien).
  • Contre la dépendance aux API : verrouillage, cible mouvante (format ou comportement qui change), taxe cachée des boucles d'agent, observabilité (quel modèle répond vraiment ?), et fuite structurelle : plus l'agent est connecté, plus il voit de données sensibles. « The most secure data transfer is the one that never happens. »
  • Pas tout en agent : mieux vaut « Mario et Luigi qui posent de bons tuyaux » qu'Iron Man. Stack souveraine proposée : modèle ouvert quantifié et fine-tuné, llama.cpp en local puis vLLM en production, un harness qui borne les outils, Langfuse et OpenTelemetry pour l'observabilité. Talk d'un éditeur de modèles ouverts.

Conférence▶ vidéo + transcript

Beyond the Chatbox: What Changes When AI Runs Where You Are

Christian Keller — Meta Superintelligence Labs

  • D'après le transcript de la vidéo officielle ; aucun retour de participant trouvé.
  • Talk de clôture sur l'IA embarquée (lunettes à écran et bracelet neuronal de Meta) : l'agent gagne un contexte physique.
  • Cinq raisons de passer sur l'appareil : débit des capteurs, latence, frontière des données, connectivité, absence de dérive (ce qui est livré ne change pas). Exemples : flou d'arrière-plan, zone de sécurité du Quest, traduction et sous-titres en direct dans les lunettes, sans réseau.
  • Méthode : partir des contraintes de l'appareil (mémoire, y compris le KV cache des longs contextes ; backend ; batterie ; latence), pas du modèle en tête du classement ; une « échelle » lunettes, téléphone, laptop, cloud, avec une politique d'escalade explicite décidée à l'avance.
  • Spécialistes plutôt que généraliste quand c'est possible (DINO, SAM, traduction en 1 600 langues), un LLM pour l'intention et le routage ; le suivi d'une balle de tennis par LLM, c'est « un bazooka quand il faut un scalpel ». Runtime ExecuTorch pour répartir un modèle entre CPU et GPU ; l'open weight permet de quantifier, distiller et figer une version.

Sources