ai-PULSE 2024
Thème : Big, Efficient & Open
Site officiel (nouvel onglet) ↗Programme (nouvel onglet) ↗Chaîne YouTube (nouvel onglet) ↗Synthèse de novembre 2024 →
Journée unique le 7 novembre 2024 à Station F, organisée par Scaleway (groupe iliad). Keynotes du matin sur l'Open Platform (9 h 30 à 11 h 30), puis 32 sessions l'après-midi réparties entre Master Stage, Central Room, Creativity Room, Workshop room et Founders café. Fréquentation selon les sources : « 1 500 attendees, 50 speakers, 8 stages » (site 2024), environ 1 500 invités attendus (Univers Freebox), 1 300 participants (Il Fatto Quotidiano).
Une 2e édition « Big, Efficient & Open » dominée par l'infrastructure : GPU, mémoire, énergie et refroidissement d'un côté, modèles ouverts et spécialisés (Moshi, Llama, poolside, Bioptimus) de l'autre, avec en toile de fond la promesse d'une IA européenne souveraine portée par Scaleway et l'écosystème français.
28 sessions résumées · 27 vidéos · mise à jour le jeudi 8 octobre 2026 · synthèse à compléter
Sources lues et limites de cette synthèse
Corpus : Programme officiel (2024.ai-pulse.eu, 32 sessions + keynotes), playlist YouTube « ai-PULSE 2024 » (27 vidéos) dont les transcripts complets des lives Master Stage et Central Room et de 5 replays (H, AI Act, empreinte carbone, Kili, LightOn), le récap et l'article « Best quotes » du blog Scaleway, et la presse (Maddyness 08/11/2024, French Tech Journal 12/11/2024, Univers Freebox, Il Fatto Quotidiano 19/11/2024).
Limites : Aucun retour de participant (post LinkedIn, blog) retrouvé : les résumés décrivent ce qui a été dit sur scène, pas ce qu'en a retenu le public. Le live des keynotes du matin n'a pas de sous-titres : ces sessions reposent sur les citations publiées par Scaleway (organisateur) et sur la presse ; les workshops (Founders café, Workshop room) ne sont pas documentés.
Synthèse globale
1. Une édition d'infrastructure : mémoire, énergie, densité
Le thème « Big » s'est surtout joué côté matériel. Sur la Master Stage, les fournisseurs ont enchaîné les arguments : la mémoire comme goulot de l'inférence (AMD), le CPU ARM sobre pour l'inférence légère (Ampere), le co-design de toute la pile plutôt que la puce seule (Bryan Catanzaro, NVIDIA), l'utilisation réelle des GPU, souvent faible chez les clients (Dell). Le panel de la Central Room a donné les ordres de grandeur : racks à 400 kW, bientôt 1 MW, refroidissement liquide standardisé par l'OCP, matériel qui tombe en panne et qu'il faut savoir redémarrer depuis un checkpoint (HPE, DDN). La keynote Scaleway a placé ce sujet dans un récit de capacité (3 000 H100, bientôt plus de 5 000 GPU, MI300X, Blackwell) et de souveraineté. Le quantique est resté au rang de promesse : Quandela le décrit lui-même comme une technologie encore « like VHS ».
2. Efficacité, frugalité et empreinte : un débat qui monte
« Efficient » a donné lieu aux échanges les plus nuancés. Le panel animé par Sifted (Gaël Varoquaux, Samuel Rincé, Stéphan-Eloïse Gras) et le talk d'IJO et On Behalf AI aboutissent au même constat : l'inférence pèse plus que l'entraînement, les fournisseurs publient peu, et les gains d'efficacité sont mangés par l'effet rebond. Les speakers des fournisseurs ont tous mis en avant l'efficacité énergétique (Blackwell à 4 MW au lieu de 15, Ampere plus sobre, calculateur d'empreinte Scaleway). Les chercheurs ont répondu par la frugalité : se demander d'abord si l'IA générative est nécessaire. Côté régulation, le constat est sévère : l'AI Act ne contient que quelques lignes sur l'environnement et ignore l'inférence (Samuel Rincé).
3. « Open » : modèles ouverts, recherche publiée, briques agnostiques
L'ouverture a pris trois formes. Des modèles et codes publiés : Moshi (code, poids, rapport technique, version Mac, présenté par Xavier Niel comme le premier vrai modèle open source européen) et Llama (400 millions de téléchargements). Une pile logicielle agnostique face à CUDA : Triton, vLLM, PyTorch, que met en avant AMD (« there is no CUDA moat »), et les standards matériels de l'OCP. Une lecture critique des licences, enfin : Adrien Basdevant (Entropy) rappelle de lire la licence avant d'appeler un modèle « open source », et Meta reconnaît que Llama 3.2 multimodal n'est pas disponible en Europe. Michael Dell a résumé le basculement (deux tiers de l'activité sur des modèles ouverts, selon lui).
4. Spécialiser plutôt que grossir
Les startups ont défendu des modèles spécialisés et maîtrisés de bout en bout : poolside pour le code (RLCEF, les tests comme oracle), Bioptimus pour la biologie multi-échelle, Photoroom qui entraîne son propre modèle d'image pour filtrer ses données, Aive qui préfère YOLO v8, plus stable, à la dernière version. Kili et poolside partagent un diagnostic : le web est épuisé (data wall), la prochaine marge viendra de données d'experts, synthétiques ou vérifiables. Côté agents, deux visions coexistent : H mise sur des « modèles d'action » génériques à affiner ensuite, quand LightOn limite volontairement ses agents à cinq outils fiables.
5. L'IA en production : évaluer, mesurer, garder l'humain
Les retours de terrain les plus concrets portent sur l'évaluation. Doctolib a construit son pipeline d'évaluation avant le produit, puis l'a révisé quand les métriques techniques progressaient sans que la satisfaction suive. Photoroom et Mojo mesurent la qualité par le comportement des utilisateurs (taux d'export, téléchargements), désormais par catégorie d'image. Giskard et Artefact décrivent des jeux de tests générés, un LLM-juge et une supervision côté métier ; BNP Paribas et FlowX gardent l'humain « dans la boucle » ou « aux commandes ». Owkin rappelle que l'explicabilité reste secondaire face à la généralisation, qui mobilise 95 % de l'effort dans un dispositif médical. La latence est aussi une affaire de produit : vitale sur mobile (Photoroom), secondaire pour des médecins qui veulent avant tout la tranquillité d'esprit (Doctolib).
6. Tensions et critiques
Plusieurs désaccords sont apparus. Sur l'IA native ou pas : Lightspeed n'investit presque plus hors IA native, quand Balderton juge qu'on peut adopter l'IA sans pivoter. Sur la géographie : frst pousse ses fondateurs vers des sociétés centrées sur les États-Unis, Balderton y voit un risque de vider l'écosystème européen. Sur l'AI Act : Owkin y voit peu d'écart avec la réglementation du dispositif médical, quand Giskard et Entropy décrivent des startups perdues, faute de codes de pratique prêts. Le décalage entre discours d'efficacité des fournisseurs et appels à la sobriété des chercheurs n'a pas été tranché. La presse est restée réservée sur la matinée : Maddyness note une apparition de Xavier Niel plus brève qu'en 2023 et une annonce de H sans produit, le modérateur lui-même jugeant « the suspense is painful ». Enfin, plusieurs talks de partenaires (Ampere, Dell, Kili, FlowX) relevaient de la présentation commerciale, et FlowX revendique une hallucination « virtually zero » sans démonstration publique.
7. Biais du corpus
Cette synthèse repose sur ce qui a été dit sur scène, pas sur ce qu'en a retenu le public : aucun post LinkedIn ni blog de participant n'a été retrouvé. Les keynotes du matin ne sont connues que par les citations choisies par Scaleway (organisateur) et par la presse (Maddyness, French Tech Journal, dont le rédacteur en chef animait aussi un panel), car le live n'a pas de sous-titres. Les sessions de l'après-midi s'appuient sur les transcripts automatiques des lives, avec des noms parfois approximatifs. Les workshops (Founders café, Workshop room) ne sont pas documentés. Même la fréquentation varie selon la source : 1 300 participants (Il Fatto Quotidiano), « 1 500 attendees » (site 2024).
Actions concrètes citées
- Choisir un GPU d'inférence en regardant d'abord la mémoire : un Llama 70B en fp16 (140 Go) tient sur un MI300X de 192 Go mais demande deux H100 de 80 Go (AMD).
- Se méfier de l'effet rebond : les gains d'efficacité sont absorbés par la hausse des usages ; d'abord se demander si un modèle génératif est nécessaire (frugalité plutôt qu'efficacité, panel durabilité).
- Quantifier et distiller : une quantization 8 bits ou AWQ 4 bits réduit de plus de 30 % le CO2 par token pour une perte de score minime (IJO, On Behalf AI).
- Construire le pipeline d'évaluation avant le produit, puis le réviser quand les métriques techniques progressent sans que la satisfaction suive (Doctolib).
- Pour les LLM, la robustesse passe par des jeux d'évaluation générés et un LLM-juge relus par des humains ; l'explicabilité sert surtout au développement et à l'adoption (Giskard, Owkin).
- Un long temps de réponse tue l'usage : une fonctionnalité à une minute n'était pas utilisée chez Photoroom, la même en quelques secondes l'est.
- Mesurer un nouveau modèle par catégorie d'usage et pas seulement en moyenne : une mise à jour meilleure en moyenne a fâché toute une communauté de toiletteurs canins (Photoroom).
- Préparer dès maintenant la portabilité logicielle vers d'autres architectures (ARM, AMD, accélérateurs) : porter un logiciel est toujours plus long que prévu (HPE).
- Pour l'AI Act, commencer par qualifier son rôle (fournisseur, déployeur) et ses cas d'usage, vérifier les licences des modèles ouverts et rédiger son analyse d'impact algorithmique (Entropy).
Session par session
Jeudi 7 novembre
Keynote▶ vidéo
Ouverture : Big, Efficient & Open
Xavier Niel — groupe iliad, Aude Durand — groupe iliad
Retours : Maddyness (presse, 08/11/2024)
- Aude Durand pose les trois thèmes de l'édition (« Big, Efficient, Open ») et rappelle que les modèles de pointe demandent une puissance de calcul immense (citations publiées par Scaleway).
- Xavier Niel revient sur le pari de la première édition : « Europe has no AI ecosystem! » lui disait-on il y a 18 mois ; il cite Mistral, Poolside et Argil comme preuves du contraire.
- Il présente Moshi (Kyutai) comme « the first truly open-source AI model created in Europe », gratuit.
- Lecture critique : Maddyness note une apparition de Xavier Niel « plus brève » qu'en 2023. Résumé établi sans transcript (le live du matin n'a pas de sous-titres).
Keynote▶ vidéo
Michael Dell : l'IA partout, du cloud à l'edge
Michael Dell — Dell Technologies
Retours : Maddyness (presse, 08/11/2024), French Tech Journal (presse, 12/11/2024)
- Intervention en vidéo selon Maddyness.
- Parallèle avec Internet au milieu des années 90 : on se demandait encore ce que cela voulait dire.
- Inférence partout : « AI will be used both on the cloud and on devices… at the edge », au plus près de l'action.
- Bascule vers l'ouvert : l'an dernier était celui des modèles fermés ; « two thirds of activity is now happening in open models ».
- « We're transitioning from calculating to thinking » : l'IA demandera de nouvelles architectures de calcul (repris par le French Tech Journal).
- Plusieurs speakers de l'après-midi s'y réfèrent (Ampere pour « l'inférence partout », Meta pour « bring the AI to the data »). Résumé établi à partir des citations publiées par Scaleway.
Keynote▶ vidéo
Renée James : des processeurs efficaces pour l'IA
Renée J. James — Ampere Computing
- Objectif initial d'Ampere : deux fois plus de puissance pour moitié moins d'énergie ; résultat annoncé, 3 à 4 fois la performance.
- Les processeurs doivent évoluer avec les modèles, et l'IA doit devenir « affordable and environmentally efficient, because we don't have more power ».
- Plaidoyer pour un meilleur accès au capital des acteurs européens.
- Résumé établi à partir des seules citations publiées par Scaleway (organisateur et partenaire d'Ampere).
Keynote▶ vidéo
Keynote Scaleway : annonces 2024
Damien Lucas — Scaleway, Jean-Baptiste Kempf — Scaleway
Retours : Maddyness (presse, 08/11/2024), Il Fatto Quotidiano (presse, 19/11/2024), Univers Freebox (presse)
- Capacité GPU : 3 000 H100 aujourd'hui (« triple our total this time last year »), plus de 5 000 GPU sous quelques semaines, soit une capacité multipliée par cinq en un an ; Blackwell annoncé.
- AMD MI300X : Scaleway premier fournisseur européen ; le speaker AMD de l'après-midi renvoie vers une liste d'attente pour quelques jours d'essai gratuit.
- Calculateur d'empreinte environnementale (bêta privée) couvrant les trois scopes, le matériel et l'eau : « Transparency matters » (Damien Lucas).
- Moshi as a Service sur Managed Inference, Generative APIs, accès à de vrais ordinateurs quantiques avec Quandela.
- Jean-Baptiste Kempf (VLC) nommé CTO pour bâtir des produits d'IA souverains ; sur scène : « 90% of the compute power will actually be dedicated to inference ».
- La presse (Maddyness, Il Fatto Quotidiano) reprend surtout la capacité GPU et l'arrivée de Kempf. À lire comme une keynote commerciale de l'organisateur.
Keynote▶ vidéo
Kyutai : Moshi, six mois après
Patrick Pérez — Kyutai
Retours : Maddyness (presse, 08/11/2024), French Tech Journal (presse, 12/11/2024)
- « Since launching… Moshi has already been experienced by over half a million people » (plus de 500 000 sessions de démo en cinq mois selon Maddyness).
- Moshi présenté comme « a platform for developers to innovate on top of », pas seulement un modèle vocal.
- Annonce d'une intégration du français et confirmation de la politique d'ouverture : « pour chacun de nos projets, nous partageons le code et notre recherche » (Maddyness).
- Le détail technique est venu l'après-midi avec le talk de Laurent Mazaré (voir plus bas).
Keynote▶ vidéo
Renen Hallak : une nouvelle architecture pour les données de l'IA
Renen Hallak — VAST Data
- L'IA passe des chiffres, lignes et colonnes aux images, vidéos, langage et son ; « older systems were not built for that ».
- Il faut « break that paradigm » avec une nouvelle architecture logicielle des données.
- Vision : des agents qui communiquent entre eux et résolvent des problèmes hors de portée des humains.
- Résumé établi à partir des seules citations publiées par Scaleway.
Keynote▶ vidéo + transcript
H : les modèles d'action
Charles Kantor — H
Retours : Maddyness (presse, 08/11/2024), French Tech Journal (presse, 12/11/2024)
- Contexte posé par l'animateur : H a levé 220 M$ en mai, loue un cluster à Scaleway et reste très discret.
- Lecture du marché en trois vagues : modèles de langage (chat, support client), modèles de code (Copilot puis offres on-premise), et désormais le marché de l'action et de l'automatisation, le plus gros selon lui.
- Un modèle d'action orchestre des LLM qui planifient et des modèles de vision qui comprennent les interfaces (web, desktop, mobile) ; H se concentre d'abord sur un environnement.
- Évaluation en trois couches : modèles sous-jacents, taux de succès d'un workflow complet, puis capacité du produit à s'auto-réparer ; viser une première exécution qu'on peut « edit, validate, replay » plutôt qu'une perfection immédiate.
- Appel aux builders, liste d'attente par QR code, sortie promise « by the end of the year ».
- Presse : Maddyness retient un positionnement distinct de Mistral AI mais une annonce sans produit ; l'animateur lui-même conclut que « the suspense is painful ».
Keynote
Clôture : la « troisième voie » française
Clara Chappaz — secrétaire d'État chargée de l'IA et du numérique
Retours : Maddyness (presse, 08/11/2024), French Tech Journal (presse, 12/11/2024)
- Une IA qui doit être « inclusive, frugal, and ethical ».
- Argument d'attractivité : la France dispose d'une des énergies les moins carbonées au monde.
- Positionnement revendiqué : « We like to call it the third way » (titre repris par le French Tech Journal).
- Maddyness souligne qu'elle a conclu la matinée en insistant sur la place de la France dans l'IA mondiale. Résumé établi à partir des citations publiées par Scaleway et de la presse.
Conférence▶ vidéo + transcript
AI in the Fast Lane : véhicules autonomes, VTC et course automobile
Jeff Wittich — Ampere Computing
- Cas d'usage du CPU ARM Ampere dans l'automobile : CI/CD de code embarqué (Tier IV), calcul embarqué de Cruise dans une enveloppe d'énergie très contrainte, simulations de Red Bull Racing, plateforme de VTC d'Uber.
- Constat européen : l'électricité y est chère et rare ; la consommation des data centers pourrait être multipliée par 3,5 selon certaines projections.
- Offre COP-ARM chez Scaleway (128 cœurs) pour faire tourner l'inférence de modèles type Mistral ou Llama 3.1 8B sans GPU ; Wallaroo annonce un gain de 7x en passant sur Ampere (chiffre du speaker).
- L'AI Platform Alliance est passée de 12 à 30 membres en un an.
- Talk de partenaire, très orienté produit.
Conférence▶ vidéo + transcript
Overcoming memory hurdles in AI : performance et choix à l'échelle
Ramine Roane — AMD
- Thèse : la mémoire et la bande passante sont le goulot de la phase de génération des LLM (le prompt est limité par le calcul, la génération par la mémoire).
- Le MI300X : même calcul qu'un H100 mais 2,4x plus de HBM (192 Go) et 1,6x la bande passante ; un Llama 70B en fp16 (140 Go) tient sur un GPU au lieu de deux, d'où un avantage TCO revendiqué de 2x.
- Le secret annoncé : l'intégration 3D en chiplets, héritée des CPU EPYC.
- « There is no CUDA moat » : chaque génération de GPU impose de réécrire les bibliothèques ; AMD mise sur l'écosystème agnostique (Hugging Face, PyTorch, JAX, Triton, vLLM).
- Conclusion : le choix supprime le risque de dépendance (pénuries, fabrication), à condition d'adopter des briques open source.
Table ronde▶ vidéo + transcript
AI sustainability and specialized models : puissance contre efficacité
Gaël Varoquaux — Inria et :probabl., Samuel Rincé — GenAI Impact, Stéphan-Eloïse Gras — CNAM et :probabl., Daphné Leprince-Ringuet — Sifted (modération)
- Transparence : Meta publie l'empreinte d'entraînement de Llama ; elle passe de quelques centaines de tonnes CO2e (Llama 1 et 2, environ 100 allers-retours Paris-New York) à environ 2 000 t pour Llama 3 70B, « almost 10x in one year », et une étude citée multiplie par 5 ces estimations naïves (Samuel Rincé).
- Comportements, pas seulement technique : la métaphore du SUV garé devant la boulangerie, « which bakeries deserve an SUV », et le choix entre Concorde et TGV (Gaël Varoquaux).
- Frugalité contre efficacité : l'efficacité seule nourrit l'effet rebond ; le référentiel AFNOR « IA frugale » invite à se demander d'abord si l'IA, puis l'IA générative, est nécessaire (Samuel Rincé).
- L'inférence pèse plus que l'entraînement : estimation GenAI Impact / Data for Good, environ 500 t pour entraîner GPT-3 contre environ 10 000 t pour un mois d'usage de ChatGPT début 2023.
- Gouvernance : l'AI Act ne consacre que « two three bullet points » à l'environnement, sans parler d'inférence ; il manque des KPI communs et un langage partagé pour éviter le greenwashing (Stéphan-Eloïse Gras).
- Outils cités : EcoLogits, CodeCarbon, Green Algorithms. Conseil final : « choose what you enable » (Gaël Varoquaux).
Conférence▶ vidéo + transcript
AI at Meta : Llama et la recherche ouverte à l'échelle
Christian Keller — Meta
- Naila Murray, annoncée au programme, était absente ; Christian Keller (ex-PyTorch, pré-entraînement de Llama 3) assure seul la session.
- Distinction open research (tout publier) / open source ; Meta y trouve son intérêt (recrutement, écosystème matériel aligné sur sa stack).
- Llama est né à Paris (FAIR) ; plus de 400 millions de téléchargements ; Llama serait devenu le modèle le moins cher à déployer à qualité égale (graphique de Meta).
- Conseil : choisir les benchmarks qui comptent pour son cas d'usage, puis fine-tuner. Llama Stack, ExecuTorch et torchtune pour réduire la friction de déploiement, avec des garde-fous en entrée et en sortie.
- Au-delà des LLM auto-régressifs : V-JEPA et une architecture à world model avec mémoire.
- Feuille de route : contexte plus long, plus de modalités ; Llama 3.2 multimodal « not in Europe yet… might come, might not ».
Conférence▶ vidéo + transcript
Chips will never be enough
Bryan Catanzaro — NVIDIA
- Le calcul accéléré est un co-design : algorithmes, compilateurs, bibliothèques, réseau, data center ; le produit vendu, c'est du temps. Accélérer, c'est aussi choisir ce qu'on « décélère » (spécialisation).
- Exemple DLSS : ajouter de l'IA au rendu fait passer un jeu de 23 à 62 puis 100 images par seconde ; ne pas calculer chaque pixel mais l'inférer.
- Ordres de grandeur : un modèle de pointe demande 8 000 Hopper, 90 jours et 15 MW, contre 2 000 Blackwell et 4 MW pour la même durée.
- NVIDIA entraîne ses propres modèles (Nemotron) pour savoir quels systèmes construire, et package l'inférence en NIM.
- La loi de Moore s'essouffle : il faut repenser tout le système. Le paradoxe de Jevons est cité sans être creusé. En keynote du matin, il annonçait aussi un entraînement et une inférence « in a more distributed way » plutôt qu'un million de GPU dans un seul data center (citation publiée par Scaleway).
Conférence▶ vidéo + transcript
Managing GPU clusters with open source
Maciej Mazur — Dell Technologies
- Point de départ de l'« AI Factory » de Dell : chez les clients, une faible utilisation des GPU, parfois attribués à la main sur un tableau blanc ou entiers à une VM.
- Réponse : ordonnanceurs (Volcano), priorités, métriques, et des clusters hétérogènes ; un entraînement PyTorch a tourné sur des GPU NVIDIA et AMD réunis.
- Observabilité par profil : SRE, data engineers (tokens/s, précision) et métier ne regardent pas les mêmes tableaux Grafana.
- Outillage publié : designs validés et benchmarks sur Hugging Face, Omnia (open source) pour déployer Slurm, Kubernetes et Kubeflow.
- Talk de partenaire, court (10 minutes).
Conférence▶ vidéo + transcript
Meet frontier AI for software development
Vitor Monteiro — poolside
- Ambition : une AGI du développement logiciel, en passant de l'assistant qu'on sollicite au collègue « junior » puis senior.
- Deux goulots : le calcul (financé, vécu comme « a massive responsibility ») et les données : il n'existe qu'environ 3 000 milliards de tokens de code, les mêmes pour tous.
- Réponse : RLCEF (reinforcement learning from code execution feedback). Un bot sélectionne des dépôts couverts par des tests, masque une révision, fait générer 40 à 50 solutions, et les tests servent d'oracle : même un échec est une donnée de qualité.
- Choix assumé de modèles spécialisés plutôt que de LLM généralistes, et d'une offre d'abord entreprise, derrière le pare-feu du client.
- Démo enregistrée (« I wouldn't trust the Wi-Fi ») d'un assistant dans l'IDE ; produit construit par une vingtaine de personnes.
Table ronde▶ vidéo + transcript
Building trustworthy AI : précision et explicabilité
Lionel Guillou — Owkin, Alex Combessie — Giskard, Sophie Monnier — InstaDeep (modération)
- Le speaker de Helsing annoncé au programme était absent.
- Owkin utilise l'explicabilité deux fois : en développement (vérifier avec des pathologistes où regarde le modèle) et en production, pour garder l'œil critique du pathologiste. Mais « explainability is not the main fight » : 95 % de l'effort porte sur la généralisation.
- Méthodes Owkin : validation clinique sur des cohortes diverses, validation analytique (perturber les entrées pour vérifier la stabilité), calibration sur site.
- Giskard est parti de l'explicabilité : les utilisateurs l'utilisent une fois puis n'y reviennent pas. D'où un pivot vers le test automatisé ; on fait confiance aux avions parce qu'ils sont testés, pas parce qu'on les comprend (référence à Yann LeCun).
- Pour les LLM, les techniques classiques ne suffisent plus : générer des jeux d'évaluation réalistes et utiliser un LLM-juge, sous validation humaine.
- AI Act : pour un dispositif médical, l'écart est « quite small » (Owkin) ; Giskard regrette que le texte soit passé sans codes de conduite prêts et espère qu'ils le seront pour le sommet de février 2025.
Conférence▶ vidéo + transcript
Moshi's behind the scenes : de la conception à l'inférence
Laurent Mazaré — Kyutai
- Pourquoi Moshi : les assistants vocaux en cascade (détection de fin de parole, transcription, LLM, synthèse) ont 3 à 5 s de latence, perdent l'émotion et fonctionnent en talkie-walkie ; une vraie conversation compte 5 à 10 % de chevauchement.
- Architecture : codec neuronal Mimi (12,5 pas par seconde, environ 100 valeurs/s au lieu de 24 000 échantillons), Transformer hiérarchique (un petit Transformer de 600 M de paramètres pour les niveaux de détail) et modélisation multistream des deux voix.
- Entraînement en quatre étapes : LLM texte Helium (7 B, 2 000 milliards de tokens), audio non annoté, dialogues séparés par diarisation, puis fine-tuning sur des dialogues synthétiques générés avec un TTS multistream (plus de 70 émotions, voix d'une comédienne).
- Latence de 200 ms (160 ms théoriques + 35 ms de calcul + 5 ms réseau) ; backend en Rust/Candle, quantifié, sans modification depuis juillet.
- Chiffres : 500 000 sessions, durée médiane de plus d'une minute ; 200 GPU au départ, quelques-uns aujourd'hui.
- Limite assumée : le modality gap, 56,4 % de bonnes réponses en texte contre 23 % en audio ; code, poids et rapport technique publiés, version MLX pour Mac.
Table ronde▶ vidéo + transcript
The data pipeline : de la création à l'entraînement
Jessica April — Shutterstock, Ludovic Blusseau — Dataiku, Dan Chester — VAST Data, Paul Mochkovitch — Molia (modération)
- Licences de données : Shutterstock licencie un corpus d'environ 700 millions d'éléments et 800 milliards de métadonnées ; après les modèles de fondation, la demande se tourne vers des jeux ciblés pour le fine-tuning, avec C2PA et reversement de royalties aux contributeurs.
- Préparation : l'IA devient l'interface low-code ultime (transformer ses données en langage naturel) ; la gouvernance doit associer métier, IT et conformité (Dataiku).
- Stockage : VAST unifie objet, entrepôt et accès GPU direct, et rend les données immuables pour prouver leur traçabilité face à l'AI Act ; le stockage pèse 10 à 15 % de l'espace, de l'énergie et du capex d'un data center.
- Prochaine vague selon VAST : le déploiement en entreprise, avec des données internes d'un ou deux ordres de grandeur plus volumineuses que les corpus d'entraînement et des droits d'accès à respecter.
- Tendances citées : données synthétiques « commercialement sûres » (Shutterstock), documentation automatique de la conformité (Dataiku). Mot de la fin de Dan Chester : demander à ChatGPT de résumer l'AI Act, « quite eye opening ».
Table ronde▶ vidéo + transcript
Investing in AI : builders vs adopters
Rana Yared — Balderton, Paul Murphy — Lightspeed Venture Partners, Alexis Robert — Kima Ventures, Gabriel de Vinzelles — frst, Julien Codorniou — Felix Capital (modération)
- Horizontal ou vertical : « picking your poison », problème de taille de marché d'un côté, de distribution de l'autre ; avec l'IA, « you don't sell productivity software, you sell the work » (Gabriel de Vinzelles). Ce qu'ils cherchent : des « stage appropriate signs of life » (Paul Murphy).
- Tout est IA ? Lightspeed n'investit presque plus en early stage hors IA native ; Rana Yared objecte qu'une entreprise n'a pas à pivoter pour adopter l'IA (exemple de Klarna et de son support client).
- Valorisations : rareté des équipes et FOMO des fonds américains qui viennent surenchérir en Europe ; des équipes seedées reviennent lever 20 à 30 M$ pour payer des chercheurs à 1 à 2 M$ par an.
- Sorties : l'espoir d'un premier exit français à plusieurs dizaines de milliards ; Mistral présenté comme le champion qui « meets the moment ».
- Désaccord : frst pousse ses fondateurs vers des sociétés centrées sur les États-Unis, quand Balderton y voit un risque de drainer l'écosystème européen (talents moins chers, chemin vers 100 M$ de revenus plus rapide en Europe).
Table ronde▶ vidéo + transcript
Overcoming AI scaling barriers in healthcare & biotech
Jean-Philippe Vert — Bioptimus, Robert Marino — Qubit Pharmaceuticals, Julia Gimbernat Mayol — InstaDeep, Chris O'Brien — French Tech Journal (modération)
- Bioptimus veut un modèle de fondation de toute la biologie (molécules, cellules, patients). Les données utiles sont dans les hôpitaux : il faut un deal gagnant-gagnant et de l'anonymisation, facilitée parce que le modèle n'a pas besoin des métadonnées cliniques.
- Passer à l'échelle en croisant des modalités non alignées (protéines et images de tumeurs) grâce à des architectures dédiées (attention spécifique, Transformers hiérarchiques).
- InstaDeep : comprendre jusqu'au processus de génération des données (séquençage par fragments, zones de faible couverture) ; cluster interne Kyber d'environ 0,5 exaflops ; plus de 700 000 téléchargements de ses modèles.
- Qubit Pharmaceuticals : sa plateforme élimine 95 % des molécules, donc produit moins de données expérimentales ; elle compense par des données synthétiques issues de modèles physiques et quantiques.
- Goulot inattendu : la validation expérimentale ; six mois perdus parce que théorie et expérience ne mesuraient pas la même grandeur.
- Modèles d'affaires : Bioptimus diffuse via Hugging Face et les hyperscalers, Qubit vend des candidats-médicaments, pas sa plateforme.
Conférence▶ vidéo + transcript
AI-powered medical assistant : transformer le quotidien des soignants
Nacim Rahal — Doctolib
- L'assistant de consultation (lancé le 15 octobre 2024) écoute la consultation et produit des notes structurées dans le dossier patient ; environ 100 000 consultations par semaine un mois après le lancement.
- D'abord le pipeline d'évaluation : taux d'erreur sur les termes médicaux, rappel factuel face à une note idéale, note des utilisateurs. Difficulté : aucun standard de qualité, et une note manuelle médiane de 140 caractères comme point de comparaison.
- Première version Whisper + GPT-3.5 : 41 % d'erreurs sur les termes médicaux, 49 % de rappel, « terrible ». Passer à un modèle plus lent mais meilleur a gardé les bêta-testeurs : les médecins veulent la tranquillité d'esprit, pas la vitesse.
- Quand les métriques techniques montent sans que la satisfaction suive, il faut revoir l'évaluation : notes par praticien et non par consultation, métriques sur les médicaments, tests conçus pour piéger le système.
- Leçons de production : la qualité du micro peut ruiner l'expérience d'un leader d'opinion ; difficile de savoir quel composant améliorer (deux versions du speech-to-text n'ont rien apporté au rappel).
Table ronde▶ vidéo + transcript
Building sustainable AI infrastructure : quantique, open et modulaire
Jean-Marie Verdun — HPE, Jean Senellart — Quandela, Raúl Álvarez — Open Compute Project Foundation, James Coomer — DDN, Albane Bruyas — Scaleway (modération)
- Préparer la panne : sur des machines de 20 à 40 MW, le matériel lâche ; il faut des checkpoints rapides, donc un stockage performant (HPE, DDN).
- Standardiser et modulariser (groupe de travail OCP) pour intégrer un nouveau GPU sans tout redessiner ; le refroidissement liquide direct-to-chip est désormais standardisé, avec des puces à 2 kW et bientôt plus (OCP).
- Densité : racks à 400 kW sans ventilateurs chez HPE, 1 MW envisagé, au point que « the computer is going to become a safety issue » (Jean-Marie Verdun).
- Stockage : environ 10 % de l'énergie, mais le vrai gain est de livrer les données vite pour ne pas laisser les GPU attendre (James Coomer).
- Quantique : encore « like VHS », sans standard matériel ; le calcul quantique lui-même consomme presque rien, mais le froid et le vide coûtent (Jean Senellart).
- Message aux développeurs : « software people tend to believe that it's easy to port software, that's not true » ; tester tout de suite sur d'autres architectures (HPE).
Table ronde▶ vidéo + transcript
AI's role in transforming financial services
Fabrice Le Chatelier — BNP Paribas, Hanan Ouazan — Artefact, Ioan Iacob — FlowX.AI, Solène Brébant — Balderton Capital (modération)
- BNP Paribas : 700 à 800 professionnels de l'IA, environ 780 cas d'usage sur un cloud privé interne ; contraintes clés : vie privée, GPU et électricité pour le serving, collaboration entre IT, quants et futurs citizen developers.
- Smart inbox (Artefact pour BNP) : 20 millions d'e-mails par an ; un LLM sert à entraîner un petit classifieur rapide, d'où 24 % d'erreurs de routage en moins et 80 % de précision sur les suggestions de réponse.
- Interne ou externe : en interne pour les modèles régulés qui exigent l'explicabilité, achat pour les commodités comme l'OCR (BNP).
- Fiabilité : FlowX revendique une hallucination « virtually zero » (affirmation du fournisseur) grâce à la décomposition des tâches, à l'auto-vérification et à un RAG strict, avec des cycles de vente de 9 à 12 mois.
- Observabilité en trois couches (journaliser, évaluer, superviser côté métier), avec l'analogie du permis de conduire : même formé, on commet des infractions, d'où radars et police (Artefact).
- Humain dans la boucle (BNP) ou « human in control » (FlowX, avec l'analogie de l'écran Tesla qui donne confiance).
Table ronde▶ vidéo + transcript
Real-time generative AI for video and photo : les défis techniques
Eliot Andres — Photoroom, Francescu Santoni — Mojo, Olivier Reynaud — Aive, Dounia Zouine — Meuf (modération)
- La latence décide de l'usage : une première fonctionnalité Photoroom à une minute d'attente n'était pas utilisée ; ramenée à quelques secondes, elle permet d'itérer. Sur mobile, la norme est sous la seconde (Mojo).
- Photoroom entraîne son propre modèle (256 H100, environ 10 M€ par an) pour filtrer nudité et violence des données, maîtriser la vitesse et savoir entraîner. Son problème inverse de l'hallucination : un modèle trop fidèle à une photo mal éclairée.
- Anecdote des toiletteurs canins : une mise à jour gardait la table avec le chien ; colère de la communauté, retour arrière, puis A/B tests du taux d'export par catégorie d'image.
- Mojo mesure par des proxies (ratio création / téléchargement) et le support client ; des LoRA open source trop entraînées sur du contenu NSFW ont dû être écartées.
- Aive (B2B, vidéo publicitaire) : plus de 20 modèles, une minute de vidéo analysée en une minute, aucune API externe par contrat, et YOLO v8 plutôt que v10 jugé moins fiable ; le génératif pur n'est pas prêt pour la pub des grands comptes avant « one or two years ».
- Conclusion de la modératrice : tester le génératif reste un chantier, « we need this kind of humility ».
Conférence▶ vidéo + transcript
Mastering the AI Act : ce que tout entrepreneur IA doit savoir
Adrien Basdevant — Entropy
- Dix points à retenir, en ouvrant sur un chiffre : environ 700 projets de loi sur l'IA examinés par les États américains depuis le début de l'année, dont 113 adoptés. L'UE ne sera pas seule à réguler.
- Distinguer le contraignant (AI Act) du volontaire (accords d'Anthropic et OpenAI avec l'AI Safety Institute américain, processus d'Hiroshima).
- L'AI Act régule des usages, pas une technologie, sauf les modèles d'IA à usage général : seuil de risque systémique à 10^25 FLOP en Europe contre 10^26 aux États-Unis ; amendes jusqu'à 7 % du CA ou 35 M€.
- Ce n'est qu'une première couche : codes de pratique, actes délégués jusqu'en 2030, modèle de résumé des données d'entraînement attendu à l'été 2025 ; il invite à y contribuer.
- Autres fronts : RGPD (le modèle est-il une donnée personnelle ?), responsabilité produit, contentieux sur LAION-5B.
- Q&R : pour un modèle « open source », lire d'abord la licence (Llama 3.2 n'est pas autorisé en Europe à ce stade) ; RGPD et AI Act ont des logiques en partie contradictoires.
Conférence▶ vidéo + transcript
Decoding GenAI's carbon footprint
Lorena Nava Guajardo — IJO, Damien Juillard — On Behalf AI
- Enjeu : selon les scénarios du think tank G9+, l'écart entre hypothèses basse et haute du numérique mondial équivaut dès 2026 à la consommation totale de la Suisse, et l'IA en est le principal moteur ; une requête ChatGPT consommerait 10 fois une recherche Google (0,3 Wh, chiffre Google).
- Mesurer : périmètre complet (fabrication, énergie, fin de vie, services, équipes) ; approche bottom-up quand on maîtrise l'infrastructure, top-down par hypothèses sinon, faute de transparence des fournisseurs. Le calculateur Scaleway est cité en exemple.
- L'inférence domine l'impact sur la durée de vie d'un modèle.
- Leviers : avec un modèle propriétaire, presque aucun (sauf le cache) ; avec un modèle ouvert, fine-tuning, quantization (plus de 30 % de CO2 en moins en 8 bits pour Gemma 7B) et distillation vers un plus petit modèle.
- Outils cités : EcoLogits, routeurs de modèles, cadres d'évaluation de performance. En Q&R : la responsabilité revient aussi aux grands fournisseurs qui produisent des modèles toujours plus gros.
Conférence▶ vidéo + transcript
Frontier data : la clé du prochain saut de l'IA
Edouard d'Archimbaud — Kili Technology
- Thèse : malgré l'explosion du calcul, pas de saut majeur depuis GPT-4, car on a atteint un « data wall » : les données faciles du web sont épuisées.
- Frontier data : des données plus profondes et spécialisées, comme les chaînes de raisonnement et le savoir tacite d'experts (juristes, analystes fraude, rédacteurs de brevets).
- Exemple : faire traduire des preuves mathématiques en Lean pour récompenser ou pénaliser un modèle, comme le fait AlphaProof.
- Données synthétiques produites par des playbooks paramétrables, avec des annotateurs recentrés sur le contrôle qualité.
- Recherche publiée par Kili : des attaques multilingues atteignent plus de 93 % de succès sur Llama 3 et GPT-4o, et les garde-fous faiblissent après quelques tours. Talk de fournisseur.
Conférence▶ vidéo + transcript
Agentic capabilities for enhanced LLMs and GenAI applications
Laurent Daudet — LightOn
- Trois générations : le chatbot, le RAG (efficace mais limité aux workflows simples), puis l'agent, orchestrateur d'outils.
- Le RAG naïf (une base vectorielle) « won't work that well » à l'échelle ; il faut plusieurs backends de recherche et un reranking.
- LightOn s'en tient à cinq outils (chercher, analyser, comparer, résumer, calculer en Python) : mieux vaut peu d'outils fiables qu'une planification complexe qui produit du bruit.
- L'agent doit hériter des droits documentaires de l'utilisateur (défense, banque) ; déploiements on-premise, jusqu'à l'air gap.
- Selon lui, les capacités de planification n'apparaissent qu'à partir de 30 à 40 milliards de paramètres. Annonce au passage de l'introduction en Bourse de LightOn.
Sessions sans retour trouvé (12)
- AI Meets Quantum : Unlocking New Possibilities in Machine Learning (Jean Senellart, Quandela ; replay sans transcript)
- Securing the Future : Strategies to Safeguard Your Business in the Era of Generative AI (Han Heloir, MongoDB)
- Hands-On Integration : Simulating Embedding Models for Structured Data (Alexandre Pasquiou, Neuralk-AI ; replay disponible)
- Building Speech AI Applications with NVIDIA Riva (Javier Figueroa, Meriem Bendris, NVIDIA)
- Leveraging AI agents and efficient LLM inference on COP-ARM (Victor Jakubiuk, Ampere Computing)
- Bringing Choice to Gen AI with the Intel Gaudi 3 AI Accelerator (Tristan Ladrech, Intel)
- AMD x Hugging Face : No Code Change LLM Deployment on AMD GPUs (Jöerg Roskowetz, AMD)
- Building a RAG system for lawyers : behind the scenes (Stéphane Béreux, Jimini)
- Guided session : mapping inference workflows on the right GPU (Fabien Da Silva, Sebastian Tatut, Scaleway)
- Accelerating Drug Discovery with NVIDIA BioNeMo (Javier Figueroa, Nick Venanzi, NVIDIA)
- Accurately measuring your cloud activity's full impact : wishful thinking? (Diane Sempéré, Elise Auvray, Scaleway)
- Agentic AI powered by Generative APIs : function calling on open-weight LLMs (Guillaume Calmettes, Scaleway)
Sources
- Programme officiel ai-PULSE 2024 (nouvel onglet) ↗
- Site ai-PULSE 2024 (nouvel onglet) ↗
- Playlist YouTube « ai-PULSE 2024 » (Scaleway) (nouvel onglet) ↗
- Live Morning Keynotes (sans sous-titres) (nouvel onglet) ↗
- Live Master Stage (transcript lu) (nouvel onglet) ↗
- Live Central Room (transcript lu) (nouvel onglet) ↗
- Scaleway : récap « Scaleway affirms AI's Big, Efficient & Open future at ai-PULSE 2024 » (nouvel onglet) ↗
- Scaleway (blog, 18/11/2024) : The Best quotes from ai-PULSE 2024's keynotes (nouvel onglet) ↗
- Maddyness (08/11/2024) : ai-PULSE, Kyutai et H à l'offensive face à OpenAI depuis Station F (nouvel onglet) ↗
- French Tech Journal (12/11/2024) : La Machine #6, Scaleway et Xavier Niel prennent le pouls de l'IA française (nouvel onglet) ↗
- Univers Freebox : Xavier Niel et les leaders de l'IA en Europe réunis à ai-PULSE 2024 (nouvel onglet) ↗
- Il Fatto Quotidiano (19/11/2024) : Scaleway, iliad, GPU (nouvel onglet) ↗
- Posts LinkedIn de participants : aucun retrouvé (recherche site:linkedin.com/posts et hashtags #aiPULSE / #aiPULSE2024)