Qwen 3.8 27B atteint 1500 tokens/s sur Cerebras

TL;DR

Qwen 3.8 27B atteint 1500 tokens/s sur Cerebras ⁴
llm-gemini 0.34 ajoute gemini-3.8-flash avec trois niveaux de thinking ⁷
Anthropic publie les system prompts de Claude, y compris l’historique des modifications ⁸

Les 3 signaux

⚡ Inférence ultra-rapide pour Qwen 3.8 27B

Inférence ultra-rapide pour Qwen 3.8 27B Qwen 3.8 27B est disponible sur Cerebras à 1500 tokens/s ⁴. Le modèle hybride combine 48 couches Gated DeltaNet et 16 couches attention ¹¹. Une étude montre que la quantification 4-bit NVFP4 fonctionne sur la partie récurrente, laissant le bloc GDN en 8- ou 16-bit pour préserver decay et write ¹¹.

🧠 Mémoire persistante pour agents de code

Mémoire persistante pour agents de code Hugging Face publie un système de mémoire pour agents de codage ². En parallèle, le framework SENTINEL-RL décharge le raisonnement topologique des agents LLM dans les SOC : le contexte fini ne peut pas contenir un graphe d’authentification de plusieurs milliers d’hôtes, et la génération libre ne garantit pas une action de confinement correcte ⁵.

🎨 Édition visuelle éditable et compilation par entraînement

Édition visuelle éditable et compilation par entraînement Deux papiers proposent des alternatives aux approches dominantes. Le premier remplace le fine-tuning coûteux des sélecteurs listwise en Text-to-SQL par une sélection sans entraînement ¹². Le second, « compile by training », transforme une spécification en langage naturel en fonction neuronale locale, évitant les appels répétés à un modèle distant ¹⁴.

À retenir

1500
tokens/s — débit de Qwen 3.8 27B sur Cerebras ⁴
3.8
gemini-3.8-flash — nouveau modèle dans llm-gemini 0.34, avec niveaux low, medium et high thinking ⁷
48
couches GDN — sur 64 couches totales de Qwen 3.8 27B, quantifiables en 4-bit NVFP4 ¹¹

Niveaux de preuve

Tous les niveaux

Tuto du jour

Tuto / Outil : llm-gemini 0.34 ⁷ Ce qu’on installe : Plugin pour l’outil en ligne de commande llm, ajoutant le modèle Gemini 3.8 Flash. Prérequis hardware & commande : Aucun GPU requis (API cloud) ; installation via llm install llm-gemini puis configuration de la clé API.

Matos & Infra local

Sujet Matos/Infra : Quantification 4-bit d’un LLM hybride 27B ¹¹ Constat technique : La quantification NVFP4 W4A4 de Qwen3.8-27B (48 couches Gated DeltaNet, 16 couches attention) échoue si le bloc récurrent reste en 8/16-bit ; la quantification 4-bit de la moitié récurrente est viable. Recommandation dev : Pour l’inférence locale quantifiée, ciblez la quantification 4-bit des couches récurrentes afin de réduire la VRAM sans dégrader la qualité.

Fine-Tuning & Quantiz

Technique / Outil : Quantification NVFP4 W4A4 de Gated DeltaNet ¹¹ Apport : Survie en 4-bit pour la moitié récurrente d’un LLM hybride 27B, là où les premières quantifications laissaient le bloc en 8/16-bit ¹¹. Impact pratique : Permet une quantification plus agressive des couches GDN, réduisant la mémoire sans dégrader la stabilité du modèle ¹¹. ¹¹ https://huggingface.co/papers/2609.04098

RAG & Agents Locaux

Architecture / Outil : SENTINEL-RL ⁵ Cas d’usage : Décharger le raisonnement topologique des agents LLM dans un SOC pour analyser des graphes d’authentification trop vastes pour le contexte ⁵. Clé de voûte : Externalisation du raisonnement hors du LLM pour garantir des actions de confinement fiables à l’échelle entreprise ⁵.

Track Record

Partiellement tenu

Ce qu’on disait le 2026-08-17 : « Qwen 3.8 27B sort sous licence Apache 2, mais sur-réfléchit par défaut » ⁶ Verdict aujourd’hui : partiellement tenu. Le modèle est désormais disponible sur Cerebras à 1500 tokens/s ⁴, et des travaux récents portent sur sa quantification 4-bit ¹¹, confirmant sa diffusion. La sur-réflexion par défaut n’est pas documentée dans les éléments du jour.

Sources (18) — vérifiées le 04/09/2026 05:00 UTC

N°	Publication	Site	Date
2	Give Your Coding Agents a Memory You Own	Hugging Face	3 septembre 2026
4	Qwen 3.8 27B available on Cerebras at 1500 tokens/s	Hacker News	3 septembre 2026
5	SENTINEL-RL: Offloading Topological Reasoning from LLM Agents in the Security Operations Center	arXiv	3 septembre 2026
6	Formation Matrix and Energy-based Control of Multi-Agent Systems	arXiv	3 septembre 2026
7	llm-gemini 0.34	Simon Willison	2 septembre 2026
8	Claude’s new system prompt really doesn’t want to reproduce song lyrics	Simon Willison	2 septembre 2026
11	Why Gated DeltaNet Survives 4-Bit Quantization: NVFP4 W4A4 for the Recurrent Half of a Hybrid 27B LLM	HF Papers
12	Replacing Training with Memory: Listwise Selection for Text-to-SQL	HF Papers
14	Compile by Training: Turning Natural-Language Specifications into Local Neural Functions	arXiv	3 septembre 2026

Autres lectures (9)

N°	Publication	Site	Date
1	Fine-tuning a 350M Model for Better Structured Outputs in 100 GRPO Steps	Hugging Face	3 septembre 2026
3	Muse Spark 1.3	Hacker News	2 septembre 2026
9	Quoting Rick Brewster	Simon Willison	2 septembre 2026
10	Editable Visual Design	HF Papers
13	Sparse Readout Prism: Explaining Logit-Lens Scores in Features Instead of Tokens	HF Papers
15	One Editor, Many Edits: A Unified Training-Free Framework for Diverse Video Editing	arXiv	3 septembre 2026
16	Seeing Before Synthesizing: VLM-Guided Transition Event Discovery for Weakly-Supervised Dense Video Captioning	arXiv	3 septembre 2026
17	A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms	arXiv	3 septembre 2026
18	From Deceptive Outputs to Deceptive Mechanisms: A Causal Framework for Language-Model Deception Research	arXiv	3 septembre 2026

V3ille — Sources : arXiv, GitHub Trending, Hugging Face Daily Papers, OpenAI, DeepMind, Google AI, IEEE Spectrum, The Robot Report.