---
title: "Tech-News 2.11.2026"
date: 2026-11-02
kind: day
source: https://news.spacy.cloud/de/day/2026-11-02
---

# Tech-News 2.11.2026

Der Fokus des Tages liegt auf der Optimierung lokaler Inferenz-Engines, die es ermöglichen, große Mixture-of-Experts-Modelle effizient auf Consumer-Hardware auszuführen. Neue Tools und Patches beschleunigen den Start von Agent-Sessions und verbessern die Geschwindigkeit bei begrenztem VRAM. Parallel dazu erscheinen akademische Arbeiten, die sich mit kognitiven Architekturen und Problemen im Reinforcement Learning befassen.

*Automatisch erstellt aus öffentlichen Quellen, kann Fehler enthalten. Die Kurzfassungen sind eigene Formulierungen, maßgeblich ist der verlinkte Originalartikel.*

## Top 5

1. **[tandem.cpp: Qwen3.8-Flash-Next at 97 tok/s on a single 4090 + 64 GB RAM, 3.3× llama.cpp, works for any MoE](<https://www.reddit.com/r/LocalLLaMA/comments/1xldent/tandemcpp_qwen38flashnext_at_97_toks_on_a_single/>)** · r/LocalLLaMA
   tandem.cpp ist ein Patch-Set für llama.cpp, das MoE-Modelle beschleunigt, die nicht vollständig in den VRAM passen, indem häufig genutzte Experten auf der GPU belassen und der Rest auf die CPU ausgelagert wird. Auf einer RTX 4090 mit 64 GB RAM wurden 97 tok/s für Qwen3.8-Flash-Next gemessen.

2. **[8 agents × 250K context, concurrently, on two 3090s (~600+ tok/s total)](<https://www.reddit.com/r/LocalLLaMA/comments/1xlk43x/8_agents_250k_context_concurrently_on_two_3090s/>)** · r/LocalLLaMA
   Acht Agents mit je 250K Kontextlänge laufen parallel auf zwei RTX 3090-GPUs und erreichen zusammen über 600 tok/s. Das Setup demonstriert die Möglichkeit, mehrere Coding- oder Analyse-Agenten gleichzeitig lokal auszuführen.

3. **[Sorry Sam, my "quite terrible" home DRAM is at 100% now: patched Strata to make DeepSeek V4.1 agent sessions start 20× faster on a good old standard gaming GPU, no datacenter required](<https://www.reddit.com/r/LocalLLaMA/comments/1xljdnj/sorry_sam_my_quite_terrible_home_dram_is_at_100/>)** · r/LocalLLaMA
   Durch einen Patch für Strata konnten Agent-Sessions von DeepSeek V4.1 auf Standard-Gaming-GPUs 20-mal schneller gestartet werden. Dies reduziert den Bedarf an spezialisierten Datacenter-Hardware für bestimmte lokale Workflows.

4. **[GLM-5.3-Flash on our H200s does most of my coding now while GPT-6.1 Sol orchestrates (OpenCode setup)](<https://www.reddit.com/r/LocalLLaMA/comments/1xkz4lf/glm53flash_on_our_h200s_does_most_of_my_coding/>)** · r/LocalLLaMA
   GLM-5.3-Flash (MoE, 320B total, 18B aktiv) läuft lokal auf H200-Servern und übernimmt zunehmend Coding-Aufgaben, während GPT-6.1 Sol die Orchestration steuert. Das Setup nutzt OpenCode und bietet ein 512K-Kontextfenster.

5. **[Does Scaling Toward AGI Depend on What System-1 Lets System-2 Execute?](<https://huggingface.co/papers/2610.39497>)** · HF Daily Papers
   Ein Paper untersucht, ob der Weg zum AGI davon abhängt, was das intuitive System-1 dem analytischen System-2 erlaubt, auszuführen. Es hinterfragt die reine Skalierung von Ressourcen und Modellen zugunsten einer besseren Interaktion zwischen kognitiven Systemen.

## Lokale LLMs & Open Weights

- **[Infernix - New Release!](<https://www.reddit.com/r/LocalLLaMA/comments/1xl4pf6/infernix_new_release/>)** · r/LocalLLaMA
  Die Inferenz-Engine Infernix wurde aktualisiert und ist nun speziell für die Ausführung neuester Qwen-Architektur-Modelle auf RTX 5090-Grafikkarten optimiert. Das Update umfasst Verbesserungen für Windows und Linux.

- **[llama.cpp: 10 neue Builds (b12023–b12033)](<https://github.com/ggml-org/llama.cpp/releases>)** · llama.cpp Releases
  llama.cpp hat zehn neue Builds (b12023–b12033) veröffentlicht, die unter anderem numpy-Abhängigkeiten korrigieren und initialen iq3-Support für OpenCL hinzufügen. Weitere Änderungen betreffen SYCL und LevelZero-Includes.

- **[Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.](<https://www.reddit.com/r/LocalLLaMA/comments/1xlicia/qwen_38_flash_next_nvfp4_on_64gb_ram_and_5090/>)** · r/LocalLLaMA
  Ein Nutzer berichtet von guten Ergebnissen mit Qwen 3.8 Flash Next im NVFP4-Format auf einer RTX 5090 und 64 GB RAM unter Verwendung der Inferenz-Engine Basalt. Die Kombination aus Geschwindigkeit und Intelligenz wird als überzeugend beschrieben.

- **[Getting incredible results with a single RTX 3090ti and 128gb of ram. Deepseek-V4.1-Flash-1017 (35 tok/s decode) and Qwen3.8-Flash-Next (130 tok/s decode)](<https://www.reddit.com/r/LocalLLaMA/comments/1xlec67/getting_incredible_results_with_a_single_rtx/>)** · r/LocalLLaMA
  Mit einer einzelnen RTX 3090 Ti und 128 GB RAM werden hohe Decode-Raten für Deepseek-V4.1-Flash (35 tok/s) und Qwen3.8-Flash-Next (130 tok/s) erzielt. Der Beitrag betont die verbesserte Leistungsfähigkeit aktueller Modelle im Vergleich zu älteren Setups.

- **[An easy way to try local AI with braindead-local-intelligence](<https://dataswamp.org/~solene/2026-11-01-braindead-local-intelligence.html>)** · Lobsters
  Ein Tool namens 'braindead-local-intelligence' wird vorgestellt, um lokale KI einfach zu testen. Der Fokus liegt auf der einfachen Nutzung lokaler Modelle.

## Coding-Tools & Agents

- **[CaPtain: A Pipeline for Post-Training Code-as-Policy Robot Agents](<https://huggingface.co/papers/2610.40799>)** · HF Daily Papers
  Das Paper 'CaPtain' beschreibt eine Pipeline für das Post-Training von Roboter-Agenten, die Code als Policy nutzen. Es kombiniert Supervised Fine-Tuning mit Multi-Turn Reinforcement Learning.

## Research & Papers

- **[On the Origin and Evolution of Training-Inference Mismatch in LLM Reinforcement Learning](<https://huggingface.co/papers/2610.40945>)** · HF Daily Papers
  Das Paper analysiert das Training-Inference Mismatch im Reinforcement Learning für LLMs. Es untersucht Diskrepanzen zwischen Sampling während des Trainings und Inferenz.

---

spacy.cloud Tech-News · https://news.spacy.cloud/de/day/2026-11-02
