Suche
LLM-KVCache: Cross-Datacenter-Serving wird greifbar, aber komplex
Prefill-decode (PD) Disaggregation ist zwar Standard für LLM-Serving, doch die flexible Verteilung über Datacenter hinweg scheitert bislang am massiven KVCache-Transfer. Obwohl neue Hybrid-Attention-Architekturen den KVCache signifikant verkleinern und Cross-Datacenter-Transport nun denkbar machen, stoßen solche Ansätze auf Herausforderungen wie schwankende Bandbreiten und ungleich verteilte Präfix-Caches. Eine simple Externalisierung des Prefill-Schritts über Datacenter-Grenzen würde ohne weitere Optimierung zu Engpässen und Ineffizienz führen.
DeepMind DiLoCo: KI-Training endlich robust & dezentral skalierbar
Aktuelle KI-Modelle zu trainieren ist eine Sisyphusarbeit: Es dauert oft Wochen oder Monate, und ein einziger Serverausfall kann alles zunichtemachen. DeepMind zeigt mit „DiLoCo“ jetzt, wie man verteiltes KI-Training robuster macht: Indem Berechnungen entkoppelt werden, laufen die Modelle auch bei Ausfällen weiter und sind effizienter. Das ist kein triviales Detail, sondern ein Game Changer für alle, die wirklich große Modelle zuverlässig und schnell entwickeln wollen – ein echter Schritt nach vorn in der Infrastruktur von morgen.
Zed's neue Threads Sidebar: Parallel Agents im Griff
Zed ermöglicht nun die Orchestrierung mehrerer "Agents" parallel in einem Fenster. Eine neue Threads Sidebar erlaubt es Benutzern, den Zugriff der Agents auf Ordner und Repositories zu steuern und Threads zu überwachen. Dieses Feature verbessert die Übersichtlichkeit bei komplexen Workflows und unterstützt ein flexibles Arbeiten über verschiedene Projekte hinweg, alles bei Zed's gewohnter flüssiger Performance.
KI-Agenten: Harness außerhalb des Sandkastens für Multi-User!
Ein Agent Harness steuert LLMs und orchestriert Tool-Aufrufe. Der Artikel diskutiert zwei Architekturen – Harness innerhalb oder außerhalb einer Sandbox – und deren Auswirkungen auf Sicherheit und Funktionalität. Für Multi-User-Systeme, so der Autor, ist das Harness außerhalb der Sandbox die bessere Wahl, welches Tools über eine API in der Sandbox ausführt.
AI fürs Code-Chaos: 10 Subagenten navigieren 500K Zeilen Clojure
Metabase stand vor dem Berg einer 500.000 Zeilen Clojure-Codebasis – ein Albtraum für jede Wartung. Statt auf eine Generalisten-KI zu setzen, bauten sie zehn spezialisierte Subagenten, die sich das Monstrum Stück für Stück vorknöpfen. Das zeigt eindrucksvoll: Smarte AI-Architektur schlägt rohe Rechenkraft, wenn es darum geht, komplexe Tech-Probleme zu lösen.
OpenAI-Modelle auf AWS Bedrock: Exklusiv-Deal mit Microsoft angepasst
OpenAI bringt seine Modelle, darunter auch für 'Bedrock Managed Agents', auf Amazon Bedrock. Dieser wegweisende Schritt wurde durch die Anpassung des Exklusivvertrags zwischen OpenAI und Microsoft ermöglicht, der Azure zuvor den alleinigen Zugang sicherte. Eine strategische Öffnung, die AWS-Kunden nun direkte Integration in ihre Cloud-Umgebung bietet.
DoD-Auftragnehmer: Strix entdeckt Multi-Tenant Autorisierungs-Lücke
Das Sicherheitsunternehmen Strix hat eine Multi-Tenant Autorisierungs-Lücke bei einem Auftragnehmer des US-Verteidigungsministeriums entdeckt. Der Bericht trägt den Titel 'Securing a DoD contractor: Finding a multi-tenant authorization vulnerability'. Diese Entdeckung unterstreicht die universelle Notwendigkeit robuster Sicherheitsprüfungen, besonders in sensiblen Technologieumfeldern.
ZAYA1-8B: Mathe-Meister auf AMD – mit weniger als 1 Mrd. Parametern
Zyphras neues Modell ZAYA1-8B überzeugt auf mathematischen Benchmarks und erreicht die Leistung von DeepSeek-R1. Das Bemerkenswerte daran: Es operiert mit unter einer Milliarde aktiver Parameter, bleibt bei Reasoning mit Claude Sonnet 4.5 wettbewerbsfähig und nähert sich Gemini 2.5 Pro im Coding an. Ein weiterer Durchbruch ist das Training des Modells, welches vollständig auf AMD-Hardware erfolgte und somit eine Abkehr vom de facto NVIDIA-Monopol signalisiert.
Mistral Medium 3.5: Dein Open-Weight-Powerhouse für Coding & AI-Agenten
Mistral präsentiert Medium 3.5, ein 128B Open-Weight-Modell, das Instruction-Following, Reasoning und Coding vereint. Es treibt Mistral Vibe Remote Agents für asynchrones Cloud-Coding und den neuen Work-Modus in Le Chat für komplexe, mehrstufige Aufgaben an. Das Modell ist selbst auf vier GPUs hostbar und für lange Coding- und Produktivitätsaufgaben optimiert.
Amazon investiert 5 Mrd. in Anthropic: 13 Mrd. Gesamt und 100 Mrd. AWS-Deal
Amazon investiert weitere 5 Milliarden Dollar in Anthropic, womit die Gesamtbeteiligung auf 13 Milliarden Dollar steigt. Im Gegenzug verpflichtet sich Anthropic, über die nächsten zehn Jahre 100 Milliarden Dollar auf AWS auszugeben und dabei bis zu 5 GW an Rechenkapazität zu nutzen, speziell für Amazons KI-Chips wie Trainium. Ein strategischer Schachzug, der Anthropic an AWS bindet und Amazons Cloud-Dominanz im KI-Rennen untermauert.
Mistral: 14 Mrd. $ AI-Imperium – erfolgreich, weil nicht US-amerikanisch.
Das französische Unternehmen Mistral hat sich zu einem beeindruckenden $14 Mrd. AI-Imperium entwickelt. Ihr Erfolg wird explizit darauf zurückgeführt, *nicht* amerikanisch zu sein. Dies demonstriert, dass geopolitische Identität und strategische Positionierung im globalen AI-Wettrennen von entscheidender Bedeutung sein können.
Cloudflare Agents: Deine KI-Butler erledigen jetzt Hosting & Domains
Cloudflare hat mit 'Agents' eine neue Ära der Infrastruktur-Automatisierung eingeläutet. Diese intelligenten Entitäten können selbstständig Cloudflare-Accounts erstellen, Domains registrieren und Projekte deployen. Im Grunde sind das deine neuen KI-Butler, die vom Domainkauf bis zum Live-Deployment alles regeln – eine ziemlich coole, aber auch leicht unheimliche Vision von Selbstmanagement für Tech-Projekte.
antirez' ds4: Lokale DeepSeek 4 Flash AI-Inferenz für Metal
GitHub-Nutzer antirez hat das Projekt `ds4` veröffentlicht, eine lokale Inferenz-Engine für DeepSeek 4 Flash. Es wurde für die Ausführung auf Systemen mit Metal-Unterstützung entwickelt. Damit wird DeepSeek 4 Flash direkt auf kompatibler Hardware verfügbar.
Deine KI-Agenten werden asynchron: Der synchrone Chat-Modus ist passé
Deine KI-Agenten entwickeln sich vom synchronen Chat-Partner zum stillen Arbeiter im Hintergrund. Die herkömmliche HTTP/SSE-Transportarchitektur von Chatbots funktioniert nicht mehr, wenn Agenten Aufgaben asynchron und ohne direkte Verbindung ausführen. Stattdessen übernehmen sie Funktionen wie Cronjobs, Webhooks und WhatsApp-Integrationen, um eigenständig Ergebnisse zu liefern, während du dich auf andere Dinge konzentrierst.
Kimi K2.6: Fortschritt für Open-Source-Code und KI-Agenten
Kimi K2.6, das jüngste Open-Source-Modell, liefert State-of-the-Art-Coding, Long-Horizon-Ausführung und Agent Swarm-Fähigkeiten. Es zeigt deutliche Verbesserungen bei komplexen Programmieraufgaben über Sprachen wie Rust und Python hinweg, demonstriert dies unter anderem durch die Bereitstellung von Qwen3.5-0.8B auf Mac und Optimierungen in Zig.
Lokale AI: Robust, privat, eigenständig – Schluss mit Cloud-Abhängigkeit
Der Autor plädiert dafür, dass lokale AI-Lösungen die neue Norm werden müssen. Cloud-basierte AI-Modelle machen Software fragil, datenschutzrechtlich problematisch und abhängig von externen Servern, Netzwerkbedingungen und Abrechnungen. Stattdessen sollten lokale Geräte ihre leistungsstarken Neural Engines nutzen, um Privatsphäre zu wahren und Kosten sowie Komplexität zu reduzieren.
KI-Inferenz: 10% schneller dank cleverem GPU-Cache in SGLang
Multimodale KI-Modelle sind vielversprechend, aber ihre Inferenz-Engines noch nicht optimiert. Modal.com demonstriert, wie SGLang’s Performance um über 10% gesteigert wurde, indem aufwendige Buchhaltung für geteilten GPU-Speicher durch einen einfachen Cache-Lookup im Scheduler ersetzt wurde. Dieser sogenannte 'Handle Cache' führte zu signifikanten Verbesserungen bei Durchsatz und Latenz auf multimodalen Workloads.
AHK: Das Gerüst für anbieterunabhängige Multi-Agenten-Workflows
Das Agent-Harness-Kit (AHK) ist ein neues Gerüst für Multi-Agenten-Workflows, das Entwicklern den schnellen Start ermöglichen soll. Es positioniert sich als anbieterunabhängige Lösung und nimmt die Komplexität aus der Orchestrierung verschiedener KI-Agenten. Ein smarter Ansatz, um nicht im Ökosystem eines einzelnen Providers gefangen zu sein, wenn man auf Agenten-Syteme setzt.
Holos: QEMU/KVM-VMs wie Docker Compose verwalten – ein Game Changer?
Wer QEMU/KVM manuell konfiguriert, weiß, wie mühsam das sein kann. Holos ändert das mit einem cleveren Ansatz: VMs werden jetzt wie Docker Compose-Dateien in YAML definiert, inklusive GPU-Passthrough und Health Checks. Das ist nicht nur eleganter, sondern öffnet auch die Tür für echte Infrastruktur-als-Code-Workflows im VM-Bereich.
AMDs ROCm auf Strix Halo: BIOS- & GRUB-Tweaks für PyTorch-KI
Marco Inacio teilt seine ersten Erfahrungen mit der Einrichtung von AMDs ROCm auf einer Strix Halo APU unter Ubuntu 24.04 LTS. Um PyTorch zum Laufen zu bringen, waren spezifische BIOS-Updates, angepasste Einstellungen für den Shared-Video-Speicher und GRUB-Konfigurationsänderungen erforderlich. Die PyTorch-Installation selbst wurde als "somewhat tricky" beschrieben, konnte aber letztendlich erfolgreich abgeschlossen werden.