Suche
DeepSeek-V4 Day-0: SGLang & Miles für schnelle Inferenz & Verified RL
Das SGLang- und Miles-Team liefert Day-0-Unterstützung für DeepSeek-V4, inklusive Inferenz und RL-Training. Ihr Open-Source-Stack ist der erste, der DeepSeek-V4s hybride Sparse-Attention-Architektur am Launch-Tag bedient und trainiert, mit Performance-Optimierungen wie ShadowRadix und HiSparse. Der Stack unterstützt zudem Verified RL, wobei Miles als Backend-Support für das Reinforcement Learning dient.
DS4 & DeepSeek v4 Flash: Tweet-Quelle nicht verfügbar
Ein vielversprechender Titel über 'DS4, eine spezialisierte Inferenz-Engine für DeepSeek v4 Flash' führte ins Leere. Die verknüpfte Twitter-Quelle war aufgrund eines JavaScript-Fehlers nicht ladbar, wodurch der Inhalt und die genannten Details nicht verifiziert werden konnten. Eine fundierte Bewertung des vermeintlichen Durchbruchs bleibt daher leider aus.
KI-Inferenz: 10% schneller dank cleverem GPU-Cache in SGLang
Multimodale KI-Modelle sind vielversprechend, aber ihre Inferenz-Engines noch nicht optimiert. Modal.com demonstriert, wie SGLang’s Performance um über 10% gesteigert wurde, indem aufwendige Buchhaltung für geteilten GPU-Speicher durch einen einfachen Cache-Lookup im Scheduler ersetzt wurde. Dieser sogenannte 'Handle Cache' führte zu signifikanten Verbesserungen bei Durchsatz und Latenz auf multimodalen Workloads.
antirez' ds4: Lokale DeepSeek 4 Flash AI-Inferenz für Metal
GitHub-Nutzer antirez hat das Projekt `ds4` veröffentlicht, eine lokale Inferenz-Engine für DeepSeek 4 Flash. Es wurde für die Ausführung auf Systemen mit Metal-Unterstützung entwickelt. Damit wird DeepSeek 4 Flash direkt auf kompatibler Hardware verfügbar.
Constraint-Solver: Z3 macht komplexe Logik (wirklich) einfach
Dieser Artikel bietet eine 'dumme' Einführung in Z3, einem Constraint-Solver, der komplexe Probleme in handhabbare Logik verwandelt. Der Autor, selbst erst seit zwei Tagen mit Z3 vertraut, zeigt anhand von einfachen Beispielen wie Gleichungen und Sudoku, wie man Regeln festlegt und das Tool die Lösung findet. Es geht dabei nicht um maximale Performance, sondern darum, Regelsysteme spielend leicht anzupassen und zu lösen.
3D-Körper aus 8 Fragen: Ohne Foto, ohne GPU zum präzisen Avatar
Ein neues Verfahren generiert mit nur acht Fragen einen präzisen 3D-Körper, ganz ohne Fotos oder leistungsstarke GPUs. Ein kleines MLP verarbeitet die Eingaben in Millisekunden auf einer CPU und gibt 58 Anny-Body-Parameter aus. Dies übertrifft die Genauigkeit von Foto-Pipelines bei Umfängen und löst Datenschutz- sowie Kostenprobleme.
Lokal AI siegt: Qwen 3.6 auf dem Laptop schlägt Claude Opus beim Pelikan-Malen
Wer braucht teure Cloud-Giganten, wenn ein lokales AI-Modell wie Qwen 3.6-35B-A3B auf dem eigenen Laptop bessere Arbeit leistet? Simon Willison hat genau das bewiesen, als Qwen seinen Pelikan überzeugender zu Papier brachte als der vermeintlich überlegene Claude Opus 4.7. Das stellt die altbekannte Gleichung 'größer = besser' gehörig auf den Kopf und zeigt das Potenzial von effizienten, dezentralen AI-Lösungen.
Qwen/Qwen3.6-27B: Mysteriöser Code-Eintrag auf Hugging Face
Ein neuer Eintrag für `Qwen/Qwen3.6-27B` ist auf Hugging Face verfügbar. Die Quelle liefert ausschließlich Template-Code zur Verarbeitung multimodaler Inputs und Tool-Calls. Dies deutet auf eine komplexe Systemarchitektur hin, lässt aber detaillierte Informationen zum eigentlichen AI-Modell komplett vermissen.
Hae-OLS: LLM-Gedächtnis-Booster für schlanken Cache, mehr Kontext
LLMs kämpfen mit langen Kontexten, weil ihr KV-Cache massiv RAM frisst. 'Hae-OLS' bietet eine Lösung: Es fasst den Cache mit hoher Präzision zusammen, indem es wichtige Tokens via Entropie erkennt und den Rest effizient mittels Low-Rank-Rekonstruktion verarbeitet. Das Ergebnis? Längere Kontexte mit weniger Speicherbedarf, ohne Leistungseinbußen – ein smarter Move für jeden LLM-Einsatz.
Qwen3.6-Max-Preview: Smarter, schärfer, noch in Entwicklung
Qwen stellt mit der Qwen3.6-Max-Preview eine neue Version vor, die laut Titel „smarter, schärfer und noch in Entwicklung“ ist. Diese Vorschau deutet auf potenzielle Verbesserungen hin. Der Zusatz „still evolving“ mahnt jedoch zur Geduld, bis das volle Ausmaß der Neuerungen von Qwen sichtbar wird.
DeepSeek v4: OpenAI-kompatible API für neue AI-Modelle verfügbar
DeepSeek hat eine API für seine Modelle deepseek-v4-flash und deepseek-v4-pro vorgestellt. Diese API ist bemerkenswerterweise mit den Formaten von OpenAI und Anthropic kompatibel, was eine nahtlose Integration in bestehende Entwicklungs-Workflows erlaubt. Die detaillierte Dokumentation bietet Code-Beispiele und erleichtert den schnellen Einstieg in die Nutzung.
Qwen3.6-35B-A3B: Agentic Coding Power jetzt für alle
Qwen.ai stellt Qwen3.6-35B-A3B vor, ein neues Modell, das für „Agentic Coding Power“ konzipiert wurde. Dieses Modell, benannt mit der Angabe von 35 Milliarden Parametern, ist ab sofort für alle zugänglich.
Flow Maps: Der Integral-Boost für schnelle Diffusion
Diffusion Models sampeln iterativ, indem ein Denoiser die Tangentenrichtung eines Pfades schätzt und kleine Schritte entlang dieses Pfades macht, was effektiv einem Integral entspricht. Sander Dieleman schlägt vor, neuronale Netze zu trainieren, die dieses Integral direkt vorhersagen, was zu sogenannten 'Flow Maps' führt. Diese können jeden Punkt auf einem Pfad von jedem anderen Punkt auf demselben Pfad vorhersagen und ermöglichen schnelleres Sampling sowie effizienteres belohnungsbasiertes Lernen und bessere Sampling-Steuerbarkeit.
Apple's ml-sharp im Browser: Gaussian Splats via ONNX Runtime Web
Ein neues GitHub-Projekt präsentiert ein Web-Playground, das Apples ml-sharp Modell im Browser zum Laufen bringt. Ziel ist die Erstellung von Gaussian Splats direkt im Browser, realisiert mithilfe von ONNX Runtime Web. Damit wird eine spezifische 3D-Rekonstruktions-Technologie von Apple clientseitig zugänglich gemacht.
Gemini API: Deine Dateien sind jetzt multimedial durchsuchbar. RAG-Power-Up!
Google hat die Gemini API kräftig aufgebohrt: Die „File Search“ Funktion ist jetzt multimodal. Das bedeutet, Entwickler können ihre RAG-Anwendungen nicht mehr nur mit Text, sondern auch mit Bildern und Videos füttern. Stell dir vor, du kannst PDFs, Word-Dokumente, Bilder und sogar Videos direkt in deine AI-Prompts einbinden und Gemini darauf „denken“ lassen – das ist ein großer Schritt, um AI-Anwendungen noch vielseitiger und leistungsfähiger zu machen.
LLM-KVCache: Cross-Datacenter-Serving wird greifbar, aber komplex
Prefill-decode (PD) Disaggregation ist zwar Standard für LLM-Serving, doch die flexible Verteilung über Datacenter hinweg scheitert bislang am massiven KVCache-Transfer. Obwohl neue Hybrid-Attention-Architekturen den KVCache signifikant verkleinern und Cross-Datacenter-Transport nun denkbar machen, stoßen solche Ansätze auf Herausforderungen wie schwankende Bandbreiten und ungleich verteilte Präfix-Caches. Eine simple Externalisierung des Prefill-Schritts über Datacenter-Grenzen würde ohne weitere Optimierung zu Engpässen und Ineffizienz führen.
Nie mehr ruckelige 3D-Maps: LingBot-Map bringt den KI-Turbo
Vergesst die ruckeligen 3D-Karten, die ihr kennt: LingBot-Map bringt den KI-Turbo für die Echtzeit-Rekonstruktion. Dieses neue System nutzt einen "Geometric Context Transformer", um aus Kameradaten flüssige und kontextreiche 3D-Modelle zu zaubern. Damit wird die Umgebung nicht nur abgebildet, sondern wirklich verstanden – ein Quantensprung für Robotik und AR/VR.
Game-Changer: Gaussian Splats bringen Fotorealismus ins Spiel
Gaussian Splatting ist die neue Wunderwaffe für fotorealistische 3D-Szenen aus Fotos, doch bisher blieben die beeindruckenden Ergebnisse statisch. Jetzt hat PlayCanvas demonstriert, wie man diese „Splats“ in vollwertige, interaktive Videospiel-Umgebungen verwandelt – inklusive Bewegung, Kollision und Game-Logik. Das katapultiert uns vom passiven Betrachter zum aktiven Spieler in gescannten Realwelten und könnte die Content-Erstellung für Gaming und VR/AR revolutionieren.
LLM-Wartezeiten nerven? Mach das Warten zum Spiel für deine User!
Warten auf LLM-Antworten kann frustrierend sein. Dieses Open-Source-Projekt auf GitHub schlägt vor, Nutzern währenddessen ein Spiel anzubieten. Eine clevere Idee, um Wartezeiten in unterhaltsame Momente zu verwandeln und die User Experience zu optimieren.
Können LLMs reale Systeme in TLA+ modellieren?
Das Specula-Team untersuchte, ob LLMs reale Systeme präzise in TLA+ modellieren können. Ein Versuch mit Claude zeigte: Die erzeugte TLA+-Spezifikation für Etcd war syntaktisch korrekt und bestand den Model-Check, rekapitulierte aber die Spezifikation des Raft-Papers, statt Etcd-spezifische Details abzubilden. Dies wirft die kritische Frage auf, wie man feststellt, ob eine KI ein System tatsächlich modelliert oder nur Trainingsdaten wiedergibt.