Suche
Wasm & Apple Silicon: KI-Turboboost dank Zero-Copy-GPU-Power
Ein cleverer Trick macht KI-Inferenzen auf Apple Silicon blitzschnell: Statt Daten zwischen CPU und GPU zu kopieren, nutzen Entwickler jetzt Apples Unified Memory Architektur direkt aus WebAssembly. Das bedeutet Zero-Copy-Power, die Performance-Engpässe bei ML-Modellen radikal eliminiert und eine neue Ära für effiziente KI-Anwendungen einläutet.
WebGPU-Power: Gemma 4 E2B zeichnet Excalidraw direkt im Browser
Diese neue Demo zeigt, wie Googles Gemma 4 E2B KI direkt im Browser – powered by WebGPU – Text-Prompts in Excalidraw-Zeichnungen verwandelt. Das 3.1 GB große Modell läuft komplett lokal auf dem Desktop (Chrome 134+). Es erzeugt kompakten Code anstelle von umfangreichen JSON-Daten für effiziente Diagramme.
Datalog im GPU-Turbomodus: So wird Logik endlich rasend schnell
Datalog, die oft unterschätzte Sprache für komplexe rekursive Queries, bekommt endlich ihren wohlverdienten Performance-Boost. Eine neue Studie zeigt, wie man Datalog-Programme auf GPUs optimieren kann, um selbst anspruchsvolle Logik-Abfragen massiv zu beschleunigen. Das ist ein Game-Changer für Bereiche wie statische Code-Analyse oder Datenbanken, wo Geschwindigkeit entscheidend ist.
KI-Inferenz: 10% schneller dank cleverem GPU-Cache in SGLang
Multimodale KI-Modelle sind vielversprechend, aber ihre Inferenz-Engines noch nicht optimiert. Modal.com demonstriert, wie SGLang’s Performance um über 10% gesteigert wurde, indem aufwendige Buchhaltung für geteilten GPU-Speicher durch einen einfachen Cache-Lookup im Scheduler ersetzt wurde. Dieser sogenannte 'Handle Cache' führte zu signifikanten Verbesserungen bei Durchsatz und Latenz auf multimodalen Workloads.
Lokale 3D-Power für deinen Mac: TRELLIS.2 läuft nativ auf Apple Silicon
Die Bild-zu-3D-Generierung TRELLIS.2, die bisher oft Cloud-GPU-Farmen brauchte, läuft jetzt blitzschnell und nativ auf Apple Silicon Macs. Das ist eine kleine Revolution für Entwickler und Kreative, die ihre 3D-Modelle direkt auf dem Schreibtisch erzeugen wollen, ohne hohe Cloud-Kosten oder lästige Latenzen. Endlich wird High-End-KI lokal und zugänglich – und das auf einem Device, das viele von uns sowieso schon haben.
Apple's ml-sharp im Browser: Gaussian Splats via ONNX Runtime Web
Ein neues GitHub-Projekt präsentiert ein Web-Playground, das Apples ml-sharp Modell im Browser zum Laufen bringt. Ziel ist die Erstellung von Gaussian Splats direkt im Browser, realisiert mithilfe von ONNX Runtime Web. Damit wird eine spezifische 3D-Rekonstruktions-Technologie von Apple clientseitig zugänglich gemacht.
Swift: Von GFLOP/s zu TFLOP/s für LLM-Training auf Apple Silicon
Ein Entwickler zeigt, wie er die handgeschriebene Matrix-Multiplikation für LLM-Training in Swift auf Apple Silicon von GFLOP/s zu TFLOP/s katapultiert. Dies geschieht explizit ohne Frameworks oder Bibliotheken, um die CPU, SIMD, AMX und GPU direkt zu nutzen. Das Ziel: Swift schneller als die C-Referenzimplementierung llm.c zu optimieren.
Utilyze: Misst, wie nützlich deine GPU-Arbeit wirklich ist
Utilyze ist ein auf GitHub gehostetes Projekt, das laut Titel dazu dient, die Effizienz von GPUs bei der Verrichtung 'nützlicher Arbeit' zu messen. Es zielt darauf ab, Klarheit über die tatsächliche Auslastung und den Output von Grafikkarten zu schaffen.
Googles 8. Gen TPUs: Zwei Chips für die 'Agentic Era'
Google positioniert seine achte Generation TPUs, explizit als 'zwei Chips', für die kommende 'agentic era'. Dies geht aus einem Blogpost auf der offiziellen Google-Seite hervor. Weitere Details zur Performance oder Spezifikationen sind im vorliegenden Auszug nicht enthalten.
3D-Körper aus 8 Fragen: Ohne Foto, ohne GPU zum präzisen Avatar
Ein neues Verfahren generiert mit nur acht Fragen einen präzisen 3D-Körper, ganz ohne Fotos oder leistungsstarke GPUs. Ein kleines MLP verarbeitet die Eingaben in Millisekunden auf einer CPU und gibt 58 Anny-Body-Parameter aus. Dies übertrifft die Genauigkeit von Foto-Pipelines bei Umfängen und löst Datenschutz- sowie Kostenprobleme.
AMDs ROCm auf Strix Halo: BIOS- & GRUB-Tweaks für PyTorch-KI
Marco Inacio teilt seine ersten Erfahrungen mit der Einrichtung von AMDs ROCm auf einer Strix Halo APU unter Ubuntu 24.04 LTS. Um PyTorch zum Laufen zu bringen, waren spezifische BIOS-Updates, angepasste Einstellungen für den Shared-Video-Speicher und GRUB-Konfigurationsänderungen erforderlich. Die PyTorch-Installation selbst wurde als "somewhat tricky" beschrieben, konnte aber letztendlich erfolgreich abgeschlossen werden.
Karpathy's Loop erobert Hardware: KI designt CPU-Architekturen
Vergesst traditionelles Chip-Design! Ein neues Projekt nutzt Karpathy's Idee des iterativen Lernens, um eine KI eigenständig CPU-Architekturen entwerfen und optimieren zu lassen. Statt auf menschliche Expertise setzt man hier auf einen AI-Agenten, der im Simulations-Loop ständig bessere Designs findet. Das ist kein Gimmick, sondern ein faszinierender Proof-of-Concept, der zeigt, wie AI die Hardware-Entwicklung radikal verändern und zu völlig unkonventionellen Lösungen führen könnte.
Intel Arc Pro B70 im Puget Systems Test: Relevant für KI-Workflows?
Puget Systems hat einen Artikel mit dem Titel „Intel Arc Pro B70 Review“ veröffentlicht. Das Unternehmen bietet auch spezialisierte Systeme und Empfehlungen für „AI Development & Deployment“ sowie „Inference Servers for Scaling AI & LLMs“ an. Dieser Kontext macht den Test der Profi-GPU potenziell relevant für die Bewertung von Hardware im KI-Umfeld.
Unsloth & NVIDIA: 25% Boost für dein LLM-Feintuning!
Unsloth und NVIDIA haben ihre Kräfte gebündelt, um das Feintuning von Large Language Models (LLMs) auf NVIDIA GPUs zu optimieren. Durch gezielte Verbesserungen beseitigen sie versteckte Engpässe und erzielen eine kombinierte Beschleunigung der Trainingsgeschwindigkeit um bis zu 25%. Die Optimierungen konzentrieren sich darauf, redundante Buchungsvorgänge zu reduzieren und Kopiervorgänge parallel zur eigentlichen Rechenarbeit ablaufen zu lassen.
GPU-Monitoring wird endlich präziser: Utilyze sticht nvtop aus
Keine Lust mehr auf Rätselraten bei der GPU-Auslastung? Utilyze ist ein neues Open-Source-Tool, das Schluss machen will mit ungenauen Messungen beliebter Tools wie `nvtop`. Es verspricht, deutlich präzisere Daten zu liefern, was nicht nur für KI-Entwickler, sondern für jeden, der seine teuren GPU-Ressourcen effizient nutzen will, ein Game-Changer sein könnte.
Indien subventioniert H100-GPUs: KI-Zukunft für fast nichts?
Indien bietet H100-GPUs über die IndiaAI Mission für unglaubliche 78 Cent pro Stunde an, während Startups, die „indigene foundational models“ entwickeln, diese sogar kostenlos erhalten. Im krassen Gegensatz dazu liegen kommerzielle Preise im Land bei bis zu vier Dollar pro Stunde für dieselbe Hardware. Der Artikel hinterfragt, ob dies eine smarte Industriepolitik ist, die GPUs als öffentliche Güter behandelt, aber gleichzeitig traditionelle Profitberechnungen indischer KI-Startups massiv verzerrt.
Google schärft die Krallen: Neue AI-Chips gegen Nvidias Dominanz
Google hat die nächste Generation seiner Custom-AI-Chips, die Tensor Processing Units (TPUs), vorgestellt, die sowohl fürs Training als auch die Inferenz von KI-Modellen gedacht sind. Damit zielen sie direkt auf Nvidias Marktbeherrschung ab und zeigen Googles Entschlossenheit, seine Abhängigkeit von externen Chip-Herstellern zu reduzieren. Es ist ein klares Signal: Der Kampf um die Vorherrschaft in der KI-Hardware-Landschaft wird immer intensiver.
antirez' ds4: Lokale DeepSeek 4 Flash AI-Inferenz für Metal
GitHub-Nutzer antirez hat das Projekt `ds4` veröffentlicht, eine lokale Inferenz-Engine für DeepSeek 4 Flash. Es wurde für die Ausführung auf Systemen mit Metal-Unterstützung entwickelt. Damit wird DeepSeek 4 Flash direkt auf kompatibler Hardware verfügbar.
Nie mehr ruckelige 3D-Maps: LingBot-Map bringt den KI-Turbo
Vergesst die ruckeligen 3D-Karten, die ihr kennt: LingBot-Map bringt den KI-Turbo für die Echtzeit-Rekonstruktion. Dieses neue System nutzt einen "Geometric Context Transformer", um aus Kameradaten flüssige und kontextreiche 3D-Modelle zu zaubern. Damit wird die Umgebung nicht nur abgebildet, sondern wirklich verstanden – ein Quantensprung für Robotik und AR/VR.
Googles Gemma 4: KI-Power direkt und offline auf dem iPhone
Der Google-KI-Spross Gemma 4 landet überraschend nativ und komplett offline auf dem iPhone – dank des MLX-Frameworks von Apple wird die Smartphone-KI zur Realität. Das ist kein Trick: Volle Inferenz auf dem Gerät bedeutet weg von der Cloud, mehr Privatsphäre und rasend schnelle Reaktionen, die neue App-Erlebnisse ermöglichen könnten. Zwar noch in den Kinderschuhen, zeigt diese Entwicklung, dass das 'iPhone mit Hirn' schneller kommt als gedacht und die Grenzen zwischen lokaler und Cloud-AI verschwimmen.