Suche
MacMind: Transformer-KI läuft auf einem Mac von 1989
Vergessen Sie Nvidia-Cluster: SeanFDZ hat 'MacMind' gebaut, ein Transformer Neural Network – und zwar auf einem Macintosh von 1989 mit HyperCard. Ja, Sie haben richtig gehört. Dieses irre Projekt zeigt nicht nur, was mit Genialität auch auf uralter Hardware möglich ist, sondern entlarvt auch die oft überzogene Hardware-Hysterie im modernen KI-Zeitalter. Es ist ein faszinierendes Experiment, das die fundamentalen Prinzipien der KI jenseits von purem Rechenwahn beleuchtet.
Lambench: Der Lambda-Kalkül als Härtetest für moderne KI.
Vergessen Sie FLOPs oder bloße Textgenerierung: `lambench` ist ein brandneuer Benchmark, der die wahren Denkfähigkeiten von KI-Modellen auf die Probe stellt. Statt auf statistisches Pattern-Matching setzt dieser auf den Lambda-Kalkül, die Urform der Funktionsprogrammierung, um zu sehen, ob eine KI wirklich logisch schlussfolgern, Programme synthetisieren und komplexe Aufgaben lösen kann. Kurz gesagt: Ein Reality-Check, der zeigt, ob unsere 'intelligenten' Modelle mehr sind als nur veredelte Papageien – eine willkommene Ergänzung im Benchmark-Dschungel.
Loopsy: Wenn dein Terminal mit Remote-KIs spricht – smart & vernetzt
Loopsy, ein cleveres Open-Source-Tool, schlägt eine Brücke, damit lokale Terminals direkt mit AI-Agenten auf entfernten Maschinen sprechen können. Klingt unspektakulär, ist aber ein kleiner, wichtiger Baustein für eine nahtlose KI-Integration in verteilte Systeme und Workflows, weitab vom Hype. Es ebnet den Weg für mehr Automatisierung und Interaktion jenseits des eigenen Desktops.
Karpathy's Loop erobert Hardware: KI designt CPU-Architekturen
Vergesst traditionelles Chip-Design! Ein neues Projekt nutzt Karpathy's Idee des iterativen Lernens, um eine KI eigenständig CPU-Architekturen entwerfen und optimieren zu lassen. Statt auf menschliche Expertise setzt man hier auf einen AI-Agenten, der im Simulations-Loop ständig bessere Designs findet. Das ist kein Gimmick, sondern ein faszinierender Proof-of-Concept, der zeigt, wie AI die Hardware-Entwicklung radikal verändern und zu völlig unkonventionellen Lösungen führen könnte.
Datalog im GPU-Turbomodus: So wird Logik endlich rasend schnell
Datalog, die oft unterschätzte Sprache für komplexe rekursive Queries, bekommt endlich ihren wohlverdienten Performance-Boost. Eine neue Studie zeigt, wie man Datalog-Programme auf GPUs optimieren kann, um selbst anspruchsvolle Logik-Abfragen massiv zu beschleunigen. Das ist ein Game-Changer für Bereiche wie statische Code-Analyse oder Datenbanken, wo Geschwindigkeit entscheidend ist.
Claude als IP-Stack: Wie weit lässt sich KI für Netzwerk-Logic pushen?
In einem faszinierenden Experiment treibt Adam Dunkels die Idee, dass Markdown Code ist, auf die Spitze: Er instruiert Claude Code, als User-Space IP-Stack auf Pings zu antworten. Die LLM soll IP-Pakete byte für byte parsen und replizieren, ein Ansatz, den Dunkels selbst als 'ridikulös' und 'tokenverschwenderisch', aber auch 'lustig' beschreibt. Das generierte Skript zur Paketverarbeitung sieht einen 35-Sekunden-Timeout für das Lesen eines Pakets vor, was die theoretische Natur dieses tiefgreifenden LLM-Einsatzes unterstreicht.
Lokal-LLMs im Flieger: MacBook M5 Max stemmt 10 Stunden offline
Ein Autor hat auf einem 10-Stunden-Flug getestet, wie leistungsfähig lokale LLMs wie Gemma 4 31B und Qwen 4.6 36B auf einem MacBook Pro M5 Max mit 128GB sind. Über LM Studio generierte er ein komplexes Billing-Tool und verarbeitete Millionen von Tokens, wobei die Qualität für spezifische Aufgaben mit Frontier-Modellen mithalten konnte. Grenzen zeigten sich bei Akkulaufzeit (1% pro Minute), Hitze und Context-Länge (Abbau nach 100k Tokens), was aber die beeindruckende Offline-Performance nicht schmälert.
KI-Agenten: Die naive Annahme der gehorsamen Maschine
Die Diskussion um autonome KI-Agenten übersieht oft eine fundamentale historische Wahrheit: Für lange Zeit gingen wir davon aus, dass Maschinen, von PCs bis zu Werkzeugen, exakt das tun, was man ihnen sagt – ohne eigene 'Agency'. Der mnot.net-Artikel betont, wie tief diese Annahme lokaler, gehorsamer Ausführung unsere Interaktion mit Technologie prägte und nur 'Malware' davon abwich. Wer die 'Agentic AI' verstehen will, muss diese tiefe Verwurzelung der Maschine als bloßes, gehorsames Werkzeug neu bewerten.
antirez' ds4: Lokale DeepSeek 4 Flash AI-Inferenz für Metal
GitHub-Nutzer antirez hat das Projekt `ds4` veröffentlicht, eine lokale Inferenz-Engine für DeepSeek 4 Flash. Es wurde für die Ausführung auf Systemen mit Metal-Unterstützung entwickelt. Damit wird DeepSeek 4 Flash direkt auf kompatibler Hardware verfügbar.
Wasm & Apple Silicon: KI-Turboboost dank Zero-Copy-GPU-Power
Ein cleverer Trick macht KI-Inferenzen auf Apple Silicon blitzschnell: Statt Daten zwischen CPU und GPU zu kopieren, nutzen Entwickler jetzt Apples Unified Memory Architektur direkt aus WebAssembly. Das bedeutet Zero-Copy-Power, die Performance-Engpässe bei ML-Modellen radikal eliminiert und eine neue Ära für effiziente KI-Anwendungen einläutet.
LLMs: Schluss mit Typen-Chaos nach der Generierung?
Large Language Models erzeugen zunehmend Code für Sprachen wie Idris oder Lean. Aktuell produzieren sie jedoch untypisierte Token-Listen, deren Typsicherheit erst nachträglich und ad-hoc geprüft wird. Der Artikel hinterfragt diese "Post-Training"-Methoden und schlägt vor, LLMs von Grund auf für die direkte Erzeugung typisierter Ausgaben zu trainieren.
LLMs jagen Bugs: Kernel-Devs schmeißen alte Code-Last ab
Große Sprachmodelle (LLMs) generieren eine Flut von Sicherheitsberichten für den Linux-Kernel, was die Entwickler zunehmend überfordert. Um diese Meldungsflut für oft ungenutzten oder unzureichend gewarteten Code zu bewältigen und ihre "Sanity zu schützen", entfernen Kernel-Entwickler nun gezielt ganze Subsysteme wie ISA-Ethernet-Treiber und das Amateurfunk-Protokoll AX.25. Dies ist eine direkte, defensive Reaktion auf die neue Herausforderung durch AI-generierte Bugs.
Swift: Von GFLOP/s zu TFLOP/s für LLM-Training auf Apple Silicon
Ein Entwickler zeigt, wie er die handgeschriebene Matrix-Multiplikation für LLM-Training in Swift auf Apple Silicon von GFLOP/s zu TFLOP/s katapultiert. Dies geschieht explizit ohne Frameworks oder Bibliotheken, um die CPU, SIMD, AMX und GPU direkt zu nutzen. Das Ziel: Swift schneller als die C-Referenzimplementierung llm.c zu optimieren.
Adieu, Flakey-Bots! Libretto macht AI-Browser-Automationen deterministisch
KI-gesteuerte Browser-Automationen sind oft ein Albtraum: Eine kleine UI-Änderung und schon fällt der Bot flach. Libretto verspricht, diesem Trauerspiel ein Ende zu bereiten, indem es diese Automatisierungen deterministisch macht – sprich, zuverlässig und reproduzierbar. Das ist kein kleines Update, sondern ein Segen für alle, die produktive, stabile Web-Bots bauen wollen.
Darkbloom: Macs als private KI-Power – und die Cloud schaut in die Röhre?
Darkbloom verwandelt ungenutzte Apple Silicon Macs in eine dezentrale KI-Inferenz-Farm. Das Clou: Statt sensible Daten in die Cloud zu schicken, kommen die KI-Modelle zum Mac, rechnen lokal und garantieren so maximale Privatsphäre. Ein cleverer Schachzug, der das Potenzial von Heim-Hardware neu definiert und nebenbei vielleicht die Taschen der Mac-User füllt.
Vera: Die Programmiersprache, von KI-Modellen geschrieben
Vera ist eine Programmiersprache, die explizit dafür entwickelt wurde, von KI-Modellen geschrieben zu werden. Dieser Ansatz dreht die traditionelle Softwareentwicklung um und macht maschinelle Code-Erzeugung zum primären Designziel.
M4 & lokale KI: Der Kampf um unabhängige Inference – ein Erfahrungsbericht
Lokale KI-Modelle auf einem M4-Chip mit 24GB Speicher zum Laufen zu bringen, ist kein Kinderspiel, aber machbar. Der Autor hat nach intensiven Tests eine stabile Konfiguration gefunden: Qwen 3.5-9B (4b quant) läuft über LM Studio mit respektablen 40 Tokens/Sekunde und 128K Kontextfenster. Damit ist eine spannende Unabhängigkeit von großen Cloud-Anbietern für grundlegende Aufgaben möglich, wenn auch nicht auf SOTA-Niveau.
AI fürs Code-Chaos: 10 Subagenten navigieren 500K Zeilen Clojure
Metabase stand vor dem Berg einer 500.000 Zeilen Clojure-Codebasis – ein Albtraum für jede Wartung. Statt auf eine Generalisten-KI zu setzen, bauten sie zehn spezialisierte Subagenten, die sich das Monstrum Stück für Stück vorknöpfen. Das zeigt eindrucksvoll: Smarte AI-Architektur schlägt rohe Rechenkraft, wenn es darum geht, komplexe Tech-Probleme zu lösen.
KI-Inferenz: 10% schneller dank cleverem GPU-Cache in SGLang
Multimodale KI-Modelle sind vielversprechend, aber ihre Inferenz-Engines noch nicht optimiert. Modal.com demonstriert, wie SGLang’s Performance um über 10% gesteigert wurde, indem aufwendige Buchhaltung für geteilten GPU-Speicher durch einen einfachen Cache-Lookup im Scheduler ersetzt wurde. Dieser sogenannte 'Handle Cache' führte zu signifikanten Verbesserungen bei Durchsatz und Latenz auf multimodalen Workloads.
Lokale 3D-Power für deinen Mac: TRELLIS.2 läuft nativ auf Apple Silicon
Die Bild-zu-3D-Generierung TRELLIS.2, die bisher oft Cloud-GPU-Farmen brauchte, läuft jetzt blitzschnell und nativ auf Apple Silicon Macs. Das ist eine kleine Revolution für Entwickler und Kreative, die ihre 3D-Modelle direkt auf dem Schreibtisch erzeugen wollen, ohne hohe Cloud-Kosten oder lästige Latenzen. Endlich wird High-End-KI lokal und zugänglich – und das auf einem Device, das viele von uns sowieso schon haben.