Suche
Darkbloom: Macs als private KI-Power – und die Cloud schaut in die Röhre?
Darkbloom verwandelt ungenutzte Apple Silicon Macs in eine dezentrale KI-Inferenz-Farm. Das Clou: Statt sensible Daten in die Cloud zu schicken, kommen die KI-Modelle zum Mac, rechnen lokal und garantieren so maximale Privatsphäre. Ein cleverer Schachzug, der das Potenzial von Heim-Hardware neu definiert und nebenbei vielleicht die Taschen der Mac-User füllt.
MacMind: Transformer-KI läuft auf einem Mac von 1989
Vergessen Sie Nvidia-Cluster: SeanFDZ hat 'MacMind' gebaut, ein Transformer Neural Network – und zwar auf einem Macintosh von 1989 mit HyperCard. Ja, Sie haben richtig gehört. Dieses irre Projekt zeigt nicht nur, was mit Genialität auch auf uralter Hardware möglich ist, sondern entlarvt auch die oft überzogene Hardware-Hysterie im modernen KI-Zeitalter. Es ist ein faszinierendes Experiment, das die fundamentalen Prinzipien der KI jenseits von purem Rechenwahn beleuchtet.
Lokale 3D-Power für deinen Mac: TRELLIS.2 läuft nativ auf Apple Silicon
Die Bild-zu-3D-Generierung TRELLIS.2, die bisher oft Cloud-GPU-Farmen brauchte, läuft jetzt blitzschnell und nativ auf Apple Silicon Macs. Das ist eine kleine Revolution für Entwickler und Kreative, die ihre 3D-Modelle direkt auf dem Schreibtisch erzeugen wollen, ohne hohe Cloud-Kosten oder lästige Latenzen. Endlich wird High-End-KI lokal und zugänglich – und das auf einem Device, das viele von uns sowieso schon haben.
Google Gemini App jetzt für Mac OS verfügbar
Googles Gemini App ist ab sofort für Mac OS erhältlich. Die Verfügbarkeit wurde auf dem offiziellen Google-Blog 'The Keyword' angekündigt.
Bio-IT im Eigenheim: DNA-Sequenzierung mit DGX Spark & Mac Studio
Die Tage, in denen DNA-Sequenzierung ausschließlich Großlaboren vorbehalten war, könnten gezählt sein. Ein Enthusiast demonstriert, wie man mit einer Kombination aus leistungsstarker NVIDIA DGX-Technologie (DGX Spark) und einem Mac Studio komplexe Bio-IT-Aufgaben direkt zu Hause löst. Das unterstreicht eindrucksvoll die zunehmende Demokratisierung von Hochleistungsrechnen für wissenschaftliche Zwecke und das enorme Potenzial für Citizen Science und personalisierte Medizin.
Wasm & Apple Silicon: KI-Turboboost dank Zero-Copy-GPU-Power
Ein cleverer Trick macht KI-Inferenzen auf Apple Silicon blitzschnell: Statt Daten zwischen CPU und GPU zu kopieren, nutzen Entwickler jetzt Apples Unified Memory Architektur direkt aus WebAssembly. Das bedeutet Zero-Copy-Power, die Performance-Engpässe bei ML-Modellen radikal eliminiert und eine neue Ära für effiziente KI-Anwendungen einläutet.
Karpathy's Loop erobert Hardware: KI designt CPU-Architekturen
Vergesst traditionelles Chip-Design! Ein neues Projekt nutzt Karpathy's Idee des iterativen Lernens, um eine KI eigenständig CPU-Architekturen entwerfen und optimieren zu lassen. Statt auf menschliche Expertise setzt man hier auf einen AI-Agenten, der im Simulations-Loop ständig bessere Designs findet. Das ist kein Gimmick, sondern ein faszinierender Proof-of-Concept, der zeigt, wie AI die Hardware-Entwicklung radikal verändern und zu völlig unkonventionellen Lösungen führen könnte.
Lokal-LLMs im Flieger: MacBook M5 Max stemmt 10 Stunden offline
Ein Autor hat auf einem 10-Stunden-Flug getestet, wie leistungsfähig lokale LLMs wie Gemma 4 31B und Qwen 4.6 36B auf einem MacBook Pro M5 Max mit 128GB sind. Über LM Studio generierte er ein komplexes Billing-Tool und verarbeitete Millionen von Tokens, wobei die Qualität für spezifische Aufgaben mit Frontier-Modellen mithalten konnte. Grenzen zeigten sich bei Akkulaufzeit (1% pro Minute), Hitze und Context-Länge (Abbau nach 100k Tokens), was aber die beeindruckende Offline-Performance nicht schmälert.
Apple's ml-sharp im Browser: Gaussian Splats via ONNX Runtime Web
Ein neues GitHub-Projekt präsentiert ein Web-Playground, das Apples ml-sharp Modell im Browser zum Laufen bringt. Ziel ist die Erstellung von Gaussian Splats direkt im Browser, realisiert mithilfe von ONNX Runtime Web. Damit wird eine spezifische 3D-Rekonstruktions-Technologie von Apple clientseitig zugänglich gemacht.
Claude Code: Hardware-Validierung mit Oszilloskop & SPICE-Simulator
Ein Entwickler demonstriert, wie Claude Code für die Hardware-Entwicklung genutzt werden kann, indem es direkten Zugang zu einem SPICE-Simulator und Oszilloskop erhält. Diese Integration ermöglicht es der KI, SPICE-Schaltungen zu validieren, Embedded-Programmierung zu unterstützen und Datenanalyse zu optimieren, indem sie indirekt mit Messdaten interagiert. Der Ansatz ist laut Autor besonders wertvoll und skalierbar für komplexe Projekte, da Claude schnelles Feedback nutzt.
Apple & Claude? Ein unbeabsichtigter Blick hinter die AI-Kulissen.
Apple hat in einer Beta-Version seiner Support-App versehentlich Dateien hinterlassen, die auf eine Integration oder zumindest Evaluation von Anthropic's KI-Modell Claude hindeuten. Das ist ein pikantes Detail, da Apple eigentlich auf seine eigene „Apple Intelligence“ setzt und diesen Vorfall wohl lieber unter Verschluss gehalten hätte. Es zeigt, wie tief Tech-Riesen im Wettlauf um KI auch auf Dritthersteller schielen, selbst wenn sie eigene Lösungen entwickeln.
Swift: Von GFLOP/s zu TFLOP/s für LLM-Training auf Apple Silicon
Ein Entwickler zeigt, wie er die handgeschriebene Matrix-Multiplikation für LLM-Training in Swift auf Apple Silicon von GFLOP/s zu TFLOP/s katapultiert. Dies geschieht explizit ohne Frameworks oder Bibliotheken, um die CPU, SIMD, AMX und GPU direkt zu nutzen. Das Ziel: Swift schneller als die C-Referenzimplementierung llm.c zu optimieren.
KI-Hardware-Hack: OpenAIs Codex knackt Samsung TV zu Root
Forschende haben OpenAIs Codex-Modell genutzt, um von einer Browser-Shell auf einem Samsung Smart TV Root-Rechte zu erlangen. Dem KI-Modell wurde der passende Firmware-Quellcode zur Verfügung gestellt, woraufhin es ein Physical-Memory-Primitive validierte und so erfolgreich Root-Zugriff auf dem realen Gerät erreichte. Dies demonstriert eindrucksvoll, wie KI-Systeme komplexe Hardware-Hacks selbstständig durchführen können.
AutoProber: Automatisierter Stack für Hardware-Hacking
GainSecs AutoProber ist ein wegweisender Automatisierungs-Stack für Hardware-Hacker. Er ermöglicht agenten-gesteuerte Zielerkennung, Mikroskop-Kartierung und sicherheitsüberwachte CNC-Bewegung. Diese Lösung automatisiert präzise Sondenprüfung und kontrolliertes Pin-Probing, was die Hardware-Analyse neu definiert.
KI-Goldrausch: Mainboard-Verkäufe crashen um 25%, PC-Markt am Limit
Der PC-Markt erlebt gerade einen massiven Kater: Die Verkäufe von Mainboards sind um über 25% eingebrochen, da Chiphersteller ihre Kapazitäten lieber für den lukrativen KI-Sektor reservieren. Dieser ungleiche Tausch bedeutet für PC-Enthusiasten und Hersteller wie ASUS, Gigabyte und MSI längere Wartezeiten und weniger Auswahl, während der KI-Goldrausch unaufhaltsam weitergeht.
Googles Gemma 4: KI-Power direkt und offline auf dem iPhone
Der Google-KI-Spross Gemma 4 landet überraschend nativ und komplett offline auf dem iPhone – dank des MLX-Frameworks von Apple wird die Smartphone-KI zur Realität. Das ist kein Trick: Volle Inferenz auf dem Gerät bedeutet weg von der Cloud, mehr Privatsphäre und rasend schnelle Reaktionen, die neue App-Erlebnisse ermöglichen könnten. Zwar noch in den Kinderschuhen, zeigt diese Entwicklung, dass das 'iPhone mit Hirn' schneller kommt als gedacht und die Grenzen zwischen lokaler und Cloud-AI verschwimmen.
Google schärft die Krallen: Neue AI-Chips gegen Nvidias Dominanz
Google hat die nächste Generation seiner Custom-AI-Chips, die Tensor Processing Units (TPUs), vorgestellt, die sowohl fürs Training als auch die Inferenz von KI-Modellen gedacht sind. Damit zielen sie direkt auf Nvidias Marktbeherrschung ab und zeigen Googles Entschlossenheit, seine Abhängigkeit von externen Chip-Herstellern zu reduzieren. Es ist ein klares Signal: Der Kampf um die Vorherrschaft in der KI-Hardware-Landschaft wird immer intensiver.
M4 & lokale KI: Der Kampf um unabhängige Inference – ein Erfahrungsbericht
Lokale KI-Modelle auf einem M4-Chip mit 24GB Speicher zum Laufen zu bringen, ist kein Kinderspiel, aber machbar. Der Autor hat nach intensiven Tests eine stabile Konfiguration gefunden: Qwen 3.5-9B (4b quant) läuft über LM Studio mit respektablen 40 Tokens/Sekunde und 128K Kontextfenster. Damit ist eine spannende Unabhängigkeit von großen Cloud-Anbietern für grundlegende Aufgaben möglich, wenn auch nicht auf SOTA-Niveau.
Intel Arc Pro B70 im Puget Systems Test: Relevant für KI-Workflows?
Puget Systems hat einen Artikel mit dem Titel „Intel Arc Pro B70 Review“ veröffentlicht. Das Unternehmen bietet auch spezialisierte Systeme und Empfehlungen für „AI Development & Deployment“ sowie „Inference Servers for Scaling AI & LLMs“ an. Dieser Kontext macht den Test der Profi-GPU potenziell relevant für die Bewertung von Hardware im KI-Umfeld.
AMDs ROCm auf Strix Halo: BIOS- & GRUB-Tweaks für PyTorch-KI
Marco Inacio teilt seine ersten Erfahrungen mit der Einrichtung von AMDs ROCm auf einer Strix Halo APU unter Ubuntu 24.04 LTS. Um PyTorch zum Laufen zu bringen, waren spezifische BIOS-Updates, angepasste Einstellungen für den Shared-Video-Speicher und GRUB-Konfigurationsänderungen erforderlich. Die PyTorch-Installation selbst wurde als "somewhat tricky" beschrieben, konnte aber letztendlich erfolgreich abgeschlossen werden.