Suche
M4 & lokale KI: Der Kampf um unabhängige Inference – ein Erfahrungsbericht
Lokale KI-Modelle auf einem M4-Chip mit 24GB Speicher zum Laufen zu bringen, ist kein Kinderspiel, aber machbar. Der Autor hat nach intensiven Tests eine stabile Konfiguration gefunden: Qwen 3.5-9B (4b quant) läuft über LM Studio mit respektablen 40 Tokens/Sekunde und 128K Kontextfenster. Damit ist eine spannende Unabhängigkeit von großen Cloud-Anbietern für grundlegende Aufgaben möglich, wenn auch nicht auf SOTA-Niveau.
Claude als IP-Stack: Wie weit lässt sich KI für Netzwerk-Logic pushen?
In einem faszinierenden Experiment treibt Adam Dunkels die Idee, dass Markdown Code ist, auf die Spitze: Er instruiert Claude Code, als User-Space IP-Stack auf Pings zu antworten. Die LLM soll IP-Pakete byte für byte parsen und replizieren, ein Ansatz, den Dunkels selbst als 'ridikulös' und 'tokenverschwenderisch', aber auch 'lustig' beschreibt. Das generierte Skript zur Paketverarbeitung sieht einen 35-Sekunden-Timeout für das Lesen eines Pakets vor, was die theoretische Natur dieses tiefgreifenden LLM-Einsatzes unterstreicht.
DS4 & DeepSeek v4 Flash: Tweet-Quelle nicht verfügbar
Ein vielversprechender Titel über 'DS4, eine spezialisierte Inferenz-Engine für DeepSeek v4 Flash' führte ins Leere. Die verknüpfte Twitter-Quelle war aufgrund eines JavaScript-Fehlers nicht ladbar, wodurch der Inhalt und die genannten Details nicht verifiziert werden konnten. Eine fundierte Bewertung des vermeintlichen Durchbruchs bleibt daher leider aus.
KI-Hardware-Hack: OpenAIs Codex knackt Samsung TV zu Root
Forschende haben OpenAIs Codex-Modell genutzt, um von einer Browser-Shell auf einem Samsung Smart TV Root-Rechte zu erlangen. Dem KI-Modell wurde der passende Firmware-Quellcode zur Verfügung gestellt, woraufhin es ein Physical-Memory-Primitive validierte und so erfolgreich Root-Zugriff auf dem realen Gerät erreichte. Dies demonstriert eindrucksvoll, wie KI-Systeme komplexe Hardware-Hacks selbstständig durchführen können.
Broccoli: KI-Coding-Agent für fertige PRs aus Linear-Tickets
Broccoli präsentiert sich als 'one-shot' KI-Coding-Agent, der nahtlos Linear-Tickets in fertige Pull Requests verwandelt. Betrieben durch Claude und Codex, läuft dieser Helfer auf der eigenen Google Cloud und verspricht, den Entwickler-Workflow massiv zu beschleunigen. Eine echte Abkürzung für alle, die schneller vom Ticket zum Code wollen, statt sich im Klein-Klein zu verlieren.
Lokal-LLMs im Flieger: MacBook M5 Max stemmt 10 Stunden offline
Ein Autor hat auf einem 10-Stunden-Flug getestet, wie leistungsfähig lokale LLMs wie Gemma 4 31B und Qwen 4.6 36B auf einem MacBook Pro M5 Max mit 128GB sind. Über LM Studio generierte er ein komplexes Billing-Tool und verarbeitete Millionen von Tokens, wobei die Qualität für spezifische Aufgaben mit Frontier-Modellen mithalten konnte. Grenzen zeigten sich bei Akkulaufzeit (1% pro Minute), Hitze und Context-Länge (Abbau nach 100k Tokens), was aber die beeindruckende Offline-Performance nicht schmälert.
Kampala: Reverse Engineering – Apps zu APIs via Traffic-Intercept
Kampala ist ein MITM-Proxy, der das Reverse Engineering von Web-, Mobile- und Desktop-Apps ermöglicht. Es fängt HTTP/S-Traffic ab, tracet Authentifizierungsketten und kann Abläufe als stabile Automatisierungen oder APIs für interne Systeme wiedergeben. So werden bestehende Arbeitsabläufe programmierbar.
KI im Praxistest: 27.000 Anläufe, null Verlässlichkeit bei Kohlenhydraten
Ein Experiment zeigte, dass führende KI-Modelle (OpenAI GPT-5.4, Claude Sonnet 4.6, Google Gemini 2.5 Pro, Google Gemini 3.1 Pro Preview) auch nach 27.000 Versuchen keine konsistenten Kohlenhydrat-Schätzungen für dieselben Lebensmittel lieferten. Die hochgradig variablen Antworten wären für Diabetiker potenziell gefährlich und unterstreichen die Grenzen aktueller Large Vision Models bei präzisen, realitätsnahen Messungen.
Chrome und KI: Googles Geniestreich frisst 4GB deines Speichers
Googles Chrome rüstet mit KI-Funktionen wie Gemini Nano auf, doch dieser Luxus kommt mit einem Preisschild: Bis zu 4GB deines lokalen Speichers könnten dafür reserviert werden. Das ermöglicht zwar coole On-Device-Features für mehr Geschwindigkeit und Datenschutz, doch gerade auf Laptops mit wenig Platz oder langsamer Internetverbindung ist das ein echter Schluckspecht. Google treibt damit die lokale KI voran, aber die Frage nach der Wahlfreiheit und den Ressourcen wird lauter.
Vergiss die Cloud: Google Gemma bringt Offline-AI aufs iPhone
Google Gemma, die AI von Google, läuft jetzt nativ und komplett offline auf dem iPhone. Das ist ein echtes Statement: Statt auf teure Cloud-Server zu warten, arbeitet AI-Power nun direkt in deiner Hosentasche – und das blitzschnell und datenschutzfreundlich. Für Unternehmen und Entwickler bedeutet dies eine massive Verschiebung hin zu mehr Autonomie und neuen Möglichkeiten für lokale, personalisierte AI-Anwendungen.
Intime Gadgets: Bio-Feedback-Sensoren sammeln dein Privatestes für KI
Eine neue Generation vernetzter Intim-Gadgets mit Bio-Feedback-Sensoren verspricht optimierte Erlebnisse, sammelt dabei aber unbemerkt hochsensible biometrische Daten. Diese Geräte beobachten, messen und zeichnen Reaktionen auf, was die Exportierung intimster Informationen an undurchsichtige Systeme bedeutet. Im Zeitalter der Datensammler wirft dies ernste Fragen zum Schutz der Privatsphäre auf.
ICE plant Smart Glasses für Mobile Fortify: Gesichtserkennung eskaliert
Die US-Einwanderungsbehörde ICE entwickelt eigene Smart Glasses, um ihre Gesichtserkennungs-App 'Mobile Fortify' zu ergänzen. Diese neue Technologie würde es Beamten ermöglichen, Gesichter zu scannen und staatliche Datenbanken abzufragen, um die Staatsbürgerschaft zu verifizieren. Das ist ein weiterer Schritt in der technologischen Eskalation der staatlichen Überwachung, wie in der Quelle beschrieben.
Lokale AI: Robust, privat, eigenständig – Schluss mit Cloud-Abhängigkeit
Der Autor plädiert dafür, dass lokale AI-Lösungen die neue Norm werden müssen. Cloud-basierte AI-Modelle machen Software fragil, datenschutzrechtlich problematisch und abhängig von externen Servern, Netzwerkbedingungen und Abrechnungen. Stattdessen sollten lokale Geräte ihre leistungsstarken Neural Engines nutzen, um Privatsphäre zu wahren und Kosten sowie Komplexität zu reduzieren.
Amateur (23) löst 60-Jahre-Mathe-Rätsel – GPT-5.4 mit neuem Weg
Liam Price, ein 23-jähriger Amateur ohne Mathematik-Ausbildung, hat ein 60 Jahre altes Erdős-Problem gelöst. Er nutzte dafür eine ChatGPT Pro-Subskription (GPT-5.4 Pro), welche auf einen einzigen Prompt hin eine Lösung mit einer völlig neuartigen Methode lieferte. Das zeigt, wie generative KI selbst komplexe mathematische Herausforderungen meistern kann, wo menschliche Intuition bisher an Grenzen stieß.
Voice AI: Schluss mit der Stotterpartie – Dein Dev-Starter-Kit
Vergiss das mühsame Zusammensuchen: Ein frisches GitHub-Repo bietet Entwicklern einen kuratierten Lernpfad, um endlich in die Welt der Voice AI einzusteigen. Statt dich durch Tutorials zu wühlen, bekommst du hier eine klare Route, die dir zeigt, wie du sprechende Apps baust – und das, bevor alle anderen es tun. Eine echte Abkürzung, um nicht beim nächsten Hype auf dem Bahnsteig zu stehen.
Hyperscaler: Ausgaben übertreffen berühmte US-Megaprojekte – Quelle unzugänglich
Ein Tweet behauptet, Hyperscaler hätten bereits mehr Geld in ihre Infrastruktur gepumpt als die meisten berühmten US-Megaprojekte. Bedauerlicherweise war der Inhalt der Originalquelle aufgrund technischer Probleme (JavaScript) nicht abrufbar. Somit bleiben die Details dieser gewagten These – etwa konkrete Zahlen oder genaue Vergleiche – unbestätigt und spekulativ.
Flipbook.page: Live-Stream direkt aus einem Modell
Die Website flipbook.page bewirbt sich mit dem Titel 'Website streamed live directly from a model'. Der einzige verfügbare Quellinhalt ist das Wort 'Flipbook', was unklar lässt, welche Art von 'Modell' hier Inhalte live streamt. Diese extrem knappen Informationen erschweren eine Einschätzung der dahinterliegenden Technologie oder des genauen Anwendungsfalls erheblich.
Hallucinopedia: Ein neuer Show HN-Eintrag
Ein Projekt namens 'Hallucinopedia' wurde als 'Show HN' auf Hacker News vorgestellt. Über den konkreten Inhalt dieses vielsagenden Titels liefert die Quelle jedoch keine Details. Manchmal ist ein Name alles, was man braucht, um Neugier zu wecken.
Gemini-Schock: 54.000€-Rechnung durch ungesicherten Firebase-API-Key
Ein Entwickler hat den Albtraum jedes Cloud-Nutzers erlebt: Eine 54.000€-Rechnung in nur 13 Stunden, weil ein *uneingeschränkter* Firebase-Browser-Key massiv für Gemini-API-Anfragen missbraucht wurde. Dies ist ein bitteres Lehrstück in Sachen API-Key-Sicherheit und ein eindringlicher Beweis, dass selbst "harmlos" wirkende Browser-Keys ohne IP- oder URL-Beschränkungen zum finanziellen Super-GAU führen können. Die Moral von der Geschichte ist klar: JEDEN API-Key, wirklich JEDEN, restriktieren – sonst wird's teuer.
Google pusht Gemma 4: Schnelle Inferenz dank Multi-Token-Drafter
Google arbeitet aktiv daran, die Inferenzgeschwindigkeit von Gemma 4 zu erhöhen. Dabei kommt die Technologie der Multi-Token-Prediction zum Einsatz, unterstützt durch sogenannte 'Drafters'. Dies zielt auf eine Leistungssteigerung des KI-Modells ab.