Suche
Lambench: Der Lambda-Kalkül als Härtetest für moderne KI.
Vergessen Sie FLOPs oder bloße Textgenerierung: `lambench` ist ein brandneuer Benchmark, der die wahren Denkfähigkeiten von KI-Modellen auf die Probe stellt. Statt auf statistisches Pattern-Matching setzt dieser auf den Lambda-Kalkül, die Urform der Funktionsprogrammierung, um zu sehen, ob eine KI wirklich logisch schlussfolgern, Programme synthetisieren und komplexe Aufgaben lösen kann. Kurz gesagt: Ein Reality-Check, der zeigt, ob unsere 'intelligenten' Modelle mehr sind als nur veredelte Papageien – eine willkommene Ergänzung im Benchmark-Dschungel.
SOB: Neuer Benchmark für präzise strukturierte LLM-Outputs
Interfaze.ai präsentiert den Structured Output Benchmark (SOB) zur umfassenderen Bewertung von LLMs bei der Erzeugung deterministischer, strukturierter Daten aus vielfältigen Quellen wie OCR oder PDF. Bestehende Benchmarks fokussieren oft nur auf Schema-Konformität, während SOB zeigt, dass Modelle sich insbesondere in der Genauigkeit der extrahierten Werte (`Value Accuracy`) und der `Perfect Response` erheblich unterscheiden. Dies offenbart, dass LLMs bei der fehlerfreien Datenextraktion aus komplexen Quellen noch Mängel aufweisen.
Lokal AI siegt: Qwen 3.6 auf dem Laptop schlägt Claude Opus beim Pelikan-Malen
Wer braucht teure Cloud-Giganten, wenn ein lokales AI-Modell wie Qwen 3.6-35B-A3B auf dem eigenen Laptop bessere Arbeit leistet? Simon Willison hat genau das bewiesen, als Qwen seinen Pelikan überzeugender zu Papier brachte als der vermeintlich überlegene Claude Opus 4.7. Das stellt die altbekannte Gleichung 'größer = besser' gehörig auf den Kopf und zeigt das Potenzial von effizienten, dezentralen AI-Lösungen.
KI ist zu schlau: Warum SWE-bench Verified nicht mehr zählt
OpenAI zieht überraschend die Reißleine bei SWE-bench Verified, einem wichtigen Benchmark für Coding-Fähigkeiten. Der Grund ist weniger ein Scheitern der Modelle, sondern ihr schlagartiger Erfolg: Die KIs sind schlichtweg zu gut geworden, die verbleibenden Fehler liegen oft an der Benchmark-Qualität selbst. Ein klares Signal, dass die Branche dringend neue, anspruchsvollere Messlatten für die Code-Intelligenz von KIs braucht.
KI im Praxistest: 27.000 Anläufe, null Verlässlichkeit bei Kohlenhydraten
Ein Experiment zeigte, dass führende KI-Modelle (OpenAI GPT-5.4, Claude Sonnet 4.6, Google Gemini 2.5 Pro, Google Gemini 3.1 Pro Preview) auch nach 27.000 Versuchen keine konsistenten Kohlenhydrat-Schätzungen für dieselben Lebensmittel lieferten. Die hochgradig variablen Antworten wären für Diabetiker potenziell gefährlich und unterstreichen die Grenzen aktueller Large Vision Models bei präzisen, realitätsnahen Messungen.
Open-Source-KI: Kimi enthüllt Implementierungsfehler der Anbieter.
Kimi adressiert ein Kernproblem von Open-Source-KI: Die korrekte Implementierung. Der neue, quelloffene "Vendor Verifier" (KVV) prüft, ob die Inferenz-Implementierungen von Open-Source-Modellen präzise sind. Dies ist eine direkte Antwort auf verbreitete Benchmark-Anomalien, die durch fehlerhafte Parameter bei Modellen wie K2 Thinking verursacht wurden.
ZAYA1-8B: Mathe-Meister auf AMD – mit weniger als 1 Mrd. Parametern
Zyphras neues Modell ZAYA1-8B überzeugt auf mathematischen Benchmarks und erreicht die Leistung von DeepSeek-R1. Das Bemerkenswerte daran: Es operiert mit unter einer Milliarde aktiver Parameter, bleibt bei Reasoning mit Claude Sonnet 4.5 wettbewerbsfähig und nähert sich Gemini 2.5 Pro im Coding an. Ein weiterer Durchbruch ist das Training des Modells, welches vollständig auf AMD-Hardware erfolgte und somit eine Abkehr vom de facto NVIDIA-Monopol signalisiert.
Qwen3.6-27B: 27B-Modell liefert Flagship-Coding-Leistung
Qwen3.6-27B, ein 27-Milliarden-Parameter-Modell, wird als Flagship-Lösung für Coding-Aufgaben positioniert. Das Dense Model soll bemerkenswerte Leistung liefern. Die vollständigen Informationen sind im verlinkten Blogbeitrag zu finden.
Dein nächster AI-Dev-Assistent? Dirac dominiert den TerminalBench!
Der Open-Source AI-Agent Dirac hat den renommierten TerminalBench-Benchmark auf Basis von Gemini-3-flash-preview haushoch gewonnen. Das ist kein akademischer Sieg, sondern ein klares Signal: KI-Agenten werden immer effektiver darin, über das Terminal zu interagieren und könnten schon bald unsere Entwicklungsworkflows massiv optimieren. Ein klares Zeichen, dass der "AI-Co-Worker" vom Buzzword zur Realität wird.
ProgramBench: LLMs brauchen ganzheitliches Code-Verständnis
Der neue Benchmark ProgramBench misst die Fähigkeit von Software-KI-Agenten zur ganzheitlichen Softwareentwicklung. Dabei müssen Agenten, ausgehend von einem Programm und seiner Dokumentation, eine neue Codebasis von Grund auf architekturieren und implementieren, die dem Referenzverhalten entspricht. Dies erfordert komplexe Software-Architekturentscheidungen, die von bisherigen Benchmarks nicht abgedeckt werden.
M4 & lokale KI: Der Kampf um unabhängige Inference – ein Erfahrungsbericht
Lokale KI-Modelle auf einem M4-Chip mit 24GB Speicher zum Laufen zu bringen, ist kein Kinderspiel, aber machbar. Der Autor hat nach intensiven Tests eine stabile Konfiguration gefunden: Qwen 3.5-9B (4b quant) läuft über LM Studio mit respektablen 40 Tokens/Sekunde und 128K Kontextfenster. Damit ist eine spannende Unabhängigkeit von großen Cloud-Anbietern für grundlegende Aufgaben möglich, wenn auch nicht auf SOTA-Niveau.
DS4 & DeepSeek v4 Flash: Tweet-Quelle nicht verfügbar
Ein vielversprechender Titel über 'DS4, eine spezialisierte Inferenz-Engine für DeepSeek v4 Flash' führte ins Leere. Die verknüpfte Twitter-Quelle war aufgrund eines JavaScript-Fehlers nicht ladbar, wodurch der Inhalt und die genannten Details nicht verifiziert werden konnten. Eine fundierte Bewertung des vermeintlichen Durchbruchs bleibt daher leider aus.
AGI-Benchmark: YC-Startup Arc Prize sucht Engineering-Talent
Die Arc Prize Foundation, ein frisches YC-Startup (W26), sucht einen Platform Engineer, um ihren ambitionierten AGI-Benchmark ARC-AGI-4 voranzutreiben. Hier geht es nicht um Marketing-Buzz, sondern um den ernsthaften Versuch, "General Intelligence" in KI-Modellen messbar zu machen und so den Weg zur AGI zu ebnen. Auch wenn diese Stellenausschreibung (noch) unter dem Radar fliegt, zeigt sie, wie konkret die Jagd nach echter KI-Intelligenz wird.
KI-Inferenz: 10% schneller dank cleverem GPU-Cache in SGLang
Multimodale KI-Modelle sind vielversprechend, aber ihre Inferenz-Engines noch nicht optimiert. Modal.com demonstriert, wie SGLang’s Performance um über 10% gesteigert wurde, indem aufwendige Buchhaltung für geteilten GPU-Speicher durch einen einfachen Cache-Lookup im Scheduler ersetzt wurde. Dieser sogenannte 'Handle Cache' führte zu signifikanten Verbesserungen bei Durchsatz und Latenz auf multimodalen Workloads.
Opus 4.6 vs. 4.7: Community-Tool vergleicht Token-Kosten anonym
Auf billchambers.me entsteht ein offenes Community-Tool, das anonyme Token-Vergleiche zwischen Anthropic Opus 4.6 und 4.7 ermöglicht. Dieser 'Anthropic Token Cost Calculator' sammelt Eingaben, um aufzuzeigen, wie sich die Versionen bei realen Anfragen in ihren Token-Kosten unterscheiden. Das unabhängige Projekt liefert eine Basis für eigene Analysen.
Lokal-LLMs im Flieger: MacBook M5 Max stemmt 10 Stunden offline
Ein Autor hat auf einem 10-Stunden-Flug getestet, wie leistungsfähig lokale LLMs wie Gemma 4 31B und Qwen 4.6 36B auf einem MacBook Pro M5 Max mit 128GB sind. Über LM Studio generierte er ein komplexes Billing-Tool und verarbeitete Millionen von Tokens, wobei die Qualität für spezifische Aufgaben mit Frontier-Modellen mithalten konnte. Grenzen zeigten sich bei Akkulaufzeit (1% pro Minute), Hitze und Context-Länge (Abbau nach 100k Tokens), was aber die beeindruckende Offline-Performance nicht schmälert.
Utilyze: Misst, wie nützlich deine GPU-Arbeit wirklich ist
Utilyze ist ein auf GitHub gehostetes Projekt, das laut Titel dazu dient, die Effizienz von GPUs bei der Verrichtung 'nützlicher Arbeit' zu messen. Es zielt darauf ab, Klarheit über die tatsächliche Auslastung und den Output von Grafikkarten zu schaffen.
Kimi K2.6: Chinesisches Open-Weights-Modell siegt im AI-Wort-Puzzle
Kimi K2.6, ein Open-Weights-Modell des chinesischen Startups Moonshot AI, hat Top-Modelle wie Claude und GPT-5.5 in einer 'Word Gem Puzzle'-Challenge übertroffen. Im Rahmen eines AI Coding Contests deklassierte Kimi K2.6 in diesem anspruchsvollen Wort-Schiebe-Rätsel die westliche AI-Elite. Dies ist ein klares Signal, dass die Innovationskraft nicht mehr exklusiv bei den westlichen Big Techs liegt und offene Modelle aus China ernsthafte Konkurrenz darstellen.
DeepSeek-V4 Day-0: SGLang & Miles für schnelle Inferenz & Verified RL
Das SGLang- und Miles-Team liefert Day-0-Unterstützung für DeepSeek-V4, inklusive Inferenz und RL-Training. Ihr Open-Source-Stack ist der erste, der DeepSeek-V4s hybride Sparse-Attention-Architektur am Launch-Tag bedient und trainiert, mit Performance-Optimierungen wie ShadowRadix und HiSparse. Der Stack unterstützt zudem Verified RL, wobei Miles als Backend-Support für das Reinforcement Learning dient.
Google pusht Gemma 4: Schnelle Inferenz dank Multi-Token-Drafter
Google arbeitet aktiv daran, die Inferenzgeschwindigkeit von Gemma 4 zu erhöhen. Dabei kommt die Technologie der Multi-Token-Prediction zum Einsatz, unterstützt durch sogenannte 'Drafters'. Dies zielt auf eine Leistungssteigerung des KI-Modells ab.