Suche
LLMs: Milliarden-Token-Kontext – Das Ende der Denk-Lücken?
Der Milliarden-Token-Kontext ist das nächste Schlachtfeld der LLM-Entwicklung, denn nur so können KIs wirklich komplexe Inhalte über ganze Bücher oder Codebasen hinweg erfassen. Bisher bremste das quadratische Skalierungsproblem der Attention-Mechanismen, aber neue Architekturen wie Mamba und Tricks wie FlashAttention weisen den Weg. Das Ziel? Eine Ära, in der LLMs zu echten kognitiven Partnern werden, die nicht nur Fragen beantworten, sondern den gesamten Kontext verstehen.
Liquid AI: Neues MoE-Modell skaliert LFM2 auf 24 Mrd. Parameter
Liquid AI präsentiert mit LFM2-24B-A2B den bisher größten Vertreter seiner LFM2-Modellreihe. Dieses Sparse Mixture of Experts (MoE) Modell erreicht 24 Milliarden Gesamtparameter, wovon 2 Milliarden pro Token aktiv sind. Die Veröffentlichung zeigt eindrucksvoll, dass die LFM2-Architektur effektiv auf größere Dimensionen skaliert werden kann.
IBM Granite 4.1: 8B-Modell liefert 32B MoE Leistung – Effizienz-Champion?
IBM hat mit Granite 4.1 ein 8B-Sprachmodell vorgestellt, das nach eigenen Angaben locker mit der Leistung von deutlich größeren 32B Mixture-of-Experts (MoE)-Modellen mithalten kann. Das ist ein echtes Statement, denn weniger Parameter bedeuten nicht nur niedrigere Betriebskosten, sondern auch schnellere Inferenzzeiten – ein Game-Changer für den praktischen Einsatz in Unternehmen. Es beweist einmal mehr: Cleveres Design sticht pure Größe und ist die wahre Richtung für leistungsstarke, bezahlbare KI.
LLM-Preise: Chaos, Verluste und der Aufstieg lokaler Alternativen
Die Preisgestaltung für Large Language Models ist ein einziges Rätsel: Anthropic testet verwirrende Preisänderungen, während GitHub Copilot seine Dienste einschränkt. Zugleich verlieren Anbieter wie OpenAI auf ihren Pro-Abos Geld, trotz Milliardensummen an Investitionen, was den Druck der Kapitalgeber auf Rentabilität erhöht. Die größte Herausforderung ist jedoch der Aufstieg lokaler, oft kostenloser LLMs, die das gesamte Cloud-basierte Geschäftsmodell fundamental untergraben.
Mistral Medium 3.5: Dein Open-Weight-Powerhouse für Coding & AI-Agenten
Mistral präsentiert Medium 3.5, ein 128B Open-Weight-Modell, das Instruction-Following, Reasoning und Coding vereint. Es treibt Mistral Vibe Remote Agents für asynchrones Cloud-Coding und den neuen Work-Modus in Le Chat für komplexe, mehrstufige Aufgaben an. Das Modell ist selbst auf vier GPUs hostbar und für lange Coding- und Produktivitätsaufgaben optimiert.
Lokal-LLMs im Flieger: MacBook M5 Max stemmt 10 Stunden offline
Ein Autor hat auf einem 10-Stunden-Flug getestet, wie leistungsfähig lokale LLMs wie Gemma 4 31B und Qwen 4.6 36B auf einem MacBook Pro M5 Max mit 128GB sind. Über LM Studio generierte er ein komplexes Billing-Tool und verarbeitete Millionen von Tokens, wobei die Qualität für spezifische Aufgaben mit Frontier-Modellen mithalten konnte. Grenzen zeigten sich bei Akkulaufzeit (1% pro Minute), Hitze und Context-Länge (Abbau nach 100k Tokens), was aber die beeindruckende Offline-Performance nicht schmälert.
DeepSeek V4: Fast Frontier-KI, Open-Weights-Riese – unschlagbar günstig
Die neuen DeepSeek V4 Modelle Pro und Flash betreten die Bühne. Mit 1.6T Parametern ist DeepSeek-V4-Pro das größte Open-Weights-Modell. Das Beeindruckende ist der Preis: Das Flash-Modell unterbietet in den Input-Kosten sogar GPT-5.4 Nano und macht High-End-KI so unschlagbar günstig.
IBM Granite 4.1: Neue KI-Modellfamilie für Unternehmen – umfassend & sicher
IBM hat die Granite 4.1 Familie von Foundation Models veröffentlicht, die explizit für Unternehmenseinsätze optimiert sind. Diese Sammlung umfasst Sprach-, Bild-, Sprach-, Embedding- und Guardian-Modelle in Größen von 3B, 8B und 30B Parametern, welche beeindruckende Leistungen bei Tool-Calling, Instruktionsbefolgung, Transkription und Harm-Detektion bieten. Die Modelle sind auf zahlreichen Plattformen wie Hugging Face und watsonx verfügbar, um integrierte und sichere KI-Workflows für Entwickler zu ermöglichen.
LLMs auf Diät: Intels AutoRound macht KI-Modelle schlanker
Intels neues 'AutoRound'-Verfahren ist ein Quantisierungsalgorithmus, der Large Language Models (LLMs) drastisch verkleinern soll, bei gleichzeitigem Erhalt ihrer Genauigkeit. Das ist entscheidend, denn effizientere, schlankere Modelle lassen sich auf weniger leistungsstarker Hardware betreiben und senken so die Betriebskosten. Ein echter Boost für alle, die KI-Anwendungen skalieren wollen, ohne dafür ein Rechenzentrum bauen zu müssen.
KI-Modelle: Parameter und Compute entkoppeln für mehr Performance
Häufig werden Parameterzahl und Rechenaufwand bei KI-Modellen gleichgesetzt. Doch eine Studie von 2021 zeigt, dass beides entkoppelt betrachtet werden sollte. Mittels Hash Layers lassen sich Modelle vergrößern, ohne mehr Rechenleistung zu benötigen, während Staircase Attention mehr Compute ohne neue Parameter ermöglicht. Dies eröffnet neue Wege, um leistungsfähigere Modelle ressourceneffizient zu bauen.
Qwen3.6-27B: 27B-Modell liefert Flagship-Coding-Leistung
Qwen3.6-27B, ein 27-Milliarden-Parameter-Modell, wird als Flagship-Lösung für Coding-Aufgaben positioniert. Das Dense Model soll bemerkenswerte Leistung liefern. Die vollständigen Informationen sind im verlinkten Blogbeitrag zu finden.
Poolside stellt Laguna-Modelle vor: Agentische Code-KI als Open-Weight?
Poolside hat die ersten zwei Modelle ihrer Laguna-Familie veröffentlicht: Laguna M.1 und Laguna XS.2. Diese agentischen Coding-Modelle sind für langfristige Aufgaben konzipiert und waren bisher auf den Hochsicherheitsbereich für Regierungs- und öffentliche Kunden ausgerichtet. Laguna XS.2 ist ein kleineres, aber leistungsfähiges Open-Weight-Modell unter Apache 2.0 Lizenz, während M.1 das größere Grundmodell bildet.
DeepMind DiLoCo: KI-Training endlich robust & dezentral skalierbar
Aktuelle KI-Modelle zu trainieren ist eine Sisyphusarbeit: Es dauert oft Wochen oder Monate, und ein einziger Serverausfall kann alles zunichtemachen. DeepMind zeigt mit „DiLoCo“ jetzt, wie man verteiltes KI-Training robuster macht: Indem Berechnungen entkoppelt werden, laufen die Modelle auch bei Ausfällen weiter und sind effizienter. Das ist kein triviales Detail, sondern ein Game Changer für alle, die wirklich große Modelle zuverlässig und schnell entwickeln wollen – ein echter Schritt nach vorn in der Infrastruktur von morgen.
KI täuscht Qualität vor: Das Ende der Proxy-Bewertung
Die Wissensarbeit beruht traditionell auf „Proxy-Maßen“ wie oberflächlicher Schreibqualität, um die Güte von Ergebnissen zu beurteilen, da echte Qualitätsprüfung aufwendig ist. Doch Large Language Models (LLMs) untergraben dieses System. Sie simulieren mühelos hochwertigen Output, der perfekt aussieht – sei es ein Beratungsbericht oder Code –, ohne dass die tatsächliche zugrundeliegende Qualität der Arbeit vorhanden sein muss.
Hae-OLS: LLM-Gedächtnis-Booster für schlanken Cache, mehr Kontext
LLMs kämpfen mit langen Kontexten, weil ihr KV-Cache massiv RAM frisst. 'Hae-OLS' bietet eine Lösung: Es fasst den Cache mit hoher Präzision zusammen, indem es wichtige Tokens via Entropie erkennt und den Rest effizient mittels Low-Rank-Rekonstruktion verarbeitet. Das Ergebnis? Längere Kontexte mit weniger Speicherbedarf, ohne Leistungseinbußen – ein smarter Move für jeden LLM-Einsatz.
Talkie-1930: Historische Sprachmodelle als neue humanistische KI-Disziplin
Das am Montag öffentlich zugänglich gemachte "Talkie-1930" ist das größte historische Sprachmodell seiner Art und repräsentiert eine simulierte Kollektivität vergangener Epochen. Autor Benjamin Breen, ein Beta-Tester, sieht "Vintage LLMs" als den Startpunkt eines neuen humanistischen Forschungsfeldes, das aufdeckt, wie unterbewertet diese Perspektive in der gewinnorientierten KI-Entwicklung ist. Dies verdeutlicht, dass selbst auf die 2020er optimierte Modelle auf immense historische und vielsprachige Textdaten zurückgreifen.
LLM-KVCache: Cross-Datacenter-Serving wird greifbar, aber komplex
Prefill-decode (PD) Disaggregation ist zwar Standard für LLM-Serving, doch die flexible Verteilung über Datacenter hinweg scheitert bislang am massiven KVCache-Transfer. Obwohl neue Hybrid-Attention-Architekturen den KVCache signifikant verkleinern und Cross-Datacenter-Transport nun denkbar machen, stoßen solche Ansätze auf Herausforderungen wie schwankende Bandbreiten und ungleich verteilte Präfix-Caches. Eine simple Externalisierung des Prefill-Schritts über Datacenter-Grenzen würde ohne weitere Optimierung zu Engpässen und Ineffizienz führen.
Talkie: 13B-Sprachmodell aus 1930 – Blick in die AI-Vergangenheit
Talkie ist ein 13B-Sprachmodell, das ausschließlich auf Texten vor 1931 trainiert wurde. Das ernsthafte Forschungsprojekt simuliert die Interaktion mit einem Modell der Vorkriegszeit, um das allgemeine Verständnis von KI zu vertiefen. Die Ausgaben spiegeln dabei die Kultur und Werte der historischen Trainingsdaten wider.
Transformer-Architektur: Ausdrucksstark, doch schwer prüfbar
Transformers sind in ihrer Ausdruckskraft *intrinsisch prägnant* und können formale Sprachen weitaus effizienter repräsentieren als klassische Methoden wie endliche Automaten. Doch diese immense Ausdruckskraft hat ihren Preis: Die Überprüfung ihrer Eigenschaften ist nachweislich extrem komplex und EXPSPACE-vollständig.
M4 & lokale KI: Der Kampf um unabhängige Inference – ein Erfahrungsbericht
Lokale KI-Modelle auf einem M4-Chip mit 24GB Speicher zum Laufen zu bringen, ist kein Kinderspiel, aber machbar. Der Autor hat nach intensiven Tests eine stabile Konfiguration gefunden: Qwen 3.5-9B (4b quant) läuft über LM Studio mit respektablen 40 Tokens/Sekunde und 128K Kontextfenster. Damit ist eine spannende Unabhängigkeit von großen Cloud-Anbietern für grundlegende Aufgaben möglich, wenn auch nicht auf SOTA-Niveau.