Suche
LLM selber trainieren: Die Blackbox wird transparent.
Vergiss die Blackbox! Dieses GitHub-Projekt liefert einen praxistauglichen Blueprint, um ein LLM von Grund auf zu trainieren. Es ist kein Shortcut zu einem fertigen Modell, sondern ein tiefgreifender Guide für alle, die wirklich verstehen wollen, wie generative KI unter der Haube tickt, statt nur APIs zu konsumieren.
Konvergente Evolution: Wie diverse Modelle Zahlen ähnlich repräsentieren
Entgegen der Black-Box-Annahme lernen unterschiedliche Sprachmodelle – darunter Transformer, RNNs und LSTMs – ähnliche periodische Zahlenrepräsentationen. Diese Konvergenz ist jedoch zweistufig: Während alle Modelle Fourier-Peaks zeigen, entwickeln nur manche geometrisch separierbare Features für die Modulo-Klassifikation. Die genaue Ausprägung der Zahlenrepräsentation hängt stark von Daten, Architektur und Trainingsdetails ab.
Unsloth & NVIDIA: 25% Boost für dein LLM-Feintuning!
Unsloth und NVIDIA haben ihre Kräfte gebündelt, um das Feintuning von Large Language Models (LLMs) auf NVIDIA GPUs zu optimieren. Durch gezielte Verbesserungen beseitigen sie versteckte Engpässe und erzielen eine kombinierte Beschleunigung der Trainingsgeschwindigkeit um bis zu 25%. Die Optimierungen konzentrieren sich darauf, redundante Buchungsvorgänge zu reduzieren und Kopiervorgänge parallel zur eigentlichen Rechenarbeit ablaufen zu lassen.
Die LLM-Blackbox entschlüsselt: Ein visueller Karpathy-Guide
Dieser interaktive, visuelle Guide, basierend auf Andrej Karpathys technischem Deep Dive, erklärt verständlich, wie große Sprachmodelle wie ChatGPT tatsächlich gebaut werden. Er führt von der Datensammlung und -filterung über die Tokenisierung bis hin zur gesamten Trainings-Pipeline. Eine klare und detaillierte Ressource für alle, die das Innenleben von LLMs von Grund auf verstehen wollen.
Deep Learning: Eine wissenschaftliche Theorie formiert sich
Das Paper argumentiert, dass eine wissenschaftliche Theorie des Deep Learning im Entstehen begriffen ist. Sie soll wichtige Eigenschaften und Statistiken von Trainingsprozessen, Repräsentationen, Gewichten und der Performance neuronaler Netze charakterisieren. Die Autoren fassen dazu bestehende Forschungsstränge zusammen und identifizieren fünf wachsende Arbeitsbereiche, die auf diese Theorie hindeuten.
Talkie: 13B-Sprachmodell aus 1930 – Blick in die AI-Vergangenheit
Talkie ist ein 13B-Sprachmodell, das ausschließlich auf Texten vor 1931 trainiert wurde. Das ernsthafte Forschungsprojekt simuliert die Interaktion mit einem Modell der Vorkriegszeit, um das allgemeine Verständnis von KI zu vertiefen. Die Ausgaben spiegeln dabei die Kultur und Werte der historischen Trainingsdaten wider.
GLM-5V-Turbo: Ein Schritt zum nativen Fundament für Multimodal-KI
GLM-5V-Turbo wird als ein Schritt hin zu nativen Fundamentmodellen für multimodale Agenten vorgestellt. Das Modell zielt darauf ab, eine grundlegende Basis für KI-Systeme zu schaffen, die von Natur aus für die Verarbeitung und Nutzung verschiedener Modalitäten konzipiert ist.
DeepMind DiLoCo: KI-Training endlich robust & dezentral skalierbar
Aktuelle KI-Modelle zu trainieren ist eine Sisyphusarbeit: Es dauert oft Wochen oder Monate, und ein einziger Serverausfall kann alles zunichtemachen. DeepMind zeigt mit „DiLoCo“ jetzt, wie man verteiltes KI-Training robuster macht: Indem Berechnungen entkoppelt werden, laufen die Modelle auch bei Ausfällen weiter und sind effizienter. Das ist kein triviales Detail, sondern ein Game Changer für alle, die wirklich große Modelle zuverlässig und schnell entwickeln wollen – ein echter Schritt nach vorn in der Infrastruktur von morgen.
PCA-Erweiterung: Polynom-Autoencoder verbessert Transformer-Embeddings
Ein Blogpost stellt eine Methode vor, die PCA für die Kompression von Transformer-Embeddings verbessert: Ein polynomialer Autoencoder (PAE). Dabei bleibt der Encoder eine einfache PCA, während ein quadratischer Decoder nicht-lineare Anteile der Embeddings erfasst. Diese seit 2017 bekannte, geschlossene Lösung reduziert den Informationsverlust im Vergleich zu reinem PCA und erreicht auf Benchmarks wie BEIR/FiQA eine deutlich höhere Retrieval-Qualität.
DeepSeek-V4 Day-0: SGLang & Miles für schnelle Inferenz & Verified RL
Das SGLang- und Miles-Team liefert Day-0-Unterstützung für DeepSeek-V4, inklusive Inferenz und RL-Training. Ihr Open-Source-Stack ist der erste, der DeepSeek-V4s hybride Sparse-Attention-Architektur am Launch-Tag bedient und trainiert, mit Performance-Optimierungen wie ShadowRadix und HiSparse. Der Stack unterstützt zudem Verified RL, wobei Miles als Backend-Support für das Reinforcement Learning dient.
KI-Goblins: Wie unbeabsichtigte Muster in Modellen zum Vorschein kommen
OpenAI lüftet das Geheimnis der 'Goblins' – jener bizarren, aber faszinierenden Verhaltensweisen, die in ihren riesigen Sprachmodellen auftauchen, obwohl niemand sie programmiert hat. Es geht um emergente Phänomene: Modelle entwickeln aus der schieren Datenflut eigenständige Repräsentationen und "Skills", die wir noch nicht vollständig entschlüsseln können. Ein klarer Weckruf, der zeigt, wie unberechenbar und doch brilliant unsere KI-Systeme sein können.
LLMs: Schluss mit Typen-Chaos nach der Generierung?
Large Language Models erzeugen zunehmend Code für Sprachen wie Idris oder Lean. Aktuell produzieren sie jedoch untypisierte Token-Listen, deren Typsicherheit erst nachträglich und ad-hoc geprüft wird. Der Artikel hinterfragt diese "Post-Training"-Methoden und schlägt vor, LLMs von Grund auf für die direkte Erzeugung typisierter Ausgaben zu trainieren.
Transformer-Architektur: Ausdrucksstark, doch schwer prüfbar
Transformers sind in ihrer Ausdruckskraft *intrinsisch prägnant* und können formale Sprachen weitaus effizienter repräsentieren als klassische Methoden wie endliche Automaten. Doch diese immense Ausdruckskraft hat ihren Preis: Die Überprüfung ihrer Eigenschaften ist nachweislich extrem komplex und EXPSPACE-vollständig.
Ex-DeepMind Silver: 1,1 Mrd. $ für KI, die ohne uns lernt
Der frühere DeepMind-KI-Forscher David Silver hat mit seinem neuen Lab, Ineffable Intelligence, beeindruckende 1,1 Milliarden Dollar eingesammelt. Ihr ambitioniertes Ziel: Eine "Superlearner"-KI zu entwickeln, die Wissen und Fähigkeiten ohne menschliche Daten entdeckt. Sie setzen dabei auf Reinforcement Learning und wollen so die Abhängigkeit von LLM-Datensätzen überwinden.
Mehr als nur Prompts: So entlockst du Transformers ihre besten Antworten
Wir alle tippen Prompts, aber verstehen wir wirklich, wie man intelligent mit Transformers spricht? Dieser Beitrag taucht tief in die Kunst und Wissenschaft der effektiven KI-Kommunikation ein und zeigt, dass die besten Ergebnisse nicht zufällig entstehen. Es geht darum, die richtige Sprache zu finden, um der KI nicht nur Fragen zu stellen, sondern sie wirklich zu *führen* – ein echtes Game Changer für jeden, der mehr als Standard-Output will.
Alignment-Whack-a-Mole: Finetuning lässt LLMs Copyright-Bücher spucken
Ein neues Paper zeigt auf: Wenn Large Language Models (LLMs) mit urheberrechtlich geschützten Büchern trainiert werden, können spätere Finetuning-Schritte diese Inhalte reaktivieren. Selbst wenn das Modell zuvor darauf getrimmt wurde, diese Daten zu "vergessen", holt das Finetuning unerwartet die geschützten Texte wieder hervor. Das ist ein echtes "Alignment Whack-a-Mole" – ein Problem gelöst, zwei neue aufgetaucht, und es wirft ernste Fragen bezüglich IP und Datenmanagement auf.
Meta schaut zu: Mitarbeiter-Maus & Tastatur füttern die KI
Meta plant ab 2026 die Mausbewegungen und Tastaturanschläge seiner Mitarbeiter zu erfassen, um die internen KI-Modelle zu trainieren und zu verbessern. Obwohl Meta beteuert, die Daten zu anonymisieren und eine Opt-out-Möglichkeit anzubieten, ist dies ein drastischer Schritt, der erneut die Grenzen zwischen Produktivitätssteigerung und Überwachung am Arbeitsplatz verwischt. Es bleibt abzuwarten, wie das von der Belegschaft und Aufsichtsbehörden aufgenommen wird – ein heikler Balanceakt, der weitreichende Präzedenzfälle schaffen könnte.
LLM-KVCache: Cross-Datacenter-Serving wird greifbar, aber komplex
Prefill-decode (PD) Disaggregation ist zwar Standard für LLM-Serving, doch die flexible Verteilung über Datacenter hinweg scheitert bislang am massiven KVCache-Transfer. Obwohl neue Hybrid-Attention-Architekturen den KVCache signifikant verkleinern und Cross-Datacenter-Transport nun denkbar machen, stoßen solche Ansätze auf Herausforderungen wie schwankende Bandbreiten und ungleich verteilte Präfix-Caches. Eine simple Externalisierung des Prefill-Schritts über Datacenter-Grenzen würde ohne weitere Optimierung zu Engpässen und Ineffizienz führen.
Qwen3.6-Max-Preview: Smarter, schärfer, noch in Entwicklung
Qwen stellt mit der Qwen3.6-Max-Preview eine neue Version vor, die laut Titel „smarter, schärfer und noch in Entwicklung“ ist. Diese Vorschau deutet auf potenzielle Verbesserungen hin. Der Zusatz „still evolving“ mahnt jedoch zur Geduld, bis das volle Ausmaß der Neuerungen von Qwen sichtbar wird.
LLMorphismus: Sehen wir uns bald als Next-Token-Predictor?
Ein neues Konzept namens "LLMorphismus" beschreibt, wie die intensive Interaktion mit KI-Modellen unser Verständnis von menschlicher Intelligenz und Kommunikation verändern könnte. Statt uns als komplexe Wesen zu sehen, könnten wir anfangen, uns selbst oder andere durch die Linse eines "Next-Token-Predictors" zu betrachten. Das ist kein Witz, sondern eine ernste Überlegung über einen möglichen kognitiven und gesellschaftlichen Wandel durch die allgegenwärtige KI.