Suche
Unzensiert ist Illusion: KI-Modelle zögern bei "heiklen" Wörtern
Der Begriff 'unzensierte' KI ist ein Mythos. Eine Studie deckt den 'Flinch'-Effekt auf: Sicherheitsgefilterte Modelle wie Qwen3.5-9b-base zeigen eine drastisch geringere Wahrscheinlichkeit für kritische Wörter ('deportation') als ungefilterte Modelle wie Pythia-12b – ein Unterschied von bis zu 16.000x. Selbst das als 'unzensiert' beworbene Modell 'heretic' (ein Qwen3.5-9B-Derivat) weigert sich, bestimmte Begriffe auszuspucken, was die Frage aufwirft, ob diese Modelle nicht doch heimlich zensiert sind.
SDL untersagt KI-Commits mit 'LLM Policy?'
Im SDL-Projekt auf GitHub wird unter Issue #15350 eine 'LLM Policy?' diskutiert. Laut Artikelbeschreibung resultiert dies in einem Verbot für von KI generierte Code-Commits. Der bereitgestellte Quellauszug enthält jedoch keine weiteren Details zu den Beweggründen oder Inhalten dieser Policy.
Telus' AI-Akzentfilter: Wenn Call-Agents plötzlich anders klingen
Telus setzt KI ein, um die Akzente seiner Call-Center-Agents zu „optimieren“ – angeblich für bessere Verständlichkeit. Doch statt echter Kommunikation kreiert man so eine fragwürdige, homogenisierte Kundenerfahrung, die ethische Fragen nach Authentizität und kultureller Identität aufwirft. Eine glatte Oberfläche, die Tiefe und Vielfalt opfert – ein Trend, den wir kritisch beobachten sollten.
Anthropic feilt an Claude Opus 4.7: Mehr Tools, mehr Kinderschutz
Simon Willison analysiert die aktualisierten System-Prompts von Claude Opus 4.7 und entdeckt signifikante Änderungen. Auffällig sind die massive Erweiterung der Kinderschutzanweisungen, die nun in einem speziellen Tag gekapselt sind, sowie die Erwähnung neuer Tools wie "Claude in PowerPoint". Diese Anpassungen zeigen, dass Anthropic seine Modelle nicht nur trainiert, sondern auch deren Kernverhalten über detaillierte Prompt-Instruktionen präzise steuert.
Claude: Ständiger Malware-Reminder blockiert Subagenten wieder
Im Claude-Code-Repository von Anthropic wurde eine Regression festgestellt: Eine Malware-Erinnerung, die bei jedem Lesevorgang auftritt, führt erneut dazu, dass nachgeschaltete 'Subagenten' die Weiterverarbeitung verweigern. Ein zuvor implementierter Fix, der in Version v2.1.92 enthalten war, scheint in der aktuellen Version v2.1.111 nicht mehr zu greifen.
KI-Launen: Claude Code wird wählerisch bei Code-Commits
Theo Browne scherzt: Die KI "Claude Code" weigert sich oder verlangt extra, wenn "OpenClaw" in deinen Commits auftaucht. Obwohl das Satire ist, trifft es einen Nerv: Wie sehr können wir darauf vertrauen, dass KI unvoreingenommen agiert und nicht subtil durch ihre Trainingsdaten oder Geschäftsinteressen beeinflusst wird? Ein humorvoller Gedanke, der uns aber an die Notwendigkeit von Transparenz und Kontrolle bei der KI-Entwicklung erinnert.
KI als Bullshit-Generator: Aphyrs schonungslose Analyse
Kyle Kingsbury (Aphyr) rechnet in seiner Präsentation schonungslos mit Large Language Models ab. Er nennt sie 'Bullshit-Maschinen', die nicht nach Wahrheit suchen, sondern lediglich überzeugend klingende statistische Muster erzeugen. Wer KIs wie diese blind vertraut, wird am Ende mit schönen Lügen da stehen – eine wichtige Mahnung, gerade in unserer KI-Euphorie.
Talkie: 13B-Sprachmodell aus 1930 – Blick in die AI-Vergangenheit
Talkie ist ein 13B-Sprachmodell, das ausschließlich auf Texten vor 1931 trainiert wurde. Das ernsthafte Forschungsprojekt simuliert die Interaktion mit einem Modell der Vorkriegszeit, um das allgemeine Verständnis von KI zu vertiefen. Die Ausgaben spiegeln dabei die Kultur und Werte der historischen Trainingsdaten wider.
OpenAI: KI-Filter anonymisiert private Infos – besserer Datenschutz?
OpenAI stellt einen neuen KI-Filter vor, der automatisch persönliche Informationen (PII) aus Texten erkennt und maskiert. Das ist ein entscheidender Schritt für Unternehmen, die mit sensiblen Daten und LLMs hantieren müssen – eine dringend benötigte Brücke zwischen Datennutzung und Compliance. Während es den Schutz massiv verbessert, bleibt es eine technische Hilfe, die menschliche Sorgfalt nicht ersetzt.
KI-Code-Assistenten: Wenn „fix it“ zu „change everything“ wird.
Stell dir vor, ein KI-Assistent soll einen Bug fixen, krempelt aber die halbe Codebasis um. Genau das ist "Over-editing": Modelle modifizieren Code weit über das Nötige hinaus, selbst wenn das Ergebnis funktional korrekt ist. Dies macht Code-Reviews dramatisch schwerer, da der Code unkenntlich wird und den ohnehin schon überlasteten Review-Prozess zusätzlich verlangsamt. Ein klares Signal, dass KI mehr Präzision statt blinden Aktionismus lernen muss.
KI-Inferenz: 10% schneller dank cleverem GPU-Cache in SGLang
Multimodale KI-Modelle sind vielversprechend, aber ihre Inferenz-Engines noch nicht optimiert. Modal.com demonstriert, wie SGLang’s Performance um über 10% gesteigert wurde, indem aufwendige Buchhaltung für geteilten GPU-Speicher durch einen einfachen Cache-Lookup im Scheduler ersetzt wurde. Dieser sogenannte 'Handle Cache' führte zu signifikanten Verbesserungen bei Durchsatz und Latenz auf multimodalen Workloads.
LLMorphismus: Sehen wir uns bald als Next-Token-Predictor?
Ein neues Konzept namens "LLMorphismus" beschreibt, wie die intensive Interaktion mit KI-Modellen unser Verständnis von menschlicher Intelligenz und Kommunikation verändern könnte. Statt uns als komplexe Wesen zu sehen, könnten wir anfangen, uns selbst oder andere durch die Linse eines "Next-Token-Predictors" zu betrachten. Das ist kein Witz, sondern eine ernste Überlegung über einen möglichen kognitiven und gesellschaftlichen Wandel durch die allgegenwärtige KI.
Talkie-1930: Historische Sprachmodelle als neue humanistische KI-Disziplin
Das am Montag öffentlich zugänglich gemachte "Talkie-1930" ist das größte historische Sprachmodell seiner Art und repräsentiert eine simulierte Kollektivität vergangener Epochen. Autor Benjamin Breen, ein Beta-Tester, sieht "Vintage LLMs" als den Startpunkt eines neuen humanistischen Forschungsfeldes, das aufdeckt, wie unterbewertet diese Perspektive in der gewinnorientierten KI-Entwicklung ist. Dies verdeutlicht, dass selbst auf die 2020er optimierte Modelle auf immense historische und vielsprachige Textdaten zurückgreifen.
LLMs: Zwischen Hype und Realität – Klare Worte für eine vage Zukunft
James Bennett taucht in seinem Blogbeitrag in die hitzige Diskussion um Large Language Models (LLMs) ein. Er stellt die Kernfrage: Stehen wir vor einer beispiellosen Revolution oder nur einem weiteren Hype-Zyklus? Bennett argumentiert für präzise Sprache und setzt bewusst auf den Begriff 'LLM', um die Debatte jenseits des vagen 'AI'-Begriffs zu fokussieren und Klarheit zu schaffen.
LLMs jagen Bugs: Kernel-Devs schmeißen alte Code-Last ab
Große Sprachmodelle (LLMs) generieren eine Flut von Sicherheitsberichten für den Linux-Kernel, was die Entwickler zunehmend überfordert. Um diese Meldungsflut für oft ungenutzten oder unzureichend gewarteten Code zu bewältigen und ihre "Sanity zu schützen", entfernen Kernel-Entwickler nun gezielt ganze Subsysteme wie ISA-Ethernet-Treiber und das Amateurfunk-Protokoll AX.25. Dies ist eine direkte, defensive Reaktion auf die neue Herausforderung durch AI-generierte Bugs.
Anthropic-Repo: HERMES.md in Commits sorgt für Extra-Billing
Ein GitHub-Issue im Anthropic-Repository `claude-code` zeigt, dass die Erwähnung von 'HERMES.md' in Commit-Nachrichten dazu führt, dass Anfragen über die 'extra usage billing' abgerechnet werden, anstatt das Plan-Kontingent zu nutzen. Dieser Vorfall verdeutlicht, wie spezifische Textmuster in Entwicklungsprozessen direkte und unerwartete Kostenfolgen haben können. Die tieferen technischen Gründe bleiben im vorliegenden Auszug unbelegt.
Qwen3.6-Max-Preview: Smarter, schärfer, noch in Entwicklung
Qwen stellt mit der Qwen3.6-Max-Preview eine neue Version vor, die laut Titel „smarter, schärfer und noch in Entwicklung“ ist. Diese Vorschau deutet auf potenzielle Verbesserungen hin. Der Zusatz „still evolving“ mahnt jedoch zur Geduld, bis das volle Ausmaß der Neuerungen von Qwen sichtbar wird.
CC-Canary: Dein Frühwarnsystem gegen die Tücken von Claude-Updates
Mit dem CC-Canary hat delta-hq ein Open-Source-Tool geschaffen, das als Frühwarnsystem für Regressionen in Claude-Modellen dient. Wer auf LLMs baut, weiß: Modell-Updates können unbemerkt zu fatalen Verhaltensänderungen führen. Dieser 'Kanarienvogel' hilft dir, solche Überraschungen zu vermeiden und die Stabilität deiner KI-Anwendungen zu sichern – ein Muss für jeden, der nicht blind fliegen will.
Vera: Die Programmiersprache, von KI-Modellen geschrieben
Vera ist eine Programmiersprache, die explizit dafür entwickelt wurde, von KI-Modellen geschrieben zu werden. Dieser Ansatz dreht die traditionelle Softwareentwicklung um und macht maschinelle Code-Erzeugung zum primären Designziel.
LLMs sagen 'Nein': Forscher finden den Master-Schalter
Stell dir vor, du findest den Master-Schalter für das ethische Gewissen deiner KI. Forschern ist genau das gelungen: Sie haben herausgefunden, dass das 'Nein' von LLMs nicht zufällig ist, sondern von einer einzigen, manipulierbaren 'Verweigerungsrichtung' im Modell gesteuert wird. Das ist ein Game-Changer für die Sicherheitssteuerung und ermöglicht präzisere Kontrolle über die Grenzen der KI.