AI modellernas hemliga tankar har knäckts

Krypterade AI-resonemang kan återskapas i klartext: Forskare har visat att krypterade resonemangsspår ("chain of thought") från avancerade modeller hos Anthropic, OpenAI och Google kan flyttas mellan modeller inom samma leverantör och avkodas med hjälp av en svagare modell. I en analys av 315 320 offentligt delade spår hittades känsliga personuppgifter och inloggningsuppgifter, och forskarna demonstrerade även risker för både modellkopiering och osynliga promptinjektioner. Detta belyser att loggar från AI-agenter kan innehålla mycket känsligare data än utvecklare tidigare trott.

Anthropic inför osynlig märkning i Claude: För att möta EU:s transparenskrav börjar Claude-modeller nu bädda in maskinläsbara märken i genererad text samt signerad proveniensmetadata i filer. Denna märkning införs globalt, men Anthropic betonar att den kan försvagas av kraftig redigering och inte ensam utgör ett bevis för att Claude har skrivit innehållet.

Nvidia lanserar Nemotron 3.5 Lightning och Switchyard: Nvidia har släppt en öppen Mixture-of-Experts-modell (MoE) med 30 miljarder parametrar, speciellt byggd för snabba agentflöden. Samtidigt lanserar de open source-verktyget Switchyard för dynamisk modellrouting, vilket i deras egna tester har visat sig behålla en hög förmåga men till endast en tredjedel av kostnaden jämfört med att köra enbart Claude Opus 4.8.

Gemini når historisk milstolpe: Googles Gemini-app har nu passerat en miljard månatliga aktiva användare. Det gör den till den Google-produkt som snabbast nått denna nivå, och bolaget rapporterar även omfattande röstanvändning och över 150 miljoner genererade bilder per dag.

Cursor förbereder plattform för kodgranskning: Cursor planerar att lansera sin tjänst Cursor Review (tidigare Origin). Tjänsten kommer att synka GitHub-arkiv och låta utvecklare och AI-agenter samarbeta kring pull requests i en automatiserad pipeline.

Effektivare kodning med Microsoft MAI-Code-1.1-Flash: Den nya kodmodellen som nu finns tillgänglig i GitHub Copilot utlovar högre kvalitet, 25 procent bättre tokeneffektivitet och en fjärdedel av kostnaden jämfört med sin föregångare.

Unsloth förenklar lokal AI-körning: Den nya applikationen Unsloth Desktop gör det enklare att köra och träna text-, bild- och videomodeller lokalt på macOS, Windows och Linux, vilket ger användare större kontroll över data och sänker tröskeln för finjustering.

Ledningsförändringar hos OpenAI: Flera seniora ledare lämnar bolaget, däribland driftdirektören (COO) Brad Lightcap. Förändringarna sker i ett skede där OpenAI enligt rapporter förbereder sig för en framtida börsnotering.

Övriga viktiga nyheter