- Förhandlingarna mellan Trump-administrationen och Anthropic har stannat av på grund av olösta farhågor gällande "jailbreaking"-sårbarheter i Claude Fable 5-modellen.
- NSA bekräftade att säkerhetsbarriärer kunde kringgås för att få tillgång till känsliga cybersäkerhets- och biokemiska data, vilket skulle leda till strikta exportkontroller.
- Branschexperter varnar för att regeringens krav på ett 100 % jailbreak-säkert system kan vara tekniskt omöjligt på grund av stora språkmodellers natur.
- Denna dödläge markerar ett stort skifte i USA:s politik, där avancerad AI behandlas som strategisk nationell infrastruktur snarare än bara kommersiell programvara.
Det senaste dödläget mellan Trump-administrationen och Anthropic har skickat ringar på vattnet i teknikvärlden, då förhandlingarna om lanseringen av Claude Fable 5-modellen nådde en återvändsgränd denna vecka. Trots dagar av samtal på hög nivå med höga chefer och regeringstjänstemän, strikta exportkontroller införda för Anthropics mest avancerade AI förbli stadigt på plats. Den nuvarande situationen tyder på att Washington inte längre är villigt att ta ett steg tillbaka medan laboratorier tävlar mot allt kraftfullare system utan skottsäkra säkerhetsgarantier.
Kärnan i saken ligger i en teknik som kallas jailbreaking, där användare manipulerar AI-uppmaningar för att kringgå säkerhetsprotokoll. Medan Anthropic konsekvent har hävdat att riskerna blåses upp i oproportionerliga proportioner, är administrationens farhågorna validerades genom en djupgående analys utförd av National Security Agency (NSA). Dramat har i huvudsak dragit en gräns i sanden och visar att Vita huset nu ser AI-modeller i gränsområden som strategiska nationella tillgångar som kräver samma granskning som avancerade vapen eller kärnteknik.
NSA-interventionen och Claude Fable 5-nedstängningen
Spänningen steg förra veckan när handelsdepartementet utfärdade ett direktiv som i praktiken avbröt internationell åtkomst till Fable 5. Detta drag var inte bara ett slumpmässigt byråkratiskt hinder; det utlöstes efter att Amazons VD, Andy Jassy, enligt uppgift slog larm till finansminister Scott Bessent gällande potentiella sårbarheter i systemet. När NSA ingrep för att verifiera dessa påståenden drog de slutsatsen att de skyddsåtgärder som var avsedda att skydda Claude Mythos-modellens avancerade cybersäkerhet och biokemiska förmågor skulle faktiskt kunna kringgås.
Eftersom dessa modeller är så djupt sammankopplade kan ett intrång i den konsumentinriktade Fable 5 potentiellt ge nycklarna till kungariket till onda aktörer försökte utnyttja Mythos underliggande kraft. Anthropic försökte mildra situationen genom att inaktivera modellerna globalt och hävdade att det var operativt omöjligt att begränsa åtkomsten enbart till utländska enheter. Denna totala nedstängning har lämnat många användare i sticket, men den belyser hur Nationell säkerhet prioriteras nu över kommersiell tillgänglighet i den amerikanska regeringens ögon.
Ett tekniskt slagfält: Är noll risk möjlig?
Medan regeringen vill ha en fullständig lösning, anser många inom forskarsamhället att Washington ber om det omöjliga. Till skillnad från traditionell programvara där man bara kan lappa ett hål i koden, är AI-jailbreaks ett rörligt mål eftersom de förlita sig på nyanserna i mänskligt språk snarare än ett specifikt tekniskt fel. Experter har påpekat att så länge dessa modeller är utformade för att vara flexibla och kreativa, kommer det sannolikt alltid att finnas ett smart sätt att övertala dem att göra något de inte borde.
Anthropic har drivit en strategi för "försvar på djupet", som fokuserar på övervakning och snabba insatser snarare än att lova en perfekt sköld. Trump-administrationen verkar dock vänta på en högre standard för verifierbar säkerhet innan modellen släpps ut i det vilda igen. Denna filosofisk konflikt skapar mycket friktion, eftersom teknikföretag känner att de blir hålls till en standard av perfektion som helt enkelt inte existerar i den verkliga ingenjörsvärlden.
Konsekvenserna av detta beslut märks redan i hela branschen och signalerar en ny era av "skuggreglering" där exportkontroller används som ett primärt verktyg för tillsyn. Antropisk testfallet för dessa nya regler, Vita huset skickar ett tydligt budskap till andra jättar som OpenAI och Google. Om ni vill distribuera nästa generations frontmodeller måste ni bevisa för myndigheterna att era interna barriärer är mer än bara ett artigt förslag till användaren.
Framöver kommer fokus sannolikt att flyttas mot att skapa ett standardiserat ramverk för att mäta dessa risker så att beslut inte fattas i farten under krismöten. För närvarande, exportkontroller på Claude Fable 5-montern som en påminnelse om att den vilda västern-eran inom AI-utveckling närmar sig sitt slut. Industrin går in i en mer strategisk, och kanske mer begränsad, fas där säkerhet och innovation måste äntligen hitta en väg att samexistera under nationella tillsynsmyndigheters vakande öga.
