Att NSA använder Claude Mythos kan vara ett steg mot nationalisering av avancerad AI

Den 19 april skrev Axios att National Security Agency (NSA) har tillgång till Anthropics nya och kraftfulla modell Claude Mythos, enligt två källor. Även motsvarande myndighet i Storbritannien, Government Communications Headquarters (GCHQ) ska ha åtkomst.

Claude Mythos har blivit känd för sin förmåga att hitta säkerhetshål i mjukvara. I interna tester hittade den bland annat sårbarheter i alla större operativsystem och webbläsare – inklusive säkerhetsinriktade operativsystemet OpenBSD som ofta används för brandväggar.

Flera experter anser att Mythos, om den hamnade i fel händer, skulle kunna orsaka enorma skador genom attacker på digital samhällsinfrastruktur. Anthropic har valt att inte lansera Claude Mythos till allmänheten i nuvarande form, och ger istället åtkomst till ett 40-tal utvalda parter. Endast tolv av dessa är namngivna, och NSA samt GCHQ ska alltså finnas bland de övriga.

De namngivna aktörerna med tillgång till Mythos använder den för att hitta och åtgärda säkerhetshål, och säkra driften av viktig struktur på internet. NSA använder med stor säkerhet också Mythos för att förbättra sitt cyberskydd, men det är också rimligt att anta att Mythos används för det cyberspionage som NSA bedriver.

Det vore i så fall ett steg mot att avancerad AI nationaliseras, till följd av att tekniken har betydelse för nationell säkerhet. I takt med att AI blir allt mer kraftfull spelar tekniken större roll inom militär och signalspaning. Innan Claude Mythos har de bästa (kända) AI-modellerna blivit kommersiellt tillgängliga för alla, men den här trenden pekar mot att de främsta AI-förmågorna kan komma att inte delas vidare.

Det innebär att klyftan mellan de som har och inte har tillgång till den mest avancerade AI:n riskerar att växa snabbt.

En tidigare händelse som pekar mot en sådan utveckling var när Pentagon i slutet av februari gav Anthropic ett ultimatum: om de inte tillät att Pentagon använder deras AI för all laglig användning skulle de antingen klassas som “supply chain risk” (och svartlistas) eller så skulle Pentagon aktivera Defense Production Act (och tvinga fram samarbete). Anthropic insisterade på två ytterligare villkor – att deras AI inte får användas för massövervakning av amerikaner, och inte för fullt autonoma vapen (men inget som rör cyberspionage).

Konflikten ledde till att Anthropic svartlistades, och ingen leverantör får nu använda Anthropics AI i projekt som rör USA:s krigsdepartement. Enligt uppgifter fortsätter dock departementet själva att använda Anthropics AI, bland annat i samband med attackerna mot Iran, vilket urholkar trovärdigheten i svartlistningen. Att NSA använder den nya Mythos-modellen urholkar svartlistningen ytterligare.

Fler länkar:

• Scoop: NSA using Anthropic’s Mythos despite blacklist (Axios)

• Källor: NSA använder Mythos – trots säkerhetskonflikt (Omni)

• AI cyber threats: open letter to business leaders (GCHQ)

Tidigare nyheter:

• Anthropics nya modell “Mythos Preview” ändrar förutsättningarna för cybersäkerhet

AI-bevakning sammanfattar de viktigaste AI-nyheterna på svenska, som underlag för journalister, beslutsfattare och andra som vill följa utvecklingen. Läs mer här.