Project Glasswing je nová iniciativa, která sdružuje Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA a Palo Alto Networks ve snaze zabezpečit nejkritičtější software světa.

Impulzem pro vznik projektu byl objev schopností nového modelu – Claude Mythos Preview. Je to obecný frontierový model, zatím nepublikovaný, který odhaluje nepříjemný fakt: AI modely dosáhly takové úrovně schopností v programování, že dokáží překonat všechny kromě těch nejzkušenějších lidských expertů při hledání a zneužívání bezpečnostních zranitelností softwaru.

Co Mythos Preview odhalil

Mythos Preview za posledních několik týdnů identifikoval tisíce zero-day zranitelností, tedy chyb dosud neznámých vývojářům příslušného softwaru, z nichž mnohé jsou kritické, a to v každém hlavním operačním systému a každém hlavním webovém prohlížeči, spolu s řadou dalších důležitých kusů softwaru.

Tři konkrétní příklady ilustrují, o čem se tu mluví:

OpenBSD – zranitelnost stará 27 let. Mythos Preview nalezl zranitelnost v OpenBSD, operačním systému s pověstí jednoho z nejbezpečnějších na světě, používaném pro provoz firewallů a jiné kritické infrastruktury. Tato zranitelnost umožňovala útočníkovi vzdáleně shodit jakýkoli stroj s tímto systémem, stačilo se k němu připojit.

FFmpeg – 16 let v kódu testovaném milionkrát. Model objevil šestnáct let starou zranitelnost ve FFmpeg, knihovně pro kódování a dekódování videa, na níž závisí nespočetné množství softwaru – v řádku kódu, na nějž automatické testovací nástroje narazily pět milionů krát, aniž by kdy problém odhalily.

Linux kernel – řetězení zranitelností. Model autonomně nalezl a zřetězil několik zranitelností v linuxovém jádře, softwaru pohánějícím většinu světových serverů, čímž umožnil eskalaci z obyčejného uživatelského přístupu na plnou kontrolu nad strojem.

Všechny tyto zranitelnosti byly nahlášeny správcům příslušného softwaru a všechny byly opraveny.

Benchmarky: čísla za slovy

Výkonnostní rozdíl oproti dosavadním modelům je značný. Na bezpečnostním benchmarku CyberGym dosáhla Mythos Preview skóre 83,1 %, zatímco Claude Opus 4.6 dosáhl 66,6 %. V programátorských benchmarcích je náskok ještě výraznější:

Proč teď: kontext kybernetické hrozby

Software, na němž všichni závisíme každý den – zodpovědný za provoz bankovních systémů, uchovávání zdravotních záznamů, propojování logistických sítí, udržování elektrických sítí v chodu a mnoho dalšího vždy obsahoval chyby. Mnohé jsou drobné, ale některé jsou závažné bezpečnostní díry, které, pokud by byly objeveny, by mohly útočníkům umožnit převzít kontrolu nad systémy, narušit provoz nebo ukrást data.

Globální finanční náklady kybernetické kriminality jsou obtížně odhadnutelné, ale mohou dosahovat přibližně 500 miliard dolarů ročně.

Po desetiletí platilo, že nalezení sofistikovaných zranitelností vyžadovalo vzácnou expertízu dostupnou jen hrstce bezpečnostních specialistů. S nejnovějšími frontierovými AI modely náklady, úsilí a úroveň odbornosti potřebná k nalezení a zneužití softwarových zranitelností dramaticky klesly.

Deset let po prvním DARPA Cyber Grand Challenge se frontierové AI modely stávají konkurenceschopnými s nejlepšími lidskými odborníky při hledání a zneužívání zranitelností. Bez nezbytných záruk by tyto schopnosti mohly být využity k exploataci mnoha existujících chyb v nejdůležitějším softwaru světa.

Klíčová otázka je otázka symetrie: stejné schopnosti, které dávají obráncům nový nástroj, jsou k dispozici i útočníkům. Proto je rychlost zásadní.

Koalice a závazky

Jako součást Project Glasswing budou zakládající partneři používat Mythos Preview pro svou obrannou bezpečnostní práci; Anthropic bude sdílet poznatky, aby z nich mohl těžit celý průmysl. Přístup byl rozšířen i na skupinu více než 40 dalších organizací, které budují nebo spravují kritickou softwarovou infrastrukturu, aby mohly model využívat ke skenování a zabezpečování systémů prvních i třetích stran.

Anthropic se zavazuje poskytnout až 100 milionů dolarů v kreditech na využití Mythos Preview v rámci těchto snah, jakož i 4 miliony dolarů v přímých darech organizacím zabývajícím se bezpečností open-source softwaru. Konkrétně: 2,5 milionu dolarů pro Alpha-Omega a OpenSSF prostřednictvím Linux Foundation a 1,5 milionu dolarů pro Apache Software Foundation.

Plány a budoucnost projektu

Partneři Project Glasswing obdrží přístup k Mythos Preview, aby mohli nacházet a opravovat zranitelnosti ve svých základních systémech – systémech, které představují velmi velkou část světové sdílené napadnutelné plochy. Práce se bude soustředit na lokální detekci zranitelností, black-box testování binárních souborů, zabezpečování koncových bodů a penetrační testování systémů.

Do 90 dní Anthropic veřejně oznámí, co se naučili, jaké zranitelnosti byly opraveny a jaká zlepšení lze zveřejnit. Ve spolupráci s bezpečnostními organizacemi vznikne soubor praktických doporučení zahrnující oblasti jako procesy zveřejňování zranitelností, bezpečnost open-source a dodavatelského řetězce, automatizaci záplat nebo standardy pro regulovaná odvětví.

Co se týče dostupnosti modelu: Anthropic neplánuje zpřístupnit Claude Mythos Preview veřejnosti. Konečným cílem je umožnit bezpečné nasazení modelů třídy Mythos ve velkém měřítku – ale k tomu je třeba vyvinout kybernetické záruky, které detekují a blokují nejnebezpečnější výstupy modelu. Anthropic plánuje spustit nové záruky s připravovaným modelem Claude Opus, což umožní jejich zdokonalování s modelem, jenž nepředstavuje stejnou úroveň rizika jako Mythos Preview.

Geopolitický rozměr

Glasswing není jen technologická iniciativa, je to i bezpečnostně-politické prohlášení. Zabezpečení kritické infrastruktury je klíčovou prioritou národní bezpečnosti demokratických zemí – vznik těchto kybernetických schopností je dalším důvodem, proč USA a jejich spojenci musí udržet rozhodující vedoucí pozici v oblasti AI technologií. Vlády mají zásadní roli při udržování tohoto náskoku a při hodnocení i zmírňování bezpečnostních rizik spojených s AI modely.

Anthropic vedl průběžné diskuse s americkými vládními představiteli o Mythos Preview a jeho útočných i obranných kybernetických schopnostech a je připraven spolupracovat s místními, státními i federálními zástupci.

Závěr

Project Glasswing přichází v okamžiku, kdy se křivky schopností AI a kybernetické bezpečnosti protnuly způsobem, jenž nemá v historii precedent. Expertíza, která byla dříve vzácná a drahá, se stává dostupnější, a to je dobrá zpráva pro obránce se správnými nástroji, ale potenciálně velmi špatná zpráva pro všechny ostatní.

Project Glasswing je důležitým krokem k tomu, aby obránci získali trvalou výhodu v nadcházející éře kybernetické bezpečnosti poháněné AI. Je to sázka na koordinovanou obrannou akci, která předběhne nevyhnutelné šíření útočných schopností. Sázka na transparentnost a spolupráci jako lepší strategii než utajení. A uznání, že žádná organizace to sama nezvládne.

Zda tato sázka vyjde, ukáží měsíce a roky, které přijdou.

Zdroj: https://www.anthropic.com/glasswing