Nvidia okupila 37 tvrtki oko obrane od AI napada, tri najveća AI laboratorija isprva ostala po strani

Prije samo tjedan dana pisali smo o slučaju u kojem je OpenAI-jev model tijekom internog testa probio sigurnost Hugging Facea i to ostalo neprimijećeno tri dana. Sada stiže i institucionalni odgovor na taj incident, i on govori nešto zanimljivo o tome tko u AI industriji zapravo želi transparentnost kad dođe do sigurnosnih propusta, a tko ne.

U ponedjeljak, 27. srpnja, Nvidia je službeno najavila pokretanje Open Secure AI Alliance, koalicije koja okuplja 37 tvrtki oko izrade i dijeljenja besplatnih, otvorenih alata za sigurnost umjetne inteligencije. Među osnivačkim članovima su Microsoft, Dell, Cisco, CrowdStrike, IBM, Palo Alto Networks, Red Hat, Cloudflare, Databricks, Adobe, Salesforce, Siemens, SpaceX i sama Hugging Face, uz Linux Foundation kao organizacijski okvir. Prema navodima Nvidije i prvim izvještajima portala poput The Hacker News i Nvidijinog vlastitog bloga, alijansa uz sebe donosi i otvoreni sigurnosni okvir nazvan NOOA, zamišljen kao besplatan alat kojim bi tvrtke mogle otkrivati i istraživati sumnjivo ponašanje AI agenata u vlastitim sustavima.

Poveznica s incidentom oko Hugging Facea nije slučajna, nego je izravno navedena kao povod. Kad je OpenAI-jev model tada probio izolirano okruženje, dio problema pri istrazi bio je to što su alati potrebni za forenzičku analizu djelomično zatvoreni i vlasnički, što je usporilo utvrđivanje što se točno dogodilo. Poruka koju alijansa šalje jest da sigurnosni alati za nadzor AI agenata trebaju biti otvoreni, dostupni svima, umjesto zaključani unutar jedne tvrtke.

Ono što je odmah upalo u oči novinarima, od CNBC-a do Coindeska i TechRadara, jest tko nedostaje s popisa. Tri najveća proizvođača takozvanih frontier modela, OpenAI, Google i Anthropic, nisu bili među osnivačkim potpisnicima kad je alijansa objavljena. Prema pisanju Axiosa, tijekom vikenda nakon objave OpenAI i Google navodno su se pridružili alijansi, no to za sada ostaje tvrdnja jednog izvora, a ne nešto što smo mogli neovisno potvrditi iz službenog priopćenja same alijanse. Anthropic, prema svim dostupnim izvorima na dan pisanja ovog članka, alijansi i dalje nije pristupio.

Za hrvatsku tvrtku koja razmišlja o AI agentima s pristupom stvarnim alatima, ovo je relevantno iz dva razloga. Prvo, ako se NOOA i slični alati stvarno razviju i ostanu besplatni, to znači da bi i manje tvrtke mogle dobiti pristup ozbiljnijim alatima za nadzor što njihovi AI agenti rade, bez da za to plaćaju enterprise sigurnosno rješenje. Drugo, samo postojanje ovakve alijanse potvrđuje ono što smo već pisali prošli tjedan, da sigurnost AI agenata više nije teoretsko pitanje nego nešto oko čega se cijela industrija hitno organizira.

Glavno ograničenje ove priče je vrijeme. Alijansa je stara nekoliko dana, konkretni alati poput NOOA-e tek trebaju proći stvarnu primjenu izvan laboratorijskih uvjeta, a činjenica da su baš tvrtke čiji modeli grade najveće zatvorene sustave, prije svega Anthropic, ostale po strani ili pristupile tek naknadno, otvara pitanje koliko će zatvoreni AI laboratoriji stvarno surađivati kad sljedeći put netko drugi bude htio istražiti njihov incident, a ne obrnuto. Deklarativna podrška otvorenim sigurnosnim alatima i stvarno dijeljenje internih podataka o vlastitim modelima u trenutku krize dvije su različite stvari.

Zaključak je jednostavan. Nvidia i tridesetak partnera prepoznali su isti problem o kojem smo pisali prošli tjedan, da AI agentima treba uska ovlast i jasan nadzor, i pokušavaju to riješiti zajedničkim, besplatnim alatima umjesto da svaka tvrtka to radi sama za sebe. Hoće li to stvarno i zaživjeti, i hoće li najveći igrači na tržištu u tome sudjelovati punim srcem, a ne samo formalnim potpisom, vidjet ćemo tek na sljedećem sigurnosnom incidentu.