#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populär
Senaste
NVIDIAAgentSafety Populära inlägg
Mycket bra! NVIDIA samlar över 100 partners för att ta itu med agenternas säkerhetsbrister som hotar att bromsa AI-utvecklingen. Dock saknas märkligt nog särskilt OpenAI.
Efter OpenAIs Hugging Face-överträdelse och Anthropics testincidenter kombinerar deras Open Agent Safety Platform OpenShells åtkomstkontroller med Sentrys övervakning och verkställande på separat hårdvara, utformad för att ligga utom agentens räckvidd.
Bättre inneslutning kan låta forskare testa starkare modeller och företag distribuera mer användbara agenter. Det är ett konkret sätt för säkerhetsingenjörskonst att stödja acceleration.
Anthropic, Microsoft och Hugging Face är bland de namngivna partnerna. OpenAI saknas i den tillkännagivna uppställningen. Med tanke på deras egna inneslutningsmisslyckanden skulle jag vilja veta varför. Hur som helst, Kudos NVIDIA!
Jensen Huang
Idag, med över 100 branschpartners, introducerade vi NVIDIA Open Agent Safety Platform, som förenar OpenShell och Sentry.
Artificiell intelligens är en extraordinär teknik som kommer att främja upptäckter, produktivitet, säkerhet, hälsa och välstånd för kommande generationer.
Men dess fulla löfte kan bara förverkligas när människor har förtroende för att AI byggs för att vara säker och används med visdom och ansvar.
Det här är större än en enskild produkt. Det är början på ett öppet ekosystem för att bygga förtroendelagret för säkra agentsystem.
Tillsammans bygger vi grunden för AI-ekonomin.
Förtroende och innovation är inte i konflikt. Säkerhet är hur förtroende förtjänas. Vi måste bygga inte bara den mest kapabla AI:n, utan också den mest betrodda AI:n, så att denna extraordinära teknik kan förverkliga sitt enorma löfte för världen.
🚨JUST IN: Nvidia $NVDA lanserar ett AI-säkerhetssystem utformat för att STOPPA agenter från att bryta sig in i andra system.
Open Agent Safety Platform "kontrollerar vad AI-agenter kan komma åt i realtid och kan stänga ner dem när de bryter mot reglerna," rapporterar Bloomberg
Systemet inkluderar två öppen källkods-säkerhetsverktyg som kan köras på Nvidia-hårdvara.
VP Justin Boitano säger att systemet "kunde ha stoppat" det senaste intrånget på Hugging Face av OpenAIs AI-modeller.
Boitano tillade att det kan "karantänsätta en misstänkt agent på millisekunder."
Chain-of-thought-övervakning innebär i grunden att läsa de anteckningar som en AI skriver till sig själv och kontrollera vad som finns i dessa anteckningar.
Detta fungerar alls – AI:er tränas bara för att få bra resultat, inte för att ha snygga anteckningar, vilket betyder att deras anteckningar är vilka konstiga saker som helst som uppnår uppgiften.
Och, förstås, när modeller blir smartare behöver de färre anteckningar för att få samma resultat; de kan göra mer av arbetet i sitt huvud.
🔥 OKX lanserar förhandsbörsintroduktionen X-Perps!
OKX har tillkännagivit X-Perps för Anthropic och OpenAI, vilket ger berättigade EES-användare tillgång till affärskontrakt kopplade till dessa privata företag innan någon offentlig notering.
🛡️ OKX Shield ökar säkerheten
Behöriga europeiska användare kan få upp till 500 000 euro i kontoövertagningsskydd, beroende på VIP-nivå och säkerhetskrav.
⚡ Fler X-Perps tillkomna
OKX listade nyligen METUSD, ARUSD och COREUSD, efter FLOCKUSD, MINAUSD och CASHCATUSD. $BTC #FedHike
AI-kapplöpningen är inte längre bara en GPU-kapplöpning.
Anthropic har under sju år avsatt 11,6 miljarder dollar till Akamai för molninfrastruktur som stödjer CPU-arbetsbelastningar.
Det säger dig något viktigt:
AI behöver ett helt ekosystem – CPU:er, GPU:er, minne, nätverk och datacenter.
Infrastrukturhistorien kan vara större än själva AI-modellerna.
#Anthropic #AI #Akamai #Tech #Crypto
