#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Popolari
Più recenti
NVIDIAAgentSafety Post popolari
Molto bene! NVIDIA sta riunendo oltre 100 partner per affrontare le falle di sicurezza degli agenti che minacciano di rallentare lo sviluppo dell'AI. Tuttavia, stranamente, manca soprattutto OpenAI.
Dopo la violazione di Hugging Face da parte di OpenAI e gli incidenti di test di Anthropic, la sua Open Agent Safety Platform combina i controlli di accesso di OpenShell con il monitoraggio e l'applicazione di Sentry su hardware separato, progettato per rimanere fuori dalla portata dell'agente.
Un contenimento migliore potrebbe permettere ai ricercatori di testare modelli più potenti e alle aziende di distribuire agenti più utili. Questo è un modo concreto in cui l'ingegneria della sicurezza può supportare l'accelerazione.
Anthropic, Microsoft e Hugging Face sono tra i partner nominati. OpenAI è assente dalla lista annunciata. Dato i propri fallimenti nel contenimento, mi piacerebbe sapere il motivo. Comunque, complimenti NVIDIA!
Jensen Huang
Oggi, con oltre 100 partner del settore, abbiamo presentato la NVIDIA Open Agent Safety Platform, che unisce OpenShell e Sentry.
L'intelligenza artificiale è una tecnologia straordinaria che promuoverà la scoperta, la produttività, la sicurezza, la salute e la prosperità per le generazioni a venire.
Ma la sua piena promessa può essere realizzata solo quando le persone hanno fiducia che l'IA venga sviluppata per essere sicura e impiegata con saggezza e responsabilità.
Questo è più grande di un singolo prodotto. È l'inizio di un ecosistema aperto per costruire il livello di fiducia per sistemi agenti sicuri.
Insieme, stiamo costruendo le fondamenta dell'economia dell'IA.
Fiducia e innovazione non sono in conflitto. La sicurezza è il modo in cui si guadagna la fiducia. Dobbiamo costruire non solo l'IA più capace, ma anche l'IA più affidabile, affinché questa tecnologia straordinaria possa realizzare la sua enorme promessa per il mondo.
🚨ULTIM'ORA: Nvidia $NVDA sta lanciando un sistema di sicurezza AI progettato per IMPEDIRE agli agenti di violare altri sistemi.
La Open Agent Safety Platform “controlla a cosa gli agenti AI possono accedere in tempo reale e può spegnerli quando infrangono le regole,” riporta Bloomberg
Il sistema include due strumenti di sicurezza open-source che possono essere eseguiti su hardware Nvidia.
Il VP Justin Boitano afferma che il sistema "avrebbe potuto fermare" la recente violazione di Hugging Face da parte dei modelli AI di OpenAI.
Boitano ha aggiunto che può “mettere in quarantena un agente sospetto in millisecondi.”
Il monitoraggio della catena di pensiero, fondamentalmente, consiste nel leggere le note che un'AI scrive a se stessa e nel controllare cosa c'è in quelle note.
Questo funziona perché le AI sono addestrate solo per ottenere risultati efficaci, non per scrivere note dall'aspetto gradevole, il che significa che le loro note sono qualunque cosa strana che permetta di raggiungere l'obiettivo.
E, naturalmente, man mano che i modelli diventano più intelligenti, hanno bisogno di meno note per ottenere gli stessi risultati; possono fare più lavoro nella loro testa.
🔥 OKX lancia Pre-IPO X-Perps!
OKX ha annunciato X-Perps per Anthropic e OpenAI, offrendo agli utenti idonei dell'EEA l'accesso al trading di contratti perpetui legati a queste società private prima di qualsiasi quotazione pubblica.
🛡️ OKX Shield amplia la sicurezza
Gli utenti europei idonei possono ricevere fino a €500.000 di protezione contro il takeover dell'account, a seconda del livello VIP e dei requisiti di sicurezza.
⚡ Altri X-Perps aggiunti
OKX ha recentemente quotato METUSD, ARUSD e COREUSD, dopo FLOCKUSD, MINAUSD e CASHCATUSD. $BTC #FedHike
La corsa all'AI non è più solo una corsa alle GPU.
Anthropic ha impegnato 11,6 miliardi di dollari in sette anni ad Akamai per l'infrastruttura cloud a supporto dei carichi di lavoro CPU.
Questo ti dice qualcosa di importante:
L'AI ha bisogno di un intero ecosistema — CPU, GPU, memoria, networking e data center.
La storia dell'infrastruttura potrebbe essere più grande dei modelli AI stessi.
#Anthropic #AI #Akamai #Tech #Crypto
