#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populare
Cele mai recente
NVIDIAAgentSafety Postări populare
Foarte bine! NVIDIA reunește peste 100 de parteneri pentru a aborda eșecurile de securitate ale agenților care amenință să încetinească dezvoltarea AI. Totuși, ciudat, OpenAI lipsește în mod special.
După breșa Hugging Face a OpenAI și incidentele de testare ale Anthropic, platforma sa Open Agent Safety combină controalele de acces OpenShell cu monitorizarea și aplicarea Sentry pe hardware separat, conceput să rămână dincolo de raza de acțiune a agentului.
O mai bună izolare ar putea permite cercetătorilor să testeze modele mai puternice și companiilor să implementeze agenți mai utili. Aceasta este o modalitate concretă prin care ingineria siguranței poate susține accelerarea.
Anthropic, Microsoft și Hugging Face se numără printre partenerii anunțați. OpenAI este absent din lista anunțată. Având în vedere propriile eșecuri de izolare, aș dori să știu de ce. Oricum, felicitări NVIDIA!
Jensen Huang
Astăzi, împreună cu peste 100 de parteneri din industrie, am lansat NVIDIA Open Agent Safety Platform, reunind OpenShell și Sentry.
Inteligența artificială este o tehnologie extraordinară care va avansa descoperirile, productivitatea, securitatea, sănătatea și prosperitatea pentru generațiile viitoare.
Dar întreaga sa promisiune poate fi realizată doar atunci când oamenii au încredere că AI este construită pentru a fi sigură și implementată cu înțelepciune și responsabilitate.
Aceasta este mai mult decât un singur produs. Este începutul unui ecosistem deschis pentru a construi stratul de încredere pentru sistemele de agenți siguri.
Împreună, construim fundația economiei AI.
Încrederea și inovația nu sunt în conflict. Siguranța este modul în care se câștigă încrederea. Trebuie să construim nu doar cea mai capabilă AI, ci și cea mai de încredere AI, astfel încât această tehnologie extraordinară să-și poată realiza imensa promisiune pentru lume.
🚨ULTIMA ORĂ: Nvidia $NVDA lansează un sistem de siguranță AI conceput pentru a OPRI agenții să pătrundă în alte sisteme.
Platforma Open Agent Safety „controlează ce pot accesa agenții AI în timp real și îi poate opri când încalcă regulile,” raportează Bloomberg
Sistemul include două instrumente de securitate open-source care pot fi rulate pe hardware Nvidia.
Vicepreședintele Justin Boitano spune că sistemul „ar fi putut opri” recentul atac asupra Hugging Face de către modelele AI ale OpenAI.
Boitano a adăugat că poate „izola un agent suspect în milisecunde.”
Monitorizarea Chain-of-thought, în esență, implică citirea notițelor pe care un AI și le scrie singur și verificarea conținutului acelor notițe.
Acest lucru funcționează - AI-urile sunt antrenate doar să obțină rezultate bune, nu notițe arătoase, ceea ce înseamnă că notițele lor sunt orice lucruri ciudate care îndeplinesc sarcina.
Și, desigur, pe măsură ce modelele devin mai inteligente, au nevoie de mai puține notițe pentru a obține aceleași rezultate; pot face mai mult din muncă în mintea lor.
🔥 OKX lansează X-Perps! înainte de IPO!
OKX a anunțat X-Perps pentru Anthropic și OpenAI, oferind utilizatorilor eligibili din EEA acces la contracte comerciale perpetue legate de aceste companii private înainte de orice listare publică.
🛡️ OKX Shield extinde securitatea
Utilizatorii europeni eligibili pot primi până la 500.000 € protecție împotriva preluării contului, în funcție de nivelul VIP și cerințele de securitate.
⚡ Mai mulți X-Perps adăugați
OKX a listat recent METUSD, ARUSD și COREUSD, după FLOCKUSD, MINAUSD și CASHCATUSD. $BTC #FedHike
Cursa AI nu mai este doar o cursă pentru GPU-uri.
Anthropic a alocat 11,6 miliarde de dolari în decurs de șapte ani către Akamai pentru infrastructura cloud care suportă sarcini de lucru CPU.
Asta îți spune ceva important:
AI are nevoie de un întreg ecosistem — procesoare, GPU-uri, memorie, rețele și centre de date.
Povestea infrastructurii poate fi mai amplă decât modelele AI în sine.
#Anthropic #AI #Akamai #Tech #Crypto
Exclusiv: Anthropic intenționează să avertizeze potențialii investitori în oferta sa publică inițială că AI avansat ar putea reprezenta „riscuri catastrofale sau existențiale pentru umanitate”, un avertisment extraordinar din partea unei companii care caută să profite de pe urma aceleiași tehnologii