#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Angesagt
Neueste
NVIDIAAgentSafety Beliebte Beiträge
Sehr gut! NVIDIA bringt über 100 Partner zusammen, um die Sicherheitslücken bei Agenten anzugehen, die die Entwicklung von KI zu verlangsamen drohen. Seltsamerweise fehlt jedoch besonders OpenAI.
Nach dem Hugging Face-Verstoß von OpenAI und den Testvorfällen bei Anthropic kombiniert die Open Agent Safety Platform von OpenAI die Zugriffskontrollen von OpenShell mit der Überwachung und Durchsetzung von Sentry auf separater Hardware, die außerhalb der Reichweite des Agenten bleiben soll.
Bessere Eindämmung könnte Forschern erlauben, stärkere Modelle zu testen, und Unternehmen, nützlichere Agenten einzusetzen. Das ist ein konkreter Weg, wie Sicherheitsengineering die Beschleunigung unterstützen kann.
Anthropic, Microsoft und Hugging Face gehören zu den genannten Partnern. OpenAI fehlt in der angekündigten Aufstellung. Angesichts der eigenen Eindämmungsfehler würde ich gerne wissen, warum. Wie auch immer, Kudos an NVIDIA!
Jensen Huang
Heute haben wir mit über 100 Branchenpartnern die NVIDIA Open Agent Safety Platform vorgestellt, die OpenShell und Sentry zusammenbringt.
Künstliche Intelligenz ist eine außergewöhnliche Technologie, die Entdeckungen, Produktivität, Sicherheit, Gesundheit und Wohlstand für kommende Generationen vorantreiben wird.
Aber ihr volles Potenzial kann nur dann realisiert werden, wenn die Menschen Vertrauen darin haben, dass KI sicher entwickelt und mit Weisheit und Verantwortung eingesetzt wird.
Das ist größer als ein einzelnes Produkt. Es ist der Beginn eines offenen Ökosystems, um die Vertrauensschicht für sichere Agentensysteme zu schaffen.
Gemeinsam bauen wir das Fundament der KI-Wirtschaft.
Vertrauen und Innovation stehen nicht im Widerspruch. Sicherheit ist der Weg, wie Vertrauen verdient wird. Wir müssen nicht nur die leistungsfähigste KI entwickeln, sondern auch die vertrauenswürdigste, damit diese außergewöhnliche Technologie ihr enormes Potenzial für die Welt entfalten kann.
🚨EILMELDUNG: Nvidia $NVDA bringt ein KI-Sicherheitssystem auf den Markt, das darauf ausgelegt ist, zu verhindern, dass Agenten in andere Systeme eindringen.
Die Open Agent Safety Platform „kontrolliert in Echtzeit, auf was KI-Agenten zugreifen können, und kann sie abschalten, wenn sie gegen die Regeln verstoßen“, berichtet Bloomberg.
Das System umfasst zwei Open-Source-Sicherheitswerkzeuge, die auf Nvidia-Hardware ausgeführt werden können.
Vizepräsident Justin Boitano sagt, das System „hätte den jüngsten Hugging Face-Verstoß durch OpenAIs KI-Modelle stoppen können“.
Boitano fügte hinzu, dass es „einen verdächtigen Agenten in Millisekunden isolieren kann.“
Chain-of-thought-Überwachung besteht im Grunde darin, die Notizen zu lesen, die eine KI sich selbst schreibt, und zu überprüfen, was in diesen Notizen steht.
Das funktioniert überhaupt – KIs werden nur darauf trainiert, gute Ergebnisse zu erzielen, nicht darauf, gut aussehende Notizen zu machen, was bedeutet, dass ihre Notizen alles Mögliche sein können, was die Aufgabe erfüllt.
Und natürlich brauchen die Modelle, je intelligenter sie werden, immer weniger Notizen, um die gleichen Ergebnisse zu erzielen; sie können mehr der Arbeit im Kopf erledigen.
🔥 OKX startet Pre-IPO X-Perps!
OKX hat X-Perps für Anthropic und OpenAI angekündigt, die berechtigten EWR-Nutzern den Handel mit unbefristeten Kontrakten auf diese privaten Unternehmen vor einem öffentlichen Börsengang ermöglichen.
🛡️ OKX Shield erweitert die Sicherheit
Berechtigte europäische Nutzer können je nach VIP-Level und Sicherheitsanforderungen bis zu 500.000 € Schutz vor Kontoübernahmen erhalten.
⚡ Weitere X-Perps hinzugefügt
OKX hat kürzlich METUSD, ARUSD und COREUSD gelistet, nach FLOCKUSD, MINAUSD und CASHCATUSD. $BTC #FedHike
Das KI-Rennen ist nicht mehr nur ein GPU-Rennen.
Anthropic hat sich verpflichtet, über sieben Jahre 11,6 Mrd. $ an Akamai für Cloud-Infrastruktur zur Unterstützung von CPU-Workloads bereitzustellen.
Das sagt dir etwas Wichtiges:
KI braucht ein komplettes Ökosystem – CPUs, GPUs, Speicher, Netzwerke und Rechenzentren.
Die Infrastrukturgeschichte könnte größer sein als die KI-Modelle selbst.
#Anthropic #AI #Akamai #Tech #Crypto
