#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Popular
Más recientes
NVIDIAAgentSafety Publicaciones populares
¡Muy bien! NVIDIA está reuniendo a más de 100 socios para abordar las fallas de seguridad de los agentes que amenazan con ralentizar el desarrollo de la IA. Sin embargo, curiosamente, especialmente OpenAI está ausente.
Tras la brecha de seguridad de Hugging Face de OpenAI y los incidentes de pruebas de Anthropic, su Plataforma de Seguridad de Agentes Abiertos combina los controles de acceso de OpenShell con la monitorización y aplicación de Sentry en hardware separado, diseñado para mantenerse fuera del alcance del agente.
Un mejor confinamiento podría permitir a los investigadores probar modelos más potentes y a las empresas desplegar agentes más útiles. Esa es una forma concreta en que la ingeniería de seguridad puede apoyar la aceleración.
Anthropic, Microsoft y Hugging Face están entre los socios nombrados. OpenAI está ausente de la lista anunciada. Dadas sus propias fallas de confinamiento, me gustaría saber por qué. De todos modos, ¡felicidades NVIDIA!
Jensen Huang
Hoy, con más de 100 socios de la industria, presentamos la Plataforma de Seguridad de Agentes Abiertos de NVIDIA, que reúne OpenShell y Sentry.
La inteligencia artificial es una tecnología extraordinaria que impulsará el descubrimiento, la productividad, la seguridad, la salud y la prosperidad para las generaciones venideras.
Pero su promesa completa solo puede realizarse cuando las personas tienen la confianza de que la IA se está construyendo para ser segura y se despliega con sabiduría y responsabilidad.
Esto es más grande que un solo producto. Es el comienzo de un ecosistema abierto para construir la capa de confianza para sistemas de agentes seguros.
Juntos, estamos construyendo la base de la economía de la IA.
La confianza y la innovación no están en conflicto. La seguridad es cómo se gana la confianza. Debemos construir no solo la IA más capaz, sino la IA más confiable, para que esta tecnología extraordinaria pueda cumplir su enorme promesa para el mundo.
🚨ÚLTIMA HORA: Nvidia $NVDA está lanzando un sistema de seguridad de IA diseñado para DETENER a los agentes que intenten infiltrarse en otros sistemas.
La Plataforma de Seguridad de Agentes Abiertos “controla a qué pueden acceder los agentes de IA en tiempo real y puede apagarlos cuando incumplen las reglas,” informa Bloomberg.
El sistema incluye dos herramientas de seguridad de código abierto que pueden ejecutarse en hardware de Nvidia.
El vicepresidente Justin Boitano dice que el sistema "podría haber detenido" la reciente brecha de Hugging Face causada por los modelos de IA de OpenAI.
Boitano añadió que puede “poner en cuarentena a un agente sospechoso en milisegundos.”
La monitorización de la cadena de pensamiento, fundamentalmente, implica leer las notas que una IA se escribe a sí misma y comprobar qué hay en esas notas.
Esto funciona porque las IAs solo están entrenadas para obtener buenos resultados, no para tener notas bien presentadas, lo que significa que sus notas son cualquier cosa extraña que logre la tarea.
Y, por supuesto, a medida que los modelos se vuelven más inteligentes, necesitan menos notas para obtener los mismos resultados; pueden hacer más del trabajo en su cabeza.
🔥 ¡OKX lanza Pre-IPO X-Perps!
OKX ha anunciado X-Perps para Anthropic y OpenAI, dando a los usuarios elegibles de la EEE acceso para comerciar contratos perpetuos vinculados a estas empresas privadas antes de cualquier cotización pública.
🛡️ OKX Shield amplía la seguridad
Los usuarios europeos elegibles pueden recibir hasta €500,000 en protección contra la toma de control de cuentas, dependiendo del nivel VIP y los requisitos de seguridad.
⚡ Más X-Perps añadidos
OKX listó recientemente METUSD, ARUSD y COREUSD, tras FLOCKUSD, MINAUSD y CASHCATUSD. $BTC #FedHike
La carrera de la IA ya no es solo una carrera de GPU.
Anthropic ha comprometido 11.6 mil millones de dólares durante siete años a Akamai para infraestructura en la nube que soporte cargas de trabajo de CPU.
Eso te dice algo importante:
La IA necesita un ecosistema completo: CPUs, GPUs, memoria, redes y centros de datos.
La historia de la infraestructura puede ser más grande que los propios modelos de IA.
#Anthropic #AI #Akamai #Tech #Crypto
