Nvidia bouwt beveiligingslaag buiten de AI-agent zelf

Nvidia vertrouwt AI-agents niet op hun eigen oordeel en bouwt daarom een beveiligingslaag die volledig buiten het AI-model opereert. Met het nieuwe Open Agent Safety Platform bepaalt de infrastructuur zelf wat een agent wel en niet mag doen, ongeacht wat het model intern besluit. Nu agents steeds vaker toegang krijgen tot bestanden, code, API’s en bedrijfssystemen, verschuift de focus bij AI-veiligheid van wat een model zegt naar wat het daadwerkelijk mag uitvoeren.

In het kort:

• Nvidia lanceert een beveiligingsplatform voor AI-agents met twee lagen: OpenShell en Sentry.
• Toegang wordt standaard geweigerd en rechten worden afgedwongen buiten het model om.
• Het platform is bedoeld voor bedrijven die op grote schaal met AI-agents werken.

OpenShell en Sentry vormen de twee lagen

Het platform bestaat uit twee afzonderlijke onderdelen. OpenShell regelt waartoe een agent toegang heeft, zoals het bestandssysteem, het netwerk, gegevensbronnen en externe diensten. Alles wat buiten de ingestelde regels valt, wordt automatisch geblokkeerd.

Het tweede onderdeel, Sentry, monitort onafhankelijk wat een agent feitelijk doet. Zodra een agent de vastgestelde grenzen overschrijdt, kan Sentry die agent binnen milliseconden isoleren. De twee lagen samen vormen wat Nvidia omschrijft als externe controle: het systeem, niet het AI-model, bepaalt wat technisch mogelijk is.

Agents vormen een ander risico dan chatbots

De redenering achter het platform is dat autonome AI-agents fundamenteel anders zijn dan gewone chatbots. Een chatbot kan een verkeerd antwoord geven, maar een agent kan dat verkeerde antwoord ook uitvoeren. Hij kan bestanden aanpassen, verzoeken versturen, databases raadplegen of externe systemen activeren, allemaal voordat een mens ingrijpt.

Dit is vergelijkbaar met wat eerder zichtbaar werd bij privacy-incidenten via AI-agents, waarbij de gevolgen van autonome acties moeilijk terug te draaien zijn. Naarmate bedrijven meer agents inzetten, groeit het belang van dit soort infrastructurele controle.

Standaard geen toegang, tenzij expliciet toegestaan

De aanpak van Nvidia is gebaseerd op het zogeheten zero-trust principe: toegang wordt standaard geweigerd en rechten worden uitsluitend buiten het model om afgedwongen. Niet de agent, maar het systeem bepaalt welke acties technisch uitvoerbaar zijn.

Bedrijven die op grote schaal duizenden agents inzetten, hebben daarmee een centrale controlelaag tot hun beschikking. Of dit platform een standaard wordt binnen de sector, hangt af van hoe snel andere aanbieders met vergelijkbare oplossingen komen en hoe bedrijven de afweging maken tussen autonomie en controle bij hun AI-inzet.