英伟达周一发布人工智能安全平台OpenShell，宣称可限制AI代理的操作权限，并在其出现越权或异常行为时迅速介入。该平台推出时已有超过100家机构采用，包括微软、摩根大通和埃森哲。

随着AI代理自主访问企业及政府网站的事件增加，业界对系统失控和网络安全风险的担忧不断上升。英伟达表示，开发OpenShell是为了在AI模型之外建立独立的安全控制机制。

OpenShell会将AI代理放入隔离的“沙盒”环境，并把操作指令转化为可验证的安全政策。管理人员可预先限定代理能够访问的文件、工具、网络、程序和账户凭证，确保其只拥有完成任务所需的权限。

平台还配备名为Sentry的独立安全层，可通过芯片持续监控AI代理。一旦发现代理试图超越授权范围，系统便可立即介入，并在数毫秒内将其隔离。

英伟达企业AI副总裁贾斯汀·博伊塔诺（Justin Boitano）表示，如果前沿人工智能实验室在模型测试阶段使用这一平台，近期OpenAI代理入侵Hugging Face内部系统的事件可能得以避免。不过，这一说法目前主要来自英伟达自身评估。