作家：赵雨荷裸舞

起原：硬AI

英伟达周四推出用于加快生成式AI模子的部署的容器化微做事Nvidia Inference Microservices（NIM），但愿匡助企业提高手工智能代理的信任、安全和可靠性。

英伟达在一篇博客中暗示，东谈主工智能代理是一项正在赶紧发展的时刻，正迟缓转换东谈主们与盘算机互动的神色，但也伴跟着诸多要道问题。智能化 AI（Agentic AI）有望纠正常识使命者的任务履行神色，以及客户与品牌“对话”的神色，但其背后的大型谈话模子仍可能出现不良反应，致使在坏心用户试图龙套看护时激勉安全问题。

英伟达暗示，周四发布的执行是基于其为建立者提供的保护框架NeMo Guardrails的扩张，旨在提高生成式东谈主工智能应用的安全性、精准性和可扩张性。NeMo Guardrails是英伟达NeMo平台的一部分，用于处置、定制和保护东谈主工智能，匡助建立者在大型谈话模子（LLM）应用中集成并处置AI看护措施。目下Amdocs、Cerence AI和Lowe’s正在使用NeMo Guardrails来保护 AI 应用。

发布的NIM共有三种，划分涵盖主题门径、执行安全和逃狱保护。该公司暗示，这些微做事是历程高度优化的袖珍轻量级AI模子，BT核工厂可通过调控大型模子的反映普及应用性能。

英伟达企业AI模子、软件与做事副总裁Kari Briski暗示。

“其中一项用于调控执行安全的新微做事，是基于Aegis执行安全数据集检修的。这是同类数据连合质地最高、由东谈主工标注的数据源之一。”

Aegis执行安全数据集由英伟达推出，包括特出35，000个由东谈主工标注的样本，用于检测AI安全问题和试图绕过系统截止的逃狱活动。该数据集将在本年晚些时候于Hugging Face上公建立布。

举例，用于主题门径的NIM可翔实AI代理“过于健谈”或偏离其蓝本的任务意见，确保其保合手在既定主题内。英伟达暗示，与AI聊天机器东谈主进行的对话时刻越长，它越容易健忘对话的初志，从而让话题偏离轨谈，肖似于东谈主类对话可能的座谈。固然东谈主类不错接纳这种情况，但关于聊天机器东谈主，尤其是品牌AI代理，偏离主题可能导致挑剔到名东谈主或竞争居品，这对品牌不利。

Briski暗示，

“像NeMo Guardrails系列中的袖珍谈话模子，具有较低的延伸，专为资源受限或散播式环境中的高效运行而想象，这使它们止境妥当在医疗、汽车、制造等行业的病院或仓库等场景中扩张AI应用。”

此外，NIM允许建立者以最小的附加延伸重叠多个看护措施。英伟达暗示，这对大无数生成式AI应用至关穷苦，因为用户不心爱永劫刻恭候，举例看到三点明慧或转圈加载动画后才出现文本或语音。

英伟达暗示，NIM微做事以及用于轨谈编排的NeMo Guardrails和NVIDIA Garak器具包，当今依然面向建立者和企业绽开使用。建立者不错通过关连教程启动将AI看护措施集成到客户做事的AI代理中，行使NeMo Guardrails构建安全的AI应用。