将AI保持在正轨：Nk1体育VIDIA开源软件帮助开发者为AI聊天机器人添加护栏

　　k1体育NeMo Guardrails帮助企业确保建立在大型语言模型上的应用符合其功能安全和信息安全要求。

　　全新发布的开源软件能够帮助开发者指导生成式AI应用生成令人印象深刻的文本响应,并保持在正轨上。

　　NeMo Guardrails有助于确保大型语言模型(LLM)驱动的智能应用准确k1体育、恰当k1体育、符合主题且安全。该软件包含了企业为提高可以生成文本的AI应用程序的安全性所需的所有代码、示例和文档。

　　LLM正在被用于回答客户的问题、总结冗长的文件,甚至编写软件和加速药物研发。作为这些AI应用背后的强大引擎,LLM正在被越来越多的行业所采用,此次发布恰逢其时。

　　NeMo Guardrails专为帮助用户保证这类新型AI赋能的应用的安全性而开发。

　　该软件可以让开发者调整LLM驱动的应用,以确保模型的安全性并在公司的专业领域内。

　　-主题护栏防止应用偏离进非目标领域,例如防止客服助理回答关于天气的问题。

　　-功能安全护栏确保应用能够以准确、恰当的信息作出回复k1体育。它们能过滤掉不希望使用的语言,并强制要求模型只引用可靠的来源。

　　几乎每个软件开发人员都可以使用NeMo Guardrails,他们不需要成为机器学习专家或数据科学家,只需几行代码就可以快速创建新的规则。

　　NeMo Guardrails是开源的,因此它可以与企业应用开发人员使用的所有工具搭配使用k1体育。

　　例如,它可以在LangChain上运行。LangChain是一个开源工具包,越来越多的开发者用它来将第三方应用嵌入到LLM中。

　　此外,NeMo Guardrails专为适用于广泛的基于LLM的应用而设计,例如Zapier。Zapier是一个被超过200万家企业使用的自动化平台,它见证了用户如何将AI集成到他们的工作中。

　　Zapier的AI首席产品经理Reid Robinson表示:“功能安全,信息安全和信任是负责任的AI开发的基石,我们对NVIDIA主动将这些护栏嵌入AI智能系统感到兴奋”

　　NVIDIA正在将NeMo Guardrails整合到NVIDIA NeMo框架中,该框架包含用户使用公司的专有数据来训练和调整语言模型所需的一切。

　　NeMo框架的大部分内容已在GitHub上作为开放源码提供。作为NVIDIA AI Enterprise软件平台的一部分,它还可以以完整的支持包的形式提供给企业。

　　NeMo还可作为一项服务使用。作为NVIDIA AI Foundations的一部分,这套云服务面向希望基于自己的数据集和领域知识创建、运行自定义生成式AI模型的企业。

　　通过使用NeMo,韩国领先的移动运营商构建了一个智能助手,该助手目前已经与客户进行了800万次对话;瑞典的一个研究团队使用NeMo创建了LLM,为该国医院、政府和商业机构自动生成文本。

　　为生成式AI构建有效的护栏是一项难题,随着AI的发展将需要大量持续的研究。

　　NVIDIA在护栏方面的努力将帮助企业确保他们的智能服务满足功能安全、隐私和信息安全的要求,从而使这些创新引擎保持在正轨上k1体育。

　　有关NeMo Guardrails的更多细节及入门指导,请阅读技术博客。

　　自1993年成立以来,NVIDIA (NASDAQ: NVDA) 一直是加速计算领域的先驱。NVIDIA 1999年发明的GPU驱动了PC游戏市场的增长,并重新定义了现代计算机图形,开启了现代AI时代,推动了元宇宙的创建。NVIDIA现在是一家全栈计算公司,其数据中心规模的产品正在重塑整个行业。更多信息,请访问。

　　一加手机史上超大购机优惠，10亿福利礼包大放送！即日起至3 月 31 日期间,一加推出新机开赛季游戏礼包,一加 10 Pro新购机用户在游戏中心活动页即有机会领取新机兑换券、一加 10 Pro胖达白、swit【详细】

　　智能制造、至臻把控 欧曼以“高品质”引领国六重卡新时代“重卡就是我们的赚钱利器，能不能赚钱说到底还是得看车子的质量!”从事煤炭运输10多年的石家庄欧曼司机杨师傅一语道破重卡的关键问题：“只要车子质【详细】