生成式人工智能 (GenAI) 处于下一波数字和数据转型的中心。企业越来越希望利用生成式人工智能的力量，这种转变通常需要在专有数据上训练模型。这自然引起了人们对数据主权、安全性和成本的担忧。

因此，使用 Llama 2 等开源大型语言模型的本地部署越来越受欢迎。它们提供可预测的成本、对数据的控制，并降低安全和 IP 泄漏的风险，确保遵守法规。戴尔正在与 Meta 合作，为企业提供更好的 Llama 2 支持。

与此同时，对于许多组织来说，从人工智能概念验证到生产的过渡可能是复杂且具有挑战性的。这就是戴尔最近宣布与 Hugging Face 合作发挥作用的地方。

戴尔和 Hugging Face 正在共同努力实现这一过程，提供一个平台，企业可以使用戴尔基础设施轻松选择、部署和微调人工智能模型，以满足其特定用例。

戴尔正在与 Hugging Face 合作，简化企业开源生成式 AI 模型的创建、微调和实施。此次合作旨在利用戴尔领先的基础设施产品和服务以及 Hugging Face 社区的资源。

此次合作的一个关键组成部分是 Hugging Face 平台上的新戴尔门户。该门户将使戴尔客户能够轻松地从针对性能和特定用例进行优化的开源人工智能模型库中进行选择。

该门户具有自定义容器和脚本，用于在戴尔服务器和数据存储系统上部署这些模型。该门户还提供对用于训练生成人工智能模型的数据集、库和教程的访问，以及用于特定结果的模板和模型。企业可以将它们与其专有数据集成，并根据自己的需求进行微调。

使用检索增强生成 (RAG)、LoRA 和 QLoRA 等技术进行微调过程可能非常复杂且耗时。戴尔旨在通过容器化工具简化此流程。

客户最初将可以使用专为人工智能模型设计的各种戴尔PowerEdge服务器。对戴尔工作站和戴尔 APEX 服务的支持即将推出。

此次合作结合了戴尔基础设施和 Hugging Face 人工智能资源的优势，在让企业级应用程序更容易访问和更安全地使用开源人工智能方面迈出了重要一步。

戴尔 GenAI 验证设计中的 Meta 的 Llama

戴尔最近还推出了针对生成式人工智能的戴尔验证设计，专门为 GenAI 项目提供经过预先测试的硬件和软件。戴尔最近通过与 Meta 的合作扩展了其经过验证的设计，以方便使用戴尔基础设施在本地轻松部署 Meta 的 Llama 2 AI 模型。

戴尔基于 Llama 2 的生成式 AI 验证设计提供了经过预先测试和验证的基础设施，可简化本地 GenAI 项目的部署和管理。Llama 2 可免费用于研究和商业用途，并在此戴尔设计上进行了测试和验证，提供部署和配置指导。这使得 Llama 2 能够快速设置和可预测的操作，特别是在戴尔平台上进行微调。

Dell PowerEdge XE9680 服务器是部署 Llama 2 的理想选择，它是首款配备 8 个 NVIDIA H100 GPU 和 NVIDIA AI 软件的服务器。Llama 2 还可以与各种戴尔基础设施一起使用，例如 PowerEdge R760xa。

戴尔还在GenAI中探索了模型定制，展示了定制技术在Llama 2模型上的应用。这包括在配备 Ubuntu 22.0 和 NVIDIA GPU 的 PowerEdge XE9680 上部署 Llama 2 70B 模型，从而实现高效、精确的 AI 输出。

此外，戴尔还将 Llama 2 模型集成到其内部工具中，以帮助客户选择适合其人工智能需求的解决方案。这种全面的方法为组织提供了可靠的 GenAI 解决方案，从桌面到数据中心和云，确保有效部署和管理本地 GenAI 项目。

分析师的看法

与Meta的关系是一个重要的关系。Meta 负责人工智能合作的副总裁 Sy Choudhury 出席了最近在奥斯汀举行的戴尔人工智能分析师活动。当被问及 Meta 的这种关系是什么时，他回答说：“我们需要确保生成人工智能有一条开放的道路。”

这类似于 Meta 通过大力参与开放计算基金会（戴尔也参与其中），使开放生态系统能够平滑其基础设施供应链中的障碍。

Meta 关系对于戴尔来说也很有意义。几乎所有其他法学硕士提供商都以某种方式与戴尔竞争。Meta 的合作伙伴友好型方法将确保围绕大型语言模型建立开放的生态系统。戴尔的拥抱关系也遵循同样的路径。

戴尔的竞争对手各自采取了不同的方法。凭借对 GreenLake 即服务产品的不懈关注，慧与通过其GreenLake for LLM提供了 LLM 即服务模式。联想正在围绕其 ThinkSystem 产品构建全栈人工智能参考设计。尽管如此，到目前为止，该公司仍在单打独斗，没有宣布 GenAI 模型合作伙伴关系（除了与 NVIDIA 的关系，几乎每个 OEM 都维持这种关系）。

生成式人工智能已经在改变企业 IT，但这是一个复杂的问题。拥有像戴尔这样的技术合作伙伴不仅提供经过调整和验证的硬件解决方案堆栈，而且还提供正确的基础模型集和优化的工具，可以减轻各种规模的企业采用 GenAI 的痛苦。

当今大多数生成式人工智能工作都发生在云端。考虑到许多 GenAI 项目还处于实验的早期阶段，再加上训练和推理所需的 GPU 和加速器的稀缺性和费用，这才有意义。随着生成式人工智能的成熟，许多工作负载自然会出现在本地。这是现代云时代现在正常的应用程序生命周期。这也是戴尔已经做好准备的地方。

戴尔与 Meta 和 Hugging Face 的合作，以及最近为支持企业人工智能而进行的组织变革，告诉我们戴尔非常认真地帮助客户快速、轻松地拥抱生成式人工智能。戴尔围绕 GenAI 所做的一切都将立即使戴尔的客户受益，而任何能够简化 IT 从业者生活的事情都是好事。

【公司名称】四川旭辉星创科技有限公司

【代理级别】成都戴尔服务器工作站总代理

【销售经理】熊经理

【联系方式】座机：028-85596747    手机：18244236404

【公司地址】四川省成都市武侯区二环路南一段13号群益商务大厦1栋单元4层1-403