
Dell PowerEdge R760 是戴尔工程师对这一代服务器卓越性设计的一次研究。在我们的评测中,我们将看看该公司的新款主流 2U 双 Intel Xeon 服务器与业内其他产品相比如何。和往常一样,这将是一次非常深入的服务器评测,让我们开始吧。

Dell PowerEdge R760 硬件概览
正如我们一直以来所做的那样,我们将把这部分内容分为内部概述和外部概述。我们还为本文准备了一个视频,您可以在此处找到:

Dell PowerEdge R760 外部硬件概览
查看 2U PowerEdge R760 的正面,我们可以看到部分填充的 24x 2.5 英寸设计。戴尔还有其他前置存储选项,包括 3.5 英寸更多 SAS、更多 NVMe 等等,但我们在此仅展示一种配置。

左侧是服务按钮,然后是八个 SAS 托架。其中四个托架装有 1.6T SAS SSD。我们预计如今许多读者会更加关注 NVMe 存储,但许多戴尔客户习惯于使用基于 Broadcom 的 PERC 控制器来构建 SAS 阵列。
戴尔背板设计的一个很酷的功能是,它可以将 SAS 组件直接放在背板上,从而腾出 PCIe 插槽区域。

另一侧是服务标签、USB 控制台端口、VGA 端口和电源按钮。这一侧的一大特色是 NVMe 驱动器连接。这里有八个 3.2TB NVMe SSD。
戴尔的 24x 2.5 英寸背板被分成三个独立的 PCB,因此可以对其进行自定义,正如我们在本机中看到的那样。一些供应商使用单个背板,但这些背板更容易更换,并且具有 SAS/SATA 选项。这些背板的物理设计是我们迄今为止在服务器上看到的最精美的背板。

首先,我们有电源。我们的设备有两个 1.4kW 80Plus Platinum 设备。这些可能是我们针对大多数高端 CPU 而设定的目标,并且没有高功率 GPU 和加速器或前面的完整 NVMe 驱动器托架。80Plus Platinum 很好,但我们看到更多服务器配备 80Plus Titanium 电源。戴尔也有可选的钛级电源,但许多仍然是铂金级。
电源位于机箱的两侧,略有不同。戴尔在此处采用了细长的 PSU,为电源周围的气流提供了更多空间。

接下来是 STH 最喜欢的功能:Dell BOSS。如今 M.2 SSD 非常可靠,所以我们经常在机箱内看到它们。戴尔有一个解决方案,它使用两个 SSD 并使其可从后部更换,称为 Dell BOSS。
这是专为启动媒体设计的解决方案。BOSS 控制器是低端 RAID 控制器,因此可以对两个 M.2 SSD 进行 RAID,然后使用该阵列进行启动。这对于 Windows 和 VMware ESXi 等操作系统非常重要。大多数 Linux 发行版都可以使用软件 RAID。不过,它是一种易于部署的解决方案。

这里值得注意的一点是 BOSS 解决方案的复杂性。其他供应商仅使用主板 M.2 或在简单的转接板上安装 Marvell 控制器。戴尔有定制的金属板、电缆、固定翼形螺钉等。
服务器上没有标准 I/O。所有 I/O 均通过卡进行。不过,我们还是想介绍一下此服务器中的内容并展示其实现方式。
Dell 为其基础网络配备了定制的 Broadcom 双 RJ45 模块。这是 Dell 专用的定制模块。

接下来,我们安装了带有 Intel E810-XXV 双 25GbE NIC 的 OCP NIC 3.0 端口。您可以在此处了解有关 OCP NIC 3.0 外形规格的更多信息,但这是 4C + OCP 连接器,并使用带有内部锁定设计的 SFF 来将卡固定到位。这意味着必须打开系统并更换提升板才能维修此 NIC。带有拉环的 SFF 无需打开系统即可进行维修,这就是为什么我们在旨在最大限度地降低超大规模服务器等服务成本的服务器上看到它的原因。戴尔的业务模式包括可观的服务收入,因此它可能不太愿意在这里使用这种设计。
iDRAC 服务端口、USB 端口和 VGA 端口位于另一个自定义模块上。该模块还具有机箱入侵检测功能。

在 OCP NIC 3.0 插槽上方,有一个双低调转接板。我们稍后会更详细地介绍连接器,但戴尔正在为其所有转接板使用高密度连接器而不是电缆。它确实有一些中间电缆的设计,例如这种双 PCIe Gen4 插槽转接板设计。
首先,我们先从风扇开始。有六个热插拔风扇。戴尔拥有业内最流畅的热插拔风扇设计之一。
此外,整个风扇隔板可以通过两个闩锁从服务器上移除。这非常有用。
戴尔服务器中有很多定制的扁平电缆等,用于将电缆穿过机箱。不过,主板前部也有连接器。快速移除风扇隔板意味着可以访问它以及维修前置 PERC 卡等。

风扇将空气推过一个非常好的气流导向器。戴尔的气流导向器是业内最好的之一。
这些气流导向装置将空气推过 CPU 散热器和内存。我们在视频中展示了尺寸比较,但令人惊讶的是,戴尔在这里使用的散热器与微软在这一代 Azure 服务器中使用的散热器相比有多小。
在处理器方面,我们获得了双 第四代英特尔至强可扩展“Sapphire Rapids”处理器。这意味着每个插槽最多有 56/60 个内核,两个插槽。上面链接的文章包含了新 CPU 的所有新功能,例如 AMX AI 加速、内置 QuickAssist 加密/压缩加速(在某些 SKU 上)等。
使用新 CPU,我们获得了 8 个 DDR5 通道,最高可达 DDR5-4800,但这取决于 SKU 和人口。此服务器支持 2DPC 操作,每个 CPU 有 16 个 DIMM,总共最多 32 个。如果您想了解有关 1DPC 与 2DPC 的更多信息,请查看为什么每通道 2 个 DIMM 在服务器中不那么重要。
您还可以在我们的“为什么 DDR5 在现代服务器中绝对必不可少”一文中了解有关 DDR5 RIMM 的更多信息以及它们为何如此不同 。这是 DDR5 设计趋势的一个很好的例子。

新平台的另一大特点是 PCIe Gen5。PCIe Gen5 是否适用于存储等功能取决于选项,但新一代产品支持高达 400GbE NIC。本评测发布后约两周,我们将发布 400GbE 网络评测,其中包括 PCIe Gen5 卡和 64x 400GbE 交换机。这只有在新一代 PCIe Gen5 的帮助下才有可能。
随着 PCIe Gen5 的过渡,长主板 PCIe 走线已过时。必须使用电缆来跨越长距离。因此,我们看到服务器主板的深度正在缩小。这就是为什么这款主板在后部 I/O 区域之前停止的原因。随着 OCP DC-MHS 平台在整个行业中起飞,这种情况将变得更加普遍。
在 CPU 后面,我们可以看到这种影响。主 PCIe Gen5 转接卡插槽和转接卡高密度连接器不会越过英特尔 Emmitsburg PCH。相反,这些连接器更靠近 CPU,以缩短 PCB 走线。
这一代产品仍使用戴尔的 iDRAC 9 管理。需要明确的是,iDRAC 9 可能是 PowerEdge R760 中最大的差异化因素。使用 iDRAC 9,可以收集许多组件和配置集的数据。然后,这些数据可以输入到戴尔的 OpenManage 解决方案中,以便组织可以轻松监控和管理服务器群。这并非全部免费功能,但对于想要比拼凑开源或第三方工具更简单的解决方案的组织来说,这非常有用。
一个很棒的功能是可以直接从 Web 界面设置 BIOS 设置。并非所有供应商都具有此功能。我们展示了如何使用此功能更改 Dell PowerEdge 上 Intel Xeon Y CPU 的核心数和 TDP。
除了 iDRAC BMC 之外,戴尔还提供可选软件代理,例如 iDRAC 服务模块(请参阅如何安装戴尔 iDRAC 服务模块),可用于通过操作系统代理收集信息并将其传递到管理堆栈。
Dell 还具有 iKVM 支持等功能。我们在此系统上安装了 iDRAC 9 企业版,因此我们拥有完整的 HTML5 iKVM 功能。
该设备安装的 CPU 是 Intel Xeon Platinum 8452Y 单元。我们将它们配置为 P1 36 核、300W TDP 和 2.0GHz 基本时钟,这是这些 Intel CPU 的最大核心数。
我们使用了本地 Supermicro 服务器、PhoenixNAP 的云裸机服务器,然后是 PowerEdge R760,并运行了相同的工作负载,从虚拟化到一些微基准测试,再到 AVX-512 HPC 工作负载、数据库工作负载、编译工作负载,甚至利用新的 Intel AMX AI 扩展进行推理。
可以看出,我们在三台具有相同 CPU SKU 的服务器之间取得了相当接近的成绩。测试中总会有一些变化,而且我们无法控制云数据中心,但关键的发现是,配备这些 300W CPU 的 Dell PowerEdge R760 符合预期。
电源由两个 Dell 80Plus Platinum 1.4kW PSU 提供。Dell 有许多 PSU 配置,因此这只是其中一种选择。
我们注意到,我们的服务器配置非常高性能。其空闲功耗超过 600W。我们不得不将服务器从数据中心拉出来并在工作室进行测试以验证这一点。
在这种配置下,我们预计最大功耗约为 1kW。不过,有很多选择。添加更多更快的 NVMe 存储会对功耗产生巨大影响。同样,添加 GPU 或其他加速器可以增加功耗。我们也没有顶级 350W SKU。英特尔针对此插槽的下一代 CPU 也将具有更高的 TDP,因此如果您在第五代英特尔至强可扩展处理器问世时阅读本文,那将是另一个考虑因素。
这凸显了设计现代服务器的挑战。一台 Dell PowerEdge R760 的使用寿命可能在 200W 以下的低端配置下运行。另一台服务器的使用寿命可能在 2kW 以上。戴尔的设计考虑到了这种 10 倍的差距。
STH 服务器 Spider:Dell PowerEdge R760
2018 年下半年,我们推出了 STH Server Spider,作为服务器系统能力的快速参考。我们的目标是开始快速直观地描述服务器所针对的参数类型。
Dell PowerEdge R760 是一款功能非常丰富的服务器。它并非旨在每 U 容纳最大数量的 3.5 英寸硬盘、处理NVIDIA HGX H100 GPU 组件,或在最密集的机架中每 U 容纳最多的 RAM 或 CPU。相反,PowerEdge R760 旨在在一个通用平台上处理一系列场景。
关键经验教训
Dell PowerEdge R760 非常吸引人。使用过这款服务器,也使用过其他供应商的上一代和几代服务器,有一种压倒性的感觉。大多数组件的设计都经过了层层迭代。Dell BOSS 就是一个很好的例子,它是市场上最精致的 M.2 解决方案之一,甚至可以说是最精致的。
从物理设计角度来看,许多其他服务器都力求将成本降至最低,设计也非常简单。PowerEdge R760 给人的感觉就是设计得很漂亮。就像在高端汽车上安装实木内饰一样。这不是必需的,但非常好看。部分原因是 PowerEdge R760 和使用相同主板的变体设计用于实现许多功能。
另一个重要的教训是滑稽的在线配置器定价。这是一个很好的例子,也是我们通常不公布标价的原因之一。
32GB DIMM 的标价是每条 2150 美元。64GB DDR5 RDIMM?是 4200 美元。在视频中,我说我们为 64GB RDIMM 支付的费用不到 400 美元,我记得当我们做为什么 DDR5 在现代服务器中绝对必要的时候,我们当时使用的 32GB DIMM 每条不到 200 美元。戴尔的标价是我们支付价格的 10 倍以上。
另一种观点是 SSD 方面。如今,960GB SATA SSD 的价格应该远低于 100 美元,即使是数据中心版本也是如此。而不是 1200 到 1800 美元。
这是因为即使自动应用折扣,网络配置器标价也基本上是虚幻的数字。该工具似乎旨在生成通过销售代表折扣流程定价的配置,并可能推动服务收入,而不是实际在线购买。
2010 年初,我带领普华永道的一个团队重新制定了 Dell EMC 一家大型竞争对手的定价、折扣和销售例外流程,因此这并不令人震惊,因为当时 60% 的折扣在业内很常见。令人震惊的是,在美国的标价中看到原本打算打 90% 以上的折扣。十年前,OEM 针对中国等国家/地区制定了特殊的标价,以便那里的采购团队能够通过获得 90% 的折扣获得巨大胜利。在检查我们的配置价格之前,我从未见过美国客户如此频繁地使用同样的策略。
最后的话
Dell PowerEdge R760 是一款非常出色的服务器,它将吸引 Dell 庞大的安装基础。如果我们回溯到 3-5 年前的 PowerEdge R740 等服务器,那么这一代新一代服务器可提供 2:1 或更好的服务器和插槽整合率。这简直太棒了。
PowerEdge R760 的设计非常灵活,每个物理部件都融入了多年的系统化专业知识。作为一名每年评测过各大供应商数十种服务器型号的人,很明显设计中倾注了多少心思。
总的来说,如果您是 PowerEdge 或服务器的粉丝,那么新款 Dell PowerEdge R760 绝对棒极了。
【公司名称】四川旭辉星创科技有限公司
【销售经理】熊经理
【联系方式】座机:028-85596747 手机:18244236404
【公司地址】四川省成都市武侯区二环路南一段13号群益商务大厦1栋单元4层1-403
请用微信扫描二维码