边沿运算办事器 - 「效能」为决胜点
边沿运算办事器需具有微型数据中心及边沿云的能耐,不脱处置速率、传输速率与贮存服从。运算偏重及时与精准,传输必需低耽误,而在数据的存取上得有充足的带宽与空间,这些都恰好是办事器品级主板的专长。
以 DFI ICX610-C621A-C621A 为例, 联合多中心多线程的第三代 Intel® Xeon® 处置器为多义务妙手,能满意来自多台终端设置装备摆设的数据处置需求,数目惊人的表里部传输埠口也提供了充分的传输通道,同时可办理为数浩繁的贮存安装,这些边沿办事器的功效在此张主板上全都能一次告竣。
ICX610-C621A-C621A 专为 Intel® Ice Lake 平台量身打造, 支持第三代 Intel® Xeon® 处置器。此代 Xeon® 处置器于 AI 的运算才能极为突出,包括以下三方面的提拔:
-
Intel® Deep Learning Boost
-
Intel® AVX-512
-
增援PCIe 4.0
Intel® Deep Learning Boost 搭配 Intel® AVX-512
Intel®Deep Learning Boost 并非于此代 Xeon® 处置器才问世,但这个立基于 Intel® AVX512 VNNI 指令集的技能随着处置器的更新而益发微弱,在深度学习及视觉剖析效能方面都有明显提拔。在 AI 使用的训练阶段,效能便取得60% 的提拔,而在实践举行推论时,也比××代快 30 倍以上。
用更严谨的数据来判别及剖析,VNNI 暴增了低精度运算在 AI 深度学习及推论的效能发展。透过低精度运算的优化,在举行 AI 使用时处置器的材料吞吐量大幅增长,均匀可发明约 2.19 倍的差距,这意味着在工夫上快了约 45%。
45% 的速率提拔代表什么?试想在产在线本来辨识一处产品缺陷的耗时为 25 毫秒(注 1),节流了近一半的工夫后会小于 15 毫秒,积沙成塔下,异样的工夫内能辨识的产品数目就会变多,少量布署下能节流的工时及产力提拔更是不言而谕。
而在医疗使用上,辨识速率的提拔关于受检者而言,亦可大幅低落容易形成不适的心理扫描或幅射曝露工夫,提供更优质的检测体验。