DeepSeek-R1的宣布让各人渡过了一个热烈的春节。DeepSeek用较低的本钱，获得了跟OpenAI雷同的后果，这也象征咱们的客户能够私有化安排与OpenAI才能濒临的基座年夜模子。本文援用地点：研华AIR-520 是一款支撑4卡单槽GPU或2卡双槽GPU的桌面级LLM效劳器，重要用于推理跟微调两个偏向。咱们曾经打包好3个推举设置，便于各人直接选型。推举设置如跟你的利用有差距，也可机动分配。（图：AIR-520 三款设置清单）近半年来跟着AI Agent的普遍应用，各人对LLM效劳器的推理才能比拟重视，在DeepSeek宣布后，咱们也应用AIR-520-L70A1 RTX 4000 ADA 4卡版主机，对产业客户最常用的DeepSeek-R132B、70B两个模子停止了测试。体系设置：DeepSeek-R1 32B 测试：DeepSeek-R1 70B测试：经由过程测试，咱们能够看到AIR-520的优良表示。