一、前言：本地部署大模型，不只依赖显卡
自Deepseek大模型问世以来，凭借其高效性和开源性，迅速引起广泛关注，堪称当前炙手可热的AI大模型之一。它为人工智能领域的研究和应用带来了新的可能性。
Deepseek-R1不仅开源了拥有671B参数的完整模型，还同步开源了六个不同规模的蒸馏模型，分别为DeepSeek-R1-Distill-Qwen-1.5B/7B/8B/14B/32B，以及DeepSeek-R1-Distill-Llama-70B。这种多样化的模型选择，极大地便利了用户根据自身设备配置，选择合适规模的Deepseek大模型进行本地部署和实验。 这种策略降低了使用门槛，使得更多人能够体验到AI大模型的强大功能，同时也促进了模型的进一步优化和完善。
在各大厂商纷纷推出AI云服务的今天，为什么我们还要选择在本地部署AI大模型呢？这一问题涉及到多个层面的考量，包括用户需求，技术发展趋势以及对数据安全，部署成本等因素的平衡。
原因很明显，首先，本地部署可以避免因云服务不稳定带来的影响。Deepseek上线初期曾出现的网络故障，便是前车之鉴，这也提醒我们在某些关键应用场景中，依赖云服务可能存在的风险。其次，对于某些涉及敏感数据，不允许公开或上传云端的情况，本地部署更是必要之选，能够有效保障数据和隐私安全。特别是在医疗、金融、法律等行业，对数据安全有着极高的要求，本地部署成为了一种更为可靠的选择。
当然，还有一部分原因来自于用户本身的需求。本地部署在离线状态下仍然可以提供服务，这对于需要在无网络环境下工作的人员来说至关重要。同时，本地部署也赋予了用户更多的控制权，可以根据自身需求定制模型，并进行更深层次的优化和研究。
另外，一部分用户也出于对自身硬件设备性能的充分利用，希望能够通过本地部署来挖掘硬件的潜力。
再加上新硬件性能的提升，也确实为AI大模型的本地部署提供了支撑。如今，本地部署大模型的技术门槛已大幅降低。网络上涌现了大量的部署教程和方案，甚至出现了一键式部署工具，简化了部署流程，使得普通用户也能轻松上手。这无疑推动了AI大模型的普及，让更多的人能够体验到AI技术的魅力。
然而，目前大多数教程和方案都强调对本地算力的要求，尤其依赖高性能显卡，这对于没有独立显卡的轻薄笔记本而言，无疑构成了一定的挑战。许多轻薄本用户可能因此放弃了本地部署的计划。然而，事实上，即使没有独立显卡，仍然可以通过优化配置和利用其他硬件资源，实现在轻薄本上运行AI大模型。
那么，是否意味着没有大显存显卡就无法拥有自己的AI大模型呢？答案是否定的。通过合理的配置和优化，即使是集成显卡的设备也能运行AI大模型，当然，性能上可能会有所妥协，需要根据实际情况进行权衡。
本次评测，我们将选择一台配备Intel酷睿Ultra 9 285H处理器的轻薄笔记本，尝试进行本地大模型部署和应用。我们将探索不依赖独立显卡，充分发挥CPU、iGPU核显以及NPU的算力资源，最终能否成功运行本地AI大模型。 这不仅是一次技术挑战，也是对轻薄本性能潜力的一次探索，为用户提供更多关于如何在有限资源下利用AI大模型的实践经验。
