一、DeepSeek为高校AI大模型规模化应用提供可能

实现学生的个性化学习，是我国每一所高校的愿景。DeepSeek的私有化部署，为这一愿景的实现提供了可能。

近三年，人工智能大规模预训练语言模型技术取得突破性进展，这些模型在知识整合与灵活运用方面展现出了令人瞩目的智能水平，尤其是在语义理解、智能对话、文本与图像生成、图像内容识别等方面的能力引人注目，这标志着人工智能已经成功跨越了人类的“语言关”。

同时我们也注意到，大模型的能力来自人类以语言形态存在的知识空间，而非直接来自物理世界，这与人类学校教育的模型相吻合。因此，相比其他领域，人工智能大模型必将在教育领域得到更加全面、深入的应用，支撑人才培养手段和模式发生颠覆性改变，从而加速促进教育的变革。

原本高校人工智能大模型的规模化应用是一件很宏大的叙事和场景，需要专业的团队、强大的GPU算力、高额的预算、大量的算子。但DeepSeek-R1的横空出世、全面出圈，改变了我们的认知和应用生态。

二、高校私有化部署DeepSeek的锦囊妙计

郑州大学（图源学校官网）

DeepSeek-R1推出正值春节假期，郑州大学信息化办公室技术团队第一时间在笔记本上安装了7B和14B模型，深入体验，积攒经验，并尝试做配套代码消化与增量开发。开学后迅速与学校超算中心协同在传统架构CPU+NPU+DCU多个计算节点上适配和部署了满血版DeepSeek和其他小版本，在对接学校统一身份认证平台后，向全校师生提供大模型基础性服务，及时响应了师生体验DeepSeek的需求。

同时，学校多个学科的科研团队，鉴于科研资料和实验数据的私密性和敏感性，纷纷提出了在学科内部私有化部署和应用DeepSeek的需求。考虑到大家对大模型与DeepSeek能力范围的认识可能存在一定程度的偏差、误解甚至非理性看法，我们通常建议学科团队按照以下两个步骤进行。

第一步，充分利用现有算力设备，或先购置单块消费级显卡图形工作站，来私有化部署DeepSeek小版本，特别是性价比最高的32B版本，信息办技术人员上门提供服务。第二步，学科团队通过构建本地知识库等方法，经过一段时间的深入试用和实际体验。若发现其使用效果良好，对团队科研工作带来显著帮助，并且对深化应用DeepSeek有进一步的需求和构想，信息办将协助购置更强大的计算资源、构建更庞大的模型，并共同探索更复杂的应用场景。如果学科团队的热情消退后认为对本团队并无实际用处，也不会导致显著的资源浪费。

在私有化部署和应用DeepSeek的过程中，我们深刻体验到：以DeepSeek为代表的人工智能大模型，就是“钢铁侠”胸口的那枚能量块，具备核心语言智能、压缩了海量的人类知识，其潜在能力想象空间巨大；支撑大模型应用的软件框架体系，例如Ollama、vLLM、LangChain、DeepSpeed-MII等就是“钢铁侠”的铠甲。两者相辅相成，缺一不可，大模型提供核心能力，软件框架提供支撑、应用扩展和人机交互。

在部署过程中，需要注意纠偏两个关键点。其一，大家往往过于强调大模型而弱化软件框架的重要性。实际上，大模型的“记忆”、本地知识库、智能体等核心能力，只能由软件框架提供，大模型自身并不具备，训练好的大模型只是一个静态的、被动的东西，对这一点我们应有充分的认知。其二，业界一直在谈论大模型的“大”和算力的“强”，而忽视了人工智能应用的“蚂蚁战术”和体系的力量。不妨思考，花费几百万甚至千万级资金购置的单台满血版DeepSeek再强，能支撑多少并发呢！

因此，郑州大学为师生们提供了“DeepSeek超算版”服务的同时，还推出了“DeepSeek校内版”。前者使用了标准化的开源框架，后者的软件框架由学校信息办调动有关技术人员从底层代码级自主开发，作为对体系性软件框架的实验和探索。

目前，虽然自研版功能颗粒度还暂时比不上开源的标准版框架，但由于是从底层做的，除了复刻标准版能力，对于满足本地化增量性的实际需求，具备较大想象和努力的空间。例如，全校七万多学生每人拥有一个“专属”的、能懂学生的DeepSeek，是可能的。

此外，该框架所集成的智能算力设备，充分利用了去年为学生实验所提供的十余台消费级GPU电脑，构建了一个小型的GPU集群。集群中安装了若干32B或14B的模型组成模型生态，它们协同工作，共同提供DeepSeek及其他大模型服务。鉴于单机的稳定性和能力存在局限，我们特别设计了协同和补偿机制，确保整个集群服务的稳定性和可靠性，同时具备超过百次的并发处理能力。同时，整个系统架构具有完全的可扩展性，可根据需求增加节点，且在异构模型方面也能够提供灵活的支持。

三、AI让高等教育因材施教走进现实

自1999年我国高等教育实施扩招政策以来，生师比例高、生均课程少以及大班授课模式一直是教学工作的痛点。这些因素也是导致高校教育趋向工业化和“一刀切”教学方法的主要原因。

我们始终期望通过有效的策略和机制，减轻高等教育供给侧（教师和学校）的负担，提高效率和质量，将教师从繁复的重复性教学任务中彻底地解放出来，实现需求侧（学生）的个性化教学和定制化学习，转变现有的教学模式，从而缓解乃至初步解决这一长期存在的问题。解放教师与学习的个性化，是提升教师和学生创造性及创新能力最为有效的途径，亦是我们所追求的梦想。人工智能大模型，为实现这一梦想带来了触手可及的可能性。

我们所憧憬的AI助学，不仅仅是学生的问答式助手，而是真正属于这位学生，能够洞悉其过去与现在、优点与不足、喜好与特长、心理与人格、感情与行为的全知全能的伙伴。这样的AI，能够真正陪伴学生度过大学生活，宛如电子游戏中每个角色身旁形影不离的“超级宠物”。

我们所憧憬的AI助教，真正成为教师的分身，协助教师深入了解每位学生及其学习状况，为每位学生量身定制教学方案和布置个性化的作业。此外，AI助教还能为教师提供针对每个学生的科学化培养建议，从而将教师从重复性的教学工作中解放出来，使他们有更多精力投入到具有增值性、创造性和教育意义的教学活动中。

潮起潮落，目之所及，期望DeepSeek快速迭代和演进，期望大模型能深度融入高校的教学科研，期望在这一波人工智能浪潮中能初步实现个性化学习这个梦想。（文章摘自中国教育网络）