端侧大模型指在智能手机、智能汽车、可穿戴设备等终端硬件上本地运行的大型人工智能模型 。其核心在于轻量化，通过模型压缩、知识蒸馏、量化及架构创新等技术，在设备有限资源下实现高效推理 ，具备低延迟、数据隐私安全、离线可用等特点 。
2024年9月，苹果公司发布iPhone 16首次在手机端部署大模型。2025年，端侧AI技术从概念走向规模化应用 ，同年上海市科学技术委员会资助“面向端侧大模型的高能效计算芯片”研发 。进入2026年，端侧大模型在技术、产品与生态层面持续进展 ，相关技术已在机器人、智能家居及智能汽车等领域得到应用 。其发展依赖于开源协作、端云协同及芯片、算法、终端等上下游的产业协同 。
想要了解更多“端侧大模型”的信息，请点击：端侧大模型百科
