近期阿里云正式发布并开源了全新推理模型——通义千问QwQ-32B。通过大规模强化学习,千问QwQ-32B在数学、代码及通用能力上实现质的飞跃,整体性能比肩DeepSeek-R1。在保持强劲性能的同时,千问QwQ-32B还大幅降低了部署使用成本,对此神州鲲泰第一时间发起部署测试,并同步推出“模型私有化部署解决方案”,为千行百业的AI应用落地持续加速。
神州鲲泰模型私有化部署解决方案:
让小身材爆发大能量
神州鲲泰模型私有化部署解决方案,算力层由神州鲲泰系列推理服务器产品构建(鲲鹏+昇腾算力),具有超强算力、全场景AI和开放生态等特点。平台层为企业级AI应用一站式构建管理平台——神州问学,实现深度软硬件优化,一体化部署,兼顾AI落地敏捷性与模型、数据的安全性。神州问学平台可以灵活搭建Agent,快速完成AI应用构建,充分发挥模型价值,同时预装智能客服、AI4BI、智能营销、超级员工、智能文本、企业情报、智能招采、人才搜索八大应用模板,可帮助企业快速实现AI应用落地,赋能业务创新。
使用KunTai A722推理服务器实测性能优异
在模型层千问QwQ-32B 模型在一系列权威基准测试中表现异常出色,几乎完全超越了OpenAI-o1-mini,比肩最强开源推理模型DeepSeek-R1:在测试数学能力的AIME24评测集上,以及评估代码能力的LiveCodeBench中,千问QwQ-32B表现与DeepSeek-R1相当,远胜于o1-mini及相同尺寸的R1蒸馏模型。
当下国产大模型发展势头正劲,神州鲲泰将持续从端侧推理场景,到私有化部署的集中推理场景,全面满足行业客户和商业客户对于基于各类大模型应用部署的需求。神州鲲泰“全国产化技术栈AI智算OpenLab”也将在近期成立,以开放的姿态引领行业发展,推动企业迈向智能化、数字化的新高度。