2024 年 8 月 19 日，北京人工智能生态大会在中关村国家自主创新示范区会议中心颐和厅成功召开。智谱 CEO 张鹏作专题分享，简要介绍了昇腾对自主创新的智谱大模型的助力，以及正在打造的基于昇腾的第四代代码模型 CodeGeeX4 和多模态模型 CogVLM2-video，华为昇腾计算业务副总裁刘鑫介绍昇腾原生进展。
智谱代码生成大模型 CodeGeeX4 的新版本基于昇腾 AI 与昇思 AI 框架训练，依托昇腾与昇思的多维混合分布式并行技术等软硬件能力等，将大幅提升模型开发、训练的效率及模型精度。
模型能力
1.代码生成大模型 CodeGeeX4
第四代代码模型 CodeGeeX4 堪称代码生成大模型的“六边形战士”，已经发布的 CodeGeeX4-ALL-9B 仅用百亿级参数实现模型精度超越业界主流产品。在 NaturalCodebench 等测试基准上，相对于更大的模型实现了性能反超。
CodeGeeX4 单一模型实现编程开发全流程覆盖，包括需求设计、前端开发、后端开发、数据处理等场景，支持代码补全和生成、代码问答、代码解释器、工具调用、联网搜索、项目级代码问答等全面能力。模型长序列达 128K，支持中文、英文、俄语、法语、西班牙语等 20 + 自然语言和 300 + 编程语言。同时，在模型推理可实现单卡部署，最低 24GB 显存即可进行量化推理，用户可在本地私有化部署，保护企业代码安全。
2.多模态大模型 CogVLM2-video（视频生成文本）
多模态大模型 CogVLM2-video 实现视频生成文本能力，支持 2K 序列长度、224 x 224 分辨率的视频理解以及中英文回答等功能。测试实践显示，CogVLM2-video 在多个视频问答任务上达到了 state-of-the-art SOTA 模型）的性能，并能够实现一分钟内的视频理解，在几个主流性能测试数据集（MVBench, VideoChatGPT-Bench and Zero-shot VideoQA datasets）中，CogVLM2-video 也表现不俗，展现出全面竞争力，同时在多类主要指标上完成对其他模型的领先。
基于昇腾与昇思的新版本 CodeGeeX4
CodeGeeX4 在训练过程中，调用昇腾原生的融合算子，利用昇思 MindSpore AI 框架的提供的多维混合分布式并行能力，通过对流水交织并行、tensor 模型并行的优化，解决内存瓶颈、降低计算空泡、提升通信效率，实现“计算、网络、存储”协同优化，对比同等规模参数的模型，训练效率 20% 提升，加速模型的迭代创新。
另外，该模型也采用 MindSpore 2.3 版本原创的多级编译技术，开启 O1 编译选项增加自动算子融合优化，以接近动态图的启动时间获取了图模式下接近理论值的内存复用率，进而降低重计算比例，相对动态图获得 15% 的性能收益。
未来炒股配资，智谱将与昇腾 AI 持续携手，打造更多领先的自主创新大模型，加速人工智能产业发展，助力中国千行百业的智能化转型，共同迈向智能新世界。
文章为作者独立观点，不代表在线配资炒股观点
