中国联通算网运营事业群上海网络研发中心党支部围绕主责主业,将Token运营作为党建与业务融合的切入点。今年以来,党支部带领AIInfra团队组建“Token运营党员青年突击队”,聚焦国产算力适配与模型运营优化开展技术攻关。
在国产算力应用方面,党员骨干带头基于开源推理引擎开展深度调优,改进硬件适配逻辑,推动大模型在国产算力平台上平稳运行。在模型运营方面,团队探索大小模型协同的技术路线,利用小模型承担高频简单任务,让大模型专注内容生成,以优化算力资源配置。同时,团队围绕向量检索等场景进行性能优化,提升模型响应速度,并通过领域微调与提示工程改善模型输出质量。
此外,党支部坚持开源协同,推动团队将部分技术成果贡献至开源社区,促进成果共享。在服务保障方面,团队建设智能路由与智算监控能力,保障模型服务稳定运行,助力网络运营智能化转型。
下一步,中国联通算网运营事业群上海网络研发中心党支部将继续深化党建与业务融合,以模型优化推动Token运营走深走实,为网络强国、数字中国建设贡献力量。(石旭荣)