腾讯云副总裁王麒:全链路AI技术帮助企业拥抱大模型新机遇
2025-06-10 14:30 海报新闻
腾讯云TI平台是腾讯云面向实战的大模型开发平台,提供从数据准备到模型精调,到服务部署的全流程开发工具链。
在模型训练层面:我们升级了精调工具链,支持更多训练方式,同时支持训推一体潮汐调度。基于这个能力,TI平台能在夜间,将在线推理业务的闲时算力,自动释放给离线训练任务和离线数据处理任务,从而大幅提升资源利用率。
来看这样一个案例:某头部消费电子企业,基于TI平台统一管理集团算力, 支撑了大模型和传统CV小模型的研发,应用在电视产品文案生成、视频分析等场景。基于TI平台提供的精调工具链和资源管理能力,AI研发整体提效50%以上, GPU资源利用率也提升超过80%。
在模型推理层面:TI平台持续升级内置的Angel加速套件,以业界领先的推理加速能力,帮助企业降本。在技术升级方面,我们通过深挖内核和架构延展,在精度几乎无损的前提下,实现服务时延的大幅降低, 以及吞吐能力的大幅提升。
比如某头部新能源汽车制造商基于TI平台统一纳管算力部署DeepSeek专属模型,支撑知识问答、营销、座舱语音助手等多个业务场景。在使用TI平台提供的Angel加速能力后,DeepSeek的模型综合性能显著提升,资源成本显著降低。
青岛是一个底蕴深厚且活力迸发的制造业大市,腾讯云也提供面向制造业的工业质检方案。腾讯云 TIAOI-AI工业质检平台,专注于外观缺陷质检场景。在训练端,通过TI-AOI训练端训练高精度工业质检模型,并输出SDK;在运营端,将训练好的模型部署在产线机台,进行视觉缺陷检测。