Top
首页 > 正文

腾讯云TI-ONE助力中小型企业“降本提效”:硬件成本降低50%

作为前沿技术的探索,腾讯一直通过向各行业提供 AI 技术助力,推动人工智能技术高水平应用,目前已在金融、媒体、政务、工业和医疗等多个行业受到客户认可。
发布时间:2022-09-29 17:45        来源:赛迪网        作者:

记者今日获悉,腾讯云TI-ONE平台在数据接入、模型训练、模型服务等阶段为企业提供全链路的技术优化方案,并在模型训练、推理阶段提供TI-ACC加速工具,帮助客户节省50%硬件成本。

随着数字化转型进程不断加速,人工智能技术的发展更加关注与行业应用、社会需求的深度融合。其中,技术服务商如何提供“开箱即用”的AI能力,让企业更好聚焦业务本身,提高 AI应用的开发效率,成为行业关注的主要问题。

今年9月,腾讯一站式AI开发服务平台TI平台全面升级,并推出TI-ACC加速工具、TI-OCR训练平台、TI-ONE训练平台、工业质检训练平台、智能视频分析平台、媒体内容中台/媒体AI中心等服务板块。其中,TI-ACC的推理加速性能较原生框架提升100%以上,可用于大模型加速等场景。

图片1

目前,依托于数据训练模型、深度学习网络的分布式大规模机器训练,成为企业提升业务效能的主要途径。然而,数据量庞大、训练推理环境搭建复杂、训练周期长、推理时延高等问题,中小企业的人力成本和硬件成本不断攀升。

以AI商品识别服务商掌控科技为例。随着业务规模不断扩大,高精度模型所需的GPU资源成本不断提高。在腾讯云TI-ONE的助力下,客户将由TI-ACC加速优化后的模型部署在生产环境,推理性能提升100%,硬件成本降低50%。

TI-ACC在推理阶段所呈现的高性能,得益于底层的TNN基础框架。据了解,TNN是腾讯优图实验室向行业开源的部署框架,TI-ACC在TNN接口基础上进行产品化封装,提供一键式推理加速功能。

图片2

此外,TI-ACC支持各类主流模型格式接入,无需转换。另覆盖CV、NLP、推荐等场景,功能丰富,能够满足客户的多样化需求。

使用层面,客户只需将保存的模型包上传到模型仓库,将优化后的模型在TI-ONE平台发布服务并通过API条用,即可享受到TI-ACC推理加速带来的高性能体验。

作为前沿技术的探索,腾讯一直通过向各行业提供 AI 技术助力,推动人工智能技术高水平应用,目前已在金融、媒体、政务、工业和医疗等多个行业受到客户认可。未来,腾讯也将持续深入行业,更好发挥AI技术的长期价值,助力实体经济高质量发展。

每日必读

专题访谈

合作站点