AI时代的加速到来是近两年来互联网世界里最引人关注的话题。前不久,开源行业的引领者红帽对客户做了一个小范围的调查,结果显示,过去一年使用AI的频率超过三分之二的人是“经常使用”。可见,在当下的IT行业AI早已是多数人工作、生活的必需。
基于此,所有关注于数字化和智能化管理的企业都在思考AI的发展究竟会走向何方,自己应该如何顺应这场科技革命的大潮,在转型中抢占先机。
AI应在混合云环境下开放
在关于AI的主题交流会上,红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)首先对AI的开源和闭源谈了自己的利弊看法。他认为,ChatGPT刚开始采用开源,后来走向了闭源,虽然可以获得很高的经济利益,但在封闭体系下,生态垄断的安全隐忧已初现端倪。大语言模型LLM在开放中发展,如果不是真开放,将受到诸多限制。在开源社区,由于社区的共查,可以有效减少安全风险。
同时,在行业中,企业小模型亟需发展,开源的方法论尚未真正普及。因此,作为开源的引领者,红帽想要做的就是将开源概念带入AI模型以及开放进化的工具让用户为LLM/行业中模型作贡献,提升效率与性能。
上云虽然是很多企业的选择,似乎未来在进入智能时代以后,人人都要上云。但是,这样的做法显然是巨大的浪费。红帽认为,云是混合的,AI也是如此。模型既可以在“云”上面开发,也可以在数据中心建模。在混合云上进行AI训练既可以让资源利用率最大化,也可以实现更高效率,还可以保证足够的安全性。
红帽的开源AI大战略
在交流会上,红帽宣布几项产品的发布。红帽的OpenShift AI新增了预测AI和生成式AI的通用模型选项,InstructLab也新增了简化GenAI模型开发,Podman新增AI Lab project,可以扩展运行AI。InstructLab的这个新增功能用大概十亿、二十亿的参数就可以建模,也就意味着过去大型参数的万分之一资源就可以建立新模型。而Podman的新功能可以让开发者在一个小的环境当中,例如笔记本环境中就可以去建模、运行AI。这些新功能都大大推动了AI建模的轻量化。
作为开源文化的推动者,红帽却秉持“不做硬件,也不做应用”的初衷,而是通过和合作伙伴的通力合作,在硬件和应用之间搭起基础架构、平台、工具。总结红帽的混合云开源生态下的AI战略,可以总结出以下几点:
AI应用层:提供跨开放混合云的AI赋能的企业应用;
AI模型层:为AI模型提供多样化选择,提高AI创新的ROI;
AI平台层:提供领先的AI平台,帮助企业安全高效地部署和管理AI模型和AI应用;
AI基础设施层:为企业的AI模型和AI应用提供安全的可扩展基础设施和自动化。同时为企业提供集咨询、实施、赋能三位一体的开放创新实验室服务,加速企业AI创新实施。
三步走,搭建端到端的AI平台
红帽大中华区解决方案架构部高级总监王慧慧(Aella Wang)提出了建立端到端的AI平台三步走:
第一步,在资源受限的桌面环境下,采用小数据集进行实验性的训练(qlora),InstructLab未来会集成到Podman Desktop里。通过混合云,让所有的开发人员在Ta自己的笔记本、PC工作服务器上用容器化的方式开发自己的AI应用,或者用InstructLab工具去建立和调优基于你自己的这个模型。
第二步,通过完整的合成数据生成技术,采用“教师”模型和“学生”模型的训练方法,进行生产级模型训练,并提供基本操作脚本化的工具支持。一旦基础模型经过一定调优初步验证符合要求,作为个人开发人员就可以把它推送到一个比较大的服务器上面。这个服务器就是Enterprise Linux AI、RHEL AI。
第三步,在更大的分布式集群的规模下,与RHEL AI 一样进行生产级的模型训练。同时,充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。如果企业用户在做AI应用的时候,想要先从一个小应用、小模型、小规模的尝试开始,企业就可以从Podman和InstructLab开始。通过这以上的三步,就可以满足红帽的企业用户在不同阶段的AI需求。
对于一个企业来说,开展AI的战略尝试从来不只是选择一个模型。企业需要评估AI应用场景,并运用AI专业知识来为特定场景选择适当的模型,并且还必须处理AI实施过程中的各项显著难题。红帽将开源的思路带入AI的世界,让企业有了更加轻量化、灵活性的AI选择,这无疑无论是对企业走向智能化,还是AI在全社会的深度普及,都具有非凡的意义。
腾讯混元大模型是由腾讯全链路自研的通用大模型,拥有超万亿参数规模,具备强大的中文创作能力、复杂语境下的逻辑推理能力、可靠的任务执行能力以及出色的多模态理解和生成能力。
2024-06-25 20:51sale@staff.ccidnet.com Tel:010-88558955
广告发布:sale@staff.ccidnet.com Tel:010-88558925
方案、案例展示:project@staff.ccidnet.com Tel:010-88558955