红帽企业Linux AI发布 目前已提供开发者预览版

maoshaoye2024-05-09 18:06:44TechWeb.com.cn

5月9日消息,ChatGPT的推出极大地激发了社会对生成式AI的兴趣,自那以来,相关创新的步伐不断加速。企业已从对生成式AI服务的初步评估转向开发并启用AI的应用程序。为了真正降低进入AI创新的门槛,企业需要扩大参与AI项目的人员范围,同时控制相关成本。

日前,开源解决方案供应商红帽公司宣布推出红帽企业Linux AI(RHEL AI)。这是一个基础模型平台,能够使用户更加便捷地开发、测试和部署生成式人工智能(GenAI)模型。

RHEL AI整合了IBM研究院的开源授权Granite大型语言模型(LLM)系列、基于大规模对话机器人对齐(LAB)方法的InstructLab模型对齐工具,以及通过InstructLab项目实施的社区驱动模型开发方法。

该解决方案被封装成一个优化的、可启动的RHEL镜像,用于在混合云环境中部署单个服务器,并已集成到OpenShift AI中。OpenShift AI是红帽的混合机器学习运营(MLOps)平台,能够在分布式集群环境中大规模运行模型和InstructLab。

InstructLab是一个围绕LAB方法和IBM开源Granite模型构建的开源社区。InstructLab项目的目标是使开发者通过简化LLM的创建、构建和贡献过程,像参与任何其他开源项目一样,将LLM开发的权力交到开发者手中。

具体来看,RHEL AI包括:

1.红帽支持和保障的开源许可Granite语言和代码模型;

2.提供支持并具有生命周期管理的InstructLab分发版本,这是一种可扩展且成本效益高的解决方案,能够增强大型语言模型(LLM)的功能,并使知识与技能的贡献得到更广泛的用户接纳。

3.通过RHEL镜像方式提供的优化可启动模型运行实例,包括Granite模型和InstructLab工具包,及优化的Pytorch运行时库和针对AMD Instinct™ MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。

4.红帽提供的完整企业支持和生命周期保证,从可信的企业产品分发开始,提供24小时全天候生产支持和扩展的生命周期支持。

红帽高级副总裁兼首席产品官Ashesh Badani表示,对企业来说,生成式AI(GenAI)代表了一次革命性的飞跃,但这需要企业真正部署起来,并针对其具体业务需求使用AI模型。通过结合红帽OpenShift AI的广泛应用,RHEL AI和InstructLab项目旨在降低混合云中生成式AI所面临的多种挑战,从数据科学技能的限制到巨大的资源需求,同时促进企业的部署并推动上游社区的创新。”

据悉,红帽OpenShift AI最新版本提供了:边缘模型服务、增强型模型服务、采用Ray支持分布式工作负载、改进模型开发、模型监控和可视化以及新的加速器配置文件。

目前,红帽企业Linux AI已作为开发者预览版提供。在IBM云上已建立的GPU基础设施用于训练Granite模型并支持InstructLab,现IBM云将增加对RHEL AI和OpenShift AI的支持。此整合将使企业能够更轻松地将生成式AI部署至其关键任务应用程序中。

 


Warning: Invalid argument supplied for foreach() in /home/wwwroot/www/chjia.com/goods.php on line 846
郭明錤:ChatGPT流量下滑不利于AI供应链整体股价表现

天风国际分析师郭明錤日前就Nvidia与AI供应链近期股价看法,发表Medium文章表示:1.我所交流的投资人,根据对英伟达(Nvidia)的CoWoS出货量与付款条件的假设,部分是期待Nvidia能提出对第三季营收$165–175亿元的预...

彭博社预测2024年AI GPU销售额:英伟达400亿美元、AMD 35亿美元

IT之家4月28日消息,彭博社分析师近日发布预估报道,认为英伟达将继续主导2024年的人工智能(AI)GPU市场,销售额将达到400亿美元(IT之家备注:当前约2904亿元人民币)。而AMD公司为35亿美元、英特尔公司仅为5亿美...

消息称鸿海再度拿下大单,成英伟达AI服务器芯片基板最大供应商

8月14日消息,据台媒《经济日报》今日凌晨报道,鸿海集团首度拿下了英伟达HGXAI服务器芯片基板的订单,供货比重将超过50%。据报道,继此前获得英伟达另一款DGXAI服务器芯片基板订单之后,鸿海已经取得英伟达最重要的...

OpenAI CEO奥特曼被解雇 回应称喜欢在这家公司工作

11月18日消息,美国时间周五,人工智能研究公司OpenAI董事会发布公告,宣布首席执行官萨姆·奥特曼(SamAltman)将离职,由首席技术官米拉·穆拉蒂(MiraMurati)担任临时首席执行官。OpenAI董事会在公告中写道:“...

中国电信:在通用大模型方面今年还会有新的成果

在昨日晚间的2023半年度业绩会上,中国电信公告称,2023年上半年营收2586.8亿元,同比增长7.7%;净利润201.53亿元,同比增长10.2%。同时,在会上,中国电信董事长兼首席执行官柯瑞文表示,中国电信在通用大模型方面今...

上一篇:谷歌CEO皮查伊最新专访:AI浪潮尚处早期 已准备好打持久战
下一篇:SK海力士开发出新一代移动端NAND闪存解决方案 将用于端侧AI智能手机