提供大模型开发环境,Modular获1亿美元A轮融资

专注AIGC领域的专业社区,关注OpenAI、百度文心一言等大语言模型(LLM)的发展和应用落地,关注LLM的基准评测和市场研究,欢迎关注!

提供大语言、扩散、视觉、推荐等模型开发环境的AI初创企业Modular,宣布获得1亿美元(约7.2亿元)A轮融资。本次由General Catalyst领投资,谷歌风投、SV Angel、Greylock等跟投。

Modular提供一种开发引擎,可将大模型实现模块化开发,无需重写或转换就能执行在TensorFlow、PyTorch框架中训练的模型,将其快速部署在服务器中实现场景化落地。(体验地址:https://www.modular.com/get-started

此外,Modular还针对AI开发人员,开发了一种全新的编程语言Mojo。据Modular介绍该编程语言的开发效率比Python快90倍。

资料显示,Modular创立于2022年1月,总部位于美国旧金山湾区。两位联合创始人Chris Lattner、Tim Davis曾在谷歌、苹果、特斯拉等世界知名企业担任过开发岗位领导者。

Tim Davis曾参与了谷歌Brain、TensorFlow、XLA和MLIR等核心产品的开发。因此,在2022年6月的种子轮融资,Modular就获得了3000万美元高额投资。

产品方面,Modular主打两款产品一个是大模型开发引擎,另外一个是AI编程语言Mojo。对于开发人员想将大语言模型部署在服务器中,通常需要重构、预优化、训练、或进行转换,整个过程繁琐且漫长。

Modular提供的开发引擎可以适配所有基于TensorFlow、PyTorch框架的模型,并将其部署在公有云、私有云或本地等运行环境。同时还能优化大语言、视觉、推荐等模型的算力成本,减少 CPU、GPU和加速器的延迟,提高模型吞吐量以提升算力资源的利用率。

同时支持无缝模型迁移,当开发者想把现有模型放在全新的硬件设备上运行时,通过Modular无需进行模型重写或编译,极大减少了迁移成本。

Mojo是Modular自研的面向AI开发人员的编程语言,并且已经开源。(地址:https://github.com/modularml/mojo/

Python简单、易用的开发特性,成为目前最受欢迎的AI开发语言之一。但是也存在全局解释器锁(GIL)、工作负载高、内存消耗多、算力消耗多等弊端。

而Mojo尽最大努力弥补了这些弊端并与Python、C、C++和CUDA开发语言进行了集成,使得开发人员通过一种语言就能编写所有相关开发内容,并且开发效率是Python的90倍。

事实上,在运行特定的Mandelbrot等数值算法时,Mojo的效率是Python的35,000倍。因为,Mojo是基于Modular的高性能异构运行构建并使用MLIR,能够访问所有AI硬件。这使Mojo能够访问线程、TensorCore和AMX扩展等低级硬件功能,并实现加速效果。

General Catalyst董事兼总经理Deep Nishar表示,Modular的联合创始人拥有超过20年的技术开发经验,他们参与了多项世界级项目开发。他们将这些宝贵的开发积累注入到Modular,为全球AI开发者提供了高效、便捷的开发环境,非常看好其未来的发展。

本文素材来源Modular官网,如有侵权请联系删除

END