Looking Ahead to 2023: How CoreWeave Is Using NVIDIA GPUs to Advance the New Era of AI and Machine Learning
.avif)
TL;DR · AI 摘要
How CoreWeave Is Using The Best NVIDIA GPUs CoreWeave Published on January 5, 2023 5 min read Looking Ahead to 2023: How...
核心要点
- 主题聚焦:Looking Ahead to 2023: How CoreWeave Is Using NV
- 来源:CoreWeave,建议结合原文判断细节。
- AI 分析暂不可用,本条为保底评分与摘要。
CoreWeave如何利用最佳NVIDIA GPU | CoreWeave
发布于
2023年1月5日
5
分钟阅读
展望2023:CoreWeave如何借助NVIDIA GPU推动AI和机器学习新时代
作者
Max Hjelm
已复制
#### CoreWeave于2022年12月获得1亿美元战略融资,用于构建AI未来所需的基础设施。
今年的一些里程碑事件令人振奋,为AI领域充满希望的快速发展奠定了基础。本月,我们宣布Magnetar向CoreWeave注资1亿美元。这笔投资将直接用于扩展我们的基础设施,使我们能够向AI和机器学习公司、视觉特效工作室以及其他企业和初创公司提供大规模的NVIDIA GPU加速计算能力。
今年早些时候,EleutherAI在CoreWeave的NVIDIA A100 Tensor Core GPU训练集群上训练出GPT-NeoX-20B,这是目前公开可用的最大语言模型。该发布展示了下一代开源AI系统的前景。此后,CoreWeave的无服务器Kubernetes基础设施在寻求构建基于大语言模型(LLM)创新产品的企业和研究人员中需求激增。
生成式AI正在我们日常生活中变得越来越普遍。在过去的几周里,OpenAI推出的大型语言模型(LLM)ChatGPT在发布第一周就吸引了100万新用户试用平台。朋友和家人们在社交媒体上充斥着AI生成的自画像,尤其是来自Lensa AI的生成作品,该作品使用了Stable Diffusion模型。尽管这些模型仍有需要完善之处,但它们共同指明了行业的发展方向:快速向前。
如果你觉得难以跟上AI主流化的速度,你并不孤单。但这种趋势只会加速。这引发了一个问题:这种增长是否可持续?行业是否具备支撑AI和机器学习发展速度以及随之而来的海量数据的基础设施?
随着AI和机器学习的快速发展,对基础设施的需求也在同步增长。初创公司和企业都需要价格合理、可靠且高度可用的计算资源来推动自身发展。
NVIDIA H100:在加速计算领域实现数量级的飞跃
2023年第一季度,客户将能够在CoreWeave Cloud上使用NVIDIA H100 Tensor Core GPU,使我们成为首批提供基于NVIDIA H100的超级计算机云实例的服务商之一。
NVIDIA H100 Tensor Core GPU为每项工作负载提供前所未有的性能、可扩展性和安全性。NVIDIA H100 GPU配备第四代Tensor Core和FP8精度的Transformer引擎,使NVIDIA在AI领域的市场领先地位进一步巩固,大型语言模型的训练速度提升高达9倍,推理速度提升惊人地达到30倍。对于高性能计算(HPC)应用,H100的性能最高可提升7倍。
作为CoreWeave客户,您现在可以预订NVIDIA H100 GPU的容量,这些GPU将在2023年第一季度以规模形式提供,起价为2.23美元/小时。
CoreWeave Cloud的新功能、集成和特性
今年,我们扩展了产品和服务合作伙伴关系,为客户和不断增长的社区带来更多价值。2022年的部分亮点:
- 对象存储:一种用于存储大量非结构化数据的简单且强大的存储解决方案,每月起价为0.03美元/GB,无访问或传输费用
- 新增创新合作伙伴集成:包括与Determined.AI合作实现大规模AI训练、与Zeet合作管理Kubernetes基础设施、与EleutherAI合作提升开源大语言模型(LLMs)的可访问性
- 新增AI示例:新增用于微调和部署LLMs及生成式AI模型(如BLOOM和Stable Diffusion)的示例库
- Goose AI:一个可完全托管的API服务,用于部署预训练的开源模型
我们还推出了CoreWeave加速器计划,这是一个旨在为创新初创企业提供按需扩展的NVIDIA GPU加速计算资源的计划,帮助他们加速业务增长。除了资源支持,该计划还为初创公司创造提升业务曝光度、建立新联系和拓展合作机会的平台。
所有这些改进都体现了CoreWeave培育创造力和创新精神的价值观。展望2023年,我们有令人兴奋的产品路线图和公告,能够兑现对客户的承诺,并为客户业务创造更多价值。
关注我们的最新动态:https://docs.coreweave.com/release-notes
客户聚焦:令人惊叹的创新成果
说到构建,我们的客户继续用他们的创造力和产品给我们带来惊喜,从彻底改变人们与技术互动方式的AI创新,到更高效的基于云的工作流程,这些工作流程正在赋能视觉特效(VFX)和动画工作室以前所未有的速度创作更优质的内容。
##### VFX工作室为远程团队找到计算解决方案
Spire动画工作室与CoreWeave合作,在NVIDIA GTC 2022大会上展示了他们的作品。Spire的工程领导团队分享了他们如何利用云原生工作流程,使用Unreal Engine开发完整的动画长片。
这使Spire能够彻底颠覆传统的线性动画制作流程。现在,Spire团队可以跨全国实时迭代:
“通过更快的迭代,我们能够进行更多次迭代,无论是提供评审、调整灯光还是移动角色,整个优化过程都可以交互式完成,而无需在传统流程中等待2到3小时的渲染结果。由于一切都可以实时交互且保持完整分辨率,我们可以快速做出决策。”
Spire动画工作室工程副总裁Rajesh Sharma
##### NVIDIA GPU助力AI实现日语自然语言处理(NLP)
Yasu Seno和Bit192, Inc.最近非常忙碌:他们从零开始训练了一个200亿参数的日语模型,使用了略微修改的GPT-NeoX代码库。
该团队还推出了AI Novelist,这是一个聊天机器人引擎转型的写作助手,Yasu和团队曾用它来开发Starbirth剧情。如今,日本的专业作家、编辑和普通用户都在使用AI Novelist创作故事、俳句等作品。甚至Yasu的家人也享受这个工具:
“我向我90多岁的祖母演示了这个服务,当她看到AI Novelist可以生成俳句时,她非常兴奋,这让我感到非常满足。”
Bit192, Inc.首席执行官Yasu Seno
新面孔、新总部和新数据中心
今年,我们在纽约市地区(LGA1)启用了新的数据中心。该设施为纽约都会区超过2000万居民提供超低延迟服务,包括曼哈顿地区低于1毫秒的延迟,同时提供仅使用CPU的实例以及高性能的块存储和共享文件系统存储。
我们也将新总部的位置呈现在地图上。公司总部现已迁至新泽西州罗斯兰,并在纽约布鲁克林和宾夕法尼亚州费城设有额外办公点。
与此同时,CoreWeave的团队规模持续扩大。看到最初只是三个在台球桌旁讨论的家伙,如今已成长为横跨全美70多名员工的团队,每个人都对正在构建的项目充满热情,并帮助他人实现创新,这种变化令人惊叹。随着用户群体的快速增长,我们的工程团队也经历了显著扩张,致力于帮助用户发现并创造独特的产品和解决方案。
我们对来年的期望是,更多工程师和创作者能够充分利用CoreWeave所提供的全部资源。生成式AI的未来需要能够跟上其快速发展步伐的基础设施,以及持续创新的开发者。
我们灵活高效的基础设施。您非凡的创意。携手共进,我们能够计算、创造、创新。
分享本文: /think