7 月 28 日下昼，CSDN 高端手艺*社群「智研社-The Intelliger」第三期流动在北京鼎好超互联 AGI 科技生态创新空间乐成举行。

流动稀奇约请到 Stability AI 机械学习运维主管、着名 AI 开源组织 LAION 工程认真人 & 首创人 Richard Vencu和 CSDN 首创人 & 董事长、中国开源软件推进同盟副主席蒋涛举行深度对话，CSDN 高级副总裁李建忠、Momenta 工程质量认真人邹欣、华为“天才少年”申博、白海科技首创人卢亿雷、荣耀首席专家张轶博等重磅嘉宾加入，汇聚了大模子手艺专家、大厂手艺大牛、大模子公司 CXO、生态互助同伴代表。现场嘉宾一起交流头脑、分享履历，举行 AGI 相关前沿科技的深入探讨。

「智研社-The Intelliger」由 CSDN CTO 俱乐部重磅升级而来。CSDN 高级副总裁李建忠在开场中为人人先容了智研社未来生长的三个偏向：

一是为手艺人提供充实相同交流的平台；

二是提供 AGI 手艺生长与应用实践的探讨与互助空间；

三是率领中国 AGI 手艺人走向全球，介入国际 AGI 手艺交流，捉住 AI 发作带来的时机。

在当今快速生长的人工智能领域，大规模盘算资源的治理成为了一个要害挑战。Stability AI 机械学习运维主管、着名 AI 开源组织 LAION 工程认真人 & 首创人 Richard Vencu 在现场带来了《在 AWS 云上打造 Stability AI 超级盘算机》的主题演讲，深入论述了在云环境中运行 5000 个 GPU 的履历，展现了这一规模盘算所面临的挑战及其解决议略。

焦点挑战在于：

机械学习训练与推理的差异：Vencu 指出，机械学习训练本质上不是一个网络问题，而机械学习推理则是。这种区别源于推理需要通过尺度化的网络通道向全球用户提供服务。

多团队需求治理：差异 AI 团队对规模和上市时间的要求各不相同，导致优先级不停转变。这要求资源治理系统具有高度的天真性。

共享环境中的信托问题：在共享的高性能盘算（HPC）集群中，用户通常无法获得 root 接见权限，这限制了系统的天真性。

大规模资源治理：主要目的是削减 GPU 的闲置时间，提高行使率，并削减因缺陷导致的停机时间。

使用追踪：需要准确追踪每个项目和用户的资源使用情形，以便举行讲述、税务处置和计费。

作为解决方案，Vencu 推荐使用 SLURM 作为资源调剂器。SLURM 是一个有20多年历史的开源系统，维护优越，提供抢占和重新排队机制（剧本需要意识到这一点并能够自行恢复）、跨差异优先级的优先机制和公正共享机制。这些功效有用解决了*的挑战——最小化 GPU 闲置时间。

在现场，Vencu 和加入嘉宾举行了互动，为那些希望在云中部署大规模 AI 盘算资源的开发者提供了名贵的看法和实践指导。云环境中治理大规模 GPU 资源是一项庞大的义务，涉及多个方面的挑战。通过接纳适当的资源调剂战略、严酷的平安措施、天真的项目治理以及周全的监控系统，可以显著提高资源行使率，降低成本，同时知足差异团队的需求。

随着大模子的普遍应用，AI 手艺已经在自然语言处置、盘算机视觉、多模态明白等领域取得了显著的突破。大模子壮大的天生能力和明白能力，还在种种领域的现实应用中展现了伟大的潜力。然而，大模子的训练和推理需要重大的盘算资源，AI 基础设施（AI Infra）的建设成为了当前手艺生长的要害。

为领会答这一系列问题，由 Momenta 工程质量认真人、CSDN 《新程序员》内容照料邹欣主持，Stability AI 机械学习运维主管、着名 AI 开源组织 LAION 工程认真人 & 首创人 Richard Vencu和 CSDN 首创人 & 董事长、中国开源软件推进同盟副主席蒋涛睁开圆桌对话，围绕“2024 大模子手艺演进与 AI Infra 创新”的话题举行了多个方面的探讨。

全球消费电子技术(南京)博览会乘势启航

以下是他们对每一方面内容的讨论焦点：

盘算机系统的架构转变

大模子与小模子并存生长

开源 vs 闭源模子

数据与训练挑战

AGI 展望

「智研社-The Intelliger」是由 CSDN 提议确立的高端手艺*社群。「智研社-The Intelliger」的前身为 CTO 俱乐部，自 2009 年由 CSDN 开办以来，是*影响力的高端手艺治理者分享与交流的平台。随着大模子手艺的迅猛生长，人工智能将成为未来 10 年最有影响力的手艺气力，必将重塑行业名目并引领创新浪潮。CTO 俱乐部正式更名为「智研社 The-Intelliger」，意味着其将以全新的面目迎接 AGI 新纪元的到来。

流动主理方 CSDN 作为中文手艺社区的*，通过打造「智研社-The Intelliger」在全球各大手艺中央都会的系列流动，汇聚手艺*与行业精英，洞察手艺趋势，站在 AGI 的新起点上，推动手艺刷新和战略头脑的融会，引领手艺*走向全球。

流动团结主理方鼎好超互联AGI科技生态创新空间，鼎好超互联”AGI 科技生态创新空间”由世纪互联与鼎好 DH3 配合打造。空间连续吸纳天下一线 Al 企业与人才，汇聚市场智算资源、科研资源、资金资源、市场资源和社群资源，为各行各业面向 AGI 转型提供从训练到推理的新型基础设施，致力于成为中国 AGI 生长的“助推器”和“加速器”。