英伟达优化 Llama 3 模型加速 AI 应用，谷歌和 Meta 大举推进 AI 战略

2024-04-19

大家好，欢迎收看河套 IT WALK 第 180 期。

今天我们将关注AI技术的重大进展。首先，英伟达与Meta的合作加深，他们通过优化Llama 3 AI模型，实现了跨平台的高效运行，这一进步不仅提升了处理能力，还在节能方面取得了显著成效。接着，我们将看到谷歌在内部进行了战略性重组，通过合并AI研究和硬件开发团队，旨在加快AI技术的市场应用和集成，以强化市场竞争力。Meta宣布推出全新的AI助手，该助手已集成到其所有主要社交平台，为用户提供更加智能化的互动体验，标志着Meta公司在智能服务领域的重要进步。

英伟达加速 Meta 的 Llama 3 AI 模型，跨平台优化提升性能

英伟达公司刚刚对外公布了与Meta合作的最新进展，强调通过GPU技术，Meta的Llama 3大型语言模型已实现跨平台的高效运行。该模型在英伟达的24,576个H100 Tensor Core GPU上完成训练，并计划扩展到350,000个GPU，以进一步推动AI技术的发展。

Llama 3模型现已适配并优化，可在云端、数据中心、边缘计算设备和个人电脑上运行。企业可以通过英伟达NeMo这一开源框架来微调自己的数据，通过英伟达TensorRT-LLM优化模型推理，最终通过Triton推理服务器部署。

在性能方面，英伟达的测试显示，单个H200 Tensor Core GPU在初始测试中每秒可生成约3,000个令牌，足以支持约300名同时在线的用户。此外，Llama 3也在英伟达的Jetson Orin设备上表现出色，为边缘计算和机器人技术提供了强大支持。

英伟达还强调，作为开源社区的积极贡献者，公司致力于优化可以帮助用户解决最棘手挑战的社区软件。这一开放模型的推广旨在提高AI的透明度，并促进全球范围内对AI安全性和弹性的研究。（wccftech）

谷歌重组以强化 AI 和设备开发，提高市场竞争力

近日，谷歌及其母公司Alphabet的CEO Sundar Pichai 通过博客文章宣布，谷歌正在进行一次大规模的内部重组。此次重组主要包括将AI研究和DeepMind团队合并成一个部门，以及将平台与硬件团队合并为“平台与设备”部。

此举意在简化决策流程，并使各团队能更快速地响应市场变化。尤其是在AI领域，谷歌希望通过集中在一个地方进行计算密集型的模型构建，来提升在快速发展的AI行业中的竞争力。这一改变给DeepMind的负责人Demis Hassabis带来了更大的权力和责任，他将直接参与到谷歌的AI战略核心。

同时，谷歌还宣布将安卓、Chrome和ChromeOS的开发团队与Pixel等硬件项目团队合并，这是为了加强这些团队间的协作与创新。该合并由负责硬件开发的Rick Osterloh领导，而安卓和Chrome组的Hiroshi Lockheimer将转去其它项目。

这些调整是谷歌对日益增长的AI驱动市场环境做出的回应，是为了更好地整合技术资源和创新能力，同时确保能在全球智能设备市场中保持领导地位。（Silicon ANGLE）

Meta 推出全新 AI 助手，携手谷歌、微软加速智能化转型

周四，Meta公司正式推出最新AI产品——Meta AI。该AI助手不仅支持基本的查询功能，还能创作动画和生成图像，致力于提升用户交互体验。Meta CEO马克·扎克伯格表示，Meta AI基于公司新开发的大型语言模型Meta Llama 3，并已在全球多个国家向英语用户提供服务。

独具一格的是，Meta选择与竞争对手谷歌和微软展开合作，通过整合双方的搜索技术，Meta AI在提供搜索结果时更加准确和全面。此外，该AI工具已集成至所有主要社交平台的搜索框中，用户可以直接获取餐厅推荐、旅行规划等多样化服务。

Meta首次在去年九月的Connect活动中向用户介绍了Meta AI的测试版本，如今随着正式版的推出，将极大地改善用户的在线互动体验，并推动社交媒体服务的智能化升级。（CNBC）

今天，我们看见科技巨头们在全球AI竞赛中采取的积极步骤，以及AI技术是如何越来越多地融入我们的日常生活。这些举措共同绘制了一个更加智能、更加互联的未来景象。这些技术的发展不仅推动了科技创新的边界，还带来了伦理使用和保护用户隐私等新的挑战。随着AI技术的持续进步，我们预期将见证更多创新应用的涌现，它们将为全人类带来更广泛的益处。感谢您的收看，我们下期再见。

如果对此话题感兴趣，欢迎扫码加入“共熵大家庭”，共同推动产业与标准进步！