#Tesla #Nvidia #H100 #A100
据Sawyer Merritt在其推特爆料，特斯拉已经开启一个庞大而昂贵的10,000个英伟达H100 GPU集群，帮助它训练FSD。但这让我很好奇，这些新的 H100 GPU 与特斯拉过去几年一直使用的老式 A100 图形处理器（GPU）之间有什么区别？下面我将简要介绍一下。
英伟达 A100:
这款 GPU 于 3 年前的 2020 年底推出。它的性能比上一代产品提高了 20 倍。A100 专为高性能计算和人工智能（AI）工作负载而设计：
- 6,912 个 CUDA 内核
- 432 个张量核心
- 40GB 或 80GB 高带宽内存 (HBM2)
英伟达 H100
这款售价约 4 万美元的 GPU 于 2022 年底推出。速度比 A100 快 30 倍，在人工智能训练方面快 9 倍。H100 专为视频培训（FSD 视频）等图形密集型工作负载而设计，易于扩展：
- 18,432 个 CUDA 内核
- 640 个张量核心
- 80 个流式多处理器（SM）
- 能耗高于 A100
与 A100 相比，H100 的高性能计算速度提高了 5 倍多。
这些新的 H100 GPU 将使特斯拉能够比以往更快、更好地训练 FSD，但英伟达无法满足 GPU 的需求。因此，特斯拉斥资 10 亿多美元建造了自己的超级计算机 Dojo。它采用了公司超优化定制设计的芯片。特斯拉不仅仅是一家汽车公司。这台超级计算机还将训练特斯拉的车队，并处理其中的数据。
特斯拉在启动 Dojo 的同时，还将启用英伟达™（NVIDIA®）H100 GPU 集群。这将大幅提升特斯拉的计算能力，达到其他汽车制造商目前无法企及的水平。请看下面特斯拉内部对 Dojo 计算能力的预测。大家做好准备。
特斯拉的 FSD V12 端到端培训存在计算瓶颈，但公司正在采取积极措施，确保未来不会出现这种情况。根据埃隆的说法，特斯拉仅在 2023 年就将在训练计算上花费超过 20 亿美元，并将在 2024 年再次这样做。
来源：Sawyer Merritt’s Twitter
📢AI新闻频道： t.me/AI_News_CN
🤖机器人： t.me/ChatGPT_MJJ_Bot
据Sawyer Merritt在其推特爆料，特斯拉已经开启一个庞大而昂贵的10,000个英伟达H100 GPU集群，帮助它训练FSD。但这让我很好奇，这些新的 H100 GPU 与特斯拉过去几年一直使用的老式 A100 图形处理器（GPU）之间有什么区别？下面我将简要介绍一下。
英伟达 A100:
这款 GPU 于 3 年前的 2020 年底推出。它的性能比上一代产品提高了 20 倍。A100 专为高性能计算和人工智能（AI）工作负载而设计：
- 6,912 个 CUDA 内核
- 432 个张量核心
- 40GB 或 80GB 高带宽内存 (HBM2)
英伟达 H100
这款售价约 4 万美元的 GPU 于 2022 年底推出。速度比 A100 快 30 倍，在人工智能训练方面快 9 倍。H100 专为视频培训（FSD 视频）等图形密集型工作负载而设计，易于扩展：
- 18,432 个 CUDA 内核
- 640 个张量核心
- 80 个流式多处理器（SM）
- 能耗高于 A100
与 A100 相比，H100 的高性能计算速度提高了 5 倍多。
这些新的 H100 GPU 将使特斯拉能够比以往更快、更好地训练 FSD，但英伟达无法满足 GPU 的需求。因此，特斯拉斥资 10 亿多美元建造了自己的超级计算机 Dojo。它采用了公司超优化定制设计的芯片。特斯拉不仅仅是一家汽车公司。这台超级计算机还将训练特斯拉的车队，并处理其中的数据。
特斯拉在启动 Dojo 的同时，还将启用英伟达™（NVIDIA®）H100 GPU 集群。这将大幅提升特斯拉的计算能力，达到其他汽车制造商目前无法企及的水平。请看下面特斯拉内部对 Dojo 计算能力的预测。大家做好准备。
特斯拉的 FSD V12 端到端培训存在计算瓶颈，但公司正在采取积极措施，确保未来不会出现这种情况。根据埃隆的说法，特斯拉仅在 2023 年就将在训练计算上花费超过 20 亿美元，并将在 2024 年再次这样做。
来源：Sawyer Merritt’s Twitter
📢AI新闻频道： t.me/AI_News_CN
🤖机器人： t.me/ChatGPT_MJJ_Bot
