DeepSpeed
  • 训练设置
  • 推理设置
  • 训练 API
  • 推理 API
  • 模型检查点
  • 激活检查点
  • ZeRO
  • 混合专家 (MoE)
  • Transformer 内核
  • 流水线并行
  • 优化器
  • 学习率调度器
  • Flops 分析器
  • 自动调优
  • 内存要求
  • 监控
DeepSpeed
  • 搜索

© 版权所有 2020, Microsoft。

使用 Sphinx 构建，并使用了由 Read the Docs 提供的一个 主题。