使用雲端資料有效率地訓練 PyTorch

Agent Platform Neural Architecture Search 沒有任何描述如何設計訓練器的規定。因此,請選擇任何訓練架構來建構訓練師。

如要使用 PyTorch 訓練大量資料,最佳做法是採用分散式訓練範例,並從 Cloud Storage 讀取資料。如需提升訓練效能的方法,請參閱「使用 Agent Platform Neural Architecture Search 提升 PyTorch 訓練效率」這篇網誌文章。使用 Cloud Storage 中的資料,並選擇 WebDatasetDistributedDataParallel/FullyShardedDataParallel 分散式訓練策略,整體效能可提升 6 倍。使用 Cloud Storage 中的資料進行訓練時,效能與使用本機磁碟中的資料進行訓練時類似。

預先建構的 MNasNet 分類範例已將這些方法納入訓練管道。