Reddit · MachineLearning· /u/whafa·· 4 小时前AI 评分20
业余研究者如何在 Vertex A100 上优化 NBFNet 药物重定位训练成本
ML on a shoestring? [D]
AI 摘要
一位业余 ML 研究者在使用 Google Vertex A100 训练 NBFNet 进行药物重定位时,因显存限制被迫将 batch size 从 512 降至 64,导致单轮训练成本高达约 500 美元。该研究者在 Reddit 询问如何通过激活检查点、bf16 autocast 或购买 GPU 等方案降低 ~10 万节点图数据的训练开销并寻找收敛方法。
来源:Reddit · MachineLearning · reddit.com