rtx3080

发布时间 :2023-07-26 15:16:25
想要微调训练一个超小型的大语言模型。

结果官方告诉我说,全量微调需要4张80GB显存的A100显卡同时运转,即使做局部微调Lora也至少需要15GB显存汗

我望向自己那张曾经引以为豪的12GB显存的3080显卡,陷入了沉思……

#AI#llm显卡rtx3080大语言模型

热门评论

超话社区
超话社区

你好,你感兴趣的“AI”已开通了超话社区~ 超话社区是微博旗下兴趣互动社区,快来与志同道合的小伙伴们一起交流互动吧! 戳我进入>> AI

今日热门