本地大模型共1篇

本地部署翻译大模型,实现翻译自由

这篇文章介绍了本地部署翻译大模型实现翻译自由的方法。作者对比在线翻译服务后,选择使用腾讯混元Hy-MT2-1.8B模型,在N卡上运行,占用显存低、速度快、质量够用,并提到显存充足时可选用7B模型...
Abyss的头像-Abyss的小屋Abyss昨天
2180