搜索你想找的开源项目

输入名称、用途或关键词,也可粘贴 GitHub 仓库链接
全部技能

optimization-bitsandbytes

把大模型量化到 8 位或 4 位,减少 50-75% 显存占用且精度损失很小。