Unsloth 是开源圈跑大模型的老面孔,做微调加速出了名。最近它把整套能力搬进了桌面应用,Unsloth Desktop 原生支持 Windows、macOS、Linux,装好就能在本地跑模型、训模型,不用再跟 Python 环境和 CUDA 版本搏斗。

功能简介
聊天只是基础。它内置模型库,Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4 这些新模型基本当天就能跑,还支持 FLUX 这类生图模型和 Wan 视频模型,图生图、修图、放大、LoRA 适配器都安排上了。微调训练也给了图形界面,不用写代码。官方说训练速度能翻倍、显存占用砍掉七成,我没测那么细,但自己 12G 显存的卡跑起来,比命令行时代顺多了。音频这块也覆盖了,语音转文字、文字转语音都能跑,Whisper 系列模型直接拖进来用。更多模型可参见文档https://unsloth.ai/docs


安装使用
桌面版是下载即用的,去官网或 GitHub Releases 拿对应平台的安装包就行。老用户想用网页版 Studio,一条命令装:
curl -fsSL https://unsloth.ai/install.sh | sh
Windows 用:
irm https://unsloth.ai/install.ps1 | iex
装完 unsloth studio -p 8888 启动本地界面。有个细节我挺喜欢,它暴露 OpenAI 兼容 API,写好的脚本不用改就能连本地模型。联网查资料也不用另开浏览器,内置私有网页搜索,模型边想边查,Deep Research 模式还能自动找来源、生成带引用的报告。工具调用支持在沙箱里跑 Bash 和 Python,调用失败会自动修复重试,比裸的本地模型稳一点。

还能喂给 AI 编程工具
装好后一条命令就能把本地模型接到 Claude Code、Codex 这些编程代理上:
unsloth start claude
代理还是那套工作流,模型换成本地的,代码和对话都不出机器。
我特意试过把本地小模型接到 Codex 上跑脚本任务,切换命令就一行,代理该干嘛还干嘛,只是推理从云端挪到了自己机器上。生成是慢一点,但代码和对话都不出机器,这感觉踏实。
免费和收费怎么说
项目核心包是 Apache 2.0 开源,Studio 界面部分用的 AGPL-3.0,都是开源免费。官方还长期提供免费 Colab 笔记本,没显卡也能用云端算力练手。目前没看到付费墙,自用完全够。
想折腾的先去官网下个桌面版,CPU 也能跑聊天,只是慢点。
📦 项目地址:https://github.com/unslothai/unsloth
🌐 官网:https://unsloth.ai
官网或GitHub下载不了或者速度慢的可以尝试下面的地址
网盘地址
https://pan.quark.cn/s/55393b4691fe
© 版权声明
文章版权归作者所有,转载需注明出处。未声明原创的皆为网络收集,如有侵权请邮箱lishiwenhuagx@sina.com联系下架处理。
相关文章
暂无评论...




