Jan

Jan是一个把开源大语言模型搬到个人电脑上运行的软件。它以免费开源的形式发布，用户可以在自己的机器上直接与模型对话，无需依赖外部云服务。

过去要在本地跑一个开源模型，往往需要手动配置复杂的运行环境，还要自己写代码去对接命令行接口，整个过程对非专业开发者来说门槛极高。即便勉强跑起来，想要像日常聊天那样跟模型交互，还得额外寻找或编写前端界面。如果不想折腾这些，就只能把数据发送到云端服务商那里处理，代价是隐私无法完全掌控在自己手中，且每次请求都受制于网络连接状态。Jan把这些零散的环节打包成了一个完整的应用程序。你不需要懂底层编译指令，也不用单独搭建网页前端，安装好软件后就能直接挑选模型开始提问。比如你要测试一段提示词在不同模型下的表现差异，只需在同一个界面里切换下载好的模型即可，省去了反复修改启动脚本的时间。所有计算都在本机完成。网络断开也不受影响。

经常需要验证模型效果的研究人员、想在本地调试提示词的开发者，以及对数据隐私有严格要求的AI爱好者，用它会比较顺手。如果你希望在Windows、Mac（包括Intel芯片以及M1/M2/M3系列）或者Linux系统上快速体验各类开源模型，它能直接满足需求。但假如你的工作需要对推理引擎的每一个底层参数做精细调节，目前这个阶段的Jan还做不到这么深。另外，习惯在手机或平板上随时发起对话的用户现在也用不了，因为移动端应用仍在后续开发计划中，尚未正式发布。

整个使用过程从获取安装包开始。前往官网选择对应的操作系统版本下载文件，完成安装并启动程序后，你可以在界面中找到模型库