Jan
在电脑上离线运行 AI 对话助手。
Jan 是可在个人电脑运行模型的桌面应用，也能连接云模型，并提供本地兼容 API 与自定义助手。它适合希望控制模型和运行位置的用户。
可以用来完成：离线起草、比较模型、为本机应用提供模型入口
Jan 能做什么
应用可以从 Hugging Face 获取支持的模型，也可配置外部提供方。离线能力需要先准备好本地模型和依赖。
选择模型时先考虑可用内存和任务，再决定是否加入MCP工具；模型授权与应用代码许可分别处理。
下载本地语言模型
应用支持从Hugging Face下载并运行Llama、Gemma、Qwen等模型，具体模型的大小及能力需要分别查看。
按需连接云模型
可接入OpenAI、Anthropic、Mistral等提供方，将本地与云模型保留为不同选择。
创建任务专用助手
自定义助手可用于不同任务，编辑建议：给每个助手明确职责、输出格式与人工检查要求。
提供本地兼容API
内置本地服务可在localhost:1337向其他应用提供兼容接口；另有MCP接入用于扩展工具能力。
- 核心用途
- 本地模型对话、助手和兼容API
- 可完成的工作
- 离线起草、比较模型、为本机应用提供模型入口
- 如何开始
- 按系统下载Jan，选择并下载适合的模型
- 使用条件
- 内存随模型规模变化；云连接不属于离线调用
可以完成哪些工作
按你的目标查看准备资料、操作方法和交付结果。
在本机起草资料本地模型生成的初稿。
适合：需要控制资料运行位置的人
- 准备什么
- 已安装应用、适合硬件的本地模型、可处理的文本。
- 怎么完成
- 编辑建议：下载模型后选择本地入口，输入短材料并要求按结构起草，逐段检查内容。
- 完成后得到什么
- 本地模型生成的初稿。
- 交付前检查
- 确认当前模型没有切换成云端，核对数字和引用。
比较小模型适配程度针对本机任务的模型选择记录。
适合：在有限内存电脑上选模型的人
- 准备什么
- 同一组短任务、内存条件与输出要求。
- 怎么完成
- 编辑建议：依次运行可承载的模型，记录速度、内存和回答可用性。
- 完成后得到什么
- 针对本机任务的模型选择记录。
- 交付前检查
- 不以单次回答推广到所有场景；检查模型自身授权。
给本机程序接模型可被本机程序调用的模型入口。
适合：开发本地应用的人
- 准备什么
- 兼容接口客户端、模型名称和小型测试请求。
- 怎么完成
- 编辑建议：启用本地API服务，让客户端指向本机地址，用短请求检查返回。
- 完成后得到什么
- 可被本机程序调用的模型入口。
- 交付前检查
- 核对接口地址、模型和访问范围，避免无意开放公网。
如何使用 Jan
- 下载安装应用
从官方入口选Windows、macOS或Linux安装包；源码构建是另一个需要开发工具链的流程。
- 选择合适模型
根据内存和模型体积下载本地模型，首次先用短输入确认可以运行。
- 配置对话与助手
在会话选择实际使用的模型，按任务创建助手；云端提供方需单独配置。
- 检查结果与API调用
先验证对话答案，需要接其他程序时再启用本地兼容API并测试连接。
界面与操作参考
开始前需要了解
硬件影响模型选择
官方列出按模型规模变化的内存建议；能安装应用不代表任意模型都能顺畅运行。
本地与云端有不同边界
选择云提供方后请求会交给该服务；只有本地模型及依赖准备齐全的路径适合离线使用。
代码许可不覆盖模型
Jan代码采用Apache 2.0，下载模型及云端服务各自的许可、额度和使用条件仍须单独确认。
离线对话需先下载本地模型；云模型需独立服务配置，硬件需求随模型规模变化。
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查，再用于实际工作。
常见问题
Jan只能离线使用吗？
不是。它同时支持本地模型与云端提供方，可以按任务选择，但两者的数据流和费用不同。
怎样供其他程序调用？
使用内置兼容API服务，官方说明给出的本机地址为localhost:1337；客户端需配置正确模型。
电脑没有大内存怎么办？
先选更小的模型并查看官方系统建议，避免把大型模型直接套用到有限内存环境。
Jan 能用中文聊天吗？
能否用中文聊天取决于所选模型的中文能力。选择模型后可用自己的中文任务检查理解与回答质量；Jan的应用语言不代表所有模型表现相同。
工具动态
Jan 0.8.6：修复模型加载崩溃与旧显卡兼容问题
Jan · 原文更新
Jan v0.8.6 修复部分 Linux 系统的 AppImage 模型加载崩溃，以及旧 NVIDIA Turing 显卡的兼容问题。版本还调整启用推测解码时的自动并行设置，并让 MCP 工具返回的图片以图像形式交给支持视觉的模型。
Jan 0.8.5：引擎改随安装包提供，命令行工具独立安装
Jan · 原文更新
Jan v0.8.5 以修复和安装方式调整为主，llama.cpp 引擎改随桌面安装包提供，命令行工具需单独安装。Intel Mac 仍可连接远程或自定义服务，但不能加载该版本的本地模型。首次启动也改为引导式设置流程。
从新手学习与入门角度评估Jan
把新手学习与入门需要的条件列清楚，再比较工具。阅读本页的产品用途、步骤与限制，再逐项确认下面的问题；这些是选型方法，不表示每款工具都具备同样能力。
从熟悉任务开始
选择你能判断结果好坏的小任务，便于发现偏差。
输入是否容易准备
文字粘贴即可开始时，不必先学习复杂的连接与部署。
结果是否能检查
要求清晰格式，保留不确定内容和需要你确认的问题。
选择一个小样任务，先检查结果与交付格式，再决定是否用于更多资料。
