一款可以在 Mac 上完全离线运行的开源 AI 助手：Sidekick。

基于 llama.cpp 构建，无需额外软件即可运行，所有数据和对话都留在本地，确保了极高的隐私性。

允许用户与本地 LLM 进行交互，并能够从本地文件、文件夹和网站获取信息，确保数据安全不泄露。

同时结合了知识检索、代码解释、图像生成、LaTeX 渲染、数据可视化等强大功能，在离线环境下提供媲美云端 AI 助手的体验，真正实现 高效、安全、个性化的 AI 交互。

核心功能
• 本地知识检索：可从文件、文件夹和本地网站提取信息，作为对话的上下文。同时支持AI专家模式，适配不同领域的任务。
• 推理模型支持：支持QwQ-32B、DeepSeek-R1等开源模型。
• 内置代码解释器：集成 Python 解释器，可执行 Python 代码、解析数学表达式，提高 LLM 在逻辑推理、数据分析等任务上的表现。
• 支持文生图：它并没有图像生成模式。但内置的CoreML模型能自动识别图像生成提示词，并在必要时生成图像。
• 内联写作助手：按 Command + Control + I 即可快速访问 Sidekick 的内联写作助手，进行智能改写、润色、摘要等操作。
• 多格式渲染与导出：支持 Markdown 和 LaTeX 渲染，一键导出对话为文件，方便分享或存档。

GitHub：github.com/johnbean393/Sidekick