介绍
产品概览
LM Studio 是什么？
LM Studio 是一款跨平台桌面应用程序，支持在 macOS、Windows 和 Linux 系统上本地运行和测试大语言模型，无需互联网连接。它集成了 llama.cpp、Apple MLX 等多种开源运行时，提供高效的模型执行能力。用户可方便地浏览并下载 Hugging Face 上的海量开源 LLM，通过类似 ChatGPT 的交互界面与模型对话，还支持基于 RAG 的离线文档交互等进阶功能。此外，LM Studio 内置 OpenAI 兼容的本地 API 服务，方便开发者将模型能力集成到自有应用或脚本中，全面保障数据隐私与 AI 任务自主可控。
主要功能
OpenAI兼容API服务器
通过本地 REST API 服务模型，支持 OpenAI 标准接口，便于与外部应用、脚本快速集成。
模型发现与管理
在应用内直接浏览、下载并加载来自 Hugging Face 的大量开源大语言模型。
聊天界面与文档交互
提供直观聊天界面与模型互动，并运用 RAG 技术实现本地文档的智能查询与上下文增强。
本地LLM运行
在本地硬件上运行大语言模型，无需联网，确保数据隐私并支持完全离线操作。
多平台支持
兼容 macOS（含 Apple Silicon）、Windows（x64/ARM64）及 Linux，支持多种运行环境如 llama.cpp 和 MLX。
高级自定义与开发者工具
提供命令行工具、Python SDK、开发者模式，支持灵活调整模型参数与工作流配置。
使用场景
AI应用开发
开发者可借助本地模型和兼容 API 进行 AI 应用开发、测试，实现数据不出本地。
模型实验与评估
在同一平台轻松测试、比较不同开源 LLM，快速找到适合特定需求的模型。
离线文档分析
上传本地文档，在离线环境下通过 AI 进行智能问答与分析，适用于涉密或敏感数据场景。
定制化AI聊天机器人
基于内部资料构建无需外部依赖的聊天机器人，提升安全性与控制力。
注重隐私的AI研究
研究人员可在本地运行和实验大语言模型，避免敏感数据上传云端，确保隐私安全。
