Ollama

Local model runner for downloading, testing, and serving LLMs on developer machines.

Local LLM Model runner Developer tool API

Overview

Ollama 适合开发者在本地下载和运行模型，用于原型验证、离线测试、隐私敏感数据实验和本地 API 集成。

它不等于完整生产 RAG 平台；模型选择、硬件资源、量化效果、上下文长度和安全边界仍需要单独设计。

在本目录中，Ollama 归入 Local LLM Tools 和 Open Source AI，是本地 AI 开发工作流的基础组件之一。