AIGPU

Ollama

快速部署并开始使用 Kimi、GLM、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等多种模型

应用资料已收录 仅供查阅,暂不支持 Cockpit 直接安装

应用介绍

OVERVIEW

使用说明

进入 容器 列表,找到 Ollama 容器,点击进入终端运行并与 DeepSeek R1 聊天:

ollama run deepseek-r1:1.5b

模型库

Ollama 支持 ollama.com/library 上提供的一系列模型

注意:您应该至少有 8 GB 可用 RAM 来运行 7B 型号,16 GB 来运行 13B 型号,32 GB 来运行 33B 型号。

产品介绍

Ollama 是一个开源的大型语言模型服务,提供了类似 OpenAI 的 API 接口和聊天界面,可以非常方便地部署最新版本的 GPT 模型并通过接口使用。支持热加载模型文件,无需重新启动即可切换不同的模型。

版本与部署参数

VERSIONS

以下信息来自开源应用包模板,仅用于技术参考;尚未转换成可直接使用的 Cockpit 安装配置。

配置字段

参数说明属性
PANEL_APP_PORT_HTTP端口必填

原始模板存在特定平台的网络或环境变量依赖,不能直接作为 Cockpit 安装文件使用。