网网站设计,河南省建设厅网站考试成绩查询,什么网站可以查询企业信息,商城网站的管理用户模块本地部署 FastGPT 1. FastGPT 是什么2. 部署 FastGPT 1. FastGPT 是什么
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统#xff0c;提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排#xff0c;从而实现复杂的问答场景#xff01;
… 本地部署 FastGPT 1. FastGPT 是什么2. 部署 FastGPT 1. FastGPT 是什么
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排从而实现复杂的问答场景
2. 部署 FastGPT
创建 docker-compose.yml 文件仅需把 CHAT_API_KEY 修改成 openai key 即可。如果需要使用中转或 oneapi 还需要修改 OPENAI_BASE_URL
cat EOF docker-compose.yml
# 非 host 版本, 不使用本机代理
version: 3.3
services:pg:image: ankane/pgvector:v0.4.2 # docker# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.4.2 # 阿里云container_name: pgrestart: alwaysports: # 生产环境建议不要暴露- 5432:5432networks:- fastgptenvironment:# 这里的配置只有首次运行生效。修改后重启镜像是不会生效的。需要把持久化数据删除再重启才有效果- POSTGRES_USERusername- POSTGRES_PASSWORDpassword- POSTGRES_DBpostgresvolumes:- ./pg/data:/var/lib/postgresql/datamongo:image: mongo:5.0.18# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云container_name: mongorestart: alwaysports: # 生产环境建议不要暴露- 27017:27017networks:- fastgptenvironment:# 这里的配置只有首次运行生效。修改后重启镜像是不会生效的。需要把持久化数据删除再重启才有效果- MONGO_INITDB_ROOT_USERNAMEusername- MONGO_INITDB_ROOT_PASSWORDpasswordvolumes:- ./mongo/data:/data/dbfastgpt:container_name: fastgpt# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest # 阿里云image: ghcr.io/labring/fastgpt:latest # githubports:- 3000:3000networks:- fastgptdepends_on:- mongo- pgrestart: alwaysenvironment:# root 密码用户名为: root- DEFAULT_ROOT_PSW1234# 中转地址如果是用官方号不需要管- OPENAI_BASE_URLhttps://api.openai.com/v1- CHAT_API_KEYsk-xxxx- DB_MAX_LINK5 # database max link- TOKEN_KEYany- ROOT_KEYroot_key# mongo 配置不需要改. 如果连不上可能需要去掉 ?authSourceadmin- MONGODB_URImongodb://username:passwordmongo:27017/fastgpt?authSourceadmin# pg配置. 不需要改- PG_URLpostgresql://username:passwordpg:5432/postgres
networks:fastgpt:
EOF部署 FastGPT
docker-compose up -d完结
