OneAPI-接口管理和分发神器:所有大模型一键封装成OpenAI协议

2024年9月5日修改
一款接口管理和分发神器,将所有大模型一键封装成OpenAI协议。
一张图讲明白原理:

加载失败,

首先需要安装2个工具:
Git,参考Git 安装
Docker,参考Docker安装
一、下载安装
打开命令提示符(按 Win + R,输入 cmd 后按回车)。
切换到你想要安装的路径 G:\_LLMOPS\
代码块
cd /d G:\_LLMOPS
cd /d 用于切换驱动器和目录。