从Ollama到OpenAI:llmcord支持的10+主流LLM平台全解析
从Ollama到OpenAI:llmcord支持的10+主流LLM平台全解析
【免费下载链接】discord-llm-chatbotMake Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)项目地址: https://gitcode.com/gh_mirrors/di/discord-llm-chatbot
llmcord是一款将Discord转变为协作式LLM前端的工具,它几乎可以与任何远程或本地托管的LLM协同工作。通过llmcord,用户能够在Discord平台上与朋友轻松交流并使用各种主流LLM模型。
🚀 多样化LLM平台支持概览
llmcord支持众多主流的LLM平台,无论是远程模型还是本地运行的模型,都能轻松集成,满足不同用户的多样化需求。
🌐 远程LLM平台
OpenRouter
OpenRouter中,相关配置如下:
openrouter: base_url: https://openrouter.ai/api/v1 api_key_env: OPENROUTER_API_KEYOpenAI
作为LLM领域的知名平台,OpenAI的模型在llmcord中也得到了很好的支持。其配置示例为:
openai: base_url: https://api.openai.com/v1 api_key_env: OPENAI_API_KEYxAI
xAI的模型同样可以集成到llmcord中,配置方式简单便捷:
x-ai: base_url: https://api.x.ai/v1 api_key_env: X_AI_API_KEY借助Google的模型,用户能在llmcord中获得更多样化的AI能力。配置如下:
google: base_url: https://generativelanguage.googleapis.com/v1beta/openai api_key_env: GEMINI_API_KEYAzure OpenAI
对于使用Azure服务的用户,llmcord也提供了支持。在config.yaml中有详细的配置示例:
azure-openai: base_url: https://<resource name>.openai.azure.com/openai/deployments/<deployment name> api_key_env: AZURE_OPENAI_API_KEY extra_query: api-version: 2024-12-01-preview🏠 本地LLM平台
LM Studio
LM Studio允许用户在本地运行模型,llmcord通过如下配置即可与之连接:
lmstudio: base_url: http://localhost:1234/v1Ollama
Ollama是一款流行的本地LLM运行工具,在llmcord中的配置十分简单:
ollama: base_url: http://localhost:11434/v1vLLM
vLLM作为高效的LLM服务库,也能与llmcord无缝集成,配置如下:
vllm: base_url: http://localhost:8000/v1🔄 便捷的模型切换功能
llmcord提供了通过/model命令进行模型切换的功能,让用户可以根据不同的需求快速切换到合适的模型。只需在Discord中输入/model命令,即可从已配置的模型列表中选择所需模型。
📝 模型配置方法
在config.yaml文件中,用户可以方便地配置各种模型。模型配置采用<provider>/<model>: <parameters>的格式,例如:
models: openai/gpt-5.5: reasoning_effort: high verbosity: medium openrouter/~anthropic/claude-opus-latest: tools: - type: openrouter:web_search - type: openrouter:web_fetch ollama/llama4:列表中的第一个模型将在启动时成为默认模型。
📥 开始使用llmcord
克隆仓库
首先,克隆llmcord仓库:
git clone https://gitcode.com/gh_mirrors/di/discord-llm-chatbot cd discord-llm-chatbot配置config.yaml
根据前面介绍的各平台配置方法,在config.yaml中设置好所需的LLM平台和模型信息。
运行bot
可以选择不使用Docker运行:
python -m pip install -U -r requirements.txt python llmcord.py或者使用Docker运行:
docker compose up通过以上步骤,你就可以在Discord中体验llmcord带来的多样化LLM服务了,与朋友一起畅享AI对话的乐趣!
【免费下载链接】discord-llm-chatbotMake Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)项目地址: https://gitcode.com/gh_mirrors/di/discord-llm-chatbot
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考