文本生成

• llama.cpp：https://github.com/ggml-org/llama.cpp - 点击下载
• LM Studio：https://lmstudio.ai - 点击极速下载
• Jan：https://jan.ai - 点击下载
• Backyard AI：https://backyard.ai - 点击极速下载
• Jellybox：https://jellybox.com - 点击极速下载
• RecurseChat：https://recurse.chat - 完全付费软件

• Msty：https://msty.app - 点击极速下载

• Sanctum：https://sanctum.ai - 点击极速下载

• LocalAI：https://localai.io - 点击下载
• vLLM：https://docs.vllm.ai/en/latest - 文档
• node-llama-cpp：https://node-llama-cpp.withcat.ai - 文档
• Ollama：https://ollama.com - 点击极速下载
• TGI：https://huggingface.co/docs/text-generation-inference/index - 文档