Easy 🌍 Regional Pricing
Reliability: High
Qwen通义千问开源模型完整指南
Qwen是阿里开源的大模型,Qwen2系列性能对标GPT-4,支持开源部署和API调用。本文介绍Qwen的使用和部署方式
4.6 (5,200 ratings)
65,000 views Updated 5/18/2024 Qwen通义千问阿里开源大模型中文优化
一、Qwen简介
Qwen(通义千问)是阿里开发的大语言模型,Qwen2系列开源,性能对标GPT-4,在中文理解和代码生成方面表现优秀。
模型系列
| 模型 | 参数量 | 特点 |
| Qwen 2 0.5B | 0.5B | 轻量级 |
| Qwen 2 1.5B | 1.5B | 轻量 |
| Qwen 2 7B | 7B | 主流 |
| Qwen 2 72B | 72B | 旗舰 |
二、使用方式
方式一:在线体验
访问:
方式二:API调用
from openai import OpenAIclient = OpenAI(
api_key="your-api-key",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)
response = client.chat.completions.create(
model="qwen-plus",
messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)
方式三:本地部署
使用Ollama:
ollama run qwen
使用Hugging Face:
from transformers import AutoModelForCausalLM, AutoTokenizermodel = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2-7B")
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen2-7B")
三、支付相关
在线API费用
| 模型 | 价格 | 说明 |
| qwen-turbo | ¥0.004/千tokens | 快速 |
| qwen-plus | ¥0.02/千tokens | 增强 |
| qwen-max | ¥0.12/千tokens | 旗舰 |
免费额度
阿里云百炼有新用户免费额度
本地部署
完全免费,只需准备硬件
四、硬件要求
| 模型 | 最低内存 | 推荐配置 |
| Qwen 2 7B | 16GB | 24GB+ |
| Qwen 2 72B | 128GB | 256GB+ |