A53039. 程序题：参数高效微调低秩适配方法 LoRA（Low-Rank Adaptation）是一种参数高效微调方法，通过只训练 部分低秩矩阵插入至原始模型的关键层，实现大语言模型的高效定制。与传统微调相 比，LoRA 显著减少了训练参数量和显存需求，适用于资源受限场景下的大模型下游训练。一个典型训练场景如下：模型：Qwen-2.5-7B-Instruct；LoRA 仅插入注意力机制中关键的两个投影层。•…
编程题
知识点
题目描述
程序题：参数高效微调
低秩适配方法 LoRA（Low-Rank Adaptation）是一种参数高效微调方法，通过只训练 部分低秩矩阵插入至原始模型的关键层，实现大语言模型的高效定制。与传统微调相 比，LoRA 显著减少了训练参数量和显存需求，适用于资源受限场景下的大模型下游训练。一个典型训练场景如下：
模型：Qwen-2.5-7B-Instruct；LoRA 仅插入注意力机制中关键的两个投影层。
• 资源：单卡 16GB 显存；输入序列长度上限 2048。
• 训练策略：需将全局 batch size 控制在 8 左右，在显存足够的情况下尽量快的进行训练。
• 精度：启用半精度训练以降低显存占用。
• 产出：训练完成后，仅保存 LoRA adapter 权重，供下游推理使用。
请阅读以下训练Pytho代码，并根据需求完成空缺部分。
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM,
TrainingArguments, Trainer
from peft import LoraConfig, get_peft_model
model_name = "Qwen/Qwen2.5-7B-Instruct"
# 1) 加载分词器
tokenizer = ____[26]____
model = AutoModelForCausalLM.from_pretrained(
model_name, device_map="auto", torch_dtype=torch.float16,trust_remote_code=True
)
# 2) 配置 LoRA
lora_config = LoraConfig(
____[27]____
target_modules=____[28]____,
lora_dropout=0.05,
bias="none",
task_type="CAUSAL_LM"
)
model = get_peft_model(model, lora_config)
# 3) 定义 Trainer（假设 train_dataset 已经准备好）
training_args = TrainingArguments(
output_dir="./lora-qwen2.5-7b",
____[29]____
num_train_epochs=3,
learning_rate=2e-4,
____[30]____
logging_steps=10,
save_strategy="epoch"
)
trainer = Trainer(
model=model,
args=training_args,
train_dataset=train_dataset,
tokenizer=tokenizer,
)
trainer.train()
# 4) 保存 LoRA 权重
model.save_pretrained("./lora-qwen2.5-7b-lora")