先確認是否真的需要微調
如果問題來自檢索不足、提示不清或工具契約不穩定,微調通常不是第一選擇。只有任務格式穩定、樣本足夠且需要改變模型行為時,才評估 LoRA、Adapter 或全量微調。
資料比參數更重要
資料集要去重、脫敏並確認授權。把訓練、驗證和回歸集按時間或來源分開,避免同一問題洩漏到驗證集。記錄標註指南和拒答樣本,避免模型只學到表面格式。
訓練前固定基線:任務準確率、拒答率、延遲、顯存和成本。訓練後同時比較能力和退化,特別是通用問答、長上下文、工具呼叫和安全邊界。不要只用單一 loss 宣稱可以上線。
發布要能回復
保存基座模型、適配器、訓練參數、資料版本和評測報告。推理服務先以影子流量驗證,再小比例放量。適配器組合要限制數量並監控顯存;出現安全或品質回歸時立即切回基線。
