2023 年，聊天机器人领域似乎只剩下两个阵营：「openai 的 chatgpt」和「其他」。
chatgpt 功能强大，但 openai 几乎不可能将其开源。「其他」阵营表现欠佳，但不少人都在做开源方面的努力，比如前段时间 meta 开源的 llama。
llama 是一系列模型的总称，参数量从 70 亿到 650 亿不等，其中，130 亿参数的 llama 模型「在大多数基准上」可以胜过参数量达 1750 亿的 gpt-3。不过，该模型并没有经过指令微调（instruct tuning），因此生成效果较差。
为了提高模型性能，来自斯坦福的研究者帮助其完成了指令微调的工作，训练了一个名为 alpaca（羊驼）的 70 亿参数新模型（基于 llama 7b）。具体来说，他们让 openai 的 text-davinci-003 模型以 self-instruct 方式生成 52k 指令遵循（instruction-following）样本，以此作为 alpaca 的训练数据。实验结果表明，alpaca 的很多行为都与 text-davinci-003 类似。也就是说，只有 7b 参数的轻量级模型 alpaca 性能可媲美 gpt-3.5 这样的超大规模语言模型。
对于普通研究者来说，这是一种切实可行的廉价微调方式，不过需要的运算量仍然较大（作者表示他们在 8 个 80gb a100 上微调了 3 个小时）。而且，alpaca 的种子任务都是英语，收集的数据也都是英文，因此训练出来的模型未对中文优化。​
为了进一步降低微调成本，另一位来自斯坦福的研究者 ——eric j. wang 使用 lora（low-rank adaptation）技术复现了 alpaca 的结果。具体来说，eric j. wang 使用一块 rtx 4090 显卡，只用 5 个小时就训练了一个和 alpaca 水平相当的模型，将这类模型对算力的需求降到了消费级。而且，该模型可以在树莓派上运行（用于研究）。
lora 的技术原理。lora 的思想是在原始 plm 旁边增加一个旁路，做一个降维再升维的操作，来模拟所谓的 intrinsic rank。训练的时候固定 plm 的参数，只训练降维矩阵 a 与升维矩阵 b。而模型的输入输出维度不变，输出时将 ba 与 plm 的参数叠加。用随机高斯分布初始化 a，用 0 矩阵初始化 b，保证训练的开始此旁路矩阵依然是 0 矩阵（引自：https://finisky.github.io/lora/）。lora 的最大优势是速度更快，使用的内存更少，因此可以在消费级硬件上运行。
eric j. wang 发布的 alpaca-lora 项目。
项目地址：https://github.com/tloen/alpaca-lora
对于想要训练自己的类 chatgpt 模型（包括中文版类 chatgpt）但又没有顶级算力资源配置的研究者来说，这无疑是一大惊喜。因此，在 alpaca-lora 项目问世后，围绕该项目的教程和训练成果不断涌现，本文将介绍其中的几个。
如何使用 alpaca-lora 微调 llama在 alpaca-lora 项目中，作者提到，为了廉价高效地进行微调，他们使用了 hugging face 的 peft。peft 是一个库（lora 是其支持的技术之一），可以让你使用各种基于 transformer 的语言模型并使用 lora 对其进行微调。好处在于，它允许你在一般的硬件上廉价而有效地微调模型，并有较小的（也许是可组合的）输出。
在近期的一篇博客中，几位研究者介绍了如何使用 alpaca-lora 来微调 llama。
使用 alpaca-lora 之前，需要具备一些先决条件。首先是 gpu 的选择，得益于 lora，现在你可以在 nvidia t4 这样低规格 gpu 或 4090 消费级 gpu 上完成微调；此外，你还需要申请 llama 权重，因为其权重并不对外公开。
先决条件具备了，接下来就是如何使用 alpaca-lora。首选你需要克隆 alpaca-lora 存储库，代码如下：
git clone https://github.com/daanelson/alpaca-lora cd alpaca-lora
其次，获取 llama 权重。将下载到的权重值存储到名为 unconverted-weights 文件夹里，文件夹层次结构就像下面这样：
unconverted-weights ├── 7b │ ├── checklist.chk │ ├── consolidated.00.pth │ └── params.json ├── tokenizer.model └── tokenizer_checklist.chk
权重存储好后，接着使用以下命令将 pytorch checkpoint 的权重转换为 transformer 兼容的格式：
cog run python -m transformers.models.llama.convert_llama_weights_to_hf --input_dir unconverted-weights --model_size 7b --output_dir weights
得到最终的目录结构应该是这样的：
weights ├── llama-7b └── tokenizermdki
处理好上述两步，来到第三步，安装 cog：
sudo curl -o /usr/local/bin/cog -l https://github.com/replicate/cog/releases/latest/download/cog_$(uname -s)_$(uname -m) sudo chmod +x /usr/local/bin/cog
第四步来到微调模型，默认情况下，微调脚本上配置的 gpu 功能较弱，但如果你有性能更好的 gpu，则可以在 finetune.py 中将 micro_batch_size 增加到 32 或 64。此外，如果你有指令调优数据集，则可以在 finetune.py 中编辑 data_path 以指向自己的数据集。需要注意的是这一项操作应该确保数据格式与 alpaca_data_cleaned.json 相同。接下来运行微调脚本：
cog run python finetune.py
微调过程在 40gb a100 gpu 上花费 3.5 小时，对于处理能力较低的 gpu 则需要更多时间。
最后一步用 cog 运行模型：
$ cog predict -i prompt=tell me something about alpacas. alpacas are domesticated animals from south america. they are closely related to llamas and guanacos and have a long, dense, woolly fleece that is used to make textiles. they are herd animals and live in small groups in the andes mountains. they have a wide variety of sounds, including whistles, snorts, and barks. they are intelligent and social animals and can be trained to perform certain tasks.
教程作者表示，在完成以上步骤之后，大家可以继续尝试各种玩法，包括但不限于：
带上你自己的数据集，微调你自己的 lora，比如微调 llama，让它像动漫角色一样说话。参见：https://replicate.com/blog/fine-tune-llama-to-speak-like-homer-simpson将模型部署到云平台上；结合其他 lora，比如 stable diffusion lora，把这些都用到图像领域；使用 alpaca 数据集（或其他数据集）微调更大的 llama 模型，并查看它们的表现。这应该可以通过 peft 和 lora 实现，尽管它需要更大的 gpu。alpaca-lora 的衍生项目尽管 alpaca 性能可以媲美 gpt 3.5，但其种子任务都是英语，收集的数据也都是英文，因此训练出来的模型对中文并不友好。为了提升对话模型在中文上的效果，我们看看都有哪些比较好的项目。
首先是来自华中师范大学等机构的三位个人开发者开源的中文语言模型骆驼 (luotuo)，该项目基于 llama、stanford alpaca、alpaca lora、japanese-alpaca-lora 等完成，单卡就能完成训练部署。有意思的是，他们之所以将模型名字命名为骆驼，是因为 llama（大羊驼）和 alpaca（羊驼）都属于偶蹄目 - 骆驼科。这样看来，起这个名字也在意料之中。
这个模型是在 meta 开源的 llama 基础上，参考 alpaca 和 alpaca-lora 两个项目，对中文进行了训练。
项目地址：https://github.com/lc1332/chinese-alpaca-lora
目前该项目释放了两个模型 luotuo-lora-7b-0.1、luotuo-lora-7b-0.3，还有一个模型在计划中：
下面是效果展示：
不过 luotuo-lora-7b-0.1（0.1）、luotuo-lora-7b-0.3（0.3）还是有差距的，在用户询问华中师范大学地址时，0.1 回答错误：
除了进行简单的对话外，还有人在保险相关领域进行了模型优化。据这位推特网友表示，借助 alpaca-lora 项目，他输入了一些中文保险问答数据，最后效果也不错。
具体来说，作者训练中文版 alpaca lora 用了 3k 多条中文问答保险语料，实现过程使用了 lora 方法，并微调 alpaca 7b 模型，耗时 240 分钟，最终 loss 0.87 。
图源：https://twitter.com/nash_su/status/1639273900222586882
以下是训练过程和结果：
测试结果表明：1. 训练语料相关内容都能有大概合理的回复，但仅限于不胡说 2. 非语料相关内容则会强行回复某个语料内的数据 3. 逻辑推理数学计算则没有这个能力。
看到这个结果后网友纷纷喊要失业了：
最后期待更多的中文对话模型加入进来。
以上就是训练个中文版chatgpt没那么难：不用a100，开源alpaca-lora+rtx 4090就能搞定的详细内容。