微软 ceo 纳德拉在 ignite 大会上宣布，上个月，phi-2 小尺寸模型将完全开源。这一举措将显著改进常识推理、语言理解和逻辑推理的性能
今天，微软公布了 phi-2 模型的更多细节以及全新的提示技术 promptbase。这个仅 27 亿参数的模型在大多数常识推理、语言理解、数学和编码任务上超越了 llama2 7b、llama2 13b、mistral 7b，与 llama2 70b 的差距也在缩小（甚至更好）。
同时，小尺寸的 phi-2 可以在笔记本电脑、手机等移动设备上运行。纳德拉表示，微软非常高兴将一流的小语言模型（slm）和 sota 提示技术向研发人员分享。
微软在今年六月发表了一篇名为《只需教科书》的论文，使用了仅包含7b个标记的“教科书质量”数据来训练了一个包含1.3b个参数的模型，即phi-1。尽管数据集和模型规模比竞争对手小几个数量级，但是phi-1在humaneval中的一次通过率达到了50.6%，在mbpp中的准确率达到了55.5%。phi-1证明了即使是高质量的“小数据”也能够使模型具备良好的性能
微软随后在九月份发表了《只需教科书ii：phi-1.5技术报告》，对高质量的“小数据”潜力进行了进一步的研究。文中提出了phi-1.5，该参数适用于qa问答、代码等场景，可达到13亿的规模
如今 27 亿参数的 phi-2，再次用「小身板」给出了卓越的推理和语言理解能力，展示了 130 亿参数以下基础语言模型中的 sota 性能。得益于在模型缩放和训练数据管理方面的创新， phi-2 在复杂的基准测试中媲美甚至超越了 25 倍于自身尺寸的模型。
微软表示，phi-2 将成为研究人员的理想模型，可以进行可解释性探索、安全性改进或各种任务的微调实验。微软已经在 azure ai studio 模型目录中提供了 phi-2，以促进语言模型的研发。
phi-2 关键亮点语言模型规模增加到千亿参数，的确释放了很多新能力，并重新定义了自然语言处理的格局。但仍存在一个问题：是否可以通过训练策略选择（比如数据选择）在较小规模的模型上同样实现这些新能力？
微软提供的解决方案是使用phi系列模型，通过训练小型语言模型来实现与大型模型类似的性能。phi-2在两个方面打破了传统语言模型的缩放规则
首先，训练数据的质量在模型性能中起着至关重要的作用。微软通过专注于「教科书质量」的数据，将这一认知发挥到了极致。他们的训练数据包含了专门创建的综合数据集，教给模型常识性知识和推理，例如科学、日常活动和心理等。此外，他们还通过精心挑选的网络数据来进一步扩充自己的训练语料库，这些网络数据经过教育价值和内容质量的筛选
其次，微软使用创新技术进行扩展，从 13 亿参数的 phi-1.5 开始，将知识逐渐嵌入到了 27 亿参数的 phi-2 中。这种规模化知识迁移加速了训练收敛，并显著提升了 phi-2 的基准测试分数。
以下是phi-2和phi-1.5之间的比较图，除了bbh（3-shot cot）和mmlu（5-shot）之外，所有其他任务都是使用0-shot进行评估
训练细节phi-2 是一个基于 transformer 的模型，其目标是预测下一个词。它在合成数据集和网络数据集上进行了训练，使用了 96 块 a100 gpu，并花费了 14 天的时间
phi-2 是一个基础模型，没有通过人类反馈强化学习 (rlhf) 进行对齐，也没有进行指令微调。尽管如此，与经过调整的现有开源模型相比，phi-2 在毒性和偏见方面仍然表现得更好，如下图 3 所示。
实验评估首先，该研究在学术基准上对 phi-2 与常见语言模型进行了实验比较，涵盖多个类别，包括：
big bench hard (bbh) (3 shot with cot)常识推理（piqa、winogrande、arc easy and challenge、siqa）、语言理解（hellaswag、openbookqa、mmlu（5-shot）、squadv2（2-shot）、boolq）数学（gsm8k（8 shot））编码（humaneval、mbpp（3-shot））phi-2模型仅有27亿个参数，却在各种聚合基准上性能超越了7b和13b的mistral模型和llama2模型。值得一提的是，与庞大的25倍llama2-70b模型相比，phi-2在多步骤推理任务（即编码和数学）方面表现更出色
此外，尽管尺寸较小，但 phi-2 的性能可以媲美最近由谷歌发布的 gemini nano 2
由于许多公共基准可能会泄漏到训练数据中，研究团队认为测试语言模型性能的最佳方法是在具体用例上对其进行测试。因此，该研究使用多个微软内部专有数据集和任务对 phi-2 进行了评估，并再次将其与 mistral 和 llama-2 进行比较，平均而言，phi-2 优于 mistral-7b，mistral-7b 优于 llama2 模型（7b、13b、70b）。
研究团队还对常见的研究社区提示进行了广泛测试。phi-2的表现与预期相符。例如，对于一个用于评估模型解决物理问题能力的提示（最近用于评估gemini ultra模型），phi-2给出了以下结果：
以上就是手机运行微软小模型胜过27亿参数的大模型的详细内容。