#头条创作挑战赛#LoRA: Low-Rank Adaptation of Large Language Models 是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3) 通常在为了适应其下游任务的微调中会呈现出巨大开销。 LoRA 建议冻结预训练模型的权重并在每个 Transformer 块中注入可训练层 (秩-分解矩阵)。因为不需要为大多数模型权重计算梯度，所以大大减少了需要训练参数的数量并且降低了 GPU 的内存要求。
Stable Diffusion 的全模型微调过去既缓慢又困难，这也是 Dreambooth 或 Textual Inversion 等轻量级方法变得如此流行的部分原因。使用 LoRA，在自定义数据集上微调模型要容易得多。
简单来说，lora模型为我们提供了更便捷更自由的微调模型，能够使我们在底膜的基础上，进一步指定整体风格、指定人脸等等，而且lora模型非常的小，大部分都只有几十MB，非常的方便！以上内容来源于网络，以下图片是lora模型制作的图片，仅供参考！
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
一起用AI | AI副业搞钱套路集合站点
站点初衷是期望打破AI信息壁垒，推广AI智能化方案做副业赚钱，帮助更多普通人在AI浪潮中创造额外副业收益！本站将收录全网各类AI搞钱套路，AI赚钱方法，AI做副业的各类赚钱教程供大家参考学习。
