Llama3一出,国内的各路英雄豪杰纷纷开启了炼丹炉。其实,微调 Llama3 大模型并不难。
为什么要微调Llama3:
现在Llama3的能力是前top5的,是开源大模型里面最强的!
🎯 高精度 - Llama3 在各种基准测试如SuperGLUE、GLUE 和SQuAD中表现卓越,确保在多样的任务上提供可靠结果。
⚡ 高效率 - 经过优化的Llama3甚至在资源有限的设备上也能高效运行,适用于实时应用。
🌍 强大泛化能力 - 无论是处理未见过的数据类型还是新任务,Llama3 都能轻松应对。
🔧 灵活性 - 微调使得Llama3在特定任务如情感分析和问答系统上表现得更加精准快捷。
🏝适用场景:
• 自然语言处理
• 机器翻译
• 文本生成
• 问答系统
• 聊天机器人
🛠️ 推荐工具 :
Unsloth:https://github.com/unslothai/unsloth
• 支持所有2018年以来的NVIDIA GPU
• 使用OpenAI的Triton语言,无精度损失
• 支持4位和16位QLoRA/LoRA微调
• 开源版本训练速度提高5倍
• 在线colab就可以一键运行
💰已经微调好的Llama3作品:
llama3-Chinese-chat-8b:https://wisemodel.cn/models/shareAI/llama3-Chinese-chat-8b
Instruct + 进行中的中文sft版本:https://modelscope.cn/models/baicai003/llama-3-8b-Instruct-chinese_v2/summary
联通微调版本:https://www.modelscope.cn/models/UnicomAI/Unichat-llama3-Chinese/summary
Openbuddy微调版本:https://www.modelscope.cn/models/OpenBuddy/openbuddy-llama3-8b-v21.1-8k/summary
破解安全限制系列(目前仅支持英文):
Unholy:https://huggingface.co/Undi95/Llama-3-Unholy-8B
neural-chat:https://hf-mirror.com/Locutusque/llama-3-neural-chat-v1-8b
聊天机器人:https://huggingface.co/cognitivecomputations/dolphin-2.9-llama3-8b
Bunny-Llama-3-8B-V(多模态图文版本):https://wisemodel.cn/models/BAAI/Bunny-Llama-3-8B-V
网友评论