Llama 3官网|llama3 本地部署|llama3下载

Llama3懒人整合包!本地运行开源AI大模型!永久免费

nidongde2024-05-11 09:45:0118
昨晚,Meta(也就是脸书)
发布了目前最强的开源大模型Llama 3
AI圈又嗨起来了
它有两款不同的参数模型——Llama 3 8B与Llama 3 70B。
性能再次突破,基本全面碾压同类参数的选手,甚至能越级和GeminiPro等打的有来有回。
  • Llama 3 8B在关键测试中超越前代Llama 2 70B模型,性能力压群雄。
  • 训练速度是Llama 2的三倍,节省时间,提升效率。
  • 超大数据集:训练数据超过15T token,是Llama 2的7倍以上
  • 长文本处理:支持最长达8K的文本输入

在众多基准测试中居于领先地位,推理和编码能力大幅增强。

既然是开源模型,咱就自己部署运行一个!
看看在自己的电脑上,运行大模型是一种什么体验。
话不多说,上教程!
官网下载安装较为麻烦
这里我找到一个Llama3懒人整合包!
一键安装运行,保你会用!
(Llama 3 8B版本,8个G左右,电脑内存至少16G以上,老电脑就别强求了,直接官网https://www.meta.ai/体验吧)
公号对话框回复:Llama3 即可下载
下载解压后得到以下两个文件

然后跟着操作:
1、双击安装LM-Studio-0.2.20-Setup.exe
装完后,桌面上有了个快捷方式
2、桌面双击打开LM-Studio快捷方式
然后通过以下两步,打开存放模型的文件夹,然后将解压包里的FaradayDotDev文件,整个复制到模型文件夹内。

3、LM-Studio切换到聊天界面
然后选择好模型,加载好后,就可以直接在对话框中开始用了。
就是这么简单,你就成功部署好了自己的本地AI大模型,真正的离线使用,永久免费,也不用担心数据安全问题!

我随便问了一句,你和GPT4谁比较厉害?

哈哈,Llama还挺诚实!

大方承认了自己还不如GPT4,但是会努力学习进步!

大家装好后,可以自行试玩,非常方便!
需要注意的是,本地运行需要占用本地电脑内存和算力,所以如果性能不够强的话,可能会有卡顿。
虽然我们可以在meta官网,或者其他第三方工具体验到,更加流程丝滑的使用体验。
但是用自己电脑安装运行,还是更有意思,我的算力和数据,我自己做主!
如果本文对你有用的话,就点个赞吧!感谢观看!

本文链接:https://www.hzby.vip/Llama3/25.html

Ollama 地址GGUF 版本地址Llama-3官方模型权重地址Llama-3-400Bllama和ChatGPTllama是啥意思llama3 需要多大显存llama大模型llama 3

相关文章

网友评论