Meta发布AI里程碑新模型Llama 3
好家伙，今天有大新闻了，Meta终于发布了广受期待的Llama 3模型，这是个开源的AI巨擘，跟之前的版本比起来，这回它在解问问题的功能上强了不知多少。Mark Zuckerberg亲自站出来跟大家说了说这次更新的情况，我们得慢慢拆解下这个发布到底意味着啥。
先说MetaAI，是个整合到WhatsApp、Instagram、Facebook以及Messenger上的问答助手。不是吹，我们的目标就是打造全球领先的AI服务。而今，我们的MetaAI升级搭载了Llama，这是最新顶尖的AI模型，还贡献给了开源社区。过会儿我会更深入地聊聊Llama3，但重点是，MetaAI已经成为最聪明的AI助手，任何人都能用，还白嫖！
为了让MetaAI更聪明，我们还整合了谷歌和必应的实时知识到答案里。而且，我们也让MetaAI在各大APP中更易用，比如集成到WhatsApp、Instagram、Facebook和Messenger的搜索框，啥问题都能问。还专门弄了个网站，Meta AI，方便大家在网络上用。
除此之外，MetaAI还能创作动画和高质量图片，速度之快以至于当你敲键盘输入的时候图片就更新了，真的很狂。WhatsApp和网站上都能体验到这些功能。
咱们的打算是贡献大力投资AI，并以负责任的态度共享我们的开源模型。开源行业已经一遍又一遍地证明了，开源能带来更好、更安全的产品，加速创新，市场更健康。而且，改善Meta产品之外，这些模型还有望在科学、健康护理等领域推动进步。今天我们就发布了第一批8亿和70亿参数的Llama 3模型，过不了多久还会推出更多功能，比如多模态和更大的上下文窗口。我们还在训练一个超过4000亿参数的更大模型，Llama 3的第一版本，8亿参数模型的性能已经接近最大的Llama 2模型。70亿参数模型的版本，在理性和数学基准测试中也达到了82 MMLU，400亿参数模型正在85 MMLU左右，但还在训练中，因此我们期待它在各种基准测试上能达到行业领先水平。想了解更多技术细节的，我们会发布一篇博客文章。与此同时，来Meta AI看看吧，让我知道你有啥想法。
Mark Zuckerberg这番话简直是个信息炸弹，Llama 3的发布比想象中要牛逼得多。从基准测试上看，MetaLlama 3的指导性能超乎预期。惹人吃惊的是，即使是70亿参数的大模型也能超过了很多人日常使用的Claude Sonic这类模型。
总得来说，Meta的Llama 3在基准测试中没对手了，开源领域是佼佼者。而对比其他相同尺寸的模型，像Gemini 1.5 Pro这样，在MMLU上甚至有超越之势，总的来看，它在性能和总体能力方面真的做到了领先。
并且在世界范围内进行优化，开发了新的高质量人工评估集，涵盖12个关键用例，包括征求建议、头脑风暴、分类、闭合式问答、编码、创意写作、数据提取、个性化角色扮演、开放式问答、推理、改写和概括。为了防止模型过度适应这个评估集，就连我们自己的模型团队都无法接触它，这体现了人类用户的价值。
而Llama 3对人类评估的测试显示了其性能之优，相比Claude Sonic和Mistral Medium等主流模型，在一般情况下都更胜一筹。另外，就训练数据而言，Llama 3是在超过5万亿个公开来源的标记上进行预训练的，这份数据集是Llama 2的7倍之多，编码量是它的4倍，还包括超过30种非英语数据，尽管预期在这些语言上的表现不如英语。单单训练数据方面就能看出Meta对高质量集的坚持。
现在大家伙得注意了，Llama 3即将成为一个4000亿参数的模型，而且这玩意儿还在训练中。根据最近的一个训练检查点（2024年4月15日），这预训练模型真的很猛，超乎想象。Meta之前没弄过这么大尺寸的模型，这次真是给行业和那些闭源公司上了一课。看起来，就AI系统的不断发展而言，这些大公司真是拼了，不断提高技术标准，不仅仅是服务的提升，而是整个行业的升级。
Gym Fan提供的一个表中可以看到，即将到来的Llama 3模型将会是一个分水岭，开源社区将获得等同GPT-4类模型的开放权限。这将改变许多研究工作的计算方法，也会让草根创业项目兴奋不已。然后他列举了Claude 3、OpenAI最近的模型（也就是2024年4月9日的GPT-4）以及Gemini的数值，说到Llama 3，4000亿个模型还在训练中，未来几个月可能还会变得更好。预计借助这
网友评论