太平洋科技企业站

大模型之王Claude 3 带来亚马逊云科技新护城河

Asgardia 编辑：王珂玥发布于：2024-04-11 06:28 PConline原创

众所周知，如今大模型之王已经从OpenAI的GPT-4转为Anthropic的Claude 3了。尤其是3月末，Anthropic的Claude 3 Opus在Chatbot Arena(被领先的LLM开发人员和公司广泛引用的，一个基于人类偏好评估LLM的开放平台)的最强大模型榜单上超过了GPT-4.这更加坐实了这一新认知。与此同时，也许正当外界纳闷Anthropic的来路的时候，亚马逊宣布向Anthropic追加投资27.5亿美元。

宝剑锋从磨砺出，Anthropic成功的背后正是亚马逊云科技。“Anthropic推出下一代模型Claude3的同时，也在Amazon Bedrock平台上完成了发布。Anthropic做出长期承诺，将通过Amazon Bedrock为世界各地的亚马逊云科技的客户提供访问其下一代基础模型的能力。” 在4月2日的一场有关亚马逊云科技在生成式AI创新进展的分享会上，亚马逊云科技大中华区产品部总经理陈晓建如此介绍。

随着AI技术的飞速发展，云计算体系市场角逐已经开辟出新的赛道，围绕生成式AI方面的竞争涉及了云巨头们从底层算力、到AI平台、再到模型服务的全栈技术能力。随着客户将越来越多的应用程序迁移到云上，能否为客户提供合适的生成式AI环境，成为了亚马逊云科技可以继续稳固云行业的领先地位的关键之战。

Anthropic Claude 3 称王之路，又何尝不是亚马逊云科技的新护城河。

亚马逊云科技为生成式AI领域提供三层技术栈

笔者曾在亚马逊云科技re:Invent中国站北京活动的那期报道中，带领读者领略了亚马逊云科技如何让云计算成为人工智能可靠的科技底座。(可参见文章《In 2023.亚马逊云科技re:Invent 了什么？》)彼时，虽说OpenAI的GPT大模型风光无两，但想让大模型超越一个对话机器人的定位范畴，就需要思考更多深入的问题。亚马逊云科技已经从用户角度对于大模型在企业应用的落地进行了非常深入的研究，例如“怎么去兼顾规模和成本，怎么去选择最适合的生成式AI模型，如何去保证我们自身业务的安全性和隐私，怎么去利用我的私有数据去训练模型，让生成式AI的模型成为我所在这个专业领域的专家，……”

所以，亚马逊云科技不仅有自家的AI模型Amazon Titan，还通过亚马逊云科技完全托管的生成式人工智能服务Amazon Bedrock提供来自Anthropic、Stability AI、AI21 Labs、Cohere等公司的第三方模型，来让模型能力可以百花齐放，为客户提供更为丰富的选择，响应客户不同的需求。“在不同场景下，客户需要的底层模型是不同的。Amazon Bedrock通过一个模型平台支持多种大模型。” 陈晓建强调。

虽说这就意味着，客户可以将有限企业数据资源与不同能力的模型进行结合，并有倾向地进行部署，最终从众多项目中推理出那些最为能给企业提升生产力的AI赋能。但是，生成式AI对用户来说依旧是一个全新的形式，用户需要经过一定的摸索实践来完善。对此，亚马逊云科技更加期望通过工程优势、更省资源开支的算法、模型等，从底层基础设施到上层算法应用的全栈创新，帮助客户打造一致的企业级生成式AI应用体验，减少用户的投资摸索时间。

陈晓建介绍，亚马逊云科技在生成式AI领域提供了三层技术栈：最底层提供了AI高性能基础设施，包括自研的或是其他供应商的加速器，例如Amazon Trainium或是英伟达最新的B200;中间层有Amazon Bedrock，提供多个领先提供商的广泛的基础模型选择，客户可以根据这些基础模型来为自身的业务量身定制，并保持自己的数据私有和安全，同时与其他在亚马逊云科技上的工作负载无缝集成;最上层则是应用生成式AI技术的开箱即用的云服务，例如智能客服产品Amazon Connect，还有像面向编程开发人员的平台Amazon CodeWhisperer等等。“在这些用户可以接触到的产品的背后，拥有一整套用于大规模并行训练的体系架构，是非常重要的。”

大模型之王Claude 3如何赋能企业应用？

基于亚马逊云科技和Anthropic在生成式AI领域的紧密合作，Amazon Bedrock在第一时间提供对了Claude 3系列模型的支持。该系列模型包括Haiku、Sonnet和Opus三款。

Haiku、Sonnet和Opus分别适用于不同场景：Opus是Claude 3模型中智能水平最高的模型，更加适合复杂的开放式场景;Sonnet模型兼具智能和速度，擅长快速响应的任务,如知识检索或销售自动化;Haiku是其中最快且最具成本效益的模型，适用于大容量用例。在大量的批处理的任务中，Haiku能提供在同等智能环境下，比业界同等模型更快的性能。

“我们发现，Claude 3在一些像数学问题、编程练习和科学推理等，还有比如文本创作方面，它是超越了所有现有模型的。特别是Opus，它不仅在大多数常见的AI系统评估基准测试中表现优异，例如本科生水平专业知识(MMLU)、研究生水平专业推理(GPQA)、基础数学(GSM8K)等，并且在复杂任务中表现出优秀的理解能力和流畅性，走在通用智能的最前沿。” 陈晓建介绍。

对此，亚马逊云科技在分享会现场也演示了Claude 3的一些王者能力。例如，通过对比Claude3与GPT-4在电商橱窗商品分析描述上的精确性和规范性，Claude 3通过图像或者效果图进行图片的解析或者打标签时，对细节的捕捉有着明显的优势，可以更为清晰地描述商品的样式，从而让顾客可以更精准地搜索到自己想要的产品。这意味着，当这一优势应用在海量的电商橱窗管理阶段，其实际效果和结果对经营业主就会显得非常重要。

从企业需求应用来看，陈晓建认为Claude 3的显著优势可凸显为：1、Claude 3的理解速度优于业界其他多模态模型，“Claude3可以非常擅长理解，包括像图片、图表、图形以及OCR扫描产生的图像”;2、Claude 3可有效避免幻觉的问题，“任何一个客户在将他的大模型能力与自身业务相结合时，都不愿意见到幻觉的存在，Claude 3模型在这方面已经取得了非常大的进步”;3、Claude3能捕捉到一些其他模型注意不到的细节(例如刚才提到的给商品打标签测试)。

一直以来，越来越多的企业都对AI应用保持了积极的态度。所以，大模型发展的进展总是在牵引着企业探索AI与自身业务相结合更好的方式。亚马逊云科技也针对大模型与客户核心业务相结合的场景提供了丰富的功能。为了消除一些复杂、重复的工作，亚马逊云科技在Amazon Bedrock中推出了Knowledge Bases知识库功能。借助Amazon Bedrock 知识库，用户可以在托管式服务中将大模型连接到企业独有的数据源，从而实现检索增强生成(RAG)，进一步提升大模型本已十分强大的功能，同时也让大模型更加了解企业自身。从Amazon Bedrock 知识库检索到的所有信息均附有引文，可提高透明度并最大限度地减少幻觉。

数据是企业重要的资产，随着数据要素制度的日臻完善，数据的安全问题也成为企业采用生成式AI关注的重点，毕竟AI应用需要大量企业内部数据对原有模型进行训练才能达到更好的效果，同时在使用生成式AI应用的过程中也要避免因为交互等操作导致的数据外泄。在这个过程中，如何确保企业数据不会泄露，甚至被竞争对手利用，是当下企业对于应用生成式AI赋能业务有所担忧的核心问题之一。对此，亚马逊云科技提出了Responsible AI在内的一系列举措和Guardrails for Amazon Bedrock这样的功能，来解决大模型背后所需要的隐私性和安全性。“Guardrails for Amazon Bedrock具有四个优势，第一个是通过定制安全和隐私控制来改善生成式AI应用的用户体验。第二个是生成适合应用程序用例的受控的响应。第三，通过负责任的人工智能政策增强人工智能，确保它的应用业务的安全性。第四，通过在大模型的回复结果中屏蔽敏感的个人隐私信息来实现隐私的保护。” 陈晓建介绍。

企业该如何重新思考AI的应用场景？

伴随着Claude 3称王的当下，AI赋能的算力战火也从数据中心展到了边缘端，尤其是生成式AI也是嵌入式设备当前最着重的创新看点。例如，用户可以利用这种嵌入式AI能力，在手机\电脑等边缘端中输入场景描述，并将其转换为本地即可获得的需求。此功能为用户生成的材料创造了新的机会，并且不仅仅是一个新奇的东西。这无疑会给企业对AI的应用场景的设计带来更大范围的思考。

对此，王晓野认为云端依旧是用户应用大模型的主要场景：“大模型需要各种各样的能力，以训练规模为例，实际上，大模型运行并非仅凭传统的IDC数据中心可以轻松实现，我们除了考虑芯片，还需要考虑散热、网络，以及它自身的高可用，断电后如何做恢复等。就今天来讲，云一定还是运行优质大模型的最好的地方。因此我认为企业如果想要将领先的大模型应用于业务场景，那么最好的方式是将其部署到云端，并结合云端的数据处理等各种广泛而深入的能力去做构建。亚马逊云科技提供了广泛的能力，我们大约有10万个用户在云上使用我们的人工智能和机器学习的服务。”

最后

无疑，Claude 3的称王之路势必会加强客户驻留在亚马逊云科技的期待；亚马逊云科技在生成式AI领域的三层技术栈能力和帮助客户将生成式AI应用落地的工程化能力，将为企业探索AI与企业垂直业务结合的云解决方案提供更多定制空间，从而充分释放生成式AI的变革潜力。这些能力将有助于亚马逊云科技进一步提升其云服务所提供的附加价值，吸引更多云客户，推动收入增长，并巩固其领导地位。

Claude 3 亚马逊云科技生成式AI

Asgardia

原创栏目