让大模型能用和好用,亚马逊云科技在做什么?

最近AI领域最火爆的消息无疑就是亚马逊宣布完成对Anthropic公司投资40亿美元。去年9月份,亚马逊完成第一笔投资12.5亿美元,最近则追加投资27.5亿美元。

3月初,Anthropic公司发布了其最新一代大模型Claude 3。从各种测试情况来看,Claude 3展现出”暴打“ GPT-4的出色能力。从Claude 2.1到Claude 3,Anthropic公司仅仅用了4个多月,大模型迭代速度着实让人惊讶。

面对迭代速度越来越快、能力越来越强的大模型,如何让千行百业的用户们用起来和用好就成为当前产业界的头等大事。为此,基于亚马逊与Anthropic公司紧密战略关系,亚马逊云科技同时宣布,Claude 3系列将基于其Amazon Bedrock提供服务,为大模型服务树立了典范。

三层架构支撑生成式AI落地

去年起,以ChatGPT为代表的生成式AI应用席卷全球,也让大语言模型成为整个AI领域最为热门的话题,国内甚至上演了百模大战的盛况。

毫无疑问,生成式AI未来必然会被众多用户所采用。IDC预测,全球生成式AI市场年复合增长率将达85.7%,到2027年全球生成式AI市场规模将接近1500亿美元。越来越多的企业都在思考如何通过生成式AI创造更具竞争力的产品。

不过生成式AI、大模型对于绝大部分用户而言,依然是一项极为复杂的系统工程,涉及到基础设施、算法、数据、安全隐私等诸多方面。在亚马逊云科技大中华区产品部总经理陈晓建看来,生成式AI过去一年多发展迅速,亚马逊云科技通过大量用户合作,认为生成式AI目前主要面临三大情况:

其一、用户的场景千变万化,单个大模型哪怕能力非常强大,也很难适用和满足所有业务场景的需求。

其二、不同模型擅长的场景很不一样,使得选择合适的工具与平台来应对不同场景就至关重要。

其三、现阶段大模型、生成式AI依然处于发展的早期,大家都是小学生,专业服务很重要。

为此,亚马逊云科技从去年开始一直力推生成式AI的三层架构来帮助各行各业用户们把生成式AI、大模型用起来和用好。

具体来看,三层是架构最底层就是强大的基础设施能力,亚马逊云科技作为全球最大的服务提供商,其基础设施在支撑生成式AI方面有着丰富的经验,不仅包括英伟达最先进的GPU芯片,还包括亚马逊云科技自研的训练、推理等芯片,为用户屏蔽基础设施的复杂性,提供多样性的基础设施服务。

中间层则是以 Amazon Bedrock 为主的模型全托管服务,并且广泛接入当前主流大模型,例如Jurassic-2、Stable Diffusion XL 1.0、Llama 2、Amazon Titan、Claude等,为用户提供最为丰富的模型选择。

最上则是应用层,Amazon Q与Amazon Connect、Amazon Quicksight、Amazon CodeWhispere等广泛结合,提供丰富的生成式AI应用。

目前,西门子、海尔创新设计中心、沐瞳、店匠科技、金山办公等企业都在应用亚马逊云科技生成式AI技术与解决方案,在具体业务场景中利用生成式AI实现生产力的提升。”亚马逊云科技希望通过三层架构,让不同的客户可以根据需求选择不同层级的产品来支持自身的生成式AI应用。“陈晓建如是说。

打通”最后三公里“,把大模型用好

从目前的诸多评测来看,Anthropic Cladue 3在数学、编程、推理等方面的确展现出非常不错的能力。如今,Anthropic Cladue 3三个版本Haiku、Sonnet、Opus已经陆续在亚马逊云科技上线。事实上,正是得益于Amazon Bedrock,亚马逊云科技可以快速将 Cladue 3大模型的强大能力提供给用户。

在陈晓建看来,当前大模型和生成式AI需要重点处理好处理速度、成本效益和数据隐私这”最后三公里“难题。

具体来看,首先就是处理速度,生成式AI应用是一项极为复杂的工程问题,需要耗费大量的算力,这并不是传统数据中心所能轻松实现的,除了各种AI算力新品之外,还需要考虑网络、存储、数据中心高可用等因素。亚马逊云科技大中华区产品技术总监王晓野认为,云服务才是运行优质大模型最好的途径。

其次是大模型成本效益。当前,大模型领域依然是训练与推理需要耗费大量的成本,业界也频频出现关于大模型高昂成本的讨论。因此,对于广大行业用户而言,一定需要从成本效益的角度来选择合理的大模型以及适用场景。”客户在充分了解业务的基础上,选择合适的业务切入点、合适的大模型和合适的工具很重要。“陈晓建直言道。

最后就是大模型的数据隐私和数据安全。随着大模型技术的飞速发展,以及在各种业务场景中的落地实践,数据隐私和数据安全一定会成为众多用户所关注的。亚马逊云科技的策略是做负责任的AI,从定制安全和隐私控制、生成式AI应用程序用例受控响应、大模型回复结果中屏蔽敏感数据等来持续完善大模型相关的数据安全与隐私保护。

”亚马逊云科技正在提供一系列的本地化专业团队,以保证为每个用户的业务提供专业支持,助力行业的生成式AI应用发展。“陈晓建透露道。

分享到: 更多

为您推荐

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注