AWS 宣布推出生成式 AI 新服务以加速创新

·采访邀约要点

• AWS 全托管生成式 AI 服务 Amazon Bedrock 现已正式可用；客户可使用由众多领先 AI 公司所提供的高效能基础模型，以及建立生成式 AI 应用程序所需的一系列功能，简化开发过程同时确保私隐和安全

• Amazon Bedrock 新增 Amazon Titan Embeddings 和 Meta Llama 2 模型，为客户提供更多灵活选择以寻找适合其应用场景的模型

• 全新 Amazon CodeWhisperer 功能将提供客制化、基于生成式 AI 的代码建议，充分利用企业内部代码库，提高开发人员生产力

• Amazon QuickSight 提供生成式 BI 仪表板创作功能，助业务分析师更方便快捷地探索数据，并运用自然语言描述即可建立可视化报告

• adidas、BMW、GoDaddy、默克、国民西敏银行集团（NatWest Group）、Persistent、PGA 锦标赛（PGA TOUR）、株式会社竹中工务店（Takenaka Corporation）和 Traeger Grills 等企业正在应用 AWS 的生成式 AI 以创新其产品和服务

AWS 宣布推出五项生成式 AI 创新功能，让各种规模的企业都可以建立新的生成式 AI 应用程序，提高员工生产力并实现业务转型。这五项创新功能包括：AWS 全面托管服务 Amazon Bedrock 正式可用，透过统一的应用程序编程接口（API）提供来自领先 AI 公司的基础模型（FM）；AWS 宣布 Amazon Titan Embeddings 模型正式可用，为客户提供更多基础模型选择；Amazon Bedrock 最新引入了 Meta Llama 2 模型，这是第一个透过 API 提供完全托管 Meta Llama 2 模型的服务；AI 程序设计助手 Amazon CodeWhisperer 的新功能即将提供预览，该功能可以根据企业的内部代码库安全地客制 CodeWhisperer 的代码建议，支持开发人员从生成式 AI 中获得更大价值；Amazon QuickSight 的生成式 BI 创作功能现已推出预览版，可以提高业务分析师的工作效率。这一功能是云端原生建立的统一 BI 服务，使客户能够透过自然语言简单地描述他们想要的内容，从而建立可视化内容、格式化图表、执行计算等。从 Amazon Bedrock、Amazon Titan Embeddings，再到 Amazon CodeWhisperer 和 Amazon QuickSight，这些创新功能加强了 AWS 在生成式 AI 各层面为客户提供的能力，无论任何规模的企业都可获得企业级安全和私隐保护，并选择最佳模型并进行模型客制。如欲开始体验 AWS 生成式 AI的功能，请浏览 aws.amazon.com/generative-ai/。

AWS 数据和机器学习全球副总裁 Swami Sivasubramanian 表示：「在过去的一年里，海量的信息爆炸、大规模弹性运算能力的普及，以及机器学习技术的进步点燃了人们对生成式 AI 的兴趣，深刻改变了各行各业，并重塑了人们的工作方式。凭借企业级的安全和私隐保护、领先的基础模型选择、数据为先的方法论，以及高效、具成本效益的基础架构，AWS 赢得了企业的信赖，并在技术栈的每一层使用生成式 AI 解决方案协助企业不断创新。今天的发布是一个重要的里程碑，它提供生成式 AI给予涵盖初创企业至大型企业的每间企业、涵盖开发工程师至数据分析师的每位员工。透过强大的创新，AWS 为企业带来了更强的安全性、更多的选择和更出色的效能，同时协助企业与自身的数据战略保持高度一致，进而充分释放生成式 AI 的潜力。」

各行各业、不同规模的企业都渴望借助生成式 AI 来变革营运方式，重新思考解决复杂问题的方法，并创造全新的用户体验。尽管生成式 AI 的最新进展引起了广泛关注，但很多企业仍未能参与到这一转型过程中。它们一边对使用生成式 AI 充满渴望，一边又对这些工具的安全性和私隐问题忧心忡忡。这些企业希望能够测试多种基础模型，从而找到最适合自己应用场景的模型。它们同时希望最大限度地利用已经拥有的数据，透过客制化模型来为最终用户提供独特的体验。最后，企业需要工具将创新迅速推向市场，以及协助它们在全球范围内部署生成式 AI 应用程序的基础设施。

这正正是为何众多企业正向 AWS 寻求生成式 AI 服务，这些企业包括 adidas、Alida、BMW、Genesys、Glide、GoDaddy、Intuit、律商联讯（LexisNexis Legal & Professional）、孤独星球（Lonely Planet）、默克、国民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式会社竹中工务店、Traeger Grills、美巡赛、Verint、Verisk 和 WPS 等。

Amazon Bedrock 正式可用，协助更多客户建立和扩展生成式 AI 应用程序

Amazon Bedrock 为一项完全托管的服务，提供来自众多领先 AI 公司（包括 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亚马逊）的高效能基础模型，以及企业建立生成式 AI 应用程序所需的一系列功能，能在实现简化开发的同时确保私隐性和安全性。基础模型具有良好的适用性，可为资料搜索、内容创作及药物发现等众多领域提供支持。

然而，很多希望利用生成式 AI 的企业仍然面对一些问题需要解决。首先，它们需要简单直观的选取和存取高效能基础模型，满足其场景需求且表现优异；其次，客户希望应用程序实现无缝集成，无需管理庞大的基础设施集群或花费大量成本；最后，客户希望借助基础模型并结合自身数据来轻松建立差异化的应用程序，而这些客户用于客制的数据无疑是非常宝贵的资产，具有知识产权，因此在使用过程中必须做到全面保护，在确保安全和私隐的同时，确保客户对数据共享和使用方式拥有控制权。

借助 Amazon Bedrock 的完善功能，企业能更方便、轻松地尝试多种领先的基础模型，使用自己的专有数据客制模型。此外，Amazon Bedrock 提供差异化能力，例如无需再代写任何代码即可建立的托管代理（AI agent），它可以执行复杂任务，如旅行预订、处理保险索赔、策划广告活动和管理库存等。由于 Amazon Bedrock 采用无服务器（serverless）技术，客户不必管理任何基础设施，即可使用熟悉的 AWS 服务将生成式 AI 能力安全地集成和部署到应用程序中。

Amazon Bedrock 在开发之初就考虑到安全性和私隐保护，协助客户保护敏感数据。客户可以使用 Amazon PrivateLink，在 Amazon Bedrock 与虚拟私有网络（VPC）之间建立专门的安全连接，确保任何数据传输都不会暴露在公共网络。对于存在高度监管需求的客户，Amazon Bedrock 符合 HIPAA （《健康保险流通与责任法案》）要求，并且可以在 GDPR（欧盟《通用数据保护条例》）合规标准下使用，让更多的客户从生成式 AI 中获益。

Amazon Bedrock 透过 Amazon Titan Embedding 和 Llama 2 进一步扩大可选模型范围，协助每个客户找到适合应用场景的模型

事实上，没有任何一个单一模型可以适用于所有的应用场景。因此，为了发掘生成式 AI 的价值，企业往往需要使用多个模型，并根据自身要求寻找最适合企业的一个模型。为此，Amazon Bedrock 让客户只需透过单一 API 即能找到和测试由 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亚马逊提供的基础模型。此外，AWS 近日宣布 Anthropic 未来的所有基础模型都将在 Amazon Bedrock 上可用，并为 AWS 客户提供模型客制和微调等特殊功能的优先使用。即日起，Amazon Bedrock 引入新的基础模型，进一步扩阔其基础模型的选择：

Amazon Titan Embeddings 现正式可用：Amazon Titan 基础模型是由 AWS 在大型数据集上建立和预先训练的一系列模型，可以支持各种应用场景。作为这些模型中第一个正式可用的模型，Amazon Titan Embeddings 是一种大语言模型（LLM），它将文本转换成被称为嵌入向量（embeddings）的数值表示，以支持检索增强生成（RAG）的应用场景。基础模型虽然适用于多种任务，但却只能根据从训练资料和提示词上下文中学到的信息来回答问题。一旦这些回答需要利用高时效性的知识或专有数据时，其有效性就会受限。为了能透过扩展数据来改进基础模型的回答，很多企业将目光转向 RAG——这一流行的模型客制技术能将基础模型连接到可被引用的知识库，从而改进回应效果。要开始使用 RAG，客户必须先使用一个嵌入模型，将数据转换成嵌入向量，使基础模型更容易理解数据之间的语义和关系。然而，建立嵌入模型需要大量的数据和资源，以及深厚的机器学习专业知识，因此很多客户很难完成自行建立，也就无法实现 RAG。Amazon Titan Embeddings 使客户能够更简单地启用 RAG，以便利用专有数据扩展各种基础模型的能力。Amazon Titan Embeddings 支持超过 25 种语言和多达 8,192 个 Token 的上下文长度，非常适合基于企业的应用场景处理单个单词、短语或整个文档。该模型可返回 1,536 个维度的输出向量，确保高度准确性的同时还专为实现更低延迟和更优性价比进行了优化 。

Llama 2 即将在未来几周内推出：Amazon Bedrock 是业界首个透过托管 API 提供 Meta 新一代大语言模型 Llama 2 的完全托管的生成式 AI 服务。Llama 2 模型比之前的 Llama 模型具有显著改进，包括使用了比原始训练多 40% 的训练资料，并具有更长的上下文长度（4,000 个 Token），以处理更大的文档。Amazon Bedrock 提供的 Llama 2 模型已经过优化，可以在 AWS 基础设施上提供快速响应，非常适合对话式应用场景。客户可以建立由130亿和700亿个参数的 Llama 2 模型驱动的生成式AI 应用程序，且无需设置和管理任何基础设施。

Amazon CodeWhisperer 新功能容许客户使用私有代码库安全地客制 CodeWhisperer 代码建议，进一步提升开发人员效率

Amazon CodeWhisperer 是一款基于 AI 的程序设计助手，它透过对数十亿行来自亚马逊和公开可用的代码进行训练，提高开发人员的生产力。虽然开发人员在日常工作中频繁使用 CodeWhisperer，但有时他们需要将其企业内部私有代码库（例如内部 API、代码库、软件包和类）整合到应用程序中，而这些代码都不属于 CodeWhisperer 的训练资料。内部代码的使用也是一个难题，因为说明文档有限，并且没有开发人员可以求助的公共资源或论坛。

例如，要代写一个用于从购物车中移除商品的函数，开发人员必须首先了解用于与应用程序交互的 API、集合和其他内部代码。以前，开发人员可能需要花费数小时来检查以前代写的内部代码，从而找到所需信息并理解其工作原理。即使找到了正确的资源，他们仍需仔细检查代码，以确保其符合公司代码的最佳实践，并且不会重复引用代码中的任何缺陷或漏洞。

Amazon CodeWhisperer 全新客制功能将释放生成式 AI 程序设计的全部潜力，透过安全地利用客户的内部代码库和资源提供客制化建议。这使得开发人员在各种任务中能够更准确地获得代码建议，从而节省时间。首先，管理员需要从源（例如 GitLab 或 Amazon S3）连接到他们的私有代码储存库，并调度一个作业来建立自己的客制内容。在建立客制内容时， CodeWhisperer 利用各种模型和上下文客制技术，学习客户的代码库并改进即时代码建议，从而使开发人员花更少的时间去寻找无差别的问题的正确答案，同时将更多时间投入到建立新的差异化体验上。管理员可以在 AWS 控制台（Amazon Console）集中管理所有客制功能、查看评估指针、估算每个客制功能的效能，并有选择地将它们部署给公司内特定的开发人员，以限制对敏感代码的存取。

透过选择最高质量的储存库，管理员可以确保 CodeWhisperer 提供的客制建议不包含已弃用的代码，并满足企业质量与安全标准。考虑到企业级安全和隐私，这项功能可以确保客制内容完全保密，而支持 CodeWhisperer 的底层基础模型在训练过程中不使用客制内容，能够保护客户宝贵的知识产权。该自定义功能将很快作为 CodeWhisperer 企业版的一部分在预览中供客户使用。此外，CodeWhisperer 的自定义设置默认确保了安全性，无论客户使用 Amazon CodeWhisperer 专业版或是企业版，在处理来自开发人员 IDE 的请求时，AWS 均不会储存或记录任何客户内容。

Amazon QuickSight 全新生成式 BI 创作功能，有助业务分析师使用自然语言命令轻松建立和客制数据可视化效果

Amazon QuickSight 是一个为云端建立的统一 BI 服务，能够建立交互式仪表板、分页报告以及嵌入式分析，同时具备使用 QuickSight Q 进行自然语言查询的能力，因此企业的每位用户都能以他们偏好的格式获取所需的洞察。

一般情况下，业务分析师需要花费数小时使用 BI 工具来探索各种不同的数据来源，添加计算、建立和完善可视化效果，然后将它们呈现在仪表板中提供给业务利益相关者。要建立一个简单的图表，分析师首先必须找到正确的数据来源、识别数据字段、设置过滤器，同时进行必要的个性化设置以实现良好的可视化效果。

如果进行数据可视化需要进行新的计算（例如年度销售额），分析师还必须确定所需的参考数据，然后建立、验证并将视觉效果添加到报告中。如果可以减少业务分析师手动建立和调整图表和计算所花费的时间，让他们将更多时间投入到高价值的任务中，企业也能从中获益。

全新的生成式 BI 创作功能扩展了 QuickSight Q 的自然语言查询功能，使其不仅能够回答清晰表述的问题（例如，「加州销售排名前 10 的产品是甚么？」，还能协助分析师从问题片段（例如，「销售排名前 10 的产品」）快速建立可客制的视觉效果，透过提出后续问题来澄清查询意图，优化视觉效果，并完成复杂的计算。业务分析师只需描述想获得的结果，QuickSight 即可生成具有良好观感的视觉对象。分析师仅需简单操作就能将其轻松添加到仪表板或报告中。

例如，分析师可以要求 QuickSight Q 为「2022年和2023年运动鞋销售额的月度趋势」建立可视化内容，该服务会自动选择合适的数据，并根据请求使用最合理的图表格式（比如线形图或条形图）绘制所需信息。QuickSight Q 还将提供预设的提示问题，协助分析师厘清在多个数据字段与其匹配查询时可能出现的歧义（比如图表应包括运动鞋销售额的美元总额还是销售的单位个数）。

分析师获得了最初的可视化内容后，还可以使用自然语言添加复杂的计算，改变图表类型，或优化可视化效果。QuickSight Q 中新的生成式 BI 创作功能使业务分析师能够轻松快捷地建立良好的视觉效果，更快速地为大规模数据驱动型决策提供宝贵的数据依据。

各行各业的客户正利用 AWS 的生成式 AI 服务建立新的应用程序，提高开发人员的效率，以及协助分析师更快速地获取洞察

adidas 为全球最大的运动品牌之一。adidas 企业架构副总裁 Daniel Eichten 表示，「我们很高兴能参与 Amazon Bedrock 预览版的试用，亲身体验这项服务。Amazon Bedrock 对我们的生成式 AI 工具建立大有裨益，Amazon Bedrock 承担了建立生成式 AI 应用的繁重基础设施管理工作，使我们能够专注于大语言模型项目的核心方面。我们已经使用 Amazon Bedrock 开发了一款生成式 AI 解决方案，使 adidas 的广大工程师只需透过单个对话接口，就能从知识库中找到所需的各种信息和答案，回答从入门到复杂的多种技术问题。」

默克为一家研发密集型生物制药公司，130 多年来一直致力发现和研发创新药物和疫苗，以拯救生命和改善健康。默克数据科学执行董事 Suman Giri 表示：「完整的制药价值链上存在很多手动且耗时的流程，这些流程阻碍了更有价值的工作的开展，同时还不能有效利用数据改善员工、客户和患者体验。借助 Amazon Bedrock，我们迅速建立了生成式 AI 功能，提高知识挖掘和市场研究等工作的效率。在我们的美国患者分析工作流程中，我们可以利用这些功能提供对患者治疗的见解，提高生活质量，扩大商业影响力，同时填补数据共享方面的空白，为负责任的生成式 AI 打造数据治理生态系统。」

BMW 为全球顶级汽车和电单车制造商。BMW 数据工程和分析专家 Christoph Albrecht 表示：「BMW 的区域专家致力优化整条供应链的库存。他们经常收到董事会成员或供应链专家等利益相关者的请求，要求建立新的仪表板视图，以便他们分析最新趋势。 QuickSight Q 创作体验能够显著节省时间，可以在无需参考的情况下建立计算、快速建立视觉效果，然后透过自然语言对可视化呈现进行精确调整。区域专家的快速回馈给我们的业务用户留下了深刻印象，从而让他们可以更快地做出重要决策。」

关于Amazon Web Services

自2006年来，Amazon Web Services一直在提供世界上服务最丰富、应用广泛的云端服务。AWS为客户提供超过240种功能全面的云端服务，包括运算、储存、数据库、网络、分析、机器学习与人工智能、物联网、流动、安全、混合云、虚拟和扩增实境(VR 和AR)、媒体，以及应用开发、部署和管理等方面，遍及32个地理区域内的102个可用区域(Availability Zones)，并已公布计划在加拿大、马来西亚、纽西兰和泰国建立4个AWS地理区域、12个可用区域。AWS的服务获得全球超过百万客户的信任，包括发展迅速的初创公司、大型企业和政府机构。通过AWS的服务，客户能够有效强化自身基础设施，提高营运上的弹性与应变能力，同时降低成本。欲了解更多有关AWS的信息，请浏览：https://aws.amazon.com。