AWS Bedrock 是一个托管服务,让你可以通过单一 API 访问来自不同领先 AI 公司的一系列基础模型(Foundation Models)。它之所以如此受欢迎,正是因为它提供了丰富的模型选择,让用户可以根据具体的应用场景(如文本生成、图像生成、代码生成等)来选择最合适的模型。目前 AWS Bedrock 上最受欢迎和最主要的一些模型提供商和它们各自的特点:
1. Anthropic Claude 系列
模型: Claude 3 Opus, Claude 3 Sonnet, Claude 3 Haiku 等。
特点:
性能卓越: Claude 3 系列是目前市场上最强大的模型之一,在复杂推理、长文本理解和生成方面表现出色。
多模态能力: 能够处理文本和图像输入。
安全和合规: Anthropic 公司在 AI 安全和负责任的 AI 方面投入巨大,其模型通常被认为具有更高的安全性和可靠性,适合对内容质量和安全要求较高的企业级应用。
2. Meta Llama 系列
模型: Llama 3、Llama 3.1(8B、70B、405B 等不同规模的版本)。
特点:
开源模型: Llama 系列是开源模型中最强大的之一,受到广泛的开发者社区支持。
灵活性: 用户可以根据自己的需求选择不同大小的模型,平衡性能与成本。
多用途: 适用于文本生成、聊天机器人、代码生成等多种任务。
3. Stability AI Stable Diffusion 系列
模型: Stable Diffusion 3 (SD3), Stable Image Ultra, SDXL。
特点:
图像生成: 这是 Bedrock 上最受欢迎的文本到图像生成模型。
高质量: SD3 和 SDXL 能够生成高质量、高分辨率的图像,并能更好地理解和渲染复杂文本提示中的细节,例如文字排版和图像中的多个主题。
广泛应用: 广泛应用于创意内容、广告设计、游戏开发等领域。
4. Amazon Titan 系列和 Nova 系列
模型: Amazon Titan Text、Titan Image Generator、Titan Multimodal Embeddings,以及最新的 Amazon Nova 系列。
特点:
亚马逊原生模型: 这些是亚马逊自己开发和优化的模型,可以与 AWS 其他服务无缝集成。
多功能: Titan 系列涵盖了文本、图像生成和嵌入(Embeddings)等多种功能。Nova 系列是亚马逊的新一代多模态模型,旨在提供更高性价比和更快的响应速度。
企业级功能: 尤其以其强大的企业级安全功能和内容过滤能力而闻名,旨在帮助企业降低风险。
5. Mistral AI
模型: Mistral Large、Mixtral 8x7B Instruct。
特点:
性能与效率的平衡: Mistral AI 的模型以其高性能和高效率著称,尤其是在处理特定任务时表现出色。
Mixtral 8x7B: 这是一个混合专家模型(Mixture of Experts),能在保持高准确性的同时,以更低的成本提供与更大模型相当的性能。
Claude 3.7 Sonnet 是 Anthropic 在 Amazon Bedrock 上提供的最新、功能最强大的模型之一。它是一种独特的混合推理模型,这意味着它既能像普通大型语言模型(LLM)那样快速生成文本,也能像推理模型那样进行深入的、分步的思考。
下面是使用 Bedrock 的 Claude 3.7 Sonnet 的一些关键点,以及如何开始:
主要特性
混合推理能力: 这是 Claude 3.7 Sonnet 最突出的特点。它有两种模式:
标准模式(Standard Mode): 提供快速、高效的响应,类似于其他高性能模型。
扩展思考模式(Extended Thinking Mode): 在处理复杂的数学、物理、编程或深度分析问题时,模型会花更多时间进行内部思考,分解问题,并展示其“思考链”(chain of thought)。这能显著提高在复杂任务上的准确性。
超长上下文窗口: Claude 3.7 Sonnet 支持高达 128K 的 token 输出,这使其非常适合处理需要大量输出内容的任务,例如长篇报告的生成或多示例的请求。
卓越的编码能力: 该模型在理解上下文和创造性解决编程问题方面表现出色。
如何在 AWS Bedrock 上使用 Claude 3.7 Sonnet
要开始使用 Bedrock 上的 Claude 3.7 Sonnet,你需要通过 API 调用它。这个过程与直接使用 Anthropic 的 SDK 略有不同,但非常直观。
1. 前置条件
AWS 账户: 你需要一个有效的 AWS 账户。
配置权限: 确保你的 AWS 账户已配置了编程访问权限,并且你的 IAM 用户或角色有权访问 Amazon Bedrock 服务。
2. 通过 API 调用
你可以使用 AWS SDK for Python (Boto3) 或其他支持的语言来调用模型。
在 AWS Bedrock 上,Claude 3.7 Sonnet 的定价是以美元为基准的,然后根据当前的汇率换算成人民币。同时,如果你获得了六折优惠,我们来计算一下折后的人民币价格。
Claude 3.7 Sonnet 的标准价格原始定价(美元)
首先,我们再次确认 Claude 3.7 Sonnet 的标准价格(按需):
输入(Input): 每百万 tokens 3 美元
输出(Output): 每百万 tokens 15 美元
汇率换算(以 1 美元 = 7.2 人民币为例)
我们将使用一个假设的汇率来计算,实际使用时请以当日的银行汇率为准。
1. 换算成人民币(无折扣)
输入价格(人民币): $3 美元/百万 tokens × 7.2 人民币/美元 = 21.6 人民币/百万 tokens
输出价格(人民币): $15 美元/百万 tokens × 7.2 人民币/美元 = 108 人民币/百万 tokens
在AWSDO.COM计算六折优惠价格
六折优惠意味着你只需要支付原始价格的 60%。
2. 计算六折后的人民币价格
输入价格(折扣后): 21.6 人民币 × 0.6 = 12.96 人民币/百万 tokens
输出价格(折扣后): 108 人民币 × 0.6 = 64.8 人民币/百万 tokens
示例计算(附带折扣)
假设你有一个项目,每月需要消耗 1000 万个输入 tokens 和 200 万个输出 tokens。
总输入成本: 10 (百万 tokens) × 12.96 人民币/百万 tokens = 129.6 人民币
总输出成本: 2 (百万 tokens) × 64.8 人民币/百万 tokens = 129.6 人民币
月总成本(折扣后): 129.6 + 129.6 = 259.2 人民币
总结
在六折优惠和 1 美元兑 7.2 人民币的汇率下,使用 AWS Bedrock 上的 Claude 3.7 Sonnet 的价格将是:
输入: 12.96 人民币 / 百万 tokens
输出: 64.8 人民币 / 百万 tokens