Meta Llama 3 模型现在可以在 Amazon Bedrock 上使用 新闻博客
Meta Llama 3 模型现已在 Amazon Bedrock 上线
重点摘要
Meta 的 Llama 3 模型现已在 Amazon Bedrock 上推出，设计用于构建、实验和合理扩展生成性人工智能AI应用。这些模型在推理、代码生成和指令执行方面都有显著提升，并支持更广泛的应用场景。
今天，我们高兴地宣布 Meta 的 Llama 3 模型在 Amazon Bedrock 上正式上线。Meta Llama 3 旨在帮助您构建、实验和合理扩展生成性人工智能AI应用。新发布的 Llama 3 模型能够支持更广泛的使用场景，特别是在推理、代码生成和用户指令方面的表现更为出色。
根据 Meta 关于 Llama 3 的公告，Llama 3 模型系列包含 8B 和 70B 参数规模的预训练和指令微调的大型语言模型LLMs。这些模型的训练数据超过 15 万亿个标记，训练集的规模达到了 Llama 2 模型的七倍，其中代码数据也增加了四倍，支持 8K 的上下文长度，是 Llama 2 的两倍。
您现在可以在 Amazon Bedrock 中使用两个新 Llama 3 模型，这将进一步扩大 Amazon Bedrock 模型选择的范围。这些模型使您能够轻松实验和评估更多基础模型FMs，以满足您的特定应用需求：
模型名称适用场景Llama 3 8B适合计算能力和资源有限的设备，如边缘设备。该模型在文本摘要、文本分类、情感分析和语言翻译方面表现出色。Llama 3 70B适用于内容创作、对话式 AI、语言理解、研发和企业应用。该模型在文本摘要、准确性、文本分类及其细微差别、情感分析及其推理、语言建模、对话系统、代码生成和指令执行方面表现卓越。Meta 目前也在训练更多的 400B 参数的 Llama 3 模型。这些模型将具备新的能力，包括多模态支持、多语言支持以及更长的上下文窗口。一旦发布，这些模型将非常适合内容创作、对话式 AI、语言理解、研发和企业应用。
Llama 3 模型实操指南
如果您是第一次使用 Meta 模型，可以访问 Amazon Bedrock 控制台，并在左下角选择 模型访问。为了访问 Meta 的最新 Llama 3 模型，您需要分别请求 Llama 3 8B Instruct 或 Llama 3 70B Instruct 的访问权限。
要在 Amazon Bedrock 控制台中测试 Meta Llama 3 模型，请在左侧菜单中选择 Playgrounds 下的 Text 或 Chat，然后选择 选择模型，并在类别中选择 Meta，然后选择 Llama 8B Instruct 或 Llama 3 70B Instruct 模型。
访问模型示例通过选择 查看 API 请求，您也可以通过 AWS 命令行界面AWS CLI 和 AWS SDK 使用代码示例访问该模型。您可以使用的模型 ID 如 metallama38binstructv1 或 metallama370binstructv1。
以下是一个 AWS CLI 命令示例：
bash aws bedrockruntime invokemodel modelid metallama38binstructv10 body {prompt简单来说，相对论理论认为n 宇宙中物理法则是相同的，时间的流逝和物体的长度可以根据它们的速度和在重力场中的位置而变化。maxgenlen512temperature05topp09} clibinaryformat rawinbase64out region useast1 invokemodeloutputtxt
您可以使用 Amazon Bedrock 代码示例和 AWS SDKs 来构建您的应用，以下 Python 代码示例展示了如何在 Amazon Bedrock 中调用 Llama 3 Chat 模型以生成文本。
pythondef invokellama3(self prompt) try body = { prompt prompt temperature 05 topp 09 maxgenlen 512 }
response = selfbedrockruntimeclientinvokemodel( modelId=metallama38binstructv10 body=jsondumps(body) ) responsebody = jsonloads(response[body]read()) completion = responsebody[generation] return completionexcept ClientError loggererror(无法调用 Llama 3) raise
您可以使用这些 Llama 3 模型完成多种任务，例如问答、语言翻译、情感分析等。以下是利用少样本学习的 Llama 3 模型示例：
输入示例： 将英语翻译成法语：
一元机场配置url海獭 =gt loutre de mer薄荷 =gt menthe poivre毛绒长颈鹿 =gt girafe peluche奶酪 =gt
输出示例： fromage
要了解有关 Llama 3 新提示模板和特殊标记的更多信息，请查看 Meta 的 模型卡和提示格式 或 GitHub 仓库中的 Llama Recipes。
现在可用
Meta 的 Llama 3 模型今天在美国东部弗吉尼亚北部和美国西部俄勒冈地区上线。请查看 完整区域列表以获取未来更新。要了解更多信息，请访问 Llama 在 Amazon Bedrock 的产品页面 和 定价页面。
立即在 Amazon Bedrock 控制台 尝试 Llama 3，并通过 AWS rePost for Amazon Bedrock 或您常用的 AWS 支持渠道发送反馈。
访问我们的 communityaws 网站，获取深入的技术内容，了解我们的开发者社区如何在解决方案中使用 Amazon Bedrock。
Channy
Channy Yun ()
Channy 是 AWS 云的首席开发者倡导者。作为一名开放网络的热爱者和博主，他热衷于社区驱动的学习和技术分享。
