amd/Llama-3.1-8B-Instruct-hybrid

• 简介

  本模型使用 AMD Quark 量化工具进行准备，并进行了必要的后处理。

• 量化策略

  • AWQ / 分组 128 / 非对称 / UINT4 权重 / FP16 激活
  • 排除层：无

• 快速入门

如需快速入门，请参考 Ryzen AI 文档

评估分数

困惑度测量在 Hugging Face 提供的 wikitext-2-raw-v1（原始数据）数据集上进行。提示词长度为 2k 时测得的困惑度分数为 7.845。

许可证

修改版权所有 (c) 2024 Advanced Micro Devices, Inc. 保留所有权利。

MIT 许可证

版权所有 (c) 2024 Advanced Micro Devices, Inc

特此免费授予任何获得本软件及相关文档文件（"软件"）副本的人不受限制地处置本软件的权利，包括不受限制地使用、复制、修改、合并、发布、分发、再许可和/或销售本软件副本的权利，以及再授权被配发了本软件的人如上的权利，须在下列条件下：

上述版权声明和本许可声明应包含在本软件的所有副本或实质成分中。

本软件按"原样"提供，不提供任何形式的担保，无论是明示或暗示的，包括但不限于适销性、特定用途适用性和非侵权性的担保。在任何情况下，作者或版权持有人均不对任何索赔、损害或其他责任负责，无论是在合同诉讼、侵权行为还是其他方面，由本软件或本软件的使用或其他交易引起、与之相关或与之相连。

LLAMA 3.1 社区许可协议

Llama 3.1 版本发布日期：2024年7月23日

"协议"是指本文规定的关于使用、复制、分发和修改 Llama 材料的条款和条件。

"文档"是指 Meta 分发的 Llama 3.1 附带的规格说明、手册和文档，详见

https://llama.meta.com/doc/overview.

"被许可方"或"您"是指您，或您的雇主或任何其他个人或实体（如果您代表此类个人或实体签订本协议），年龄符合适用法律、规则或法规的要求，具有提供法律同意的资格，并且如果您代表您的雇主或其他个人或实体签订本协议，则具有约束您的雇主或其他个人或实体的法律权力。

"Llama 3.1"是指基础大型语言模型和软件及算法，包括机器学习模型代码、训练后的模型权重、推理启用代码、训练启用代码、微调启用代码以及 Meta 在 https://llama.meta.com/llama-downloads 分发的上述其他元素。

"Llama 材料"是指 Meta 根据本协议提供的专有 Llama 3.1 和文档（及其任何部分）的总称。

"Meta"或"我们"是指 Meta Platforms Ireland Limited（如果您位于欧洲经济区或瑞士，或者如果您是一个实体，您的主要营业地位于欧洲经济区或瑞士）和 Meta Platforms, Inc.（如果您位于欧洲经济区或瑞士以外）。

1. 许可权利和再分发。

a. 权利授予。您被授予一项非独占的、全球性的、不可转让的、免版税的有限许可，根据 Meta 在 Llama 材料中体现的知识产权或 Meta 拥有的其他权利，使用、复制、分发、复制、创建衍生作品以及对 Llama 材料进行修改。

b. 再分发和使用。

i. 如果您分发或提供 Llama 材料（或其任何衍生作品），或包含其中任何内容的产品或服务（包括另一个 AI 模型），您应（A）随任何此类 Llama 材料提供本协议的副本；以及（B）在相关网站、用户界面、博客文章、关于页面或产品文档上显著显示"Built with Llama"。如果您使用 Llama 材料或 Llama 材料的任何输出或结果来创建、训练、微调或以其他方式改进被分发或提供给他人的 AI 模型，您还应在此类 AI 模型名称的开头包含"Llama"。

ii. 如果您从被许可方处作为集成终端用户产品的一部分接收 Llama 材料或其任何衍生作品，则本协议第 2 条不适用于您。

iii. 您必须在您分发的所有 Llama 材料副本中保留以下归属声明，作为此类副本的一部分分发的"Notice"文本文件中："Llama 3.1 is licensed under the Llama 3.1 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved."

iv. 您对 Llama 材料的使用必须遵守适用的法律和法规（包括贸易合规法律和法规），并遵守 Llama 材料的可接受使用政策（可在 https://llama.meta.com/llama3_1/use-policy 获取），该政策在此通过引用纳入本协议。

2. 附加商业条款。如果在 Llama 3.1 版本发布日期，被许可方或被许可方的关联公司提供的产品或服务的月活跃用户数在上一个日历月中超过 7 亿月活跃用户，您必须向 Meta 请求许可，Meta 可自行决定是否授予您许可，在 Meta 另行明确授予您此类权利之前或除非 Meta 另行明确授予您此类权利，您无权行使本协议下的任何权利。

3. 免责声明。除非适用法律要求，LLAMA 材料及其任何输出和结果均按"原样"提供，不提供任何形式的担保，META 免除任何明示或暗示的担保，包括但不限于任何关于所有权、非侵权、适销性或特定用途适用性的担保。您应独自确定使用或再分发 LLAMA 材料的适当性，并承担与您使用 LLAMA 材料及其任何输出和结果相关的任何风险。

4. 责任限制。在任何情况下，META 或其关联公司均不对本协议产生的任何利润损失或任何间接、特殊、后果性、偶然性、惩罚性或惩戒性损害承担责任，无论是根据合同、侵权、疏忽、产品责任或其他责任理论，即使 META 或其关联公司已被告知可能发生上述任何情况。

5. 知识产权。

a. 本协议不授予商标许可，在与 Llama 材料相关的情况下，未经 Meta 也不得使用被许可方或其任何关联公司拥有或与之相关的任何名称或标记，除非是在描述和再分发 Llama 材料时合理和惯常使用所必需的，或如本第 5(a) 条所述。Meta 特此授予您仅按第 1.b.i 条最后一句的要求使用"Llama"（"标记"）的许可。您将遵守 Meta 的品牌指南（目前可在 https://about.meta.com/brand/resources/meta/company-brand/ 访问）。您使用标记所产生的所有商誉将归 Meta 所有。

b. 在 Meta 拥有 Llama 材料及 Meta 或为 Meta 制作的衍生作品的前提下，对于您对 Llama 材料制作的任何衍生作品和修改，在您和 Meta 之间，您是并将是此类衍生作品和修改的所有者。

c. 如果您对 Meta 或任何实体提起诉讼或其他程序（包括诉讼中的交叉索赔或反索赔），声称 Llama 材料或 Llama 3.1 输出或结果，或上述任何内容的任何部分，构成对您拥有或可许可的知识产权或其他权利的侵犯，则根据本协议授予您的任何许可应在提起或启动此类诉讼或索赔之日终止。您将赔偿并使 Meta 免受因您使用或分发 Llama 材料而产生的任何第三方索赔的伤害。

6. 期限和终止。本协议的期限将从您接受本协议或访问 Llama 材料开始，并根据此处的条款和条件持续有效，直到终止。如果您违反本协议的任何条款或条件，Meta 可以终止本协议。本协议终止后，您应删除并停止使用 Llama 材料。第 3、4 和 7 条在本协议终止后仍然有效。

7. 适用法律和管辖权。本协议将受加利福尼亚州法律管辖并根据加利福尼亚州州法律进行解释，不考虑法律选择原则，《联合国国际货物销售合同公约》不适用于本协议。加利福尼亚州法院对因本协议产生的任何争议拥有专属管辖权。