meta-llama/Llama-2-7b-hf

• 简介

  本模型使用 AMD Quark 量化工具进行准备，并进行了必要的后处理。

• 量化策略

  • AWQ / 组大小 128 / 非对称 / UINT4 权重 / FP16 激活值
  • 排除层：无

• 快速开始

如需快速入门，请参考 Ryzen AI 文档

评估得分

困惑度测量在 Hugging Face 提供的 wikitext-2-raw-v1（原始数据）数据集上进行。提示长度为 2k 时测得的困惑度分数为 5.6769。

许可证

修改版权所有 (c) 2024 Advanced Micro Devices, Inc. 保留所有权利。

MIT 许可证

版权所有 (c) 2024 Advanced Micro Devices, Inc

特此免费授予任何获得本软件副本和相关文档文件（"软件"）的人不受限制地处置本软件的权利，包括不受限制地使用、复制、修改、合并、发布、分发、再授权和/或销售本软件副本的权利，以及再授权给配备了本软件的人员的权利，但须满足以下条件： 上述版权声明和本许可声明应包含在本软件的所有副本或实质性部分中。

本软件按"原样"提供，不提供任何形式的担保，无论是明示的还是暗示的，包括但不限于对适销性、特定用途适用性和非侵权性的担保。在任何情况下，作者或版权持有人均不对任何索赔、损害或其他责任负责，无论是在合同诉讼、侵权行为还是其他方面，由本软件或本软件的使用或其他交易引起、与之相关或与之相连。

LLAMA 2 社区许可协议 Llama 2 版本发布日期：2023 年 7 月 18 日

"协议"是指本文规定的使用、复制、分发和修改 Llama 材料的条款和条件。

"文档"是指 Meta 在 ai.meta.com/resources/models-and-libraries/llama-downloads/ 分发的 Llama 2 附带的规范、手册和文档。

"被许可方"或"您"是指您、或您的雇主或任何其他人或实体（如果您代表该人或实体签订本协议），且年龄符合适用法律、规则或法规的要求，能够提供法律同意，并且如果您代表您的雇主或其他个人或实体签订本协议，则具有约束您的雇主或其他个人或实体的法律权力。

"Llama 2"是指基础大型语言模型和软件及算法，包括机器学习模型代码、训练好的模型权重、推理启用代码、训练启用代码、微调启用代码以及 Meta 在 ai.meta.com/resources/models-and-libraries/llama-downloads/ 分发的前述其他元素。

"Llama 材料"是指 Meta 根据本协议提供的专有 Llama 2 和文档（及其任何部分）的统称。

"Meta"或"我们"是指 Meta Platforms Ireland Limited（如果您位于欧洲经济区或瑞士，或者如果您是实体，您的主要营业地点位于欧洲经济区或瑞士）和 Meta Platforms, Inc.（如果您位于欧洲经济区或瑞士以外）。

通过点击下方的"我接受"或使用或分发 Llama 材料的任何部分或元素，即表示您同意受本协议约束。

1. 许可权利和再分发。

   a. 权利授予。您获得一项非独占的、全球性的、不可转让的、免版税的有限许可，该许可基于 Meta 在 Llama 材料中体现的知识产权或 Meta 拥有的其他权利，允许您使用、复制、分发、复制、创建衍生作品以及对 Llama 材料进行修改。

   b. 再分发和使用。

        i. 如果您向第三方分发或提供 Llama 材料或其任何衍生作品，您应向该第三方提供本协议的副本。
        ii. 如果您作为集成最终用户产品的一部分从被许可方处接收 Llama 材料或其任何衍生作品，则本协议第 2 条将不适用于您。
   
        iii. 您必须在您分发的所有 Llama 材料副本中保留以下归属声明，该声明应作为此类副本的一部分在"Notice"文本文件中分发："Llama 2 is licensed under the LLAMA 2 Community License, Copyright (c) Meta Platforms, Inc. All Rights Reserved."
   
        iv. 您对 Llama 材料的使用必须遵守适用的法律法规（包括贸易合规法律法规），并遵守 Llama 材料的可接受使用政策（可在 https://ai.meta.com/llama/use-policy 获取），该政策 hereby 通过引用并入本协议。
   
        v. 您不得使用 Llama 材料或 Llama 材料的任何输出或结果来改进任何其他大型语言模型（Llama 2 或其衍生作品除外）。
   

2. 附加商业条款。如果在 Llama 2 版本发布日期，被许可方或被许可方的关联公司提供的产品或服务的月活跃用户数在上一个日历月中超过 7 亿，则您必须向 Meta 请求许可，Meta 可自行决定是否授予您许可，并且除非或直到 Meta 另行明确授予您此类权利，否则您无权行使本协议项下的任何权利。

3. 免责声明。除非适用法律要求，Llama 材料及其任何输出和结果均按"原样"提供，不提供任何形式的担保，无论是明示的还是暗示的，包括但不限于对所有权、非侵权性、适销性或特定用途适用性的担保。您对使用或再分发 Llama 材料的适当性负全部责任，并承担与您使用 Llama 材料及其任何输出和结果相关的任何风险。

4. 责任限制。在任何情况下，无论是合同、侵权、过失、产品责任还是其他理论，Meta 或其关联公司均不对因本协议产生的任何利润损失或任何间接、特殊、后果性、偶然性、惩罚性或惩戒性损害承担责任，即使 Meta 或其关联公司已被告知可能发生上述任何情况。

5. 知识产权。

   a. 本协议不授予商标许可，且就 Llama 材料而言，Meta 和被许可方均不得使用对方或其任何关联公司拥有或与之相关的任何名称或标记，但在描述和再分发 Llama 材料时合理和惯常使用所需的情况除外。

   b. 在 Meta 拥有 Llama 材料和 Meta 或为 Meta 制作的衍生作品的前提下，对于您制作的 Llama 材料的任何衍生作品和修改，在您和 Meta 之间，您是并将是此类衍生作品和修改的所有者。

   c. 如果您对 Meta 或任何实体提起诉讼或其他程序（包括诉讼中的交叉索赔或反索赔），指控 Llama 材料或 Llama 2 输出或结果或上述任何内容的任何部分构成对您拥有或许可的知识产权或其他权利的侵犯，则根据本协议授予您的任何许可应自此类诉讼或索赔被提起或启动之日起终止。您将赔偿并使 Meta 免受因您使用或分发 Llama 材料而引起或与之相关的任何第三方索赔的损害。

6. 期限和终止。本协议的期限将于您接受本协议或访问 Llama 材料时开始，并根据此处的条款和条件持续有效直至终止。如果您违反本协议的任何条款或条件，Meta 可以终止本协议。本协议终止后，您应删除并停止使用 Llama 材料。第 3、4 和 7 条在本协议终止后继续有效。

7. 适用法律和管辖权。本协议将受加利福尼亚州法律管辖并根据其解释，不考虑法律冲突原则，《联合国国际货物销售合同公约》不适用于本协议。加利福尼亚州法院对因本协议产生的任何争议拥有专属管辖权。