Qwen/Qwen2.5-3B-Instruct

• 简介

  该模型使用 AMD Quark 量化工具准备，并进行了必要的后处理。

• 量化策略

  • AWQ / 组大小 128 / 非对称 / UINT4 权重 / FP16 激活值
  • 排除层：无

• 快速开始

如需快速入门，请参考 Ryzen AI 文档

评估分数

困惑度测量在 Hugging Face 提供的 wikitext-2-raw-v1（原始数据）数据集上运行。提示词长度为 2k 时测得的困惑度分数为 12.488。

许可证

修改版权所有 (c) 2024 Advanced Micro Devices, Inc. 保留所有权利。

MIT 许可证

版权所有 (c) 2024 Advanced Micro Devices, Inc

特此免费授予任何获得本软件副本和相关文档文件（以下简称"软件"）的人不受限制地处置该软件的权利，包括不受限制地使用、复制、修改、合并、发布、分发、再授权和/或销售该软件副本的权利，以及再授权给配备了这些软件的人的权利，前提是：

上述版权声明和本许可声明应包含在该软件的所有副本或实质性部分中。

本软件"按原样"提供，不提供任何形式的担保，无论是明示的还是暗示的，包括但不限于对适销性、特定用途适用性和非侵权性的担保。在任何情况下，作者或版权持有人均不对任何索赔、损害或其他责任负责，无论这些追责来自合同、侵权或其他方面，也不管它们是否因使用本软件或与本软件相关的其他操作而产生。

通义千问许可协议

通义千问发布日期：2023年8月3日

通过点击同意或通过使用或分发通义千问材料的任何部分或元素，您将被视为已确认并接受本协议的内容，本协议立即生效。

1. 定义 a. 本通义千问许可协议（以下简称"协议"）是指本协议定义的关于材料的使用、复制、分发和修改的条款和条件。 b. "我们"（或"我们"）指阿里云。 c. "您"（或"您的"）指行使本协议授予的权利和/或将材料用于任何目的和任何使用领域的自然人或法人实体。 d. "第三方"指与我们或您不存在共同控制的个人或法人实体。 e. "通义千问"指大语言模型（包括 Qwen 模型和 Qwen-Chat 模型），以及由我们分发的软件和算法，包括训练后的模型权重、参数（包括优化器状态）、机器学习模型代码、推理启用代码、训练启用代码、微调启用代码以及上述其他元素。 f. "材料"统指阿里云专有的通义千问和文档（及其任何部分），根据本协议提供。 g. "源码"形式指进行修改的首选形式，包括但不限于模型源代码、文档源码和配置文件。 h. "目标"形式指由源码形式通过机械转换或翻译产生的任何形式，包括但不限于编译后的目标代码、生成的文档以及转换为其他媒体类型的形式。
2. 权利授予 您被授予非独占的、全球性的、不可转让的、免版税的有限许可，根据我们拥有的体现在材料中的阿里云知识产权或其他权利，使用、复制、分发、复制、创建衍生作品以及对材料进行修改。
3. 再分发 您可以在任何介质中复制和分发材料或其衍生作品的副本，无论是否经过修改，也无论是源码形式还是目标形式，前提是您满足以下条件： a. 您应向材料或衍生作品的任何其他接收者提供本协议的副本； b. 您应使任何修改后的文件带有显著的通知，说明您更改了这些文件； c. 您应在分发的所有材料副本中保留以下归属声明，作为此类副本的一部分在"通知"文本文件中分发："通义千问根据通义千问许可协议授权，版权所有 (c) 阿里云。保留所有权利。"；以及 d. 您可以在您的修改中添加自己的版权声明，并可以为您的修改的使用、复制或分发提供额外或不同的许可条款和条件，或为任何此类衍生作品整体提供，前提是您对该作品的使用、复制和分发符合本协议的条款和条件。
4. 限制 如果您在商业上使用材料，且您的产品或服务月活跃用户超过 1 亿，您应向我们请求许可。未经我们明确授权，您不能行使本协议下的权利。
5. 使用规则 a. 材料可能受到中国、美国或其他国家或地区的出口管制或限制。您在使用材料时应遵守适用法律法规。 b. 您不得使用材料或其任何输出来改进任何其他大语言模型（通义千问或其衍生作品除外）。
6. 知识产权 a. 我们保留材料以及我们或为我们制作的衍生作品的所有知识产权的所有权。在遵守本协议条款和条件的前提下，对于您制作的材料的任何衍生作品和修改，您是并将是该等衍生作品和修改的所有者。 b. 未授予使用我们的商品名称、商标、服务标志或产品名称的商标许可，除非是为了履行本协议下的通知要求，或者在描述和再分发材料时合理和惯常的使用所必需。 c. 如果您对我们或任何实体提起诉讼或其他程序（包括诉讼中的交叉索赔或反索赔），指控材料或其任何输出或上述任何部分侵犯了您拥有或许可的任何知识产权或其他权利，则根据本协议授予您的所有许可应在该诉讼或其他程序开始或提起之日起终止。
7. 免责声明和责任限制 a. 我们没有义务支持、更新、提供培训或开发任何更新版本的通义千问材料，也没有义务授予其任何许可。 b. 材料按"原样"提供，不提供任何形式的明示或暗示的保证，包括对适销性、非侵权性或特定用途适用性的保证。我们对材料和其任何输出的安全性或稳定性不作任何保证，也不承担任何责任。 c. 在任何情况下，我们均不对您承担任何损害赔偿责任，包括但不限于因您使用或无法使用材料或其任何输出而产生的任何直接、间接、特殊或后果性损害，无论其如何引起。 d. 您将为我们辩护、赔偿并使我们免受因您使用或分发材料而引起的任何第三方的任何索赔。
8. 存续和终止 a. 本协议的期限自您接受本协议或访问材料之日起，并持续有效直至根据本协议条款和条件终止。 b. 如果您违反本协议的任何条款或条件，我们可以终止本协议。本协议终止后，您必须删除并停止使用材料。第 7 条和第 9 条在本协议终止后仍然有效。
9. 适用法律和管辖 a. 本协议及其引起的或与之相关的任何争议将受中国法律管辖，不考虑法律冲突原则，联合国国际货物销售合同公约不适用于本协议。 b. 杭州市人民法院对因本协议引起的任何争议拥有专属管辖权。