Teapot AI Instruct 文档

teapot-instruct 模型是针对基于网页的检索增强生成（RAG）问答进行优化的微调模型。该模型专为浏览器环境设计，能够高效地检索、综合并回答基于网页内容的查询。

概述

Teapot AI Instruct 适用于：

• 问答（QA）：从网页中提取答案。
• RAG：结合检索和生成来回答复杂问题。
• 摘要生成：精简网页内容。
• 翻译：在语言之间进行翻译。

使用示例

import { pipeline, env } from '@xenova/transformers';

const generative_model = await pipeline('text2text-generation', 'teapotai/instruct-teapot');

// 来自文章的示例上下文（类似于 SQuAD）
const context = `
    The Amazon Rainforest, also known as Amazonia, is a large tropical rainforest occupying the drainage basin of the Amazon River 
    and its tributaries in northern South America, and covering an area of 6,000,000 square kilometers (2,300,000 sq mi). 
    Comprising about 40% of Brazil's total area, it is bordered by the Guiana Highlands to the north, the Andes Mountains to the west, 
    the Brazilian Central Plateau to the south, and the Atlantic Ocean to the east.
`;

const query = "What percentage of Brazil's total area does the Amazon Rainforest cover?";
const result = await generative_model(context+query);

console.log(result); // 40%

特性

• 网页优化：专为基于浏览器的问答和生成任务量身定制。
• RAG 能力：将检索与生成式响应相结合。
• 轻量级部署：在浏览器环境中实现低延迟、高性能。
• 零配置：客户端集成，无需服务器。

应用场景

• 基于浏览器的 RAG：在 Web 应用中实现实时问答。
• 网页抓取与问答：从网页内容生成答案。
• 摘要生成：高效地总结网页内容。

模型性能

Teapot AI Instruct 使用大量网页语料库进行微调，在以下方面表现优异：

• 准确的、具有上下文感知的答案。
• 能够聚焦相关内容的长文本摘要生成。

与基于浏览器的 LLM 智能体集成

Teapot AI Instruct 可与 Teapot AI 等智能体无缝集成，用于：

• 网页抓取。
• 基于浏览器的实时问答。
• 摘要生成和代码补全。