Skip to content

文档加载器为从不同数据源(如 Slack、Notion 或 Google Drive)读取数据到 LangChain 的 Document 格式提供了一个标准接口。 这确保了无论数据来源如何,都能以一致的方式处理数据。

所有文档加载器都实现了 BaseLoader 接口。

Interface ​

每个文档加载器可以定义自己的参数,但它们共享一个通用的 API:

  • load(): 一次性加载所有文档。
  • loadAndSplit(): 一次性加载所有文档并将其拆分为更小的文档。
typescript
import { CSVLoader } from "@langchain/community/document_loaders/fs/csv";

const loader = new CSVLoader(
  ...  // <-- Integration specific parameters here
);
const data = await loader.load();

By category ​

LangChain.js 以两种不同的方式对文档加载器进行分类:

  • File loaders,用于从本地文件系统将数据加载至 LangChain 格式。
  • Web loaders,用于从远程源加载数据。

File loaders ​

如果您想贡献集成,请参阅贡献集成。

PDFs ​

Document LoaderDescriptionPackage/API
PDFLoader使用 pdf-parse 加载并解析 PDF 文件Package

Common file types ​

Document LoaderDescriptionPackage/API
CSV从 CSV 文件加载数据,支持可配置的列提取Package
JSON使用 JSON 指针加载 JSON 文件以定位特定键Package
JSONLines从 JSONLines/JSONL 文件加载数据Package
Text加载纯文本文件Package
DOCX加载 Microsoft Word 文档(.docx 和 .doc 格式)Package
EPUB加载 EPUB 文件,支持可选的章节拆分Package
PPTX加载 PowerPoint 演示文稿Package
Subtitles加载字幕文件(.srt 格式)Package

Specialized file loaders ​

Document LoaderDescriptionPackage/API
DirectoryLoader使用自定义加载器映射从目录加载所有文件Package
UnstructuredLoader使用 Unstructured API 加载多种文件类型API
MultiFileLoader从多个独立文件路径加载数据Package
ChatGPT加载 ChatGPT 对话导出文件Package
Notion Markdown加载导出为 Markdown 的 Notion 页面Package
OpenAI Whisper Audio使用 OpenAI Whisper API 转录音频文件API

Web loaders ​

Webpages ​

Document LoaderDescriptionWeb SupportPackage/API
Cheerio使用 Cheerio 加载网页(轻量级,不执行 JavaScript)✅Package
Playwright使用 Playwright 加载动态网页(支持 JavaScript 渲染)❌Package
Puppeteer使用 Puppeteer 加载动态网页(无头 Chrome)❌Package
FireCrawl爬取网站并将其转换为适合 LLM 的 Markdown✅API
Spider将网站快速爬取为 HTML、Markdown 或文本✅API
RecursiveUrlLoader递归加载网页,跟随链接❌Package
Sitemap从 sitemap.xml 加载所有页面✅Package
Browserbase使用托管的无头浏览器(隐身模式)加载网页✅API
WebPDFLoader在网络环境中加载 PDF 文件✅Package

Cloud providers ​

Document LoaderDescriptionWeb SupportPackage/API
S3从 AWS S3 存储桶加载文件❌Package
Azure Blob Storage Container从 Azure Blob Storage 容器加载所有文件❌Package
Azure Blob Storage File从 Azure Blob Storage 加载单个文件❌Package
Google Cloud Storage从 Google Cloud Storage 存储桶加载文件❌Package
Google Cloud SQL for PostgreSQL从 Cloud SQL PostgreSQL 数据库加载文档✅Package

Productivity tools ​

Document LoaderDescriptionWeb SupportPackage/API
Notion API通过 API 加载 Notion 页面和数据库✅API
Figma加载 Figma 文件数据✅API
Confluence从 Confluence 空间加载页面❌API
GitHub从 GitHub 仓库加载文件✅API
GitBook加载 GitBook 文档页面✅Package
Jira从 Jira 项目加载问题❌API
Airtable从 Airtable 基础库加载记录✅API
Taskade加载 Taskade 项目数据✅API

Search & data APIs ​

Document LoaderDescriptionWeb SupportPackage/API
SearchAPI从 SearchAPI 加载网络搜索结果(Google、YouTube 等)✅API
SerpApi从 SerpApi 加载网络搜索结果✅API
Apify Dataset从 Apify 平台加载抓取的数据✅API

Audio & video ​

Document LoaderDescriptionWeb SupportPackage/API
YouTube加载 YouTube 视频字幕✅Package
AssemblyAI使用 AssemblyAI API 转录音频和视频文件✅API
Sonix使用 Sonix API 转录音频文件❌API

Other ​

Document LoaderDescriptionWeb SupportPackage/API
Couchbase使用 SQL++ 查询从 Couchbase 数据库加载文档✅Package
LangSmith从 LangSmith 加载数据集和追踪记录✅API
Hacker News加载 Hacker News 主题和评论✅Package
IMSDB从互联网电影剧本数据库加载电影剧本✅Package
College Confidential从 College Confidential 加载大学信息✅Package
Blockchain Data通过 Sort.xyz API 加载区块链数据(NFT、交易)✅API

All document loaders ​

LangChain 中文文档