Skip to content

文档加载器为从不同数据源(如 Slack、Notion 或 Google Drive)读取数据到 LangChain 的 Document 格式提供了一个标准接口。 这确保了无论数据来源如何,都能以一致的方式处理数据。

所有文档加载器都实现了 BaseLoader 接口。

Interface

每个文档加载器可以定义自己的参数,但它们共享一个通用的 API:

  • load(): 一次性加载所有文档。
  • loadAndSplit(): 一次性加载所有文档并将其拆分为更小的文档。
typescript
import { CSVLoader } from "@langchain/community/document_loaders/fs/csv";

const loader = new CSVLoader(
  ...  // <-- Integration specific parameters here
);
const data = await loader.load();

By category

LangChain.js 以两种不同的方式对文档加载器进行分类:

  • File loaders,用于从本地文件系统将数据加载至 LangChain 格式。
  • Web loaders,用于从远程源加载数据。

File loaders

如果您想贡献集成,请参阅贡献集成

PDFs

Document LoaderDescriptionPackage/API
PDFLoader使用 pdf-parse 加载并解析 PDF 文件Package

Common file types

Document LoaderDescriptionPackage/API
CSV从 CSV 文件加载数据,支持可配置的列提取Package
JSON使用 JSON 指针加载 JSON 文件以定位特定键Package
JSONLines从 JSONLines/JSONL 文件加载数据Package
Text加载纯文本文件Package
DOCX加载 Microsoft Word 文档(.docx 和 .doc 格式)Package
EPUB加载 EPUB 文件,支持可选的章节拆分Package
PPTX加载 PowerPoint 演示文稿Package
Subtitles加载字幕文件(.srt 格式)Package

Specialized file loaders

Document LoaderDescriptionPackage/API
DirectoryLoader使用自定义加载器映射从目录加载所有文件Package
UnstructuredLoader使用 Unstructured API 加载多种文件类型API
MultiFileLoader从多个独立文件路径加载数据Package
ChatGPT加载 ChatGPT 对话导出文件Package
Notion Markdown加载导出为 Markdown 的 Notion 页面Package
OpenAI Whisper Audio使用 OpenAI Whisper API 转录音频文件API

Web loaders

Webpages

Document LoaderDescriptionWeb SupportPackage/API
Cheerio使用 Cheerio 加载网页(轻量级,不执行 JavaScript)Package
Playwright使用 Playwright 加载动态网页(支持 JavaScript 渲染)Package
Puppeteer使用 Puppeteer 加载动态网页(无头 Chrome)Package
FireCrawl爬取网站并将其转换为适合 LLM 的 MarkdownAPI
Spider将网站快速爬取为 HTML、Markdown 或文本API
RecursiveUrlLoader递归加载网页,跟随链接Package
Sitemap从 sitemap.xml 加载所有页面Package
Browserbase使用托管的无头浏览器(隐身模式)加载网页API
WebPDFLoader在网络环境中加载 PDF 文件Package

Cloud providers

Document LoaderDescriptionWeb SupportPackage/API
S3从 AWS S3 存储桶加载文件Package
Azure Blob Storage Container从 Azure Blob Storage 容器加载所有文件Package
Azure Blob Storage File从 Azure Blob Storage 加载单个文件Package
Google Cloud Storage从 Google Cloud Storage 存储桶加载文件Package
Google Cloud SQL for PostgreSQL从 Cloud SQL PostgreSQL 数据库加载文档Package

Productivity tools

Document LoaderDescriptionWeb SupportPackage/API
Notion API通过 API 加载 Notion 页面和数据库API
Figma加载 Figma 文件数据API
Confluence从 Confluence 空间加载页面API
GitHub从 GitHub 仓库加载文件API
GitBook加载 GitBook 文档页面Package
Jira从 Jira 项目加载问题API
Airtable从 Airtable 基础库加载记录API
Taskade加载 Taskade 项目数据API

Search & data APIs

Document LoaderDescriptionWeb SupportPackage/API
SearchAPI从 SearchAPI 加载网络搜索结果(Google、YouTube 等)API
SerpApi从 SerpApi 加载网络搜索结果API
Apify Dataset从 Apify 平台加载抓取的数据API

Audio & video

Document LoaderDescriptionWeb SupportPackage/API
YouTube加载 YouTube 视频字幕Package
AssemblyAI使用 AssemblyAI API 转录音频和视频文件API
Sonix使用 Sonix API 转录音频文件API

Other

Document LoaderDescriptionWeb SupportPackage/API
Couchbase使用 SQL++ 查询从 Couchbase 数据库加载文档Package
LangSmith从 LangSmith 加载数据集和追踪记录API
Hacker News加载 Hacker News 主题和评论Package
IMSDB从互联网电影剧本数据库加载电影剧本Package
College Confidential从 College Confidential 加载大学信息Package
Blockchain Data通过 Sort.xyz API 加载区块链数据(NFT、交易)API

All document loaders

LangChain 中文文档