默认情况下，LangSmith 会为 langsmith-frontend 配置一个 LoadBalancer 服务。根据您的云服务提供商，这可能会导致为该服务分配一个公共 IP 地址。如果您希望使用自定义域名或对流向 LangSmith 安装的流量路由有更多控制权，可以配置 Ingress、Gateway API 或 Istio Gateway。

要求

• 一个现有的 Kubernetes 集群
• 您的 Kubernetes 集群中已安装以下之一：
  • Ingress 控制器（用于标准 Ingress）
  • Gateway API CRD 和 Gateway 资源（用于 Gateway API）
  • Istio（用于 Istio Gateway）

参数

您可能需要为 LangSmith 安装提供某些参数来配置 Ingress。此外，我们还需要将 langsmith-frontend 服务转换为 ClusterIP 服务。

• 主机名（可选）：您希望用于 LangSmith 安装的主机名。例如 "langsmith.example.com"。如果留空，Ingress 将把所有流量路由到 LangSmith 安装。

• 基础路径（可选）：如果您希望在某个 URL 基础路径下提供 LangSmith 服务，可以在此处指定。例如，添加 "langsmith" 将在 "example.hostname.com/langsmith" 地址提供应用程序。这将同时应用于 UI 路径和 API 端点。

• IngressClassName（可选）：您希望使用的 Ingress 类的名称。如果未设置，将使用默认的 Ingress 类。

• 注解（可选）：要添加到 Ingress 的额外注解。某些提供商（如 AWS）可能使用注解来控制 TLS 终止等事项。

  例如，您可以使用 AWS ALB Ingress Controller 添加以下注解，将 ACM 证书附加到 Ingress：

annotations:
  alb.ingress.kubernetes.io/certificate-arn: "<your-certificate-arn>"

• 标签（可选）：要添加到 Ingress 的额外标签。

• TLS（可选）：如果您希望通过 HTTPS 提供 LangSmith 服务，可以在此处添加 TLS 配置（许多 Ingress 控制器可能有其他控制 TLS 的方式，因此通常不需要此配置）。这应该是一个 TLS 配置数组。每个 TLS 配置应包含以下字段：

  • hosts：证书应有效的域名数组。例如 ["langsmith.example.com"]

  • secretName：包含证书和私钥的 Kubernetes 密钥的名称。此密钥应包含以下键：

    • tls.crt：证书
    • tls.key：私钥

  • 您可以在此处阅读有关创建 TLS 密钥的更多信息。

配置

您可以将 LangSmith 实例配置为使用以下三种路由选项之一：标准 Ingress、Gateway API 或 Istio Gateway。选择最适合您基础设施的选项。

选项 1：标准 Ingress

有了这些参数，您可以将 LangSmith 实例配置为使用 Ingress。您可以通过修改 LangSmith Helm Chart 安装的 config.yaml 文件来实现。

config:
  hostname: "" # LangSmith 的主域名
  basePath: "" # 如果您希望在 URL 基础路径下提供 langsmith 服务（例如，/langsmith）
ingress:
  enabled: true
  hostname: "" # 已弃用：v0.12.0 之后请使用 config.hostname
  subdomain: "" # 已弃用：v0.12.0 之后请使用 config.hostname
  ingressClassName: "" # 如果未设置，将使用默认的 ingress 类
  annotations: {} # 如果需要，在此处添加注解
  labels: {} # 如果需要，在此处添加标签
  tls: [] # 如果需要，在此处添加 TLS 配置
frontend:
  service:
    type: ClusterIP

配置完成后，您需要更新 LangSmith 安装。如果一切配置正确，您的 LangSmith 实例现在应该可以通过 Ingress 访问。您可以运行以下命令检查 Ingress 的状态：

kubectl get ingress

您应该在输出中看到类似这样的内容：

NAME                         CLASS   HOSTS    ADDRESS          PORTS     AGE
langsmith-ingress            nginx   <host>   35.227.243.203   80, 443   95d

如果您没有设置自动 DNS，则需要手动将 IP 地址添加到您的 DNS 提供商。

选项 2：Gateway API

Gateway API 支持自 LangSmith v0.12.0 起可用

如果您的集群使用 Kubernetes Gateway API，您可以配置 LangSmith 以提供 HTTPRoute 资源。这将为 LangSmith 创建一个 HTTPRoute，并为每个代理部署创建一个 HTTPRoute。

参数

• name（必需）：要引用的 Gateway 资源的名称
• namespace（必需）：Gateway 资源所在的命名空间
• hostname（可选）：您希望用于 LangSmith 安装的主机名。例如 "langsmith.example.com"
• basePath（可选）：如果您希望在基础路径下提供 LangSmith 服务，可以在此处指定。例如 "example.com/langsmith"
• sectionName（可选）：要使用的 Gateway 中特定监听器部分的名称
• annotations（可选）：要添加到 HTTPRoute 资源的额外注解
• labels（可选）：要添加到 HTTPRoute 资源的额外标签

配置

config:
  hostname: "" # LangSmith 的主域名
  basePath: "" # 如果您希望在基础路径下提供 langsmith 服务。例如 "example.com/langsmith"
gateway:
  enabled: true
  name: "my-gateway" # 您的 Gateway 资源的名称
  namespace: "gateway-system" # 您的 Gateway 资源的命名空间
  sectionName: "" # 可选：特定的监听器部分名称
  annotations: {} # 如果需要，在此处添加注解
  labels: {} # 如果需要，在此处添加标签
frontend:
  service:
    type: ClusterIP

配置完成后，您可以检查 HTTPRoute 的状态：

kubectl get httproute

选项 3：Istio Gateway

Istio Gateway 支持自 LangSmith v0.12.0 起可用

如果您的集群使用 Istio，您可以配置 LangSmith 以提供 VirtualService 资源。这将为 LangSmith 创建一个 VirtualService，并为每个代理部署创建一个 VirtualService。

参数

• name（可选）：要引用的 Istio Gateway 资源的名称。默认为 "istio-gateway"
• namespace（可选）：Istio Gateway 资源所在的命名空间。默认为 "istio-system"
• hostname（可选）：您希望用于 LangSmith 安装的主机名。例如 "langsmith.example.com"
• basePath（可选）：如果您希望在基础路径下提供 LangSmith 服务，可以在此处指定。例如 "example.com/langsmith"
• annotations（可选）：要添加到 VirtualService 资源的额外注解
• labels（可选）：要添加到 VirtualService 资源的额外标签

配置

config:
  hostname: "" # LangSmith 的主域名
  basePath: "" # 如果您希望在单独的基础路径上提供 langsmith 服务。例如 "example.com/langsmith"
istioGateway:
  enabled: true
  name: "istio-gateway" # 您的 Istio Gateway 资源的名称
  namespace: "istio-system" # 您的 Istio Gateway 资源的命名空间
  annotations: {} # 如果需要，在此处添加注解
  labels: {} # 如果需要，在此处添加标签
frontend:
  service:
    type: ClusterIP

配置完成后，您可以检查 VirtualService 的状态：

kubectl get virtualservice