Skip to main content

连接器(Connectors)

连接器提供外部数据源的自动化导入能力。当前主要支持 URL 批量导入和数据库连接器(MySQL/SQLServer),通过 Connector Run 追踪每次同步执行。

架构概览

Connector Run 状态机

ConnectorRun 模型

字段类型说明
idUUIDRun ID
tenant_idUUID租户 ID
dataset_idUUID目标数据集
connector_idString(80)连接器标识(如 url_batch
requested_byString发起者 account_id
statusStringpending/running/completed/failed/cancelled
configJSONB运行配置
statsJSONB运行统计(成功/失败/跳过数)
error_messageText失败信息
task_idString异步任务标识

ConnectorRunDocument

每个 Run 创建的文档通过关联表追踪:

字段类型说明
run_idUUID关联的 ConnectorRun
document_idUUID创建的文档
source_refString来源引用(如 URL)
statusStringcreated/processed/failed

SSRF 防护

URL 导入时,后端通过 validate_url_for_ingest() 执行安全校验:

检查项说明
协议白名单仅允许 http/https
内网地址拦截拒绝 127.0.0.0/8, 10.0.0.0/8, 172.16.0.0/12, 192.168.0.0/16
DNS 重绑定解析后二次校验
重定向跟踪限制重定向次数
SSRF 防护

所有 URL 导入必须经过 validate_url_for_ingest() 校验。绕过此校验可能导致 SSRF 漏洞,使攻击者能访问内部服务。

API 端点

Connector Run

方法路径说明
POST/connectors/runs创建 Run
GET/connectors/runsRun 列表
GET/connectors/runs/{run_id}Run 详情
POST/connectors/runs/{run_id}/retry-failed重试失败项
POST/connectors/runs/{run_id}/resume恢复/增量同步
POST/connectors/runs/{run_id}/cancel取消运行

Connector Config

方法路径说明
GET/connectors/configs配置列表
POST/connectors/configs创建配置
PUT/connectors/configs/{config_id}更新配置
DELETE/connectors/configs/{config_id}删除配置
POST/connectors/configs/{config_id}/run基于配置发起 Run
POST/connectors/configs/{config_id}/reconcile对账

其他

方法路径说明
GET/connectors可用连接器列表
POST/connectors/validate校验连接配置
POST/connectors/scheduled/tick定时调度触发

相关链接