跳转至

附录

本章所属:跨层

本附录收录跨章节的参考材料,便于查阅与延伸。

一、全书术语索引

术语的权威定义与禁止混用对照见 handbook/GLOSSARY.md。这里给出按 DDA 层组织的速查表,首现格式为中文(English,缩写)。

所属层 中文术语 English 缩写
跨层 数据驱动 AI Data-Driven AI DDA
跨层 思维升级 Mindset Shift -
跨层 AI 原生 AI Native -
跨层 业务语义不可靠 Unreliable Business Semantics -
跨层 语义传递不可靠 Semantic Transmission Unreliability -
跨层 语义时效不可靠 Semantic Temporal Unreliability -
跨层 数据即服务 Data-as-a-Service DaaS
跨层 升级版数据产品 AI-ready Data Product -
AI Ready Data Platform AI 就绪数据平台 AI Ready Data Platform -
AI Ready Data Platform 数据契约 Data Contract -
AI Ready Data Platform 数据血缘 Data Lineage -
Ontology 数据本体 Ontology -
Ontology 业务世界模型 Business World Model -
Ontology 实体 Entity -
Ontology 关系 Relation -
Ontology 知识图谱 Knowledge Graph KG
Semantic Layer 语义层 Semantic Layer SL
Semantic Layer BI 语义层 BI Semantic Layer -
Semantic Layer 语义接口 Semantic API -
Knowledge Foundation 知识基础设施 Knowledge Foundation -
Knowledge Foundation 知识绑定 Knowledge Binding -
RAG 检索增强生成 Retrieval-Augmented Generation RAG
RAG 接地 Grounding -
RAG 引用 Citation -
RAG 评估 Evaluation -
AI Agent AI 智能体 AI Agent -
AI Agent 工作流 Workflow -
Data Loop 数据闭环 Data Loop -
Data Loop 反馈回流 Feedback Loop -
Ontology Evolution 数据本体演进 Ontology Evolution -

禁止混用速查

概念 A 概念 B 关系 强制选择
数据本体(Ontology) 知识图谱(KG) KG 是 Ontology 的可能实现 方法论用 Ontology,具体图存储用 KG
语义层(SL) BI 语义层 Agent 消费 vs 人读报表 Agent 消费用 SL
数据闭环(Data Loop) ETL/ELT 持续学习修正 vs 数据搬运 AI 反馈回流用 Data Loop
AI 智能体(Agent) 工作流(Workflow) 自主决策 vs 预定义路径 自主执行用 Agent
接地(Grounding) 事实核查 生成前对齐 vs 生成后核查 生成前对齐用 Grounding
评估(Evaluation) 监控(Monitoring) 质量度量 vs 系统运行 检索生成质量用 Evaluation
数据契约(Data Contract) SLA 内容协议 vs 服务水平 数据内容协议用 Data Contract

二、药明诺华(NovaPharm)统一案例数据资产清单

药明诺华是贯穿全书的虚构创新药企,研发管线聚焦抗肿瘤靶向药。以下是其数据资产清单,供各章案例对照。药企面临的实体对齐、别名消歧、口径统一、知识绑定,与垂直数据服务商(企业征信、专利数据等)的问题是同构的,案例可相互参照。

核心实体

实体 说明 关键属性 首现章节
候选化合物(Compound) 研发管线核心对象 research_code, status, aliases 第 1 章
靶点(Target) 药物作用靶点 target_name(如 c-Met) 第 2 章
临床试验(Trial) 试验对象与进度 trial_id, phase, status 第 1 章
研究者(Investigator) 试验主要研究者 investigator_id, site 第 2 章
监管文档(Regulatory Doc) SOP/试验方案/CSR doc_id, type, version 第 4 章

别名消歧主场景

化合物 NVP-001(研发代号)在不同数据源有多个名称,用行业标准编码对齐到同一实体:

别名类型 标准体系
研发代号 NVP-001 企业内部
通用名 savolitinib 通用名
研发代号别名 AZD6094 合作方编号
CAS 号 1373746-33-2 化学物质标识
PubChem CID 51035674 PubChem
ChEMBL ID CHEMBL2108683 ChEMBL
DrugBank ID DB15423 DrugBank
UMLS CUI C4073094 UMLS

数据契约样例

化合物活性清单数据契约 compound_active 见第 1 章。语义接口 list_active_compounds 见第 3 章。SOP 绑定 sop_phase1_termination_v3 见第 4 章。

合规约束

  • ALCOA+ 数据完整性原则。
  • 21 CFR Part 11 电子记录与电子签名要求。
  • 零幻觉监管问答。
  • Phase I 到上市约 12% 成功率(行业普遍参考)。
  • 单药研发成本约 $1-2B(行业普遍参考)。

三、DDA 八层对照速查表

解决什么问题 主要对付的语义不可靠 为什么传统失效 核心设计思想 首现章节
AI Ready Data Platform 让数据能被 AI 可靠消费 传递:字段含义散落 BI 数仓不提供访问语义与契约 数据契约+可程序消费元数据+可追溯血缘+持续质量 第 1 章
Ontology 给 AI 与业务共识对齐的世界模型 传递:无单一来源 语义散落无单一来源 显式定义实体/关系/规则/约束,绑定数据资产 第 2 章
Semantic Layer Agent 经语义接口取数据 传递:口径漂移、多消费方不一致 裸 SQL 字段改名即崩、口径漂移 语义 API 而非语义表,单一口径,拒直连裸库 第 3 章
Knowledge Foundation 统一结构化语义与非结构化知识 传递:文档与数据割裂;时效:知识过期 文档库与数据割裂、视觉信息丢失 多格式解析+视觉资产一等公民+块级绑定+版本时效+溯源坐标 第 4 章
RAG 让 AI 输出可追溯可引用可校验 传递:生成端无接地(幻觉为症状) 直接让 LLM 回答致幻觉无引用、视觉信息丢失 语义结构化+多向量多路检索+视觉融合+接地+引用+评估 第 5 章
AI Agent 受控完成多步任务 传递:绕过语义链自造口径 直连裸库失控出错无法追责 消费语义层不直连裸库,编排+记忆+可观测 第 6 章
Data Loop AI 输出反向修正数据知识本体 时效:定义滞后于业务变化 单向管道错误不反馈 反馈采集+三路回流+评估闸门+可观测传感器 第 7 章
Ontology Evolution Ontology 随业务持续生长 时效:本体腐化与下游冲击 一次性建模后腐化 版本化+变更追溯+下游影响评估+历史兼容 第 8 章

两类语义不可靠与分布式系统的类比

数据工程师可用分布式系统的思维模型理解 DDA 的根本问题。类比不是精确一一对应,而是帮助判断"这一层该解决什么"。

分布式系统 Data-Driven AI 工程应对
不可靠时钟:不能假设全局有序 语义时效不可靠:业务在变,定义滞后 Data Loop 反馈回流;Ontology Evolution 版本演进;KF 知识版本与时效
不可靠网络:不能假设消息必达 语义传递不可靠:含义散落,传不到或传错 数据契约与元数据;Ontology 单一来源;SL 单一口径;KF 实体绑定;RAG 接地与引用
两者共同前提:设计时默认不可靠 业务语义不可靠(总称) 全书主线逐层驯服,而非指望模型"自己懂业务"

读各章时可对照:该层加固的是传递链的哪一段,还是让语义跟上业务时钟的哪一环?症状出现在下游(幻觉、口径对不上、Agent 自造 SQL)时,往往要往上追溯是传递断了还是定义过时了。

升级版数据产品:从 BI 到 AI-ready

AI-ready 转型不是另建 AI 数仓,而是把数据按升级版数据产品交付——驯服语义不可靠的工程落点。详见前言

BI 时代 vs AI-ready:产品交付升级

维度 BI 时代(表交付) AI-ready(产品交付)
基本单元 主题表、字段名承载含义 数据产品:契约+元数据+质量门禁
消费者 人(分析师、业务) 人 + Agent + RAG
交付接口 SQL、报表 语义 API,拒裸库直连
语义 散落注释、人口径 Ontology 单一来源 + SL 单一口径
非结构化 文档库,与数据割裂 知识产品:绑定+版本+溯源
迭代 工单驱动改表 Data Loop 反馈驱动产品版本演进
验收 T+1 跑通、报表可用 五项 AI 就绪特性 + 评估黄金集

全书八层 = 产品栈逐级升级

产品升级职责
AI Ready Data Platform 定义产品单元(契约、血缘、质量)
Ontology 产品语义说明书(实体、规则、绑定)
Semantic Layer 产品交付接口(语义 API)
Knowledge Foundation 知识产品目录(多模态、版本、绑定)
RAG 产品消费者的接地与引用
AI Agent 新产品消费者(经产品接口消费)
Data Loop 产品持续迭代机制
Ontology Evolution 产品语义版本管理

行业验证:征信与专利数据服务商

下列实践证明,升级版数据产品标准在商业环境已跑通多年——不是本书的对比主轴,而是可行性证据:

产品能力 启信宝(征信) 智慧芽(专利) 药明诺华(企业内部)
产品单元 数百个带 SLA 的数据 API 三百+ 数据 API 数据契约 + 语义接口
实体语义 多源编号归一主体 专利族、权利人标准化 化合物别名、跨系统 ID
知识产品 扫描件→结构化+坐标 结构图→SMILES/分子指纹 CSR/SOP/表格/图表
产品迭代 客户反馈驱动规则修正 用户纠错改进抽取 Data Loop 三路回流
Agent 消费 MCP / Agent API 叠加 Eureka 等平台 经 SL 消费,拒裸库

内化时的现实差异(不改变产品本质)

要点 说明
不卖钱,但标准同构 内部产品也须有负责人、契约、消费者清单
Ontology 须共建 无外部产品团队单方面定义口径,须跨部门对齐
评估须自建 无付费客户替你定义"好",黄金集是产品质量门禁
忌影子产品 Agent 沙箱自建语义 = 产品目录外的旁路系统

四、贯穿全书的可观测四层信息模型

数据可观测性的四层信息模型在多个章节复用,是跨层框架:

回答的问题 在数据平台的用途 在 Agent 的用途 在 Data Loop 的用途
Trace WHERE 在哪发生 链路追踪定位故障 记录 Agent 调用链 把反馈定位到具体调用
Metrics WHEN 何时发生 新鲜度与时效告警 记录 Agent 性能指标 触发时效与质量告警
I/O WHAT 是什么 校验契约符合度 记录工具输入输出 校验消费的数据对不对
State WHY 为什么 解释异常根因 记录状态演化(Agent 最关键) 解释 Agent 为什么犯错

该模型还贯穿 RAG 章的评估环节:Trace 定位检索失败发生在哪个空间,I/O 校验召回证据对不对,Metrics 度量检索与生成质量并触发回流。

五、工具实现索引

以下工具在书中仅作为实现示例出现,标注"仅为一种实现选择",不代表唯一方案。

工具 出现章节 作为何类示例
Apache AGE 第 2 章 PostgreSQL 图扩展,Ontology 图结构实现
GraphRAG / LazyGraphRAG 第 2 章 图结构知识检索方法
SHACL 第 2、8 章 本体约束校验语言
dbt MetricFlow / Cube 第 3 章 语义层指标定义工具
MCP(Model Context Protocol) 第 3、6 章 语义层对 Agent 原生可调用的协议
Deequ 第 1 章 数据质量门禁工具
Knowhere 第 4、5 章 文档语义解析与章节树重建
PixelRAG 第 5 章 像素原生视觉检索与视觉编码
EagleRAG 第 5 章 多向量双空间并行召回与 RRF 融合
LangGraph StateGraph 第 6 章 Agent 状态图编排框架
UMLS / RxNorm / CDISC / MeSH / ChEMBL / DrugBank 第 2 章 药品与化合物行业标准编码体系
TextIn xParse 第 4 章 文档理解引擎,多格式解析为 Markdown+坐标+类型化元素
Hiro-OCSR 第 4 章 光学化学结构识别,专利结构图转 SMILES
启信宝 / 启信慧眼 第 1、2 章 企业征信数据服务商,实体对齐与关联图谱的行业实例
智慧芽 / PatSnap 第 1、2、4 章 专利数据服务商,专利族对齐与化学结构检索的行业实例

六、参考文献与延伸阅读

以下为书中提及的方法、研究与行业实践的来源方向,供延伸阅读。本书不逐条列 URL,读者可按关键词检索原始资料。各章末尾亦有「延伸阅读」小节,按章节主题给出更细粒度的资料方向,可与本节对照查阅。

  • 数据契约与数据产品:Dehghani《Data Mesh》关于数据产品的论述;Data Contract 规范社区资料。
  • AI Ready 数据平台:Thoughtworks Looking Glass 关于"从数据平台到 AI 就绪数据生态"的讨论;Data Mesh 2.0 与可组合数据产品平台相关资料。
  • Ontology 工程:微软 Fabric IQ、Palantir Ontology、FAOS 三层本体框架(2025 年公开)相关资料;SHACL 与数据目录校验相关 Gartner 报告。
  • 语义层复兴:dbt MetricFlow 开源相关资料;Cube、AtScale、LookML 语义层对比资料;Open Semantic Interchange(OSI)标准。
  • RAG 与检索:倒数秩融合(RRF)方法资料;多向量跨空间融合与单空间 dense+sparse 混合资料;GraphRAG 与 LazyGraphRAG(微软 2025 年公开)资料;交叉编码器重排方法资料;像素原生视觉检索(PixelRAG 类)资料;Citationware 与引用优先 RAG 方向资料。
  • Agent 与编排:ReAct、DAG、StateGraph 编排演进资料;LangGraph 状态图相关资料;MCP 协议规范。
  • 数据闭环与评估:Airbnb AITL(EMNLP 2025)关于隐式反馈信号的资料;NVIDIA Data Flywheel Blueprint 相关资料;Ragas、DeepEval、Langfuse、Arize Phoenix 等评估可观测工具资料。
  • 本体演进:本体即产品(Ontology as product)与衰减模式相关资料;SHACL 与 Collibra 校验相关资料。
  • 药企行业标准:UMLS CUI、RxNorm、CDISC SDTM、MeSH、ChEMBL、DrugBank 各自官方文档;ALCOA+ 数据完整性原则;21 CFR Part 11 电子记录规范。
  • 垂直数据服务商:启信宝/合合信息(企业征信)关于实体对齐、关联图谱、数据治理、文档理解引擎(TextIn)的产品与技术资料;智慧芽/PatSnap(专利数据)关于专利族对齐、标准化权利人、化学结构识别(Hiro-OCSR)、新药情报库(Synapse)、Agent 平台(Eureka)的产品与技术资料。

七、章节写作规范依据

各章遵循的写作规范与自检依据见 handbook/

贡献者写新章节前,请先读 AGENTS.md 与上述五个规范文件。