随着大模型和行业人工智能应用加快落地,高质量数据集正从一个技术概念,逐步转化为可以单独立项、采购、建设和验收的信息化项目。
2026年6月,国家数据局印发《关于推进行业高质量数据集建设行动的实施方案》,提出按照“需求牵引、急用先行、应用验证、安全保障”的原则推进建设,并加强数据采集、清洗、加工、标注、质检、测评、迭代等环节的全生命周期管理。
可以预见,围绕医疗、工业、交通、政务等领域的高质量数据集建设项目将逐步增加。但与传统软件项目不同,这类项目交付的核心成果不是一套可以直观操作的系统,而是一批经过加工、标注和验证的数据。
数百万条数据已经交付,清洗、脱敏和标注全部完成,质量检测报告也显示合格——这些是否足以证明项目真正建成,数据集确实“高质量”?
未必。
数据来源可能缺少合法授权,标注成果可能无法追溯,训练集与测试集可能相互混用,所谓模型效果提升,也可能来自算法调整,而非数据质量改善。
面对这种新的信息化项目形态,审计不能只核对交付了多少数据,更要回答五个问题:
项目该不该建?数据能不能用?建设过程是不是真实?“高质量”能不能证明?项目成果最终有没有发挥作用?
高质量数据集建设并不意味着对现有数据全部重新清洗、标注,也不是把业务数据库中的数据集中导出、整理和归档。
它应当围绕明确的人工智能应用场景,先盘点既有数据基础,再确定哪些数据可以直接复用、哪些需要进一步加工、哪些不具备纳入条件。
例如,某医院拟建设肺结节医学影像高质量数据集。经过前期评估,医院既有影像中可能有一部分数据来源清晰、图像质量良好、诊断结论完整,已经基本达到模型训练要求,可以经过必要的合规审查、格式统一和数据集划分后直接纳入;另一部分数据可能缺少规范标注、存在重复影像或者个人信息尚未完成脱敏,需要进一步加工;还有部分数据可能质量较差、权属依据不足或者缺少应用价值,不宜纳入本次建设范围。
因此,项目立项时不宜笼统提出“对现有数据进行全面治理”,而应当首先说明:
· 数据集拟用于训练、微调还是评测哪一类模型;
· 模型准备解决肺结节筛查中的什么具体问题;
· 现有数据中有多少已经达到使用要求,可以直接复用;
· 有多少数据需要清洗、脱敏、标注、复核或者补充;
· 哪些数据不符合纳入条件,以及具体原因;
· 需要补充哪些病例类型、专业标签和边界样本;
· 数据集建成后,模型性能预计在哪些方面得到改善。
对审计而言,重点不仅是判断项目有没有数据基础,还要核实建设单位是否对既有数据进行了真实、充分的质量评估,项目建设范围是否与评估结果相匹配。
如果已有部分数据达到训练要求,却仍被整体纳入清洗、标注等建设任务,可能存在重复加工的问题;反过来,如果项目未经检测便直接认定大量既有数据可以使用,也可能低估数据质量、合规处理和模型适配方面的实际工作。
此外,高质量数据集项目往往还会配套建设数据管理、标注管理、质量检测、版本控制和模型验证等软件功能。审计时宜将软件开发与数据采集、清洗、脱敏、标注等数据加工内容分别梳理,避免建设范围相互交叉,或者将已有平台能力再次纳入开发任务。对于其中的软件建设部分,可以借助“软件造价喵”开展功能点识别和造价复核。平台集成近10年中国软件行业基准数据与全国70余项省市级、行业级信息化造价标准,可自动生成功能点明细清单与评估报告,并通过逐项合规解释辅助核查软件功能范围和测算口径。需要注意的是,数据采购、清洗、标注和专家复核等内容具有不同的成本形成机制,不宜直接按照软件功能点口径进行测算。
因此,这一阶段的核心不是简单判断“数据需不需要治理”,而是厘清:
哪些数据可以直接复用,哪些需要继续加工,哪些应当补充建设,哪些不宜纳入项目。
高质量数据集可能来源于单位内部业务系统、合作机构、公共数据、外部采购、公开网络以及仿真或合成数据。
不同来源的数据,对应不同的权利基础和使用边界。
仍以医疗影像数据集为例。医院能够在诊疗过程中依法保存患者影像资料,并不当然意味着这些数据可以不经进一步处理,直接交给外部供应商用于模型训练。
审计需要沿着“数据从哪里来、依据什么取得、允许用于什么”进行追踪:
· 是否建立原始数据来源清单;
· 能否对应到具体业务系统、医疗机构和采集时间;
· 是否明确数据的提供主体和使用主体;
· 合作单位提供数据是否有协议和授权依据;
· 是否涉及个人信息、敏感个人信息或者商业秘密;
· 原有授权是否覆盖数据加工、模型训练和成果应用;
· 外部供应商是否可以留存、复制或者用于其他项目。
《生成式人工智能服务管理暂行办法》要求,训练数据应当具有合法来源;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。
具体核查时,可以抽取一批交付样本,反向追溯其来源系统、原始记录、授权文件、脱敏记录和加工过程。
如果最终成果中的一张医学影像,无法对应到合法来源和处理记录,那么即使图像清晰、标签准确,也可能存在合规风险。
这一环节还要警惕一种情况:
数据来源材料写得很完整,但授权范围只允许科研分析,并未明确可以用于商业模型训练、对外服务或者二次开发。
审计不能只看“有没有授权”,还要看授权对象、用途、期限和范围是否与项目实际使用方式一致。
高质量数据集通常需要经过采集、清洗、去重、转换、脱敏、标注、增强、合成、质检和模型验证等一系列处理。
但如果审计只看到最终交付的数据文件,就很难判断这些工作是否真实、完整地发生过。
例如,项目约定对十万张医学影像进行肺结节位置和性质标注,供应商也确实交付了十万张带有标签的影像。
审计仍然需要继续核实:
· 原始影像和交付影像能否“一一对应”;
· 是否存在同一患者、同一影像重复计入;
· 标注规则是否经过建设单位和医学专家确认;
· 谁完成了初标,谁负责复核;
· 专家身份和参与记录是否真实;
· 标注修改、退回和重新提交是否留痕;
· 模型预标注后,人工是否进行了实质校准;
· 清洗、去重和脱敏前后的数据变化是否能够解释;
· 不同版本的数据集是否有明确编号和变更记录。
《生成式人工智能服务管理暂行办法》要求制定清晰、具体、可操作的标注规则,开展标注质量评估,抽样核验标注内容的准确性,并对标注人员进行必要培训。
在审计方法上,可以将原始数据清单、标注平台日志、账号记录、成果目录和质检记录进行关联分析。
例如:
某标注人员在一天内完成的专业影像标注数量明显超出合理能力,可能需要核实是否由模型自动生成后直接提交;大量样本在极短时间内集中完成复核,可能说明复核流于形式;不同影像出现完全相同的标注坐标和说明文字,则可能存在批量复制。
还可以从最终成果中随机抽样,交由独立专家重新判断,并将复核结果与原标签进行比对。
高质量数据集项目的过程审计,最终要解决的不是“供应商提交了哪些过程材料”,而是:
这些材料能否共同证明,合同约定的加工、标注和复核工作真实发生,并形成了可追溯的成果。
这是高质量数据集项目区别于普通数据整理项目的关键。
数据条数达到合同要求、文件格式能够正常读取,只能证明成果在形式上完成,并不能证明其“高质量”。
国家数据局指导编制的《高质量数据集建设指引》提出,可以从静态质量和动态质量两个层面评价数据集。静态质量关注准确性、完整性、一致性、时效性、多样性、真实性和合规性等数据自身属性;动态质量则关注数据集对模型表现的实际提升作用。
从审计角度看,“高质量”至少需要三类证据共同支撑。
仍以肺结节影像数据集为例,审计不仅要看有没有影像,还要看样本能否代表真实应用环境:
· 是否覆盖不同年龄、性别和疾病阶段;
· 是否覆盖不同医院、设备和成像条件;
· 是否包含足够的阳性、阴性和疑难样本;
· 是否纳入小结节、遮挡结节等边界场景;
· 是否存在大量重复或近似影像;
· 标签是否与病理结果或专业诊断相互印证。
如果数据集中绝大多数都是图像清晰、病灶典型的样本,模型在测试环境中可能表现较好,但进入真实临床场景后,未必能够识别复杂病例。
因此,审计不能只查看总体合格率,还应关注数据分布、样本代表性和关键场景覆盖情况。
高质量不能只由最终结果声明,还应由完整的生产过程证明。
项目应能够保留:
· 原始数据版本;
· 清洗和去重规则;
· 脱敏方式及验证记录;
· 标注规范;
· 初标、复核和修改记录;
· 质量抽检报告;
· 问题样本及整改记录;
· 数据集版本变更说明。
如果最终数据集出现问题,项目单位应当能够追溯到具体样本、处理环节和责任主体。
如果项目只能提供一份汇总质量报告,却无法定位报告中的抽检样本,也无法还原标注修改过程,那么相关结论的可靠性就需要进一步核实。
高质量数据集最终要服务于模型开发和实际应用。
因此,审计还应比较数据集使用前后的模型表现:
· 是否使用相同的基准模型和测试环境;
· 训练前后的模型参数设置是否具有可比性;
· 测试集是否独立于训练集;
· 是否存在同一患者数据同时进入训练集和测试集;
· 模型性能改善是否覆盖关键业务场景;
· 指标提升是否可能由模型更换或算法调整造成;
· 除总体准确率外,是否测试误报、漏报和边界案例。
如果训练集和测试集中存在大量相同或高度相似的数据,模型测试结果可能虚高。
在医学影像场景中,即使使用的是患者不同时间拍摄的影像,只要来源于同一患者,也可能使模型提前“见过”相似特征。因此,训练集、验证集和测试集的划分,不宜只按照文件随机分配,还要关注患者、机构和时间等维度的隔离。
国家数据局在《关于推进行业高质量数据集建设行动的实施方案》(国数科基〔2026〕25 号)提出,持续完善“数据质量验证+模型应用反馈”的测评方法,旨在破解传统数据质量评价局限于静态指标考核的痛点,兼顾数据固有质量与实际业务、模型应用价值。
由此可见,一份真正有说服力的验收结论,应当形成完整证据链:
数据本身可靠,建设过程可追溯,模型应用能够验证。
高质量数据集不是交付后长期不变的静态文件。
模型投入实际应用后,可能不断出现新的错误样本、疑难场景和业务变化,原有数据集也需要持续补充和修正。
国家数据局提出形成“场景牵引数据、数据驱动模型、模型赋能应用、应用创造价值”的数据飞轮,并通过模型应用反馈持续推动数据集迭代。
因此,审计不能以项目验收作为终点,还应关注:
· 数据集是否实际用于约定模型的训练、微调或评测;
· 相关模型是否真正投入业务运行;
· 数据集建成后使用过多少次;
· 应用过程中发现的错误样本是否反馈整改;
· 是否明确后续更新频率和责任部门;
· 新增数据是否继续履行授权、脱敏、标注和质检程序;
· 不同版本的数据集是否能够区分和回溯;
· 项目是否形成持续运营机制。
例如,某肺结节数据集已经验收,但后续模型项目因技术路线调整未再使用该数据集;或者模型虽然上线,却没有建立错误病例反馈机制,数据集自验收后多年没有更新。
这类情况下,项目可能完成了数据成果交付,但仍需要进一步评价其建设目标和预期效益是否实现。
还要注意,高质量数据集的价值并不一定表现为数据被频繁下载或者交易。对于医疗、公共安全等专业领域,更重要的是数据集是否真正改善模型准确性、降低业务风险,并支撑相关应用持续运行。
综合来看,高质量数据集建设项目可以沿着五条主线开展审计。
第一,沿着立项和需求材料,判断项目是否围绕真实、明确的人工智能应用场景建设。
第二,沿着数据来源和授权链条,判断相关数据是否能够依法、合规地用于加工和模型训练。
第三,沿着原始数据、平台日志、标注记录和成果版本,核实建设过程是否真实、完整、可追溯。
第四,结合数据抽检、独立复核和模型测试,判断所谓“高质量”是否具有充分证据。
第五,从验收后的模型运行、错误反馈和数据更新情况,评价项目成果是否真正投入使用并持续发挥价值。
高质量数据集项目交付的表面成果是一批数据,背后却涉及业务场景、数据权利、行业知识、加工规则、质量标准和模型应用效果。
因此,这类项目的审计不能只回答:
交付了多少条数据?
还要继续追问:
为什么建设?数据从哪里来?加工过程是否真实?质量如何证明?最终有没有投入使用?
概括而言:
以场景必要性判断项目该不该建,以数据合规性判断相关数据能不能用,以过程可追溯性判断建设工作是否真实,以数据质量和模型效果判断成果是否有效,以持续更新和实际应用判断项目是否真正发挥价值。
只有形成这条完整审计链条,才能避免高质量数据集建设停留在“数据数量达标、报告形式完整”的层面,推动项目成果真正转化为人工智能应用能够持续使用的数据基础。