DB34T4641-2023交通管理大数据中心数据模型建设规范.pdf
《DB34T4641-2023交通管理大数据中心数据模型建设规范.pdf》由会员分享,可在线阅读,更多相关《DB34T4641-2023交通管理大数据中心数据模型建设规范.pdf(25页珍藏版)》请在咨信网上搜索。
1、 ICS 35.240.60 CCS R 07 34 安徽省地方标准 DB34/T 46412023 交通管理大数据中心数据模型建设规范 Specification for business modeling of traffic management big data center 2023-12-18 发布 2024-01-18 实施安徽省市场监督管理局 发 布DB34/T 46412023 I 目次 前言.II 1 范围.1 2 规范性引用文件.1 3 术语和定义.1 4 建设流程.1 5 数据处理.2 数据提取.2 数据治理.2 6 特征选择.3 构造衍生特征.3 特征转换.4 特征筛
2、选.4 7 数据建模.5 业务规则类模型.5 预测预警类模型.6 异常检测类模型.7 8 模型评估.8 评估指标.8 评估方法.8 评估处理.9 9 模型发布.9 附录 A(资料性)驾驶人数据项.10 附录 B(资料性)机动车数据项.11 附录 C(资料性)违法数据项.12 附录 D(资料性)事故数据项.13 附录 E(资料性)事故人员数据项.15 附录 F(资料性)过车数据项.17 附录 G(资料性)道路数据项.18 附录 H(资料性)卡口设备数据项.19 附录 I(资料性)气象数据项.20 附录 J(资料性)其他数据项.21 DB34/T 46412023 II 前言 本文件按照 GB/T
3、 1.12020标准化工作导则 第1部分:标准化文件的结构和起草规则的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由安徽省公安厅提出并归口。本文件起草单位:安徽百诚慧通科技股份有限公司、安徽省公安厅交通警察总队科技处、合肥工业大学、安徽省智能交通协会、合肥工业大学设计院(集团)有限公司、安徽中汇规划勘测设计研究院股份有限公司。本文件主要起草人:朱文佳、胡博、汪春、张豪、张宏燕、张卫华、任冉冉、颜鹏、余烨、胡长江、谢晓琳、徐龙、秦忱忱、吴磊、耿伟、胡恒、杜礼、乔文、陈珊珊、丁俊美。DB34/T 46412023 1 交通管理大数据中心数据模型建设规范
4、 1 范围 本文件确立了交通管理大数据中心数据模型建设流程,并规定了交通管理大数据中心数据模型建设的数据处理、特征选择、数据建模、模型评估、模型发布。本文件适用于交通管理大数据中心数据模型建设。2 规范性引用文件 本文件没有规范性引用文件。3 术语和定义 下列术语和定义适用于本文件。交通管理大数据中心 traffic management big data center 公安交通管理部门设立的管理交通安全大数据的机构。4 建设流程 交通管理大数据中心数据模型建设流程见图1。图1 交通管理大数据中心数据模型建设流程示意图 数据处理 特征选择 数据建模 模型优化 模型发布 模型 评估 不通过 通过
5、 DB34/T 46412023 2 5 数据处理 数据提取 5.1.1 数据来源 交通管理大数据业务中心的数据来源包括但不限于:交通管理大数据综合应用平台,集成指挥平台,第三方外挂平台。5.1.2 提取范围 5.1.2.1 交通管理大数据中心数据分为驾驶人、机动车、违法、事故、过车、道路、卡口设备、气象、其他数据。5.1.2.2 驾驶人数据项见附录 A。5.1.2.3 机动车数据项见附录 B。5.1.2.4 违法数据项见附录 C。5.1.2.5 事故数据项见附录 D、附录 E。5.1.2.6 过车数据项见附录 F。5.1.2.7 道路数据项见附件 G。5.1.2.8 卡口设备数据项见附录 H
6、。5.1.2.9 气象数据项见附录 I。5.1.2.10 其他数据项见附录 J。5.1.3 提取方式 5.1.3.1 使用公安交通管理业务分布式汇聚管理平台采集 IoT 类型设备数据,支持相机 SDK 接入、GAT 1400 公安视图库标准协议接入、ftp 协议接入以及消息队列中间件数据接入等多种数据采集方式。5.1.3.2 使用公安交通管理数智能力开放平台数据接入模块接入数据,支持离线数据集成接入、实时消息集成接入、服务接口集成接入等多种数据采集方式。数据治理 5.2.1 非空数据核验 应对下列数据的非空数据进行核验:附录 A 中的身份证明号码、性别、初次领证日期,附录 B 中的号牌号码、号
7、牌种类、车辆类型、使用性质、初次登记日期、身份证明号码、机动车状态、核定载客、检验报废期止、强制报废期止,附录 C 中的号牌号码、号牌种类、违法时间、违法行为、违法记分数,附录 D 中的事故编号、事故发生时间、死亡人数、受伤人数、号牌号码、号牌种类、是否逃逸,附录 F 中的号牌号码、号牌种类、经过时间,附录 G 中的道路代码、道路类型、道路名称、行政区划、管理部门,附录 H 中的设备编号、设备类型、使用状态、车道号、方向类型、点位编号,附录 I 中的设备编号、检测时段、检测时间,DB34/T 46412023 3 附录 J 中的身份证明号码。5.2.2 重复数据去重 应对下列数据进行重复数据去
8、重:附录 A 中的身份证明号码,附录 B 中的号牌号码、号牌种类,附录 C 中的违法编号,附录 D 中的事故编号,附录 G 中的道路代码,附录 H 中的设备编号,附录 I 中设备编号,附录 J 中的身份证明号码。5.2.3 错误数据删除 应删除下列错误数据:附录 A 中的准驾车型代码不存在、身份证明号码长度不符合 18,附录 B 中的初次登记日期内容早于 2001 年,附录 C 中的单次违法记分数值为 1,3,6,12 以外的,附录 D 中的事故发生时间大于当前时间,附录 F 中的经过时间大于当前时间、号牌号码识别长度小于 7 或大于 8,附录 G 中的道路类型不存在,附录 H 中的设备编号不
9、符合设计标准,附录 I 中的设备编号记录值为空。5.2.4 规范数据类型 应对下列数据类型进行规范:数据类型不一致,如日期类型的数据实际却是字符或数字类型,应转成日期类型,附录 A 中下一清分日期、下一审验日期、初次领证日期、有效期始、有效期止、发证日期、出生日期,附录 B 中初次登记日期、最近定检日期、检验报废期止、强制报废期止、发行驶证日期、发登记证书日期、发合格证日期、保险终止日期,附录 C 中违法时间、处理时间、缴款日期、录入时间,附录 D 中开始侦查时间、结束侦查时间、事故发生时间、录入时间、更新时间,附录 F 中经过时间、录入时间,附录 I 中检测时间。6 特征选择 构造衍生特征
10、6.1.1 附录 A 中驾驶人驾龄通过当前日期减去初次领证日期、驾驶人年龄通过当前日期减去出生日期;是否车型降级通过准驾车型和原准驾车型比较得到。6.1.2 附录 B 中车辆是否强制报废通过当前日期减去强制报废期止、是否逾期未年检通过当前日期减DB34/T 46412023 4 去检验有效期止、是否逾期未保险通过当前日期减去保险终止日期。6.1.3 附录 C 中车辆违法次数通过对号牌号码和号牌种类分组计数得到、车辆总违法记分数通过对号牌号码和号牌种类分组求和得到、车辆有严重违法次数通过对违法类型做分组然后对号牌号码和和号牌种类计数得到。6.1.4 附录 D 中车辆发生财产损失事故次数通过对号牌
11、号码和号牌种类分组计数得到、车辆发生伤人事故次数通过对号牌号码和号牌种类分组计数得到、车辆发生亡人事故通过对号牌号码和号牌种类分组计数得到。6.1.5 附录 F 中车辆过车天数通过号牌号码和号牌种类分组对日期进行计数得到、车辆经常经过点位通过对号牌号码和号牌种类与点位分组计数,然后再对号牌号码和号牌种类进行排序取计数最多的点位。6.1.6 附录 H 中卡口在道路的位置通过公里数和米数相加得到。特征转换 6.2.1 二值化法 将两个类别型的特征,转换成1、0。如驾驶人数据中性别特征,转换成男性:1,女性:0;国籍转化为中国人:1,外国人:0;车辆数据中是否强制报废,是:1,否:0;是否逾期未年检
12、,是:1,否:0;是否逾期未保险,是:1,否:0;事故数据中事故类型转成伤亡事故:1,财产损失事故:0。6.2.2 哑变量法 将不能够定量处理的特征量化,对多类别型特征处理。如车辆数据中车辆类型转换,大车:0001,小车:0010,摩托车:0100,其他车:1000;车辆数据中车辆使用性质,客运:0001,货运:0010,危化品:0100,其他:1000;违法数据中行为特征转换,违法停车:000001,超速:000010,违法交通信号灯:000100,非法营运:001000,超员:010000,超载:100000等。6.2.3 标准化数据法 对于不同特征取值范围相差较大的,将特征值通过公式(x
13、-均值)/方差映射到0,1范围内,如车辆数据中车龄进行计算得到标准化后数据,违法数据中总违法记分数进行标准化。6.2.4 分箱处理法 对于连续型特征,转换为类别型的特征。如对驾驶人年龄做分箱处理,处理后18-23、24-30、31-35、36-40、41-50、51-60、60以上共7个类别;过车数据中近三十天车辆过车天数处理后小于3天、4-8、9-13、14-16、17-21、21天以上共6个类别。特征筛选 6.3.1 特征重要性排序 使用随机森林算法或决策树算法中的特征重要性计算模块来计算特征重要性,并按照重要性做降序排序,得到特征的重要性集合N。6.3.2 特征筛选 DB34/T 464
14、12023 5 剔除特征重要性排序最低的10的特征,得到新的特征集合,用新的特征集合,重复上述过程,直到剩下0.75N个特征。7 数据建模 业务规则类模型 7.1.1 适用场景 检测交通管理业务中假牌车、套牌车、车辆逾期未检验、报废车辆上路行驶等不合规则的场景。7.1.2 使用数据 7.1.2.1 假牌车识别模型建模时应使用附录 B 中号牌号码、号牌种类、车辆类型和附录 F 中的号牌号码、号牌种类、车辆类型、过车时间、设备编号。7.1.2.2 套牌车识别模型建模时应使用附录 B 中的号牌号码、号牌种类、车辆类型,附录 F 中的号牌号码、号牌种类、车辆类型、过车时间、设备编号、车道编号和附录 H
15、 中的设备编号、车道编号、点位编号、经度、纬度。7.1.2.3 车辆逾期未检验识别模型建模时应使用附录 B 中的号牌号码、号牌种类、车辆类型、检验有效期止和附录 F 中的号牌号码、号牌种类、过车时间、设备编号。7.1.2.4 报废车辆上路行驶识别模型建模时应使用附录 B 中的号牌号码、号牌种类、车辆类型、强制报废期止和附录 F 中的号牌号码、号牌种类、过车时间、设备编号。7.1.3 设置规则 7.1.3.1 最新过车数据中的车辆在车辆信息中匹配不到数据,则认为此车辆的号牌为假牌。7.1.3.2 最新过车数据中的车辆在不同的点位同时出现,且两个点位之间距离大于 500 米,认为此车辆为套牌车。7
16、.1.3.3 最新过车数据中的车辆检验有效期超出了车辆信息中检验有效期止日期,则认为车辆为逾期未检验。7.1.3.4 最新过车数据中的车辆报废日期超出了车辆信息中强制报废期止日期,则认为此车辆为报废车辆上路行驶。7.1.4 规则计算 7.1.4.1 在最新过车数据中关联不到车辆信息中的号牌号码、号牌种类、车辆类型数据,则将该辆车定为假牌车,标签值为 1,否则标签值为 0。7.1.4.2 在最新过车数据中关联到两个点位距离大于 500 米、求和值大于 1 的车辆,则将该组车定为套牌车,标签值为 1,否则为 0。7.1.4.3 在最新过车数据中关联到车辆检验数据超出了车辆信息中检验有效期止,则将该
17、车定为逾期未检验车,标签值为 1,否则为 0。7.1.4.4 在最新过车数据中关联到车辆报废数据超出了车辆信息中车辆强制报废期止,则将该车定为强制报废车,标签值为 1,否则为 0。7.1.5 模型输出 7.1.5.1 筛选模型输出标签值为 1 的数据作为模型识别结果。7.1.5.2 模型应输出假牌车的号牌号码、号牌种类、过车时间、设备编号信息。DB34/T 46412023 6 7.1.5.3 模型应输出套牌车的号牌号码、号牌种类、过车时间、设备编号信息。7.1.5.4 模型应输出逾期未检验车的号牌号码、号牌种类、过车时间、设备编号、车辆检验有效期止信息。7.1.5.5 模型应输出强制报废车的
18、号牌号码、号牌种类、过车时间、设备编号、强制报废期止信息。预测预警类模型 7.2.1 适用场景 驾驶人、机动车和道路有安全风险的场景。7.2.2 使用数据 7.2.2.1 驾驶人应使用附录 A 中的驾驶人出生日期、性别、身份证明号码、初次领证日期、驾证期限、累计记分、超分日期、准驾车型、驾驶证状态、有效期止、有效期始、补证次数,附录 C 中的违法行为、违法时间、违法记分数、机动车使用性质、号牌号码、号牌种类,附录 D 中的事故发生时间、事故类型、碰撞方式、当场死亡人数、抢救无效死亡人数、重伤人数、轻伤人数、24 小时内死亡人数、3 日内死亡人数、7 日内死亡人数、30 日内死亡人数、机动车数量
19、、非机动车数量、行人数量、事故编号,附录 E中的事故编号、身份证明号码、驾驶证种类和附录 J 中的身份证号码、是否吸毒人员。7.2.2.2 机动车应使用附录 C 中的违法行为、违法时间、号牌号码、号牌种类,附录 D 中的事故发生时间、事故类型、碰撞方式、当场死亡人数、抢救无效死亡人数、重伤人数、轻伤人数、24 小时内死亡人数、3 日内死亡人数、7 日内死亡人数、30 日内死亡人数、机动车数量、非机动车数量、行人数量、事故编号,附录 E 中的事故编号、身份证明号码和附录 B 中的号牌号码、号牌种类、身份证明号码、使用性质、强制报废期止、发牌日期、核定载客。7.2.2.3 道路应使用附录 G 中的
20、道路名称、道路代码、路面结构、行政区划、管理部门、道路类型、道路物理隔离、地形、公路行政等级、路侧防护设施类型、路段代码、路口 ID,附录 D 中的路号、路名、公里数、米数、管理部门、事故类型、事故发生时间、能见度、天气、当场死亡人数、重伤人数、轻伤人数、机动车数量、事故认定原因分类、地形和附录 I 中的管理部门、降雨量、降雪量、平均能见度、平均风速、湿滑系数。7.2.3 算法选择 7.2.3.1 可选用决策树、随机森林、逻辑回归、K-近邻算法、神经网络、Adaboost、XGBoost、朴素贝叶斯、支持向量机算法、线性分类器算法、梯度提升数算法、高斯混合模型算法等。7.2.3.2 宜使用 X
21、GBoost 算法。7.2.4 划分数据集 随机抽取特征集中的 75数据作为训练集,15数据作为验证集,10数据作为测试集。7.2.5 模型训练 导入XGBoost算法模块,设置为树模型,最小样本权重设置为0.3,0.8,损失函数设置为softmax,训练迭代次数设置为50,提前终止迭代次数设置为20,学习率设置为0.01,0.3,学习率步长设置为0.05,训练最大深度设置为5,15,对训练集进行多轮训练,选取一组训练结果较优的模型参数,使用验证集对模型训练效果做验证。7.2.6 模型输出 DB34/T 46412023 7 模型输出结果按照驾驶人、机动车和道路均分为重大风险(标签值1)、较大
22、风险(标签值2)、一般风险(标签值3)、低风险(标签值4)四个等级。异常检测类模型 7.3.1 适用场景 非现场违法取证设备异常检测、机动车非法营运识别、路口流量激增预警场景。7.3.2 使用数据 7.3.2.1 非现场违法取证设备异常检测应使用附录 F 中的经过时间、设备编号、车道号、号牌号码、号牌种类、方向,附录 C 中的违法时间、违法代码、管理部门、号牌号码、号牌种类、路口路段代码和附录 H 中的设备编号、车道编号、管理部门、设备类型、点位编号、行政区划。7.3.2.2 机动车非法营运识别应使用附录 B 中的号牌号码、号牌种类、车辆类型、使用性质、核定载客,附录 F 中的经过时间、设备编
23、号、车道号、号牌号码、号牌种类、方向、号牌颜色,附录 G 中的道路代码、路段代码、道路名称、路口 id、路面名称,附录 H 中的设备编号、点位编号、路口 id,以及通过过车数据构造出的每天平均经过的点位数量,每天过车小时时段数量,平均每天经过的道路条数、一个月内过车天数、平均每天经过不同点位数量、工作时间段过车天数、工作时间段过车天数占过车记录天数比例、工作时间段经过点位数量占全天过车经过点位数量比例、晚上(20:00 后和 07:00 前)时段有过车记录天数。7.3.2.3 路口流量激增预警应使用附录 G 中的道路名称、道路代码、行政区划、管理部门、道路类型,附录 F 中的过车时间、号牌号牌
24、、号牌种类、设备编号、车道编号和附录 H 中的设备编号、车道编号、路段代码、路口 id、行政区划、管理部门。7.3.3 算法选择 7.3.3.1 非现场违法取证设备异常检测、路口流量激增预警可选择移动平均法、周期因子法、指数平滑算法、ARIMA、Prophet、RSI、Holt-Winters、RNN、LSTM、seq2seq、DeepAR、WaveNet 等,非现场违法取证设备异常检测模型宜采用 Prophet 算法。7.3.3.2 机动车非法营运识别模型可选择基于分布的 Z-Score、3sigma、boxplot、Grubbs 假设检验、基于距离的 KNN、基于聚类的 DBSCAN、基于
25、树的 iForest、基于降维的 PCA、AutoEncoder、基于分类的One-Class SVM,基于密度的 LOF、SOS、COF 等,宜采用基于树的 iForest 算法。7.3.4 划分数据集 7.3.4.1 时间序列类异常数据,按时间序列顺序选取前 90的数据作为训练集,后 10的数据作为验证集。7.3.4.2 非时间序列类异常数据,随机抽取特征集中的 75数据作为训练集,15数据作为验证集,10数据作为测试集。7.3.5 模型训练 7.3.5.1 时间序列类导入 Prophet 算法模块,时间序列数据增长趋势设置为 logistic,变化点灵敏度设置为为低,季节性灵敏度设置为高
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- DB34T4641 2023 交通管理 数据中心 数据模型 建设 规范
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Fis****915】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Fis****915】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。