公共数据处理方法与流程

本发明涉及大数据,具体地,涉及一种公共数据处理方法。
背景技术:
1、大数据的发展逐渐成熟,数据的整合与获取手段增多。但是部分政务相关的数据由于涉及隐私与安全的问题,属于敏感信息,无法完整将相应的数据对外公开,一旦公开敏感信息将会带来数据泄露等安全问题,因此,现有的数据无法完全将敏感的、有价值的数据进行数据公开,提供给外部群体使用,以致于数据利用率低。
技术实现思路
1、针对现有技术的不足,本发明提供一种公共数据处理方法。
2、本发明公开的一种公共数据处理方法,包括:
3、s10、接口平台的业务端接收到数据使用请求;
4、s20、接口平台的网关端接收由业务端所提出的数据使用请求;
5、s30、接口平台的网关端通过取数端向数源端提出相应数据使用请求;取数端对数源端所提供数据进行脱敏处理,而后将处理好的数据发至网关端;
6、s40、网关端对取数端发送的数据进行整合,并将整合后的数据发送至业务端;
7、s50、业务端将接收到的整合数据输出。
8、根据本发明的一实施方式,s10包括以下子步骤:
9、s101、业务端的核检模块对数据使用请求的资料进行合规校验。
10、根据本发明的一实施方式,s10包括以下子步骤:
11、s102、业务端的抽检模块随机对数据使用请求的资料进行抽检,不合规则停止数据使用请求。
12、根据本发明的一实施方式,s30包括以下子步骤:
13、s301、取数端后台同步启动守护线程,由守护线程执行辅助性工作。
14、根据本发明的一实施方式,还包括:
15、s60、取数端设有动态实时加载模块,以实现脱敏服务的热更新。
16、根据本发明的一实施方式,s60包括以下子步骤:
17、s601、动态实时加载模块通过双检锁机制实现。
18、根据本发明的一实施方式,双检锁机制包括脱敏锁模块及更新锁模块,接收到更新任务包时,脱敏锁模块处于锁定状态,将当前未处理的脱敏任务完成;待脱敏任务均完成后,脱敏锁处于开锁状态,更新锁模块处于锁定状态,更新任务进入并被执行,同时阻止新的脱敏任务进入。
19、根据本发明的一实施方式,网关端与取数端还通过监控接口连通,网关端可捕捉运行状态信息实行监控。
20、根据本发明的一实施方式,辅助性工作为垃圾回收或内存管理。
21、根据本发明的一实施方式,网关端通过与动态实时加载模块对应的接口向其传输规则包,以调整和配置相关服务参数。
22、本发明的有益效果在于:通过接口平台的取数端、网关端以及业务端配合,业务端将接收到的请求传输至网关端,网关端通过取数端在数源端获得相应数据,取数端将数源端的数据经过脱敏处理后输出,确保公共数据“数据不出域”和“可用不可见”,使得公共数据价值充分体现和利用,解决传统公共数据利用率低的问题。
技术特征:
1.一种公共数据处理方法,其特征在于,包括:
2.根据权利要求1所述的公共数据处理方法,其特征在于,s10包括以下子步骤:
3.根据权利要求2所述的公共数据处理方法,其特征在于,s10包括以下子步骤:
4.根据权利要求1所述的公共数据处理方法,其特征在于,s30包括以下子步骤:
5.根据权利要求1所述的公共数据处理方法,其特征在于,还包括:
6.根据权利要求5所述的公共数据处理方法,其特征在于,s60包括以下子步骤:
7.根据权利要求6所述的公共数据处理方法,其特征在于,双检锁机制包括脱敏锁模块及更新锁模块,接收到更新任务包时,脱敏锁模块处于锁定状态,将当前未处理的脱敏任务完成;待脱敏任务均完成后,脱敏锁处于开锁状态,更新锁模块处于锁定状态,更新任务进入并被执行,同时阻止新的脱敏任务进入。
8.根据权利要求5所述的公共数据处理方法,其特征在于,网关端与取数端还通过监控接口连通,网关端可捕捉运行状态信息实行监控。
9.根据权利要求4所述的公共数据处理方法,其特征在于,辅助性工作为垃圾回收或内存管理。
10.根据权利要求5所述的公共数据处理方法,其特征在于,网关端通过与动态实时加载模块对应的接口向其传输规则包,以调整和配置相关服务参数。
技术总结
本发明揭示一种公共数据处理方法,包括:S10、接口平台的业务端接收到数据使用请求;S20、接口平台的网关端接收由业务端所提出的数据使用请求;S30、接口平台的网关端通过取数端向数源端提出相应数据使用请求;取数端对数源端所提供数据进行脱敏处理,而后将处理好的数据发至网关端;S40、网关端对取数端发送的数据进行整合,并将整合后的数据发送至业务端;S50、业务端将接收到的整合数据输出。业务端将接收到的请求传输至网关端,网关端通过取数端在数源端获得相应数据,取数端将数源端的数据经过脱敏处理后输出,确保公共数据“数据不出域”和“可用不可见”,使得公共数据价值充分体现和利用,解决传统公共数据利用率低的问题。
技术研发人员:邬旭栋,文长康,黄延俊,黎思敏,阮应
受保护的技术使用者:惠州市智慧大数据有限公司
技术研发日:
技术公布日:2024/11/28
技术研发人员:邬旭栋,文长康,黄延俊,黎思敏,阮应
技术所有人:惠州市智慧大数据有限公司
备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明 :此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
