数据库设计原则
数据库设计将根据各应用系统数据的不同分类和特点及功能需求,并结合数据量,提出最适合自身业务系统的数据架构、应用架构和集成架构。
数据库设计的原则是:
1、以需求为导向,以数据为基础,即以满足数据的采集、审核、多角度查询处理为主,同时兼顾历史数据的清查整理。
2、统一规划,分步实施。系统数据库体系建设内容有轻重缓急之分,各项建设任务互相管理、互相影响。如果不经详细规划而轻率进行,势必因各项资源配备不足而导致混乱甚至返工。因此,必须将各项建设任务理出头绪,出其中的规律,按照科学合理的节奏分步骤进行,才能充分保证数据库建设的有效性。
3、遵循标准,规范流程。统一规划下的分步实施必须有充分的标准化基础作保障。否则各单项任务建设后的集成工作难以进行。对于流程、数据、应用技术的标准化工作,应该在系统建设前进行;各应用系统除了遵循硬件平台、网络平台的支撑标准外,还应严格遵守流程、数据、应用技术标准,以保证系统间结合的流畅。
4、迭代法开发。采用迭代式的方法来开发和建设数据应用体系,即首先选择最核心的内容开发和部署一个满足最基本需求的功能原型。在原型的基础上根据反馈信息和业务的发展,不断总结经验,扩展数据源、不断丰富原型内容完善功能。
(1)数据逻辑架构
图3-3-1 数据逻辑架构图
主要流程说明:
1、生产系统的数据接入数据中间缓存库。
2、数据缓存库抽取数据到大数据平台的数据总线。
3、数据入库到大数据平台的数据仓库。
4、通过模型运算把数据从数据仓库层同步数据事务型或者MPP(即大规模并行
处理[Massively Parallel Processor])层的数据存储。
常见mpp数据库5、风控系统从MPP层或者事务型数据库获取数据。
(2)数据库逻辑结构设计
XXXXXXXX平台依据大数据技术架构进行设计,从上至下依次为业务应用、业务组件、应用引擎、公共服务、支撑平台、主题数据与专题数据等各种数据资源,相关标准规范、安全管理以及运维管理模块贯穿系统。至少应包含有以下几类数据库:
1.用户及权限数据库
在实现指挥XXXXXXXX平台,分角、部门、用户等内容建设用户及权限。
2.基础数据资源库
基础数据资源库应通过抽取整合XXX内部数据形成,其中,手机数据从XXXXXXXX109联合侦查平台抽取,话单数据通过安全边界由XXXXXXXX技侦平台抽取,阵控数据由XXXXXXXX阵地控制管理平台抽取,网吧数据由XXXXXXXX网吧安全管理系统抽取,旅馆数据XXXXXXXX旅馆业治安管理系统抽取,车辆数据由XXXXXXXX交通管理系统抽取,出行数据由XXXXXXXX情报管理系统抽取。数据均通过ETL方式从XXX内网传输到XXXXXXXX平台数据汇聚模块。
根据源数据库的数据结构和存储方式确定数据同步方式,确保基础数据资源库数据与源头数据一致。
3.主题库建设
依据XXX业务特性,按照人、案、物、地、组织重新组织,形成符合XXX 业务特的人员主题库,物品主题库、位置主题库、关系主题库、案件主题库等主题库资源。
(1)人员主题库
通过人员维度的抽象数据模型,在基础资源库上对数据进行了进一步组织及分析,提取并重组形成人员主题库。人员主题库以身份证、护照等唯一标识人员身份的证件为主题类别,按照属性特点划分为基础信息、证件信息、社会经历、物品信息、组织信息等,分别用来表述现实人物的不同特性、特征。
(2)案件主题库
案件主题库以案件中涉及的案件编号、案件名称、案件类型、案情概要、涉案人员、涉案物品、涉案线索、时间等为关键要素,构建与案件相关的案件主题库。
(3)物品主题库
物品主题库主要包含车辆、手机(含SIM卡)、银行卡等物品档案。具体涉及车牌号码、机动车序号、普通物品、其他物品、银行卡号等物品的对象档案库。
(4)位置主题库
位置主题库主要包含位置索引、地理位置信息真实地档案。具体涉及服务场所编码、卡口、网吧、旅店、号BSID、家庭地址、单位地址、地点名称、
城市名称等。
(5)关系主题库
提取并分析各种类型的数据关联关系基础,建立相应的关系主题库,系统建设的关系主题库包括户籍同户关系库、常口同户关系库、居住证同户关系库、手机通话通联关系库、手机短信通联关系库、同事关系库、亲友关系库、同住关系库、火车同行关系库、航班同行关系库、同网吧上网关系库、同旅店住宿关系库、同监关系库等。
(3)数据库部署
XXXXXXXX平台的数据存储在大数据中心机房设备上,由市局大数据中心提供共120T存储空间。
(4)数据安全设计
数据库的安全性将从以下几个方面进行考虑:
1、数据存储安全
每天增量备份数据,每周全量备份数据。
建立同城异地备份机制。在条件允许时,建立远程异地容灾备份机制,提高抗风险能力。
2、数据访问安全
根据不同内容的数据,以及不同级别的用户设置不同的数据访问权限。特定的数据(例如个人住房信息等)只允许经过特别授权的用户进行访问,其他系统的数据根据角不同设置授权,保证数据访问的安全性。
3、数据传输安全
在远程进行数据访问和流程报批的过程中。需要考虑数据远程传输的安全性,将通过数据压缩传输,加密传输等方法和措施,保证数据传输安全性。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论