首页 > 资料专栏 > IT > IT技术 > 数据存储 > 大数据中心建设方案PPT

大数据中心建设方案PPT

资料大小:14363KB(压缩后)
文档格式:PPT(47页)
资料语言:中文版/英文版/日文版
解压密码:m448
更新时间:2024/3/14(发布于湖北)

类型:金牌资料
积分:--
推荐:升级会员

   点此下载 ==>> 点击下载文档


“大数据中心建设方案PPT”第1页图片 图片预览结束,如需查阅完整内容,请下载文档!
文本描述
大数据中心建设方案 总体解决方案 中心总体定位 总体解决方案 总体实施方案 1 中心总体定位 县级政务大数据资源中心 构建PB级大数据采集、存储、计算、挖掘、分析与应用能力 汇聚数据资源 形成数据资产 建立数据应用 建立数据服务 保护数据安全 政务 处理 经济 发展 城市 管理 民生保障…… 公共 安全 县各级政务数据 监控视频数据 物联设备数据 企事业单位数据 互联网数据… 智慧政务 数据检索 数据计算 决策依据 洞察&建议 数据统计、业务分析、风险预警、智能服务、辅助决策 & 兑现数据价值、赋能政务处理、提升治理水平、推动社会发展 总体建设目标 县 级 政 务 大 数 据 资 源 中 心 总体解决方案 县级政务大数据资源中心 AI 图谱技术 大数据 云计算 数据资源 数据计算 管理治理 开发调度 数据模型 计算模型 数据源关联 业务目标 表单样式 计算任务调度 共享开放 整合各类数据资源 连接各类人员 数据管理/开放门户 数据采集 数据安全 总体应用流程 总体实施方案 县级政务大数据资源中心建设项目实施 数据管理 平台建设 数据治理开发运营 平台工具支撑 应用需求推动 利器 工事 建设一套大数据管理与应用平台 以构建一个能持续高效运转的数据治理管理体系为目标 建设县数据湖 开发建设R口与FR基础库 建设市场监管、工业、全民健康、惠民资金监管、农业五大示范应用 平台建设方案 平台总体架构 平台各子平台建设方案 2 平台总体架构 数据治 理管理 元数据 管理 数据标 准管理 数据开 发管理 统一调 度管理 数据质 量管理 数据管理 开放门户 首页 资源目录 资源服务 开放清单 数据开放 统一消息 数据资 产管理 平台架构关系 数据支撑子平台·总体架构 数据支撑子平台·数据范围与存储 数据支撑子平台可承载的县信息资源平台数据湖/库归集的数据范围、种类和存储方式如下: 数据共享交换子平台·总体架构 建全县统一的数据共享交换子平台,形成公共数据采集、交换、共享的核心枢纽,并可打通全县各单位间数据资源共享通道,实现双向信息传递(源数据采集&数据应用共享)互通。 数据交换是整个平台的基础,提供系统业务接口接入、交换前置接入、数据采集、交换传输、数据集成、交换管理等功能服务; 数据交换通过前置交换系统与各交换部门进行互联; 通过数据传输系统各委办的数据资源汇集到数据中心; 对汇集到数据中心的数据进行统一加工、处理,并将经过数据治理后的数据中心中的数据交换到各类基础信息库中; 服务管理系统将各类基础信息库中的数据进行服务封装和服务发布,提供给各委办或决策分析等系统使用。 数据共享交换子平台·技术方案 数据共享交互平台总体架构主要分为基础设施层、数据资源层、支撑层,服务层以及贯穿多层的标准规范体系和安全保障体系。 基础设施层主要是指平台建设运行所需的网络、服务器、存储、安全、虚拟化等基础支撑设施 息资源层就是在资源中心所汇聚、沉淀形成的各类数据资源; 基础支撑层由平台基础支撑软件构成,是平台稳定运行提供服务的基础 交换支撑层是数据资源汇集、处理与服务的核心支撑,通过底层中间件为基础,构建面向上层应用的服务系统 标准规范与运维体系贯穿平台的各个层面,用于规范各部分的建设运行和管理,保障平台的顺利建设实施和正常稳定运行。 数据治理子平台·总体架构 数 据 服 务 数 据 归 集 数据安全管控 数据治理平台覆盖了从标准、设计、采集、开发到使用,再到交付的全数据治理流程,为组织提供了一站式数据治理运营平台,可满足数据共享交换、数据开发、数据运营多种应用场景,并通过构建数据工厂,实现数据治理的标准化、流程化与组件化。 数据治理子平台·功能架构 数据治理平台能够支持多种数据库环境的数据开发功能,实现从数据的采集、加工到数据探索服务的全生命周期管理。并提供数据开发全过程的治理管控能力。 制定配套的数据规范管理流程。包括数据标准的定义、数据标准执行、数据质量检核规则管理、数据质量问题治理、数据模型管理办法、数据交换管理、ETL开发管理规范等工作流程。 数据治理子平台·数据应用开发整体流程 数据治理子平台·可视化、流程化数据开发 数据工厂 支持可视化的程序编排,数据处理流程开发,使程序开发更简便,降低数据开发周期、开发成本; 平台提供数据处理各项能力的开发功能,提供包括数据采集、处理、装载、分发、校验等功能开发 平台具备执行标准的开源 Hadoop 接口调用能力,以及基于个性化 Hadoop 接口封装能力; 根据不同的数据生产环境,具备不同的数据处理能力,可根据自身需求,基于平台扩展自主的数据处理功能 可视化程序开发可结合数据标准化体系,整体数据开发流程与标准化管控切实对接。 数据治理子平台·统一任务调度 以一个流水线生产为例:传统做法是单条生产线依赖产品的生产工序进行协同生产。在统一开发调度平台可以通过控制中心进行作业命令下发,状态收集进行控制,达到多个工厂,多条生产线的协同调度,实现数据从“采集→加工→对外应用服务”的全生命周期管理。 数据治理子平台·数据质量管理 数据质量管理主要包含对数据完整性、准确性、鲜活性、权威性的分析和管理,并对数据进行跟踪、处理和解决,实现对数据质量的全程管理,提高数据的质量。 根据业务需要选择实体表和规则,方案与方案之间相互独立,互不干扰。通过执行模型下的质检方案,可以得到用户关心的数据质量分析结果,如问题数据明细信息、数据质量分析结果等。 平台能够提供质量规则配置、质量监控、问题处理等功能,及时发现并分析数据质量问题,不断改善数据的使用质量,从而提升数据的可用性,挖掘数据更大的价值