一、数仓中为什么要在数据开发过程中强调遵守数仓开发命名规范呢?养成良好的编程习惯写出清楚、易懂、易维护的程序代码提高代码质量与沟通效率减少编码中的不必要的错误二、数仓开发命名规范主要分为以下几个方面(1)数据仓库命名规范(2...
-
hive hadoop 数据库 sql database 数据库架构 数据仓库命名规范详解
-
大数据 数据库架构 hive hadoop 数据仓库核心:揭秘事实表与维度表的角色与区别
文章目录1. 引言2. 基本概念2.1 事实表(Fact Table)2.2 维度表(Dimension Table)3. 两者关系4. 为什么要有做区分5. 写在最后1. 引言前篇我们深入探讨了Hive数据仓库中的表类型,...
-
数据库 dba 运维 数据库架构 MySQL-5.7-to-8.0的主从同步
前言: 本文主要讲述MySQL5.7到MySQL8.0的主从同步配置,MySQL8.0从2016年发布到现在,越来越多的用户将MySQL升级到了8.0版本,升级的方式主要有in-place upgrade,my...
-
数据结构 时序数据库 数据库开发 数据库架构 4 万字全面掌握数据库、数据仓库、数据集市、数据湖、数据中台
如今,随着诸如互联网以及物联网等技术的不断发展,越来越多的数据被生产出来-据统计,每天大约有超过2.5亿亿字节的各种各样数据产生。这些数据需要被存储起来并且能够被方便的分析和利用。随着大数据技术的不断更新和迭代,数据管理工具...
-
计算机视觉 大数据 数据分析 机器学习 分布式 数据库架构 深入OceanBase内部机制:系统架构与组件精讲
码到三十五 :个人主页心中有诗画,指尖舞代码,目光览世界,步履越千山,人间尽值得 !目录1️⃣OceanBase 整体架构1.1 分区1.2 分片1.3 日志流1.4 对等节点1.5 多租户2️⃣OceanBase 架构与组...
-
数据库架构 运维 DBA 第34讲:MySQL中常用的几种存储引擎以及如何选择
文章目录1.MySQL中常用的存储引擎2.InnoDB存储引擎2.1.InnoDB存储引擎的特点2.2.观察InnoDB存储引擎的数据持久化文件2.3.InnoDB存储引擎的逻辑存储结构3.MyISAM存储引擎4.Memor...
-
数据库 大数据 数据库架构 数据库开发 一文带你了解MySQL之Explain执行计划
前言:一条查询语句在经过MySQL查询优化器的各种基于成本和规则的优化会后生成一个所谓的执行计划,这个执行计划展示了接下来具体执行查询的方式,比如多表连接的顺序是什么,对于每个表采用什么访问方法来具体执行查询等等。MySQL...
-
数据库架构 国产集中式数据库综合对比(达梦、人大金仓、海量)
1.达梦 达梦数据库管理系统是达梦公司推出的具有完全自主知识产权的高性能数据库管理系统,简称DM,官网最新版本名称:DM8。 DM8是达梦公司在总结DM系列产品研发与应用经验的基础之上设计的新一代数据库...
-
数据库 数据库架构 数据仓库发展历史与架构演进
从1990年代Bill Inmon提出数据仓库概念后经过四十多的发展,经历了早期的PC时代、互联网时代、移动互联网时代再到当前的云计算时代,但是数据仓库的构建目标基本没有变化,都是为了支持企业或者用户的决策分析,包括运营报...
-
大数据 数据库架构 数据仓库 flink 政务 金融 架构设计方法(4A架构)-业务架构
1、架构的基本概念什么是架构?理解架构定义,以及架构重要性,建立对架构设计的认识。系统架构主要表述了契合一个环境的系统的基本元素及元素之间关系构成的结构集,在环境中体现出来的基本属性,以及设计与演进的原则。架构包括三个部分:...
-
算法 数据仓库 信息与通信 ai 数据库架构 光速连接:探索光模块在现代网络中的创新应用与实践
在当今快速发展的信息时代,光模块作为数据通信和网络构建的基石,其应用场景日益广泛。本文将探讨光模块的主要使用场景,并提供一些基本的使用方法。一、数据中心 数据中心作为信息存储和处理的核心,对数据传输速度和稳定...
-
c语言 linux 服务器 数据库架构 sql database 【手写数据库toadb】toadb表对象访问操作,存储管理抽象层软件架构设计思想应用
21 表文件访问秘密专栏内容:手写数据库toadb 本专栏主要介绍如何从零开发,开发的步骤,以及开发过程中的涉及的原理,遇到的问题等,让大家能跟上并且可以一起开发,让每个需要的人成为参与者。 本专栏会定期更新,对应的代码也...
-
数据库 数据库开发 数据库架构 大数据 一文带你了解MySQL之B+树索引的原理
前言学完前面我们讲解了InnoDB数据页的7个组成部分,知道了各个数据页可以组成一个双向链表,而每个数据页中的记录会按照主键值从小到大的顺序组成一个单向链表,每个数据页都会为存储在它里边儿的记录生成一个页目录,在通过主键查找...
-
数据库架构 图论 大数据组件之图数据库JanusGraph图文介绍
前言大数据时代,面对复杂关联数据的存储与检索需求,图数据库以其强大的关联数据处理能力和直观的图形模型展示,已成为大数据处理领域的一项关键技术。JanusGraph作为一款专门为满足超大规模图数据处理而设计的分布式图数据库系统...
-
linux 大数据 数据库架构 数据库开发 dba postgresql 使用之 存储架构 触摸真实数据的存储结构以及组织形式,存入数据库的数据原来在这里
存储架构专栏内容: postgresql内核源码分析 手写数据库toadb 并发编程 个人主页:我的主页 座右铭:天行健,君子以自强不息;地势坤,君子以厚德载物.概述postgresql 数据库服务运行时,数据在磁盘上是如...
-
数据仓库 数据库架构 计算机三级数据库技术
第一章 数据库应用系统开发方法数据库应用系统生命周期软件工程与软件开发方法瀑布模型 快速原型模型 螺旋模型DBAS生命周期DBAS生命周期:项目规划、需求分析、系统设计、实现与部署、运行与维护规划与分析可行性分析:经济可行性...
-
云计算 数据库架构 数据库管理员 数据库开发 【数据库原理 • 一】数据库系统概念
前言数据库技术是计算机科学技术中发展最快,应用最广的技术之一,它是专门研究如何科学的组织和存储数据,如何高效地获取和处理数据的技术。它已成为各行各业存储数据、管理信息、共享资源和决策支持的最先进,最常用的技术。当前互联网+与...
-
数据仓库 数据库开发 数据库架构 最好用的10款手机库存管理软件,我来教你怎么选
进销存软件作为现在开店的必备工具,为中小商户大大地节省了时间和精力,提高了管理效率和运营效率。然而大家在选择软件时,市面上五花八门,让人眼花缭乱,上百种软件无从下手,试错成本也不低,同时也不了解各种软件的优缺点,是一个令人头...
-
大数据 数据库架构 一文了解数据库vs数据仓库vs数据湖
大家好,我是K&D,一名10年以上大数据架构&研发经验从业者,目前主要从事云原生大数据方向设计,擅长云原生技术、数据架构、数据平台构建、大数据组件性能调优以下是本文目录:什么是数据库? 为什么会有数据仓库? 拆解几个OL...
-
数据库架构 玩客云刷机(保姆级教程)ArmBian+Casaos【升级版-未完成】
近期发现家里的玩客云设备时常访问不了,直到前天彻底登录不进去了,后来搜索发现进入玩客云官网,已经于2月29日停运了。之前就了解过可以把玩客云刷成linux系统或者armbian,这样定制自由度更高一点,起初是...
-
MySQL Workbench 数据库架构 数据库开发 DBS 【MySQL进阶之路丨第六篇】数据库的创建、选择和删除
在上一篇中我们介绍了 MySQL Workbench 的安装与配置; 基于命令行及可视化工具的使用,能够更好地理解MySQL数据库;这一篇我们使用上面两种方式来帮助读者掌握数据库的创建、删除和选择。上一篇链接: 【MySQL...
-
docker 运维 容器 大数据 数据库架构 datahub元数据管理平台从安装到使用一站式指南(未完)
目录一 datahub安装1.1 datahub在线安装1.1.1 docker在线安装1.1.2 python在线安装1.1.3 datahub在线安装并启动1.2 datahub离线安装1.2.1 docker离线安装1...
-
dba b树 数据库架构 分布式关系型数据库里B-TREE和LSM-TREE的性能差别细节
引子 最近一两年里,每次做分布式数据库的内容分享活动时,总是会提及现在数据库的两个重要的存储结构,B-TREE和LSM-TREE。因为,我觉得作为数据库的存储根基,无论是要选型,或者是用好一个数据库,清楚这两的差别和各自特点...
-
数据库 数据库开发 dba sql mysql 数据库架构 选对MongoDB客户端:从初学者到专业级,NineData的全覆盖解决方案
MongoDB 是一种全球范围内流行的开源 NoSQL 数据库,被广泛应用于各种应用程序和业务场景,数据库排名长期高居前五(DB-Engines 统计)。与传统的关系型数据库相比,MongoDB 采用 BSON(Binary...
-
网络 网络协议 udp 系统安全 数据库架构 车载诊断协议UDS——诊断刷写(Software Update)
刷写,顾名思义就是两个动作:刷和写:刷是擦除ECU芯片内存上原有的数据;写是重新在ECU芯片内存上写入新的数据(Application or Calibration Data……); 在控制器量产之初,会将va...
-
mysql oracle sql 解剖“全球最大男性交友网站”,GitHub十五年数据库架构演进
数据库编程大赛:一条SQL计算扑克牌24点 近期,GitHub全面升级到了MySQL 8.0。ITPUB特别邀请了NineData创始人、资深技术专家叶正盛老师,为大家解析GitHub历年数据库架构的发展历程,以及大型网站何...
-
react.js git 数据仓库 数据库架构 免费开发者资源
这是为开发人员提供免费套餐的软件(SaaS、PaaS、IaaS 等)和其他产品的列表。注意:此列表仅适用于即服务产品,不适用于自托管软件。要使一项服务符合条件,它必须提供免费套餐,而不仅仅是免费试用。如果免费套餐有时间限制,...
-
centos 数据库架构 linux PostgreSQL高可用集群
一主两从+haproxy IP地址、端口、版本号根据自身的服务器和要求来改变 架构图 服务器配置 服务器四台 (192.168.0.78 192.168.0.79 192.168.0.80 192.168.0.81 操作系...
-
数据仓库 数据库架构 数据库开发 达梦数据库DM8入门安装,MySQL数据库迁移
达梦数据库DM8安装,MySQL数据库迁移1.下载安装2.使用2.1创建数据库2.2查看数据库表2.3同步mysql数据1.下载安装达梦官网 选择自己需要的版本下载,这里是在win64下安装 下载完成后解压,得到下面的文...
-
数据库架构 数据仓库 mysql数据库的语句
sql语句分类: *DQL:数据查询语言:查询 *DDL:数据定义语音:定义数据库,用于定义表结构 开发人员用的比较多,测试需要了解,记住,面试会问,考试会考 *DML:数据操纵语言:新增、修改、删除字段类型: 整数类型 i...
-
架构 系统架构 硬件架构 数据库架构 一个优秀系统构架师应具备的能力
作为软件开发的设计架构师,那么必须拥有一定的编程技能,同时有高超的学习新的架构设计、程序设计技能。另外,我觉得作为软件架构师,还必须了解一定的硬件、网络、服务器的基本知识。要不然,你都不知道有些什么材料可以用,你...
-
数据仓库 数据库架构 dba etl工程师 数据库开发 《数据库概论》实验(2):交互式SQL--创建表
一、 创建数据库二、创建表 create table Students (Sno char(7 primary key, Sname varchar(10 , Ssex char(2 default '男', Sb...
-
运维 dba 数据库架构 hgdb hac集群重启后所有节点显示Replica,无Leader节点的原因之一
1、瀚高HAC集群重启后,所有节点显示Replica;无法启动主节点 [root@db ~]# /opt/HighGo/tools/hghac/hghactl -c /opt/HighGo/tools/hghac/hghac...
-
database 数据库架构 数据仓库 mysql 星瑞格数据库(SinoDB)应用于边缘计算
前言: 随着5G通信、大数据、物联网、云计算、边缘计算等技术的快速发展,万物互联的智能时代正在加速到来。当前的云计算模型下,所有的数据都通过网络传输到云计算中心进行处理,在需要大量和外界互动的时候会显得僵化,反...
-
java mysql 数据库 数据仓库 数据库架构 Redis的docker搭建
目录一、Redis的docker搭建1.1 容器搜索拉取redis镜像1.1.1 搜索redis镜像1.1.2 拉取redis镜像(通常选择第一个热度最高)1.2 创建容器redis_63791.2.1 创建相关文件夹和文件...
-
数据仓库 数据库架构 dba 数据库开发 建立数据库模型:从业务模型、概念模型到逻辑模型
在上一集中,我们从业务场景出发,定义业务问题后,形成了具体的数据库赋能业务的框架。接下来的这一集,就是把此前的目标,转为数据需求。那如何把业务问题转为数据需求?那就是今天要讨论的数据建模。本文通过黄金思维圈(what-why...
-
数据库 database 数据库架构 齐全且实用的MySQL函数使用大全
目录一、MySQL函数介绍二、MySQL函数分类(一)单行函数①字符串函数②数学函数③日期函数④流程控制函数⑤系统信息函数⑥其他函数(二)聚合函数三、函数使用示例(一)字符函数①length(str 函数②concat(st...
-
物联网 人工智能 数据库架构 数据库开发 数据仓库 利用Thingsboard开发智慧化应用
1 前言近年来,智慧应用市场方兴未艾,诸如:智慧建筑、智慧园区、智慧工厂、智慧城市、智慧市政、智慧交通、智慧水利......等等之类的应用案例比比皆是。可以预期,智慧应用将是企业应用和政务应用市场的潮流趋势。1.1 何谓智慧...
-
big data 数据库架构 数据仓库 dba 数字孪生是现实世界展现,“谁”能保证数据的真实性与安全性呢?
前言元宇宙本质上是对现实世界的虚拟化、数字化过程,需要对内容生产、经济系统、用户体验以及实体世界内容等进行大量改造。数字孪生,则是利用虚实融合的技术,用迭代、进化的方式对从工厂、园区到城市的物理空间进行全面观测,洞察其发展态...
-
数据结构 dba 数据库架构 sql 达梦(DM)数据库逻辑导入导出
简介数据库导出、导入,对于DBA或维护人员是最常用的操作之一,数据迁移、数据备份、数据割接等,均需要使用到数据的导出、导入功能。DM8数据库支持全库、表空间、用户、模式、表级别的逻辑导入和导出。特殊字符登录数据库说明:使用整...
-
数据库架构 数据库开发 数据仓库 市区级大数据资源平台建设方案
市区级大数据资源平台建设方案(获取完整版文档请添加关注并私信沟通! 目录1 总体建设方案概述1.1 项目建设目标1.2 项目建设内容1.2.1 建设数据交换子平台1.2.2 建设数据治理子平台1.2.3 建设数据资源门户1....
-
数据仓库 数据库开发 数据库架构 big data 云计算 最适合烟酒茶业使用的进销存软件,用对了超越同行毫不费力
据秦丝进销存了解到,大部分的烟酒茶业目前还是传统的经销商方式,普遍都存在一些经验管理的痛点。举个例子,老板凭经验和感觉进了很多白酒,但忽略了往年卖白酒的时候滞热销品牌的统计,最终导致出现白酒货物沉积现象,浪费了资金、占用了库...
-
数据库架构 dba 大型系统架构设计-阿里淘宝天猫双十一数据库核心技术介绍
目录零、双十一是什么?一、2013 双十一数据库指导思想1、知己知彼,百战不殆(1)如何做到知己(2)如何做到知彼2、平时多流汗,战时少流血(1)真实环境压测之缓存穿透(2)MetaQueue 消息积压3、决不在同一个地方跌...
-
腾讯T9纯手写基于Mycat中间件的分布式数据库架构笔记
随着移动互联网的兴起和大数据的蓬勃发展,系统的数据量正呈几何倍数增长,系统的压力也越来越大,这时最容易出现的问题就是服务器繁忙,我们可以通过增加服务器及改造系统来缓解压力,然后采用负载均衡、动静分离、缓存系统来提高系统的吞吐...
-
数据分析 数据仓库 数据库架构 【数据治理】数据元、元数据、主数据、参考数据概述
【数据治理】数据元、元数据、主数据、参考数据概述 数据元 什么是数据元: 《GB/T 19488.1 电子政务数据元第1部分:设计和管理规范》 里是这样定义的: 数据元(Data element):又称数据类型,通过定义、...
-
数据仓库 数据库开发 dba 数据库架构 MySQL 03 高级查询(一)
MySQL 03 高级查询(一) 文章目录 MySQL 03 高级查询(一)一、学习目标二、调整数据库的表结构三、修改表四、设置主外键约束五、添加约束 (练习 六、数据操纵语言6.1.DML(Data Manipulat...
-
系统架构 数据库架构 架构之美 | 按图索骥,就能做好架构图!
开宗明义,今天小编分享架构图。 俗话:隔行如隔山。尽管小编以学术研究的精神,一直在研习各种图形的绘制和使用,但今天关于“架构之美”的主题,小编也谦虚的向各位大佬讨教、交流、学习,所以抛砖引玉了。 许多的小伙伴坦言画不好架构图...
-
数据仓库 数据库架构 dba MySQL 05 存储过程
MySQL 05 存储过程 文章目录 MySQL 05 存储过程一、学习目标二、存储过程2.1为什么需要使用存储过程2.2什么是存储过程2.3存储过程的优缺点 三、创建存储过程3.1语法与特性:3.2声明语句分...
-
数据库架构 人工智能 gpt-3 阿里云 敏捷流程 性能优化 学习方法 数据计算任务工具Fluid在AIGC模型推理场景中的优化方案
Fluid的介绍 Fluid是一个在Kubernetes环境中编排数据和使用数据的计算任务的工具。它的编排不仅涉及空间上的优化,还包括时间上的调度。从空间角度看,计算任务会优先被分配到存有缓存数据或靠近缓存的节点上,从而提升...
-
数据库开发 数据库架构 dba LightDB/PostgreSQL的类型系统
类型系统 在LightDB中,支持了丰富的数据类型,函数,操作符,这些功能对类型系统有很大影响。 而LightDB中的操作符等价于函数,并且以重载的方式来实现,在一些场景下,重载函数的选择结果可能会造成用户的困惑。 所以有必...