数据层:分库、分表、NoSQL 等;常用算法 Hash,一致性 Hash。

8、可扩展架构

可以方便地进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性:

模块化,组件化:高内聚,低耦合,提高复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。 设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。 消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。 分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。

9、安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。在此我向大家推荐一个架构学习交流圈。交流学习「企鹅」「君羊」号:948368769 里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化、分布式架构等这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多

比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。

以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。

安全问题不容忽视,包括基础设施安全,应用系统安全,数据保密安全等:

基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。

防范病毒,后门。设置防火墙策略,建立 DDOS 防御系统,使用攻击检测系统,进行子网隔离等手段。

应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。

防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML 注释,文件上传,路径遍历等。

还可以使用 Web 应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

数据保密安全:存储安全(存储在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改)。

常用的加解密算法(单项散列加密[MD5、SHA],对称加密[DES、3DES、RC]),非对称加密[RSA]等。

10、敏捷性

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。

二、大型架构举例

以上采用七层逻辑架构:

客户层:支持 PC 浏览器和手机 App。差别是手机 App 可以直接通过IP访问,反向代理服务器。 前端层:使用 DNS 负载均衡,CDN 本地加速以及反向代理服务。 应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等。 服务层:提供公用服务,比如用户服务,订单服务,支付服务等。 数据层:支持关系型数据库集群(支持读写分离),NOSQL 集群,分布式文件系统集群;以及分布式 Cache。 大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和 NOSQL 数据库的结构化和半结构化数据收集。 大数据处理层:通过 Mapreduce 进行离线数据分析或 Storm 实时数据分析,并将处理后的数据存入关系型数据库。

实际使用中,离线数据和实时数据会按照业务要求进行分类处理,并存入不同的数据库中,供应用层和服务层使用。

1、大型电商网站系统架构演变过程

一个成熟的大型网站(如淘宝、天猫、腾讯等)的系统架构并不是一开始设计时就具备完整的高性能、高可用、高伸缩等特性的,它是随着用户量的增加,业务功能的扩展逐渐演变完善的。

在这个过程中,开发模式、技术架构、设计思想也发生了很大的变化,就连技术人员也从几个人发展到一个部门甚至一条产品线。

所以成熟的系统架构是随着业务的扩展而逐步完善的,并不是一蹴而就;不同业务特征的系统,会有各自的侧重点。

例如淘宝,要解决海量的商品信息的搜索、下单、支付;例如腾讯,要解决数亿用户的实时消息传输;百度要处理海量的搜索请求。

他们都有各自的业务特性,系统架构也有所不同。尽管如此,我们也可以从这些不同的网站背景中,找出其中共用的技术。

这些技术和手段广泛运用在大型网站系统的架构中,下面就通过介绍大型网站系统的演化过程,来认识这些技术和手段。

(1)最开始的网站架构

最初的架构,应用程序、数据库、文件都部署在一台服务器上。

(2)应用、数据、文件分离

随着业务的扩展,一台服务器已经不能满足性能需求,所以将应用程序、数据库、文件各自部署在独立的服务器上,并且根据服务器的用途配置不同的硬件,达到最佳的性能效果。

(3)利用缓存改善网站性能

在硬件优化性能的同时,也通过软件进行性能优化,在大部分的网站系统中,都会利用缓存技术改善系统的性能。

使用缓存主要源于热点数据的存在,大部分网站访问都遵循 28 原则(即 80% 的访问请求,最终落在 20% 的数据上),所以我们可以对热点数据进行缓存,减少这些数据的访问路径,提高用户体验。

缓存实现常见的方式是本地缓存、分布式缓存。当然还有 CDN、反向代理等。

本地缓存,顾名思义是将数据缓存在应用服务器本地,可以存在内存中,也可以存在文件,OSCache 就是常用的本地缓存组件。

本地缓存的特点是速度快,但因为本地空间有限所以缓存数据量也有限。

分布式缓存的特点是,可以缓存海量的数据,并且扩展非常容易,在门户类网站中常常被使用,速度按道理没有本地缓存快,常用的分布式缓存是 Memcached、Redis。

使用集群改善应用服务器性能

应用服务器作为网站的入口,会承担大量的请求,我们往往通过应用服务器集群来分担请求数。

应用服务器前面部署负载均衡服务器调度用户请求,根据分发策略将请求分发到多个应用服务器节点。

常用的负载均衡技术硬件的有 F5,价格比较贵,软件的有 LVS、Nginx、HAProxy。

LVS 是四层负载均衡,根据目标地址和端口选择内部服务器,Nginx 和 HAProxy 是七层负载均衡,可以根据报文内容选择内部服务器。

因此 LVS 分发路径优于 Nginx 和 HAProxy,性能要高些;而 Nginx 和 HAProxy 则更具配置性,如可以用来做动静分离(根据请求报文特征,选择静态资源服务器还是应用服务器)。

2、数据库读写分离和分库分表

随着用户量的增加,数据库成为最大的瓶颈。改善数据库性能常用的手段是进行读写分离以及分库分表,读写分离顾名思义就是将数据库分为读库和写库,通过主备功能实现数据同步。

分库分表则分为水平切分和垂直切分,水平切分是对一个数据库特大的表进行拆分,例如用户表。

垂直切分则是根据业务的不同来切分,如用户业务、商品业务相关的表放在不同的数据库中。

3、使用 CDN 和反向代理提高网站性能

假如我们的服务器都部署在成都的机房,对于四川的用户来说访问是较快的,而对于北京的用户访问是较慢的。

这是由于四川和北京分别属于电信和联通的不同发达地区,北京用户访问需要通过互联路由器经过较长的路径才能访问到成都的服务器,返回路径也一样,所以数据传输时间比较长。

对于这种情况,常常使用 CDN 解决,CDN 将数据内容缓存到运营商的机房,用户访问时先从最近的运营商获取数据,这样大大减少了网络访问的路径。比较专业的 CDN 运营商有蓝汛、网宿。在此我向大家推荐一个架构学习交流圈。交流学习「企鹅」「君羊」号:948368769 里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化、分布式架构等这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多

而反向代理,则是部署在网站的机房,当用户请求达到时首先访问反向代理服务器,反向代理服务器将缓存的数据返回给用户。

如果没有缓存数据才会继续访问应用服务器获取,这样做减少了获取数据的成本。反向代理有 Squid、Nginx。

4、使用分布式文件系统

用户一天天增加,业务量越来越大,产生的文件越来越多,单台的文件服务器已经不能满足需求,这时就需要分布式文件系统的支撑。常用的分布式文件系统有 GFS、HDFS、TFS。

5、使用 NoSQL 和搜索引擎

对于海量数据的查询和分析,我们使用 NoSQL 数据库加上搜索引擎可以达到更好的性能。并不是所有的数据都要放在关系型数据中。

常用的 NoSQL 有 MongoDB、HBase、Redis,搜索引擎有 Lucene、Solr、Elasticsearch。

6、将应用服务器进行业务拆分

随着业务进一步扩展,应用程序变得非常臃肿,这时我们需要将应用程序进行业务拆分,如百度分为新闻、网页、图片等业务。

每个业务应用负责相对独立的业务运作。业务之间通过消息进行通信或者共享数据库来实现。

7、搭建分布式服务

这时我们发现各个业务应用都会使用到一些基本的业务服务,例如用户服务、订单服务、支付服务、安全服务,这些服务是支撑各业务应用的基本要素。

我们将这些服务抽取出来利用分步式服务框架搭建分布式服务。阿里的 Dubbo 是一个不错的选择。

三、电商项目

1、大型电商网站架构案例

采用电商案例的原因

分布式大型网站,目前看主要有几类:

大型门户,比如网易,新浪等。 SNS 网站,比如校内,开心网等。 电商网站,比如阿里巴巴,京东商城,国美在线,汽车之家等。

大型门户一般是新闻类信息,可以使用 CDN,静态化等方式优化,开心网等交互性比较多,可能会引入更多的 NoSQL,分布式缓存,使用高性能的通信框架等。

电商网站具备以上两类的特点,比如产品详情可以采用 CDN,静态化,交互性高的需要采用 NoSQL 等技术。因此,我们采用电商网站作为案例,进行分析。

2、电商网站需求

客户需求:

建立一个全品类的电子商务网站(B2C),用户可以在线购买商品,可以在线支付,也可以货到付款。 用户购买时可以在线与客服沟通。 用户收到商品后,可以给商品打分,评价。 目前有成熟的进销存系统;需要与网站对接。 希望能够支持 3~5 年,业务的发展。 预计 3~5 年,用户数达到 1000 万。 定期举办双 11、双 12、三八男人节等活动。 其他的功能参考京东或国美在线等网站。

客户就是客户,不会告诉你具体要什么,只会告诉你他想要什么,我们很多时候要引导,挖掘客户的需求。好在提供了明确的参考网站。在此我向大家推荐一个架构学习交流圈。交流学习企鹅「君羊」号:948368769 里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化、分布式架构等这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多

因此,下一步要进行大量的分析,结合行业,以及参考网站,给客户提供方案。

3、需求功能矩阵

这是需求管理传统的做法,会使用用例图或模块图(需求列表)进行需求的描述。

这样做常常忽视掉一个很重要的需求(非功能需求),因此推荐大家使用需求功能矩阵,进行需求描述。

本电商网站的需求矩阵如下:

4、网站初级架构

一般网站,刚开始的做法,是三台服务器,一台部署应用,一台部署数据库,一台部署 NFS 文件系统。

这是前几年比较传统的做法,之前见到一个网站 10 万多会员,垂直服装设计门户,N 多图片。

使用了一台服务器部署了应用,数据库以及图片存储。出现了很多性能问题,如下图:

但是,目前主流的网站架构已经发生了翻天覆地的变化。一般都会采用集群的方式,进行高可用设计。

至少是上面这个样子:

使用集群对应用服务器进行冗余,实现高可用。(负载均衡设备可与应用一块部署) 使用数据库主备模式,实现数据备份和高可用。

5、系统容量预估

预估步骤:

注册用户数-日均 UV 量-每日的 PV 量-每天的并发量。 峰值预估:平常量的 2~3 倍。 根据并发量(并发,事务数),存储容量计算系统容量。

根据客户需求:3~5 年用户数达到 1000 万注册用户,可以做每秒并发数预估:

每天的 UV 为 200 万(二八原则)。 每日每天点击浏览 30 次。 PV 量:200*30=6000 万。 集中访问量:24*0.2=4.8 小时会有 6000 万*0.8=4800 万(二八原则)。 每分并发量:4.8*60=288 分钟,每分钟访问 4800/288=16.7 万(约等于)。 每秒并发量:16.7万/60=2780(约等于)。 假设:高峰期为平常值的三倍,则每秒的并发数可以达到 8340 次。 1 毫秒=1.3 次访问。

6、服务器预估:(以 Tomcat 服务器举例)

按一台 Web 服务器,支持每秒 300 个并发计算。平常需要 10 台服务器(约等于);[tomcat 默认配置是 150],高峰期需要 30 台服务器。

小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数初中级Java工程师,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新Java开发全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注Java)

服务器(约等于);[tomcat 默认配置是 150],高峰期需要 30 台服务器。

小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数初中级Java工程师,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新Java开发全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。 [外链图片转存中…(img-QTXDmNTg-1710902082184)] [外链图片转存中…(img-RZfX9ebK-1710902082185)] [外链图片转存中…(img-bTZOMzCY-1710902082186)]

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注Java) [外链图片转存中…(img-aQrFoEhU-1710902082186)]

好文阅读

评论可见,请评论后查看内容,谢谢!!!
 您阅读本篇文章共花了: