创建交互式云图
文章目录
创建交互式云图
作者Wolfram Hempel(@Wolframhempel)
为新手和非技术人员扩展网络应用程序

本指南总结了扩展的基本原则-从一个服务器扩展到一个能够为数百万用户服务的Web应用程序。它是针对在技术领域工作的新手和非开发人员的,所以如果您刚刚部署了您的多云-Terraform-VPN-设置,那么这个就不适合您了。
不过,对其他人来说:让我们开始吧!
缩放.哇?
你刚刚完成了你的网站,在线商店,社交网络或者其他你正在做的事情,把它放到网上,一切都进行得很好:每天有几百名访问者经过你的网站,请求得到迅速的回应,订单被立即处理,一切都进行得很顺利。
但后来发生了可怕的事情:你成功了!
越来越多的用户涌入,成千上万,每小时,每分钟,每秒钟.对于你的企业来说,什么是好消息,对你的基础设施来说是坏消息;因为现在,它需要扩展。这意味着它需要能够:
- 同时为更多的顾客服务
- 随时可用,不停机
- 为世界各地的用户服务
缩放是如何工作的?
几年前,这篇文章首先讨论了“垂直”与“横向”的缩放(也称为“放大”与“扩展”)。简而言之,垂直缩放意味着在功能更强大的计算机上运行相同的东西,而水平缩放则意味着并行运行许多进程。
今天,几乎没有人再升级/垂直扩展了。原因很简单:
- 计算机功能越强大,价格就越贵。
- 一台计算机的速度只能如此之快,对垂直可伸缩的范围设置了严格的限制。
- 多核CPU意味着即使是一台计算机也是有效并行的,那么为什么不从一开始就并行化呢?
好的,水平缩放!但是,所需的步骤是什么呢?
1.单一服务器+数据库

这可能是您的后端最初的样子。运行业务逻辑的单个应用程序服务器和存储长期数据的数据库。事情是美好和简单的,但唯一的办法,这一设置,以满足更高的需求是运行在一个更强大的计算机-不好。
2.添加反向代理

准备更大规模的体系结构的第一步是添加一个“反向代理”。把它想象成旅馆的接待处。当然,你可以让客人直接去他们的房间-但实际上,你想要的是一个中介,检查一个客人是否被允许进入,她所有的文件都整理好了,并且正在去一个真正存在的房间的路上。如果一个房间被关闭,你希望有人用友好的声音告诉客人,而不是让他们陷入困境。这正是反向代理所做的。一般来说,代理只是一个接收和转发请求的过程。通常,这些请求会从我们的服务器发送到互联网。然而,这一次,请求来自互联网,需要路由到我们的服务器,因此我们称之为“反向代理”。
这样的代理完成了许多任务:
- 健康检查确保我们的实际服务器仍然处于正常运行状态。
- 选路将请求转发到正确的端点。
- 认证确保实际允许用户访问服务器。
- 防火墙确保用户只能访问我们网络中允许使用的部分.还有更多
3.引入负载均衡器

大多数“反向代理”还有一个窍门:它们也可以充当负载平衡器。负载均衡器是一个简单的概念:想象有100个用户准备在给定的一分钟内在您的在线商店中付款。不幸的是,您的支付服务器只能在同一时间处理50个付款。解决办法?您只需一次运行两个支付服务器。
负载均衡器现在的工作是在这两个服务器之间分割传入的支付请求。用户一向左,用户二右,用户三左,依此类推。
如果有五百个用户想一次付费,你会怎么做?准确地说,您可以扩展到10个支付服务器,并让负载均衡器在它们之间分配传入的请求。
4.建立数据库

Multiple Database Instances 通过使用负载均衡器,我们可以在多台服务器之间分配负载。但你能发现问题吗?虽然我们可以使用数十台、数百台甚至数千台服务器来处理我们的请求,但它们都存储和检索来自同一个数据库的数据。
所以我们就不能用同样的方式缩放数据库吗?不幸的是没有。这里的问题是一致性。我们系统的所有部分都需要就他们正在使用的数据达成一致。不一致的数据会导致各种各样的问题-多次执行订单,从持有100美元的账户中扣除两笔90美元的付款,等等…那么,我们如何在确保一致性的同时扩大数据库呢?
我们能做的第一件事就是把它分成多个部分。一个部分专门负责接收和存储数据,所有其他部分负责检索存储的数据。此解决方案有时称为主/从安装或使用读-副本写入。假设服务器从数据库读取的次数比写入数据库的次数要多。这个解决方案的好处是保证了一致性,因为数据只被写入到单个实例,并且从一个方向流到了从写到读。缺点是我们仍然只有一个数据库实例可以写入。对于中小型网络项目来说,这是可以的,但是如果你运行Facebook,它就不行了。我们将在第9章中进一步研究扩展DB的步骤。
5.微型服务

到目前为止,我们只处理了一台服务器,它完成了所有工作:处理付款、订单、库存、服务网站、管理用户帐户等等。
这并不一定是一件坏事-单台服务器意味着更低的复杂度,从而减少了开发人员的麻烦。但随着规模的扩大,事情开始变得复杂和低效:
- 我们服务器的不同部分在不同程度上被使用-对于每一个用户登录,可能有几百个页面查看和要服务的资产,但是所有这些都是由同一台服务器完成的
- 我们的开发团队随着我们的应用程序的发展而增长,但是随着更多的开发人员在同一台服务器上工作,他们更有可能踩到对方的脚尖。
- 只有一台服务器意味着,每当我们想要使用一个新版本时,所有的事情都必须完成并清理干净。当一个团队快速地想要发布一个更新时,这会导致危险的相互依赖关系,但是另一个团队的工作只完成了一半。
解决这些挑战的解决方案是一种架构范例,它已经使开发世界风起云涌:Microservices。这个想法很简单-将服务器分解成功能单元,并将它们作为单独的、相互连接的微型服务器部署。这有若干好处:
- 每项服务都可以按比例进行调整,使我们能够更好地适应需求。
- 开发团队可以独立工作,每个团队负责自己的微服务生命周期(创建、部署、更新等)。
- 每个微服务都可以使用自己的资源,例如它自己的数据库,进一步减少了4中描述的问题。
6.缓存和内容传递网络

还有什么比更有效率的工作更好呢?根本不用工作!我们的web应用程序的很大一部分由静态资产组成,如图像、javascript和CSS文件、某些产品的预渲染登陆页等永不改变的部分。与其在每个请求中重新计算或重新服务这些资产,我们还可以使用一个“缓存”-一个简单地记住最后结果并将其分发给每个感兴趣的人的小型商店,而不会打扰底层服务器。
缓存的大兄弟被称为“内容传送网络”(ContentDeliverNetwork),简称为CDN-世界各地都有大量的缓存。这样,我们就可以从离他们很近的商店向用户提供内容服务,而不是每次都把我们的数据传送到全球各地。
7.消息队列

你去过游乐园吗?你刚才是走到售票处去买票吗?很可能不是-很有可能你最后成了排队等候的人。政府机构、邮局和游乐园入口都是一个被称为“分容量并行”概念的很好的例子-是的,它们是平行的:多个售票亭同时出售门票-但似乎永远不足以立即为每个人提供服务,因此,排队开始形成。
同样的概念也适用于大型网络应用程序。每分钟都有数十万张图片上传到Instagram、Facebook和Co,每一张都需要处理、调整大小、分析和标记-这是一个耗时的过程。所以,不要让用户等到上传完成所有这些步骤。接收映像的服务器只做三件事:
- 它存储未经处理的原始图像。
- 它向用户确认上传。
- 它将一个虚拟的粘条添加到一个大的堆中,指定需要做什么。
从这里开始,这张便条将被任意数量的其他服务器接收,每个服务器都在完成它的一项任务,标记它并把它放回堆里-直到我们的待办事项列表完成为止。管理这堆笔记的系统称为“消息队列”。使用这样的队列有许多优点:
- 它分离任务和处理器。有时需要处理很多图像,有时只需要处理几个。有时候有很多处理器可用,有时只是几个而已。通过简单地向待办事项中添加任务,而不是直接处理它们,我们可以确保我们的系统保持响应性,并且不会丢失任务。
- 它允许我们按需扩展规模。启动更多的处理器需要时间-所以当很多用户尝试上传图像时,已经太晚了。通过将任务添加到队列中,我们可以推迟提供额外能力来处理任务的需要。
好的,如果我们遵循以上所有步骤,我们的系统现在已经准备好为相当数量的流量服务。但是,如果我们想做大的话,我们能做什么-真的很大?好吧,还有几个选择:
8.切分,切分

什么是切分?好吧,深呼吸。准备好了吗?下面是:
分片是一种通过将应用程序的堆栈划分为多个单元并行化的技术,每个单元负责某个键或名称空间
那究竟是什么意思呢?它实际上非常简单:需要为20亿用户提供Facebook个人资料?将您的架构分解为例如26个迷你Facebook,每个Facebook都为不同字母的用户提供服务。亚伦亚伯拉罕?堆栈A. Zacharias Zuckerberg将为您提供服务吗?堆栈Z它是......
切分不必基于字母,而是可以基于任意数量的因素,例如位置、使用频率(超级用户被路由到好的硬件)等等。您可以通过这种方式分割服务器、数据库或堆栈的几乎任何方面,这取决于您的需要。
9.负载平衡器

一个负载均衡器只能让你达到目前为止-即使你开始购买一些功能非常强大(而且非常昂贵)的硬件负载均衡器,它们能处理多少请求也有很大的限制。
幸运的是,有一个全球性,分散且非常稳定的层,可用于在流量到达我们的负载平衡器之前对流量进行负载平衡。最棒的是什么?这是完全免费的。该层是“域名系统” - 或简称DNS。全球注册表将域名(如“arcentry.com”)映射到IP,例如“143.204.47.77”。此注册表允许我们为每个域名指定多个IP,每个IP都会导致不同的负载均衡器。
唉,这可真够多的。谢谢你陪我这么久。我希望这篇博文对你有帮助。但是-如果你在任何与IT相关的领域工作,在阅读这篇文章的过程中,你的胸口可能会有一个问题:“云服务呢?”
云计算/无服务器
但是云服务呢?现在是2018年,对于上述许多问题,最便宜、最有效的解决方案是非常清楚的:
根本不要解决它们。
相反,让云提供商为您提供一个只需根据您的需求进行扩展的系统,而不必担心其复杂之处。
例如,Arcentry没有做上述任何事情(除了它的DB的写/读拆分),而只是将它留给AmazonWeb Service的Lambda函数来运行它的逻辑-没有服务器,没有麻烦。
但是云并不是你简单打开的东西,你所有的问题都解决了-它有它自己的一套挑战和权衡。请继续关注本系列的下一篇文章,以了解更多关于“面向新手和非技术人员的云”的内容。

评论
登录后参与技术讨论,分享你的经验与见解。
登录 / 注册暂无评论