阿里云智能接入网关（阿里云 网关）
本文目录一览：
阿里云的主要功能是什么？
《阿里云大学课程（大数据、云计算、云安全、中间件）.zip》百度网盘资源免费下载
链接:
?pwd=4bhs 提取码: 4bhs
大繁至简，首度揭秘阿里云飞天洛神系统
摘要： 洛神是阿里云飞天中负责虚拟网络的系统，她为阿里云客户提供了丰富的网络产品，如VPC、SLB等。同时，她也是ECS，RDS，OSS，NAS等100多个云产品的网络基础设施。她还支撑了阿里巴巴集团和蚂蚁金服集团众多业务，如电商、支付、物流等。
“最好的网络就像神一样，无处不在，又感知不到她的存在 …… 大繁至简，这是我们努力的方向。” – 阿里云网络高级技术专家 孙成浩
2018杭州·云栖大会的主会场上，阿里云产品总监何云飞介绍了阿里云自主研发的云操作系统飞天的全面升级版飞天2.0。作为飞天2.0核心组成部分之一，洛神首次向外界揭开了她神秘的面纱。在随后的未来网络技术专场上，阿里云网络高级技术专家孙成浩对飞天洛神进行了更为详细的阐述。本文是首次对飞天洛神的概念、演进、架构、特点等方面进行系统化的解读。
什么是飞天洛神
从物理网络到用户感知到的网络之间存在一个虚拟网络层。在阿里云，我们给这套虚拟网络系统起了个名字，叫做洛神。洛神是阿里云飞天中负责虚拟网络的系统，她为阿里云客户提供了丰富的网络产品，如VPC、SLB等。同时，她也是ECS，RDS，OSS，NAS等100多个云产品的网络基础设施。她还支撑了阿里巴巴集团和蚂蚁金服集团众多业务，如电商、支付、物流等。在全球范围内，洛神服务着百行百业超过百万的用户。在双十一、世界杯、春运等互联网流量的尖峰时刻，为每一个消费者的流畅网络体验而默默保驾护航。
很多人都知道阿里云有一个飞天（Apsara）系统，系统中各组件是用各种神的名字命名的，包括盘古，伏羲，女娲，神农等，其中盘古是分布式文件系统，伏羲是分布式调度系统。为什么叫虚拟网络系统叫洛神呢？在古代，河运是非常重要的交通手段，就好比今天的网络一样。因此，在给虚拟网络系统起名的时候，我们就起了一个河神的名字，叫洛神。
飞天洛神的架构
洛神是阿里云的分布式操作系统飞天的一部分。在飞天的基础架构里面，最上层是各种云产品，包括大家熟悉的云产品RDS，ECS，VPC，SLB等等，支撑这些是飞天的3个基础组件，包括存储系统盘古，资源管理伏羲和网络管理洛神。也就是说，洛神除了支撑了阿里云的网络云产品之外，另外一个重要的角色就是支撑了其他云产品的网络基础设施。
讲到洛神的技术架构，洛神系统由3大模块组成
– 数据平面，控制平面和管理平面。
数据平面负责云网络中数据包的处理，它就如同物理世界中的网线和路由交换设备，把数据包高效率低延迟的从发送端送到目的地。类似的，洛神数据平面也包含各种不同角色的组件，包括支持各种不同类型计算形态的虚拟交换机，用于数据中心互连的DCN网关，用于云网络连接公网的internet网关，用于云上云下互连的混合云网关，提供负载均衡能力的负载均衡网关和提供端接入能力的智能接入网关。为了提高这些组件的转发性能，洛神不仅使用了软转发的技术，而且也对软硬件结合甚至纯硬件的技术进行了广泛应用。
控制平面则控制如何处理数据包，他是洛神的业务大脑。从技术上看，洛神的控制平面是一个层次性的分布式控制系统，最底层的设备控制器主要负责控制和管理数据平面的各种组件，同时在每个区域存在一个虚拟网络控制器，在全局存在一个全球路由控制器。区域的虚拟网络控制器则负责本区域的云网络的管理与调度, 全局路由控制器则负责协调调度各个区域的资源形成一张全球的云网络。基于虚拟网络控制器和全局路由控制器之上的则是NFV控制器，完成虚拟网络高级功能例如VPN等产品的编排和抽象。
洛神的管理平面是网络运维和运营的中枢，它管理着海量的网元以及用户，这里的海量指的是千万级虚拟机和百万级网元。为了能做到这一点，洛神的管理平台是基于大数据以及机器学习技术实现的，它对网络运行当中产生的海量数据进行实时/离线计算，数据建模，来驱动网络资源的提前规划，网络系统的日常维护以及网络产品的智能运营。整个管理平面包括了一套高性能，分布式的数据分析系统，由它分析出来的数据提供给智能运维和智能运营系统，完成资源规划，网络建设，系统变更，实时监控，故障逃逸，产品运营等整个网络产品生命周期的工作。最终达到排无人值守的网络变更，先于用户的问题发现，高效简单的故障逃逸以及丰富全面的产品及用户运营的效果。
飞天洛神的技术演进之路
洛神能够成为飞天的四大支柱之一，不是一天炼成的。洛神的演进经历了四个阶段。
首先是经典网络阶段，在这个阶段，网络只有一个概念，就是公网带宽。经典网络阶段的问题是用户无法自定义网络拓扑，这样使得用户无法完成云上云下的混合云联通。为了解决这个问题，洛神进入了VPC阶段，VPC阶段里，洛神在每个地域虚拟了数百万张网络，并且用户可以完全自定义这张网络。随着网络规模越来越大，洛神也从区域网络进入到全球网络的阶段，在这个阶段，洛神主要解决如何更好的管理超大规模网络的问题，云企业网和云连接网构成了第三代洛神的两个主要特性。
满足了主要的客户的需求之后，我们开始思考如何进一步提升用户体验。用户对网络的核心诉求是什么？其实，客户的最大诉求是网络足够强健可靠，不要发生问题。就像使用水和电一样，用户是不需要了解发电站和泵站在哪里的。因此，洛神希望网络对用户是无感知的，又是无处不在的。洛神的发展，是一个从0到1，到100，再回到0的演进过程，大繁至简，这是我们在研发下一代洛神中努力的方向，这也是我们首先在业界提出Networkless理念背后的思考。
飞天洛神的特点
洛神的关键特点，包含安全，弹性和可靠，这3个特性也是洛神达到最终Networkless状态的关键特征。
安全是基本盘，因为overlay技术把网络逻辑的隔离掉，用户的网络之前完全不会互通。并且洛神中还包含了各种加密服务可以给到用户，打造更深层次的的安全。弹性有两个数字，一个是秒级的转发性能的弹性，洛神支持从1MB到1TB在一秒内完成弹性，另一个是规模的弹性，洛神的单网络支持10w台计算节点的规模。这样，洛神既可以支持小到虚拟web主机这样的服务，也可以支持打到双11零点这样的海量峰值流量。谈到可靠性，我们参考年平均故障时间这个参数，洛神引发的单实例故障时间只有50ms，这个故障时间是极其短的。
关键设计
接下来我们详细分析下洛神弹性和可靠性的关键设计。洛神系统的数据面，本身就是一台巨大的交换机。大家都知道，交换机的转发芯片对数据包的处理，都是pipeline的，硬件处理永远不会停下来，那洛神的数据面也是如此。从一个数据包进入洛神系统开始，到出去洛神系统的整个过程，经历了洛神系统里面的各个组件，都是不会被打断的，这样只处理一件事情的数据面，一定是高效的。洛神的数据面包含了软硬件结合的转发技术和架构。此外，洛神系统的网络永远不会因为维护而中断，这意味着，洛神里面的所有组件，都支持热升级。
在可靠性角度上看，多机房容灾是高可用的基础。当阿里云的某一个数据中心云机房开始部署的时候，洛神系统在物理设施部署完成之后会首先进行部署。这个时候，机房里面有计算集群，网关和控制平台。计算集群上面有我们的虚拟交换机组件。对于数据面和控制面的关键结点都是集群部署的，单台服务结点的问题不会对用户产生任何的影响。当vm的宿主机出现宕机等严重问题的时候，可以在机房范围内进行迁移，迁移本身也不会对vm的网络属性和连通性产生任何的影响。每个云机房里面都会部署集群的网关和控制器结点，而且随着机房的增多，会自动在云机房里面形成环形的备份关系。当一个新的机房建设起来，洛神系统部署之后，会自动加入到这个备份链里面。这样，当某一个机房的关键结点由于异常出现问题的时候，都可以自动在秒级切换到备份机房，由备份机房的洛神系统来提供服务。这种多层次容灾机制，保证用户可以在很快的时间内恢复业务。
除了多机房容灾之外，如何快速发现bug和快速恢复，是可靠性的另一个关键点。为了解决这个问题，洛神首先设计了基于流的染色系统。如果把洛神系统看成一个整体的交换机，那么从特性上来看，洛神系统是一个支持流跟踪的交换机，具有各种丰富的策略。洛神系统的下面是物理网络的设备和交换机，通过洛神系统的流标记的能力和设定的策略，可以同时在物理网络和虚拟网络里面具备流的染色，特定报文的镜像，采样，跟踪等的能力。这些动作产生的日志，都会通过采集后做实时计算，如果流量有异常，会产生报警和日志给到管理员，部分报警可以触发故障的自动处理和恢复。还有一部分数据经过计算处理，会产生数据报表和用户画像，也可以给到用户一张炫酷的大屏。这个本质上就是数据化的能力。
结束语
飞天洛神的使命是让网络更简单。大家都知道AWS提出了Serverless的概念，和Serverless类似，洛神以Networkless的理念作为设计目标，我们希望用户不再去关心网络拓扑，网络带宽，网络地址这些专业技术，让用户感知不到网络的存在。Networkless首先是通过不断的提高弹性和网络的可靠性来达到的，除此之外的关键特性就是NAAS化，让用户只关心网络通，而不需要去关心网络各种组件。
智能网关是什么东西
智能网关是一个类似于反向代理的服务器，通过对智能网关进行不同的规则组合配置，可赋予其实现不同的业务能力。
智能网关作为控制整个智能家居系统的核心部件，往往内置物联网操作系统，配置也是设置在里面。把控制信号传输给其他传感器，包括其他终端。网关的设计主要是好看，能够更方便地融入整个家居以及装饰。
智能网关实现的功能
感知网络接入的能力。智能网关首先是具有对各节点属性、状态等信息的获取功能，即可以感知各节点的实时状态。其次是具有对节点的远程控制、唤醒、诊断等功能。
异构网络的互通能力。智能网关接入必然存在跨域通信的要求，因此需要完善的寻址技术，以确保所有节点的信息都能被准确地进行定位和查询。
通讯与数据格式标准化。智能网关须实现传感网络到传统通信网络的协议转换，将协议适配层上传输的标准格式数据进行统一封装，将广域接入层下发的数据解包成标准格式数据，实现命令的解析，之后转换为感知层协议可以识别的信号和控制指令。
感知网络接入的能力。智能网关首先是具有对各节点属性、状态等信息的获取功能，即可以感知各节点的实时状态。其次是具有对节点的远程控制、唤醒、诊断等功能。2)异构网络的互通能力。智能网关接入必然存在跨域通信的要求，因此需要完善的寻址技术，以确保所有节点的信息都能被准确地进行定位和查询。3)通讯与数据格式标准化。智能网关须实现传感网络到传统通信网络的协议转换，将协议适配层上传输的标准格式数据进行统一封装，将广域接入层下发的数据解包成标准格式数据，实现命令的解析，之后转换为感知层协议可以识别的信号和控制指令。
阿里云专有网络VPC自建NAT网关
在阿里云中购买服务器，可以免费自建专有网络VPC，就可以将购买的服务器放在一个网段中，成为互通的内网，加快内网中服务器的访问速度。但是专有网络中不是每一台服务器都有公网IP和带宽的，在访问服务器时，我们可以通过nginx，负载均衡等来实现对内网服务器的访问。但反过来，内网服务器要访问外网，就需要有NAT网关，但是阿里云的NAT网关是需要额外花钱购买共享带宽的，也就是专有网络中的服务器可以用购买的共享带宽来上网。但是，这要钱啊！
在我们已经购买了公网IP和带宽的情况下，就可以利用现有的公网ip和带宽，在专有网络内，自建NAT网关，实现专有网络内所有服务器的上网。
注意：在阿里云的传统网络中，是不支持自建NAT网关的。只有在专有网络VPC中，才可以，但是VPC是免费创建的！免费！ 很好，都不要钱。
下面我们就记录介绍一下如何在阿里云的的VPC中，自建NAT网关，实现上网。另外，别的云服务，方法类似，可以借鉴参考。
进入专有网络VPC中，进入路由表，进入路由表管理界面，选择添加路由条目
按如下配置新添加的路由条目，选择有公网IP和带宽的ECS实例作为下一跳。
下面进入你刚才作为下一跳的ECS实例，按照如下进行操作配置
至此自建NAT网关成功，实现了内网主机通过这台机进行上网，而反向的访问，就可以使用nginx的反向代理进行实现
API网关从入门到放弃
假设你正在开发一个电商网站，那么这里会涉及到很多后端的微服务，比如会员、商品、推荐服务等等。
那么这里就会遇到一个问题，APP/Browser怎么去访问这些后端的服务? 如果业务比较简单的话，可以给每个业务都分配一个独立的域名()，但这种方式会有几个问题:
更好的方式是采用API网关，实现一个API网关接管所有的入口流量，类似Nginx的作用，将所有用户的请求转发给后端的服务器，但网关做的不仅仅只是简单的转发，也会针对流量做一些扩展，比如鉴权、限流、权限、熔断、协议转换、错误码统一、缓存、日志、监控、告警等，这样将通用的逻辑抽出来，由网关统一去做，业务方也能够更专注于业务逻辑，提升迭代的效率。
通过引入API网关，客户端只需要与API网关交互，而不用与各个业务方的接口分别通讯，但多引入一个组件就多引入了一个潜在的故障点，因此要实现一个高性能、稳定的网关，也会涉及到很多点。
API 注册
业务方如何接入网关?一般来说有几种方式。
协议转换
内部的API可能是由很多种不同的协议实现的，比如HTTP、Dubbo、GRPC等，但对于用户来说其中很多都不是很友好，或者根本没法对外暴露，比如Dubbo服务，因此需要在网关层做一次协议转换，将用户的HTTP协议请求，在网关层转换成底层对应的协议，比如HTTP - Dubbo, 但这里需要注意很多问题，比如参数类型，如果类型搞错了，导致转换出问题，而日志又不够详细的话，问题会很难定位。
服务发现
网关作为流量的入口，负责请求的转发，但首先需要知道转发给谁，如何寻址，这里有几种方式:
服务调用
网关由于对接很多种不同的协议，因此可能需要实现很多种调用方式，比如HTTP、Dubbo等，基于性能原因，最好都采用异步的方式，而Http、Dubbo都是支持异步的，比如apache就提供了基于NIO实现的异步HTTP客户端。
因为网关会涉及到很多异步调用，比如拦截器、HTTP客户端、dubbo、redis等，因此需要考虑下异步调用的方式，如果基于回调或者future的话，代码嵌套会很深，可读性很差，可以参考zuul和spring cloud gateway的方案，基于响应式进行改造。
优雅下线
性能
网关作为所有流量的入口，性能是重中之重，早期大部分网关都是基于同步阻塞模型构建的，比如Zuul 1.x。但这种同步的模型我们都知道，每个请求/连接都会占用一个线程，而线程在JVM中是一个很重的资源，比如Tomcat默认就是200个线程，如果网关隔离没有做好的话，当发生网络延迟、FullGC、第三方服务慢等情况造成上游服务延迟时，线程池很容易会被打满，造成新的请求被拒绝，但这个时候其实线程都阻塞在IO上，系统的资源被没有得到充分的利用。另外一点，容易受网络、磁盘IO等延迟影响。需要谨慎设置超时时间，如果设置不当，且服务隔离做的不是很完善的话，网关很容易被一个慢接口拖垮。
而异步化的方式则完全不同，通常情况下一个CPU核启动一个线程即可处理所有的请求、响应。一个请求的生命周期不再固定于一个线程，而是会分成不同的阶段交由不同的线程池处理，系统的资源能够得到更充分的利用。而且因为线程不再被某一个连接独占，一个连接所占用的系统资源也会低得多，只是一个文件描述符加上几个监听器等，而在阻塞模型中，每条连接都会独占一个线程，而线程是一个非常重的资源。对于上游服务的延迟情况，也能够得到很大的缓解，因为在阻塞模型中，慢请求会独占一个线程资源，而异步化之后，因为单条连接所占用的资源变的非常低，系统可以同时处理大量的请求。
如果是JVM平台，Zuul 2、Spring Cloud gateway等都是不错的异步网关选型，另外也可以基于Netty、Spring Boot2.x的webflux、vert.x或者servlet3.1的异步支持进行自研。
缓存
对于一些幂等的get请求，可以在网关层面根据业务方指定的缓存头做一层缓存，存储到Redis等二级缓存中，这样一些重复的请求，可以在网关层直接处理，而不用打到业务线，降低业务方的压力，另外如果业务方节点挂掉，网关也能够返回自身的缓存。
限流
限流对于每个业务组件来说，可以说都是一个必须的组件，如果限流做不好的话，当请求量突增时，很容易导致业务方的服务挂掉，比如双11、双12等大促时，接口的请求量是平时的数倍，如果没有评估好容量，又没有做限流的话，很容易服务整个不可用，因此需要根据业务方接口的处理能力，做好限流策略，相信大家都见过淘宝、百度抢红包时的降级页面。
因此一定要在接入层做好限流策略，对于非核心接口可以直接将降级掉，保障核心服务的可用性，对于核心接口，需要根据压测时得到的接口容量，制定对应的限流策略。限流又分为几种:
稳定性是网关非常重要的一环，监控、告警需要做的很完善才可以，比如接口调用量、响应时间、异常、错误码、成功率等相关的监控告警，还有线程池相关的一些，比如活跃线程数、队列积压等，还有些系统层面的，比如CPU、内存、FullGC这些基本的。
网关是所有服务的入口，对于网关的稳定性的要求相对于其他服务会更高，最好能够一直稳定的运行，尽量少重启，但当新增功能、或者加日志排查问题时，不可避免的需要重新发布，因此可以参考zuul的方式，将所有的核心功能都基于不同的拦截器实现，拦截器的代码采用Groovy编写，存储到数据库中，支持动态加载、编译、运行，这样在出了问题的时候能够第一时间定位并解决，并且如果网关需要开发新功能，只需要增加新的拦截器，并动态添加到网关即可，不需要重新发布。
熔断降级
熔断机制也是非常重要的一项。若某一个服务挂掉、接口响应严重超时等发生，则可能整个网关都被一个接口拖垮，因此需要增加熔断降级，当发生特定异常的时候，对接口降级由网关直接返回，可以基于Hystrix或者Resilience4j实现。
日志
由于所有的请求都是由网关处理的，因此日志也需要相对比较完善，比如接口的耗时、请求方式、请求IP、请求参数、响应参数(注意脱敏)等，另外由于可能涉及到很多微服务，因此需要提供一个统一的traceId方便关联所有的日志，可以将这个traceId置于响应头中，方便排查问题。
隔离
比如线程池、http连接池、redis等应用层面的隔离，另外也可以根据业务场景，将核心业务部署带单独的网关集群，与其他非核心业务隔离开。
网关管控平台
这块也是非常重要的一环，需要考虑好整个流程的用户体验，比如接入到网关的这个流程，能不能尽量简化、智能，比如如果是dubbo接口，我们可以通过到git仓库中获取源码、解析对应的类、方法，从而实现自动填充，尽量帮用户减少操作；另外接口一般是从测试-预发-线上，如果每次都要填写一遍表单会非常麻烦，我们能不能自动把这个事情做掉，另外如果网关部署到了多个可用区、甚至不同的国家，那这个时候，我们还需要接口数据同步功能，不然用户需要到每个后台都操作一遍，非常麻烦。
这块个人的建议是直接参考阿里云、aws等提供的网关服务即可，功能非常全面。
其他
其他还有些需要考虑到的点，比如接口mock，文档生成、sdk代码生成、错误码统一、服务治理相关的等，这里就不累述了。
目前的网关还是中心化的架构，所有的请求都需要走一次网关，因此当大促或者流量突增时，网关可能会成为性能的瓶颈，而且当网关接入的大量接口的时候，做好流量评估也不是一项容易的工作，每次大促前都需要跟业务方一起针对接口做压测，评估出大致的容量，并对网关进行扩容，而且网关是所有流量的入口，所有的请求都是由网关处理，要想准确的评估出容量很复杂。可以参考目前比较流行的ServiceMesh，采用去中心化的方案，将网关的逻辑下沉到sidecar中，
sidecar和应用部署到同一个节点，并接管应用流入、流出的流量，这样大促时，只需要对相关的业务压测，并针对性扩容即可，另外升级也会更平滑，中心化的网关，即使灰度发布，但是理论上所有业务方的流量都会流入到新版本的网关，如果出了问题，会影响到所有的业务，但这种去中心化的方式，可以先针对非核心业务升级，观察一段时间没问题后，再全量推上线。另外ServiceMesh的方案，对于多语言支持也更友好。
发表评论
暂时没有评论，来抢沙发吧~