Nacos或者Config是怎么实现配置热刷新的?

开发 前端
文中大致介绍实现技术的关键点,以及如何模仿造个简易轮子(造轮子很重要,只有自己想着造轮子,才会问出很多原理问题),具体源码细节,请拿着文中的关键词自行google,然后跟着debug即可。
本文转载自微信公众号「Java大厂面试官」,作者laker。转载本文请联系Java大厂面试官公众号。 laker  
  • 前言
  • 问题1. 如何实现配置热刷新
    • 1. @RefreshScope原理
    • 2. ContextRefresher.refresh()
    • 3. RefreshScope.refreshAll()
    • 4. 模拟造轮子
  • 问题2. Nacos客户端如何实时监听到Nacos服务端配置更新了
    • 1. Apollo 实现方式
    • 2. 什么是DeferredResult
    • 3. 模拟造轮子
  • 总结

前言

文中大致介绍实现技术的关键点,以及如何模仿造个简易轮子(造轮子很重要,只有自己想着造轮子,才会问出很多原理问题),具体源码细节,请拿着文中的关键词自行google,然后跟着debug即可。

问题1. 如何实现配置热刷新重点 Nacos原理:

  • 1.在需要热刷新的Bean上使用Spring Cloud原生注解 @RefreshScope
  • 2.当有配置更新的时候调用contextRefresher.refresh()

代码如下:

  1. @RestController 
  2. @RequestMapping("/config"
  3. @RefreshScope // 重点 
  4. public class ConfigController { 
  5.     @Value("${laker.name}") // 待刷新的属性 
  6.     private String lakerName; 
  7.     @RequestMapping("/get"
  8.     public String get() { 
  9.         return lakerName; 
  10.     } 
  11.  ... 

1. @RefreshScope原理

@RefreshScope位于spring-cloud-context,源码注释如下:

可将@Bean定义放入org.springframework.cloud.context.scope.refresh.RefreshScope中。用这种方式注解的Bean可以在运行时刷新,并且使用它们的任何组件都将在下一个方法调用前获得一个新实例,该实例将完全初始化并注入所有依赖项。

要清楚RefreshScope,先要了解Scope

Scope(org.springframework.beans.factory.config.Scope)是Spring 2.0开始就有的核心的概念

RefreshScope(org.springframework.cloud.context.scope.refresh), 即@Scope("refresh")是spring cloud提供的一种特殊的scope实现,用来实现配置、实例热加载。

类似的有:

  • RequestScope:是从当前web request中获取实例的实例
  • SessionScope:是从Session中获取实例的实例
  • ThreadScope:是从ThreadLocal中获取的实例

RefreshScope是从内建缓存中获取的。

2. ContextRefresher.refresh()

当有配置更新的时候,触发ContextRefresher.refresh

RefreshScope 刷新过程

入口在ContextRefresher.refresh

  1. public synchronized Set<String> refresh() { 
  2. ①  Map<String, Object> before = extract(this.context.getEnvironment().getPropertySources()); 
  3. ②  updateEnvironment(); 
  4. ④  Set<String> keys = changes(before, ③extract(this.context.getEnvironment().getPropertySources())).keySet(); 
  5. ⑤  this.context.publishEvent(new EnvironmentChangeEvent(this.context, keys)); 
  6. ⑥       this.scope.refreshAll(); 

①提取标准参数(SYSTEM,JNDI,SERVLET)之外所有参数变量

②把原来的Environment里的参数放到一个新建的Spring Context容器下重新加载,完事之后关闭新容器(重点:可以去debug跟踪下,实际上是重启了个SpringApplication)

③提起更新过的参数(排除标准参数)

④比较出变更项

⑤发布环境变更事件

⑥RefreshScope用新的环境参数重新生成Bean,重新生成的过程很简单,清除refreshscope缓存幷销毁Bean,下次就会重新从BeanFactory获取一个新的实例(该实例使用新的配置)

3. RefreshScope.refreshAll()

RefreshScope.refreshAll方法实现,即上面的第⑥步调用:

  1. public void refreshAll() { 
  2.   super.destroy(); 
  3.   this.context.publishEvent(new RefreshScopeRefreshedEvent()); 

RefreshScope类中有一个成员变量 cache,用于缓存所有已经生成的 Bean,在调用 get 方法时尝试从缓存加载,如果没有的话就生成一个新对象放入缓存,并通过 getBean 初始化其对应的 Bean:

  1. public Object get(String name, ObjectFactory<?> objectFactory) { 
  2.  BeanLifecycleWrapper value = this.cache.put(name, new BeanLifecycleWrapper(name, objectFactory)); 
  3.  this.locks.putIfAbsent(name, new ReentrantReadWriteLock()); 
  4.  try { 
  5.   return value.getBean(); 
  6.  } 
  7.  catch (RuntimeException e) { 
  8.   this.errors.put(name, e); 
  9.   throw e; 
  10.  } 

所以在销毁时只需要将整个缓存清空,下次获取对象时自然就可以重新生成新的对象,也就自然绑定了新的属性:

  1. public void destroy() { 
  2.  List<Throwable> errors = new ArrayList<Throwable>(); 
  3.  Collection<BeanLifecycleWrapper> wrappers = this.cache.clear(); 
  4.  for (BeanLifecycleWrapper wrapper : wrappers) { 
  5.   try { 
  6.    Lock lock = this.locks.get(wrapper.getName()).writeLock(); 
  7.    lock.lock(); 
  8.    try { 
  9.     wrapper.destroy(); 
  10.    } 
  11.    finally { 
  12.     lock.unlock(); 
  13.    } 
  14.   } 
  15.   catch (RuntimeException e) { 
  16.    errors.add(e); 
  17.   } 
  18.  } 
  19.  if (!errors.isEmpty()) { 
  20.   throw wrapIfNecessary(errors.get(0)); 
  21.  } 
  22.  this.errors.clear(); 

清空缓存后,下次访问对象时就会重新创建新的对象并放入缓存了。

而在清空缓存后,它还会发出一个 RefreshScopeRefreshedEvent 事件,在某些 Spring Cloud 的组件中会监听这个事件并作出一些反馈。

4. 模拟造轮子

这里我们就可以模拟造个热更新的轮子了;

代码以及配置如下:

  • 项目依赖spring-cloud-context
  1. <dependency> 
  2.   <groupId>org.springframework.cloud</groupId> 
  3.   <artifactId>spring-cloud-context</artifactId> 
  4. </dependency> 
  • 配置bean
  1. @Component 
  2. @RefreshScope 
  3. public class User { 
  4.     @Value("${laker.name}"
  5.     private String name
  6.     ... 
  • 刷新接口以及查看接口
  1. @RestController 
  2. @RequestMapping("/config"
  3. public class ConfigController { 
  4.     @Autowired 
  5.     User user
  6.     @Autowired 
  7.     ContextRefresher contextRefresher; 
  8.     @RequestMapping("/get"
  9.     public String get() { 
  10.         return user.getName(); 
  11.     } 
  12.     @RequestMapping("/refresh"
  13.     public String[] refresh() { 
  14.         Set<String> keys = contextRefresher.refresh(); 
  15.         return keys.toArray(new String[keys.size()]); 
  16.     } 
  • application.yml
  1. laker: 
  2.   name: laker 

操作流程如下:

1.浏览器http://localhost:8080/config/get - 浏览器结果:laker

2.修改application.yml里面内容为:

  1. laker: 
  2.   name: lakerupdate 

3.浏览器http://localhost:8080/config/refresh - 浏览器结果:laker.name

4.浏览器http://localhost:8080/config/get - 浏览器结果:lakerupdate(未重新启动,实现了配置更新)

问题2. Nacos客户端如何实时监听到Nacos服务端配置更新了

这里可以去看下Nacos源码,使用的是长轮询,什么是长轮询以及其其他替代协议?

  • RocketMQ
  • Nacos
  • Apollo
  • Kafka

自己花了几个小时去看Nacos长轮询源码,太多了不太好理解,有兴趣的自行google。一般我们都是基于Spring Boot的后台了,各种google后,发现Apollo实现较为简单,所以直接拿Apollo的代码借鉴。

1. Apollo 实现方式

实现方式如下:

  1. 客户端会发起一个Http请求到Config Service的notifications/v2接口,也就是NotificationControllerV2,参见RemoteConfigLongPollService
  2. NotificationControllerV2不会立即返回结果,而是通过Spring DeferredResult把请求挂起
  3. 如果在60秒内没有该客户端关心的配置发布,那么会返回Http状态码304给客户端
  4. 如果有该客户端关心的配置发布,NotificationControllerV2会调用DeferredResult的setResult方法,传入有配置变化的namespace信息,同时该请求会立即返回。客户端从返回的结果中获取到配置变化的namespace后,会立即请求Config Service获取该namespace的最新配置。

解读下:

  • 关键词DeferredResult,使用这个特性来实现长轮询
  • 超时返回的时候,是返回的状态码Http Code 304

释义:自从上次请求后,请求的网页未修改过。服务器返回此响应时,不会返回网页内容,进而节省带宽和开销。

2. 什么是DeferredResult

异步支持是在Servlet 3.0中引入的,简单来说,它允许在请求接收器线程之外的另一个线程中处理HTTP请求。

从Spring 3.2开始可用的DeferredResult有助于将长时间运行的计算从http-worker线程卸载到单独的线程。

尽管另一个线程将占用一些资源来进行计算,但不会阻止工作线程,并且可以处理传入的客户端请求。

异步请求处理模型非常有用,因为它有助于在高负载期间很好地扩展应用程序,尤其是对于IO密集型操作。

DeferredResult是对异步Servlet的封装

具体可以参考我在CSDN写的Spring Boot 使用DeferredResult实现长轮询

这里借助互联网上的一个图就更清晰些。

Servlet异步流程图

 

接收到request请求之后,由tomcat工作线程从HttpServletRequest中获得一个异步上下文AsyncContext对象,然后由tomcat工作线程把AsyncContext对象传递给业务处理线程,同时tomcat工作线程归还到工作线程池,这一步就是异步开始。在业务处理线程中完成业务逻辑的处理,生成response返回给客户端。

3. 模拟造轮子

这里我们通过使用 Spring Boot 来简单的模拟一下如何通过 Spring Boot DeferredResult 来实现长轮询服务推送的。

代码如下,仅供参考:

  1. /** 
  2.  * 模拟Config Service通知客户端的长轮询实现原理 
  3.  */ 
  4. @RestController 
  5. @RequestMapping("/config"
  6. public class LakerConfigController { 
  7.     private final Logger logger = LoggerFactory.getLogger(this.getClass()); 
  8.     //guava中的Multimap,多值map,对map的增强,一个key可以保持多个value 
  9.     private Multimap<String, DeferredResult<String>> watchRequests = Multimaps.synchronizedSetMultimap(HashMultimap.create()); 
  10.     /** 
  11.      * 模拟长轮询 
  12.      */ 
  13.     @RequestMapping(value = "/get/{dataId}"
  14.     public DeferredResult<String> watch(@PathVariable("dataId") String dataId) { 
  15.         logger.info("Request received"); 
  16.         ResponseEntity<String> 
  17.                 NOT_MODIFIED_RESPONSE = new ResponseEntity<>(HttpStatus.NOT_MODIFIED); 
  18.         // 超时时间30s 返回 304 状态码告诉客户端当前命名空间的配置文件并没有更新 
  19.         DeferredResult<String> deferredResult = new DeferredResult<>(30 * 1000L, NOT_MODIFIED_RESPONSE); 
  20.         //当deferredResult完成时(不论是超时还是异常还是正常完成),移除watchRequests中相应的watch key 
  21.         deferredResult.onCompletion(() -> { 
  22.             logger.info("remove key:" + dataId); 
  23.             watchRequests.remove(dataId, deferredResult); 
  24.         }); 
  25.         deferredResult.onTimeout(() -> { 
  26.             logger.info("onTimeout()"); 
  27.         }); 
  28.         watchRequests.put(dataId, deferredResult); 
  29.         logger.info("Servlet thread released"); 
  30.         return deferredResult; 
  31.     } 
  32.     /** 
  33.      * 模拟发布配置 
  34.      */ 
  35.     @RequestMapping(value = "/update/{dataId}"
  36.     public Object publishConfig(@PathVariable("dataId") String dataId) { 
  37.         if (watchRequests.containsKey(dataId)) { 
  38.             Collection<DeferredResult<String>> deferredResults = watchRequests.get(dataId); 
  39.             Long time = System.currentTimeMillis(); 
  40.             //通知所有watch这个namespace变更的长轮训配置变更结果 
  41.             for (DeferredResult<String> deferredResult : deferredResults) { 
  42.                 //deferredResult一旦执行了setResult()方法,就说明DeferredResult正常完成了,会立即把结果返回给客户端 
  43.                 deferredResult.setResult(dataId + " changed:" + time); 
  44.             } 
  45.         } 
  46.         return "success"
  47.     } 

操作流程如下:

为了简便我用浏览器模拟,实际用Java Http Client,例如:okhttp、Apache http client等

正常流程:

  • client1浏览器http://localhost:8080/config/get/laker,阻塞中ing
  • client2浏览器http://localhost:8080/config/update/laker,返回success
  • client1浏览器http://localhost:8080/config/get/laker,返回laker changed:1611022736865

超时流程:

  • client1浏览器http://localhost:8080/config/get/laker,阻塞中ing
  • 30s后
  • client1浏览器,返回http code 304

在这里插入图片描述

 

总结

  • Nacos使用长轮询解决了实时监听远端配置变更
  • Nacos使用spring-cloud-context的@RefreshScope和ContextRefresher.refresh实现了配置热刷新

参考:

 

  • https://ctripcorp.github.io/apollo/#/zh/README
  • https://blog.csdn.net/liuccc1/article/details/87002916
  • https://blog.csdn.net/wangxindong11/article/details/78591396
  • https://blog.csdn.net/u012410733/article/details/107119457
  • https://www.cnblogs.com/javastack/p/12049139.html

 

责任编辑:武晓燕 来源: Java大厂面试官
相关推荐

2022-06-15 16:35:02

配置共享Nacos

2021-09-22 05:55:18

Eslint disble算法

2023-09-12 13:12:23

服务器系统

2023-02-12 21:47:47

NacosRabbitMQ消费者

2021-07-02 22:23:50

Nacos配置模型

2022-11-21 10:49:29

Nacos配置加密

2021-08-30 22:38:47

VscodeMarkdown预览

2009-02-17 18:52:06

网络虚拟化路由系统数据中心

2021-06-29 07:04:38

Nacos服务配置

2021-08-03 08:35:36

Vuex数据热更新

2022-06-13 09:58:06

NacosSpring

2021-08-09 07:58:36

Nacos 服务注册源码分析

2021-06-10 06:57:39

Nacos配置模块

2012-03-28 22:16:54

苹果

2021-08-23 06:59:22

Nacos负载均衡客户端

2023-07-26 08:25:02

2014-07-31 10:10:53

全息影像手机数码

2024-01-15 08:08:27

2023-11-23 19:30:35

Python编程语言

2021-09-07 09:18:18

Kubernetes负载均衡服务发现
点赞
收藏

51CTO技术栈公众号