分布式系统问题之时钟问题

开发 前端 分布式
时钟对应用而言是非常重要的,很多指标可以通过时钟来衡量。比如每秒的请求数量、平均请求时间等等,这些数据是由时间间隔 (Duration) 来表示的。另一类比如文章发表时间、缓存什么时候过期等等,这些是由时间点 (Points in Time) 来表示的。

[[440449]]

本文转载自微信公众号「程序员阿sir」,作者程序员阿sir。转载本文请联系程序员阿sir公众号。

上一篇文章介绍了网络问题。这一篇文章将进一步介绍另一个难题:时2. 时钟问题

2. 时钟问题

时钟对应用而言是非常重要的,很多指标可以通过时钟来衡量。比如每秒的请求数量、平均请求时间等等,这些数据是由时间间隔 (Duration) 来表示的。另一类比如文章发表时间、缓存什么时候过期等等,这些是由时间点 (Points in Time) 来表示的。

在分布式系统中,由于请求都是有网络延迟的,我们也不知道网络延迟有多久,所以在涉及到多个机器,每个机器记了一件事情的发生时间,我们可能不能确定事情的发生顺序,因为网络延迟是不确定的,如果是时间非常相近的事件可能还遇到了时钟问题。

另外由于每个机器都有自己的时钟,这个机器时钟由硬件决定,因此可能存在一定的差别。可以通过网络时间协议 (Network Time Protocal) 来缓解时钟不同步的问题,或通过GPS等服务来获取精确的网络时间。

2.1. 单调时钟和墙上时钟 (Monotonic Versus Time-of-Day Clocks)

现代计算机至少包含两种时钟:墙上时钟 (Wall-clock Time)(就是一般的钟表对应的时钟)、单调时钟。本质上他们都表示时间,但是目的不同。

墙上时钟 (Wall-clock Time)

墙上时钟根据日历返回当前的日期和时间,与我们日常理解的时钟概念一致。比如Java中的System.currentTimeMillis()表示从1970年1月1日以来的毫秒数。

墙上时钟通常使用NTP来进行时钟同步,但是如果本地时钟远远快于NTP服务器可能会跳到不正确的时间点。加上墙上时钟忽略了闰秒,导致它不太适合被用于计算时间间隔 (Elapsed Time)。

单调时钟 (Monotonic Clocks)

单调时钟更适合计算时间间隔 (Duration, Time Interval),比如超时时间或者服务器响应时间。比如Java中的System.nanoTime()返回的就是单调时钟。单调时钟保证时间数字总是变大。

如果NTP检测到本地石英比时间服务器上更快或更慢,NTP会调整本地石英的振动频率。默认情况下,NTP允许改变频率的最大幅度是。但是NTP不会直接调整单调时钟的值。单调时钟的精度很高,通常可以测量微秒级别的时间间隔。

注意单调时钟的值没有意义,比较不同节点上的单调时钟的值也没有意义,因为它们表示的含义和基准可能都不相同。一般情况下单调始终用于测量一段任务的持续时间。

2.2. 时钟同步和准确性 (Clock Synchronization and Accuracy)

单调时钟不需要同步,但是墙上时钟需要根据NTP服务器做出调整。但是墙上时钟和NTP也很可能无法对准,比如由于石英钟本身的震荡漂移 (Drifts)或者NTP同步时的网络延迟等等。数据表明,当通过网络进行时间同步时,误差至少达到35毫秒,最差时的误差甚至超过1秒。另外某些用户可能故意调整本地时钟,设置为错误的日期(比如为了规避游戏的时间检查等等)。因此墙上时钟可能是非常不准确的。

如果一个问题是依赖于时钟同步的,那我们需要考虑如果不同步会对应用带来哪些问题。

比如一个常见的问题是:跨节点的事件排序。如果它高度依赖于时钟同步,就可能导致问题。比如下面的例子:

 

 

另一个使用时钟可能导致问题的例子是:假设数据库每个分区只有一个主节点,只有主节点可以接受写入。那么其他节点该如何确信当前主节点还是主节点呢?一种思路是主节点从其他节点获取一个租约 (Lease),当租约没有超时的时候,则当前节点可以处理请求,否则不可以。伪代码如下:

  1. while (true) { 
  2.     request = getIncomingRequest(); 
  3.  
  4.     // Ensure that the lease always has at least 10 seconds remaining 
  5.     if (lease.expiryTimeMillis - System.currentTimeMillis() < 10000) { 
  6.         lease = lease.renew(); 
  7.     } 
  8.  
  9.     if (lease.isValid()) { 
  10.         process(request); 
  11.     } 

如果当前租约还是有效的,离结束还有13秒,而 lease.isValid()消耗了15秒,这样当 process(request) 开始执行时,租约已经过期了,可能其他节点成为了主节点。这样就导致当前节点不是主节点,但是依然执行了处理写入请求的操作。这就导致了问题。

而这种情况可能是由于进程暂停 (Process Pause)导致的。可能由于很多原因导致进程暂停,比如垃圾回收 (GC)。

总结

分布式系统可能遇到网络问题、时钟问题等。而且分布式系统的关键特点就是部分失效。所以在分布式环境下,我们的目标就是建立一个能够容忍部分失败的软件系统。

为了做到这一点,首先要先能检测错误,这个也不简单,因此分布式算法大多依赖超时来确定服务是否正常。但是超时无法区分是网络问题还是节点故障。如果因为临时的网络原因被误认为是发生了节点故障,就导致这个节点被“冤枉”了,可能造成服务不稳定。

检测到错误之后,系统如何能容忍错误也是一个难题。在分布式环境里,各个节点之间都是通过网络来进行通信的,而网络本身就不可靠。因此单个节点可能不能做出正确的决策,需要多个节点共同投票来进行决策。

参考文献

[1] Kleppmann, Martin. Designing data-intensive applications: The big ideas behind reliable, scalable, and maintainable systems. " O'Reilly Media, Inc.", 2017.

 

责任编辑:武晓燕 来源: 程序员阿sir
相关推荐

2021-12-14 08:19:59

系统分布式网络

2020-02-17 16:05:17

系统演进过程时间问题

2018-08-24 07:03:45

分布式系统数据分片元数据

2022-08-12 18:40:00

分布式

2018-09-29 14:08:04

存储系统分布式

2010-07-26 13:25:11

SQL Server分

2017-06-05 15:51:54

分布式Logical Tim算法

2023-05-29 14:07:00

Zuul网关系统

2023-05-12 08:23:03

分布式系统网络

2016-12-09 09:21:45

分布式系统大数据

2023-10-26 18:10:43

分布式并行技术系统

2017-10-27 08:40:44

分布式存储剪枝系统

2021-05-17 09:32:18

分布式存储问题数据

2023-02-11 00:04:17

分布式系统安全

2018-09-29 14:22:07

存储系统面试

2021-10-26 00:33:00

分布式数据库系统

2017-10-17 08:33:31

存储系统分布式

2021-03-24 08:41:38

Redis 分布式锁序列化

2019-08-05 07:58:01

分布式架构系统

2010-11-01 05:50:46

分布式文件系统
点赞
收藏

51CTO技术栈公众号