|
|
|
|
移动端

一份关于系统语言的经验报告

最近,系统语言社区出现了很多混乱。我们有“Rust”福音派的传教,促使我们把所有的东西都用Rust重写。我们有C++17派,他们承诺C++有现代编程语言的安全性和易用性又有c的性能。然后还有一大堆众多处于长尾的“系统”编程语言,比如Nim、Reason/OCaml、Crystal、Go和Pony。

作者:佚名来源:开源中国编译|2018-07-29 15:33

技术沙龙 | 邀您于8月25日与国美/AWS/转转三位专家共同探讨小程序电商实战

最近,系统语言社区出现了很多混乱。我们有“Rust”福音派的传教,促使我们把所有的东西都用Rust重写。我们有C++17派,他们承诺C++有现代编程语言的安全性和易用性又有c的性能。然后还有一大堆众多处于长尾的“系统”编程语言,比如Nim、Reason/OCaml、Crystal、Go和Pony。

就我个人而言,我非常兴奋,我们在编程语言理论领域看到了一些有趣的工作。这让我很兴奋地了解到那里的情况。我解决的很多问题通常都是用C语言中解决的。最近,Go语言已经开始蚕食C的领地。我喜欢C和Go一样多——他们是很好的语言。很多时候,他们留下了很多值得期待的东西,也让我很羡慕那些使用Flow、Typescript和Dialyzer等语言的程序员,他们有那么多工具。在使用Erlang的开发过程中,即使是它的类型系统很基础,函数式编程对我来说也很容易。

一份关于系统语言的经验报告

什么是系统语言?

让我们稍微回顾一下。 什么是系统语言? 那么,我认为这取决于你在什么位置,以及你问的是谁。 一般来说,我会建议系统语言的定义是一种可以用来实现系统运行的组件语言。

例如,对于JavaScript程序员来说,他们的代码运行在V8和Spidermonkey之上,并将C ++作为他们选择的系统语言。 大多数情况下,程序员不需要担心它们下面的内容。 一个Javascript程序员不需要知道V8是如何工作的,他们也不需要阅读V8代码。

同样,Java程序员必须了解JVM的运行时行为,但在OpenJDK之上,实现语言是不相关的。 即使这些生态系统已经相当成熟,但当计算机出现故障时,总会有人需要了解系统下面发生了什么。

大多数时候,用系统编程语言编写的东西很少能提供直接的商业价值,但却是构建底层基础架构以提供商业价值的基础。 他们是一个必须要付出的代价,对于大多数组织来说,投资他们主要就是成本,因为他们的使用不是产品成功的核心。

系统对他人而言

在服务器端运行的是一套很复杂的系统集合。应用程序与业务逻辑经常使用Javascript、Python、Ruby,Elixir、Java或是用Express、Flask、Sinatra、Phoenix、Dropwizard等自定义工具包来写。这些框架总是依赖于系统后台很少孤立运行,比如说和数据库、数据管道、负载平衡器或是高速缓存。

从应用程序开发者的角度来看,数据库,RPC 库,负载平衡器和高速缓存只是另一个架构的一块。从根本上讲,这个基础架构由各种系统组件构成。我们看到它的组件由各种语言写就的。例如:数据库已经有不同语言写的,像用Java 写的Cassandra、C++ 写的MongoDB、Erlang 写的CouchDB和Riak、C 写的Postgresql还有Go 写的CockroachDB。数据管道也实现了,例如基于Java 写的Kafka和Spark或是基于C++ 的Heron。高速缓存很大程度上是C的领域(Redis和Memcache)。

很多项目利用多年发展的共享架构的影响,像LevelDB / RocksDB (C++) 这样的遍地开花,SQLite 几乎在任何系统上能够运行。

什么支撑着这座大山?

最后,几乎所有这些系统都依赖于我们操作系统的 Userland 和 Linux 核心。多数仍然使用 Userland 的 Linux 发行版在很大程度上是由 C 语言编写。虽然 GNU C 拥有数量大得难以致信的扩展,提供了形式化内存模型、线程局部变量等各种能力,但 C 就是 C。目前已经存在使用 Go、Rust 和 Nim 来编写 Userland 的尝试,但这些项目都还没有广泛应用。

最后,几乎所有人都在Linux 内核中运行软件。Linux 核心是 C 编写的,而且并没有很好的理由来转向 C++。也存在一些其它语言编写的内核,比如 Fuschia 和 MirageOS,但它们都还没有成熟到可以应用于生产环境。

逃离C

我不愿看到我在不同的语言中总是选择C来编写一个非常简单的用户实用程序。目前Go已经在很大程度上取代了我使用C的习惯。选择Go与其说出于我的喜好,不如说出自它的务实。 我得到了内存管理,大量的构建工具和更简单的语言。 我失去了泛型、宏,以及对我所做的事情的洞察力。

用例

我试图编写一个程序来完成工作上的小事。 这是一个POSIX信号帮手。 实际上,它是容器的入口点,负责在容器终止期间调用关闭脚本。 它将运行那些注定会运行到终止的服务,因此,出于程序员的错误或机器故障或由于外部信号才会导致这些服务终止。

通常,我们想要在关机前做一些事情。 时而是把我们从服务搜索中注销,时而是在关闭后保存一些应用程序的状态。 几乎所有的传统PID 1具有这种功能,但是将诸如systemd之类的东西放入容器中是不起作用的。

一份关于系统语言的经验报告

大部分工作仅是在系统调用,像fork、exec、sigmask、wait4和sigtimedwait。事实上它们在容器里运行,这就意味着我们不能凭借大量运行时间或是一组可用共享库。我们最多能依赖libc.so.6。

评估

我试图写出这一堆语言的评估。在大多数情况下,这就是一个错误的开始,并且这种语言不能满足我对技能的需求。为了尽早解决这件糟糕的事情,我最终妥协了,在Go上编写代码。即使与Go很接近,它仍然很尴尬。由于fork/exec通过os/exec进行管理,因此不能简单地在不破坏exec的情况下开始监听主goroutine中收到的所有信号。

Nim

Nim从一开始就是一个错误。我需要在独立的进程组中运行代码,而不是信号包装器,因此当进程组获得信号时。如果您手动执行fork/exec过程并且调用setpgid,则可以“手动”执行此操作。

更大的问题是信号处理器的安全性。信号处理程序的安全性在Nim中没有很好的定义,并且存在一个开放的Github 问题。运行时似乎需要独立的信号处理进程。

一般来说,它看起来像一个整洁的语言,我真的希望它发展壮大。在指定和类型上也存在尴尬。我最喜欢这门语言的地方是它可以编译到多个后端,并且可以探索中间层状态。

Pony

Pony仍处于起步阶段。我没有真正使用它的原始用例。我一定会找出语言所缺失的功能。

有了这个说法,这个语言本身就非常有趣。它是一种简单的语言,带有一个简单的工具链。 “构建工具”(ponyc)“正常工作”。它也产生一个小的二进制文件,它具有最小的依赖性。

这就是说,这也是一个错误的开始。首先,没有程序退出,没有办法只听信号。我向Pony团队提交了一个PR,并且他们合并在这个功能中。

另一个问题是fork和exec进程的机制并不适合我的需求。它没有能力在文件描述符周围进行随机排列,也没有能力在fork之后运行诸如setpgid之类的东西。

好处在于,核心Pony代码非常简单,所以我开始讽刺ASIO子系统开始启用这些功能。考虑到它的运行时间有多简单,它不需要太多工作就可以让Pony完成这项任务,但我没有时间和精力去编写RFC。

围绕这个问题的复杂性很多是这样,尽管我可能会开始撞击FFI,并粘上一些位,但我失去了语言的很多好处。这个语言有一个概念,在我看来PLT首先是“能力安全”的概念,但在进一步的理解中,它是一个非常强大的工具。我认为它解决了C ++社区所面临的一个大问题,即使你编写了很好的代码,你带入的库也可以像YOLO一样编写。

Pony的团队也有一个伟大的哲学。他们明确关心程序员的生产力。

Pony哲学

  • 本着理查德加布里埃尔的精神,Pony哲学既不是“正确的事物”,也不是“更糟糕或更好的”。而是“完成东西”。

正确性

  • 错误是不允许的。如果你无法保证结果是正确的,那么尝试完成任务是毫无意义的。

性能

  • 运行速度比正确性更重要。如果性能必须牺牲正确性,试着想出一种新的方式来做事。程序可以让东西做得越快,效果就越好。除了一个正确的结果,这比任何事都重要。

简单

  • 简单性可以牺牲性能。接口比实现更简单更重要。程序员做得越快,效果就越好。为了提高性能,让程序员的工作变得更加困难是可以的,但更重要的是让程序员更容易,而不是让语言/运行时更容易。

[节选]

Reason (OCaml)

我曾尝试使用OCaml上Facebook风格的Reason编写此功能。在此列表上看到一个函数式编程语言真是太棒了。在写这篇文章时,Reason主要针对前端开发人员,而不是他们称之为的“原生”开发人员。

Reason是OCaml的原因是什么呢 – Reason实际上就是他们所声称的“Transpiler”,并依靠OCaml来完成繁重的搬移。这意味着我们拥有了20年的OCaml传统和工具集。这几乎包括opam软件包库中的所有内容。

没有人告诉我的是OCaml的运行时不能同时完成两件事。它有一个Python风格的GIL。它仅在2015年推出了多核支持。

大致的实现如下,其中部分省略,因为它们嵌入到内部系统中了。

  1. open Unix; 
  2. open Printf; 
  3. open Sys; 
  4. open ExtUnix.All
  5. open Thread; 
  6. open CCBlockingQueue; 
  7. open CCTimer; 
  8.  
  9. /* 
  10.  * How long do we wait for the discovery deregistration 
  11.  * process to complete 
  12.  */ 
  13. let discovery_deregistration_timeout = 30.; 
  14.  
  15. /* 
  16.  * How long do we wait after successfully removing 
  17.  * outselves out of discovery before we begin to 
  18.  * forward signals 
  19.  */ 
  20. let discovery_grace_timeout = 60.; 
  21.  
  22. type exn += 
  23.   | Unknown_process_state; 
  24.  
  25. let rec waitpid_loop = (pid: int) => 
  26.   /* TODO, Wrap in Misc.restart_on_EINTR */ 
  27.   switch (Unix.waitpid([], pid)) { 
  28.   | (_, WEXITED(return_code)) => 
  29.     Log.debug("Process exited with return code: %d\n", return_code); 
  30.     Pervasives.exit(return_code); 
  31.   | (_, WSIGNALED(signal_code)) => 
  32.     Log.info("Process exited with signal code: %d\n", signal_code); 
  33.     Pervasives.exit(128 + signal_code); 
  34.   | exception (Unix.Unix_error(Unix.EINTR, "waitpid", _)) => 
  35.     Log.debug("Received unix interrupt error, restarting waitpid loop"); 
  36.     waitpid_loop(pid); 
  37.   | _ => raise(Unknown_process_state) 
  38.   }; 
  39.  
  40. type signal_msg = 
  41.   | DiscoveryDeregistrationComplete 
  42.   | DiscoveryGracePeriodComplete 
  43.   | DiscoveryTimeout 
  44.   | Signal(int); 
  45.  
  46. type exn += 
  47.   | UnexpectedMessage(signal_msg); 
  48.  
  49. let rec signal_listener_forwarder = (pid, sigq) => { 
  50.   switch (CCBlockingQueue.take(sigq)) { 
  51.   | Signal(sig_val) => 
  52.     Log.info("Forwarder processing signal: %d", sig_val); 
  53.     Unix.kill(pid, sig_val); 
  54.   | DiscoveryTimeout => () 
  55.   | DiscoveryDeregistrationComplete => () 
  56.   | DiscoveryGracePeriodComplete => () 
  57.   /* add arbitrary wait bit */ 
  58.   }; 
  59.   signal_listener_forwarder(pid, sigq); 
  60. }; 
  61.  
  62. let rec signal_listener_wait = (pid, sigq, first_signal) => { 
  63.   /* Wait for some arbitrary timeout, and then forward signals, or if we get a signal, 
  64.    * start forwarding all signals 
  65.    */ 
  66.   switch (CCBlockingQueue.take(sigq)) { 
  67.   | Signal(sig_val) => 
  68.     Log.info( 
  69.       "Going into forwarding signal mode, during wait, due to signal: %d"
  70.       sig_val 
  71.     ); 
  72.     Unix.kill(pid, first_signal); 
  73.     Unix.kill(pid, sig_val); 
  74.     ignore(signal_listener_forwarder(pid, sigq)); 
  75.   | DiscoveryGracePeriodComplete => 
  76.     Log.info("Going into forwarding signal mode, wait is completed"); 
  77.     Unix.kill(pid, first_signal); 
  78.     ignore(signal_listener_forwarder(pid, sigq)); 
  79.   /* Both of these messages can come in late */ 
  80.   | DiscoveryTimeout => () 
  81.   | DiscoveryDeregistrationComplete => () 
  82.   /* add arbitrary wait bit */ 
  83.   }; 
  84.   signal_listener_wait(pid, sigq, first_signal); 
  85. }; 
  86.  
  87. let signal_listener_phase1 = (pid, sigq, first_signal, discovery_timer) => 
  88.   /* TODO: kickoff discovery registration */ 
  89.   switch (CCBlockingQueue.take(sigq)) { 
  90.   | DiscoveryTimeout => 
  91.     Log.error("Received discovery timeout"); 
  92.     signal_listener_wait(pid, sigq, first_signal); 
  93.   | DiscoveryDeregistrationComplete => 
  94.     Log.info("Discover deregistration completed"); 
  95.     CCTimer.stop(discovery_timer); 
  96.     /* 
  97.      * Even though we stopped the timer here, 
  98.      * we still might get a message from it 
  99.      * since it's async 
  100.      */ 
  101.     let grace_period_timer = CCTimer.create(); 
  102.     CCTimer.after(grace_period_timer, discovery_grace_timeout, () => 
  103.       assert (CCBlockingQueue.try_push(sigq, DiscoveryGracePeriodComplete)) 
  104.     ); 
  105.     signal_listener_wait(pid, sigq, first_signal); 
  106.   | Signal(sig_val) => 
  107.     Log.info( 
  108.       "Going into forwarding signal mode, during discovery de-registration, due to 2nd signal: %d"
  109.       sig_val 
  110.     ); 
  111.     CCTimer.stop(discovery_timer); 
  112.     Unix.kill(pid, first_signal); 
  113.     Unix.kill(pid, sig_val); 
  114.     signal_listener_forwarder(pid, sigq); 
  115.   | e => raise(UnexpectedMessage(e)) 
  116.   /* Add successful discovery completion here */ 
  117.   /* add wait for discovery bit */ 
  118.   }; 
  119.  
  120. let discovery_deregistration = sigq => { 
  121.   Log.info("Beginning discovery deregistration"); 
  122.   Unix.sleep(5); 
  123.   assert (CCBlockingQueue.try_push(sigq, DiscoveryDeregistrationComplete)); 
  124. }; 
  125.  
  126. let signal_listener_thread = (pid, sigq) => { 
  127.   /* 
  128.    * In this state, the loop is just listening, and waiting for a signal. 
  129.    * Once we receive a signal, we kick off deregistration in discovery, 
  130.    * and we run that with timeout N. Either timeout N must elapse, or 
  131.    * the discovery deregistration must finish. Once that happens, 
  132.    * we forward the signal that we last received. 
  133.    * 
  134.    * If at any point, during this we receive another signal, 
  135.    * all bets are offand we immediately start forwarding 
  136.    * signals. 
  137.    */ 
  138.   let sig_val = 
  139.     switch (CCBlockingQueue.take(sigq)) { 
  140.     | Signal(sig_val) => sig_val 
  141.     | e => raise(UnexpectedMessage(e)) 
  142.     }; 
  143.   let _ = Thread.create((_) => discovery_deregistration(sigq), ()); 
  144.   let timer = CCTimer.create(); 
  145.   CCTimer.after(timer, discovery_deregistration_timeout, () => 
  146.     assert (CCBlockingQueue.try_push(sigq, DiscoveryTimeout)) 
  147.   ); 
  148.   signal_listener_phase1(pid, sigq, sig_val, timer); 
  149. }; 
  150.  
  151. let rec signal_cb_thread = (sigq, signals) => { 
  152.   let my_sig = Thread.wait_signal(signals); 
  153.   assert (CCBlockingQueue.try_push(sigq, Signal(my_sig))); 
  154.   signal_cb_thread(sigq, signals); 
  155. }; 
  156.  
  157. let parent = (pid: int, signals) => { 
  158.   let sigq = CCBlockingQueue.create(max_int); 
  159.   let _ = Thread.create((_) => ignore(signal_listener_thread(pid, sigq)), ()); 
  160.   let _ = Thread.create((_) => ignore(signal_cb_thread(sigq, signals)), ()); 
  161.   waitpid_loop(pid); 
  162. }; 
  163.  
  164. let child = () => { 
  165.   /* Replace with real child execution code */ 
  166.   Sys.set_signal( 
  167.     Sys.sigint, 
  168.     Signal_handle((_: int) => Log.info("Saw SIGINT")) 
  169.   ); 
  170.   Sys.set_signal( 
  171.     Sys.sigterm, 
  172.     Signal_handle((_: int) => Log.info("Saw SIGTERM")) 
  173.   ); 
  174.   let _ = Unix.sigprocmask(SIG_UNBLOCK, [Sys.sigint, Sys.sigterm]); 
  175.   ExtUnix.All.setpgid(0, 0); 
  176.   Log.info("In child"); 
  177.   let _ = Unix.sleep(1000); 
  178.   Log.info("Done sleeping"); 
  179.   Pervasives.exit(1); 
  180. }; 
  181.  
  182. let () = { 
  183.   Log.set_log_level(Log.DEBUG); 
  184.   Log.set_output(Pervasives.stderr); 
  185.   Log.color_on(); 
  186.   let signals = [Sys.sigint, Sys.sigterm]; 
  187.   let _ = Unix.sigprocmask(SIG_BLOCK, signals); 
  188.   switch (Unix.fork()) { 
  189.   | 0 => child() 
  190.   | pid => parent(pid, signals) 
  191.   }; 
  192. }; 

所以,这真的可以正常运行。

Channels

最初,我曾使用的是CCBlockingQueue以提供同步机制。这是在等待信号的线程和正在协同的线程之间传递信息的好方法。我在队列中使用了sum类型,所以我可以继续并使用匹配。这是一个状态机的穷人版实现 – 除了我必须能够详尽地处理所有点上的所有消息。模式匹配使得这一切变得轻而易举,但它仍然略显笨拙。

从这一点上来看,这有点令人生厌,因为我在整个队列中使用了一种sum类型的消息,因为没有显式的方式可以一次等待多个队列。在我的Rust实现中,我使用了channel_select!宏中的channel(https://github.com/BurntSushi/chan)。如果能够在OCaml中执行相同的操作,或者存在可用的库来处理这个问题,那将是非常好的。

我遇到的另一个问题是处理定时器。同样,因为我使用的机制依赖于这个单一队列,所以我需要或是使用一个单线程作为计时器的轮毂来推送到期消息,或者为每个计时器启动一个线程。

信号处理

这是进一步深入文档。当我注册一个信号处理程序,而不是使用wait_signal (sigtimedwait)时,很难排查为什么处于死锁状态。我已了解到信号处理程序在OCaml运行时(参见:GIL)中是“不安全的”,并且可能阻止其他线程执行。

系统API

OCaml最棒的部分之一是对系统API的访问。诸如调用fork、setpgrp等的直接机制非常棒。跨平台的信号转换逻辑有点令人费解,但并不存在使用文档无法解决的问题。

构建系统

我认为OCaml人应该学习下Rust人的作法。我最终手工编写了一个Makefile,并使用了重建,但我设想下:如果项目变得复杂得多,或者涉及多个文件,手工完成这项工作将变得很笨拙。目前有Oasis, ocamlbuild, 和Jenga–但所有这些都比语言本身的学习曲线更陡峭。

Rust

我也能够使用Rust完成此任务。我真的很想喜欢Rust。Rust感觉囊括了C++的所有复杂性和难度,对于简单的程序并没有太多额外的好处。

傲慢

Rust经受了七宗罪之一,傲慢,的折磨。这体现在以下两种方式中的一种。第一种是借用的检查器。另一种是优先性能而不是简便性的策略。

在Rust文档中,他们写道:

  • 但是,这个系统确实有一定的成本:学习曲线。许多Rust新用户体验到我们喜欢称之为’与借用检查器做对抗’的情况,此情景下Rust编译器拒绝编译作者认为有效的程序。这经常发生是因为程序员对所有权应如何工作的心理模型与Rust所实现的实际规则不匹配之时。起初你可能会经历类似的事情。然而,有一个好消息:更有经验的Rust开发人员报告说,一旦他们在所有权系统的规则下使用了一段时间,他们就会越来越少地与借用检查器做斗争了。

如果某语言存在人们为了获得高生产力而与语言作斗争的问题,那么该语言可能有些问题,而不是程序员本身呢?相反,Rust社区继续炫耀他们的语言的正确性 – 这是一种宝贵的属性,但没有后退一步,并考量或许不同的默认值可能更有意义。

我对默认值和借用检查器的最大疑问是FP中通常通过复制传值的地方 – 在Rust中是值传递,而不是它假定你想通过引用传递。因此,你需要手动克隆之,然后作为替代传递该克隆后的版本。虽然它有自动执行此功能的机制,但它远不符合人体工程学。

通过引用或借用的参数比默认情况下的克隆更高效。 一般来说,电脑越来越快,但系统越来越复杂。

  • 性能不是主要问题 – 易于编程和正确性才是— Joe Armstrong (http://erlang.org/pipermail/erlang-questions/2014-June/079613.html)

我认为Rust错过了这个。

  1. #[macro_use] 
  2. extern crate slog; 
  3. extern crate sloggers; 
  4. use sloggers::Build; 
  5. use sloggers::terminal::{Destination, TerminalLoggerBuilder}; 
  6. use slog::Logger; 
  7. use std::str::FromStr; 
  8. #[macro_use] 
  9. extern crate chan; 
  10. extern crate nix; 
  11. use std::process::Command; 
  12. use std::os::unix::process::CommandExt; 
  13. use std::os::unix::process::ExitStatusExt; 
  14. use std::thread; 
  15. use std::process::Child; 
  16. use std::process::exit; 
  17. use nix::sys::signal::*; 
  18. use chan::Sender; 
  19. use chan::Receiver; 
  20. extern crate clap; 
  21. extern crate humantime; 
  22. use std::time::Duration; 
  23. use clap::App; 
  24. use clap::Arg; 
  25. use reqwest::Url; 
  26. extern crate reqwest; 
  27. fn run_command(cmd: &str, args: Vec) -> std::io::Result { 
  28.     return Command::new(cmd) 
  29.         // This is to put in a separate process group, so signals don't propogate 
  30.         .before_exec(|| { 
  31.             let mut old_signal_set = SigSet::empty(); 
  32.             let all_signals = SigSet::all(); 
  33.             assert!(!nix::unistd::setpgid(nix::unistd::Pid::from_raw(0), 
  34.                                           nix::unistd::Pid::from_raw(0)) 
  35.                 .is_err()); 
  36.             assert!(sigprocmask(SigmaskHow::SIG_UNBLOCK, 
  37.                                 Some(&all_signals), 
  38.                                 Some(&mut old_signal_set)).is_ok()); 
  39. Ok(()) 
  40.         }) 
  41.         .args(args) 
  42.         .spawn(); 
  43. fn forward_signals( 
  44.     logger: Logger, 
  45.     pid: nix::unistd::Pid, 
  46.     sig_rx: Receiver, 
  47. ) { 
  48.     /* This now just forward signals */ 
  49.     loop { 
  50.         let signal = sig_rx.recv().unwrap(); 
  51.         info!(logger, "Forwarding signal: {:?}", signal); 
  52.         assert!(nix::sys::signal::kill(pid, signal).is_ok()); 
  53.     } 
  54. enum DegistrationResult { 
  55.     /* We received another signal, so we're going into forwarding signals mode */ 
  56.     Interrupted(nix::sys::signal::Signal), 
  57.     TimedOut, 
  58.     Success, 
  59.     Failed, 
  60. enum WaitGracePeriodResult { 
  61.     Interrupted(nix::sys::signal::Signal), 
  62.     Success, 
  63. fn run_deregistration(logger: Logger, config: Config, sender: Sender) { 
  64.     info!(logger, "Beginning discovery deregistration"); 
  65.     let discovery_host = format!( 
  66.         "OBFUSCATED"
  67.         region = config.region, 
  68.         environment = config.environment 
  69.     ); 
  70.     let path = format!( 
  71.         "OBFUSCATED"
  72.         app = config.app, 
  73.         instance = config.instance 
  74.     ); 
  75.     let url = &Url::parse(&format!("OBFUSCATED", discovery_host, path)).unwrap(); 
  76. debug!( 
  77.         logger, 
  78.         "Discovery deregistration proceeding against: {}"
  79.         url.to_string() 
  80.     ); 
  81.     let params = [("value""OBFUSCATED")]; 
  82.     for _ in 0..3 { 
  83.         let client = reqwest::Client::builder() 
  84.             .timeout(Some(Duration::from_secs(3))) 
  85.             .build() 
  86.             .unwrap(); 
  87.         match client.put(url.clone()).form(&params).send() { 
  88.             Ok(mut resp) => { 
  89.                 if resp.status().is_success() { 
  90.                     info!(logger, "Deregistration succeeded: {}", resp.text().unwrap()); 
  91.                     sender.send(DegistrationResult::Success); 
  92.                     return
  93.                 } else { 
  94.                     error!(logger, "Deregistration failed, retrying: {}", resp.status()); 
  95.                 } 
  96.             } 
  97.             Err(err) => { 
  98.                 error!(logger, "Deregistration failed, retrying: {:?}", err); 
  99.             } 
  100.         } 
  101.     } 
  102.     sender.send(DegistrationResult::Failed); 
  103.     error!(logger, "Discovery deregistration failed"); 
  104. fn deregistration( 
  105.     logger: Logger, 
  106.     config: Config, 
  107.     sig_rx: &Receiver, 
  108. ) -> DegistrationResult { 
  109.     let discovery_deregistration_timeout_chan = chan::after(config.deregistration_timeout); 
  110.     let (send, recv) = chan::async(); 
  111.     thread::Builder::new() 
  112.         .name("discovery-degistration".to_string()) 
  113.         .spawn(move || run_deregistration(logger, config, send)) 
  114.         .unwrap(); 
  115. chan_select! { 
  116.         discovery_deregistration_timeout_chan.recv() => { 
  117.         return DegistrationResult::TimedOut 
  118.         }, 
  119.         recv.recv() -> res => match res { 
  120.             Some(status) => return status, 
  121.             None => return DegistrationResult::Failed 
  122.         }, 
  123.         sig_rx.recv() -> new_signal => { 
  124.         return DegistrationResult::Interrupted(new_signal.unwrap()) 
  125.         } 
  126.     } 
  127. fn wait_grace_period( 
  128.     _logger: &Logger, 
  129.     config: Config, 
  130.     sig_rx: &Receiver, 
  131. ) -> WaitGracePeriodResult { 
  132.     let discovery_grace_period_timeout = chan::after(config.discovery_wait); 
  133. chan_select! { 
  134.         discovery_grace_period_timeout.recv() => { 
  135.         return WaitGracePeriodResult::Success 
  136.         }, 
  137.         sig_rx.recv() -> new_signal => { 
  138.         return WaitGracePeriodResult::Interrupted(new_signal.unwrap()) 
  139.         } 
  140.     } 
  141. fn background_watcher( 
  142.     logger: Logger, 
  143.     config: Config, 
  144.     pid: nix::unistd::Pid, 
  145.     sig_rx: Receiver, 
  146. ) { 
  147.     /* 
  148.      * In this state, the loop is just listening, and waiting for a signal. 
  149.      * Once we receive a signal, we kick off deregistration in discovery, 
  150.      * and we run that with timeout N. Either timeout N must elapse, or 
  151.      * the discovery deregistration must finish. Once that happens, 
  152.      * we forward the signal that we last received. 
  153.      * 
  154.      * If at any point, during this we receive another signal, 
  155.      * all bets are offand we immediately start forwarding 
  156.      * signals. 
  157.      */ 
  158.     let first_signal = sig_rx.recv().unwrap(); 
  159. /* Phase 1 */ 
  160.     info!(logger, "Entering do deregistration phase"); 
  161.     match deregistration(logger.clone(), config.clone(), &sig_rx) { 
  162.         DegistrationResult::Interrupted(new_signal) => { 
  163.             warn!(logger, "Discovery deregistration process interrupted"); 
  164.             assert!(nix::sys::signal::kill(pid, first_signal).is_ok()); 
  165.             assert!(nix::sys::signal::kill(pid, new_signal).is_ok()); 
  166.             return forward_signals(logger, pid, sig_rx); 
  167.         } 
  168.         DegistrationResult::TimedOut => { 
  169.             error!(logger, "Discovery deregistration timed out"); 
  170.         } 
  171.         DegistrationResult::Success => info!(logger, "Discovery deregistration completed"), 
  172.         DegistrationResult::Failed => error!( 
  173.             logger, 
  174.             "Discovery deregistration failed, continuing to grace period" 
  175.         ), 
  176.     } 
  177. info!(logger, "Entering waiting for grace period phase"); 
  178.     /* Phase 2 */ 
  179.     match wait_grace_period(&logger, config.clone(), &sig_rx) { 
  180.         WaitGracePeriodResult::Interrupted(new_signal) => { 
  181.             warn!(logger, "Discovery grace period wait interrupted"); 
  182.             assert!(nix::sys::signal::kill(pid, first_signal).is_ok()); 
  183.             assert!(nix::sys::signal::kill(pid, new_signal).is_ok()); 
  184.             return forward_signals(logger, pid, sig_rx); 
  185.         } 
  186.         WaitGracePeriodResult::Success => { 
  187.             info!(logger, "Discovery grace period successfully elapsed"); 
  188.             assert!(nix::sys::signal::kill(pid, first_signal).is_ok()); 
  189.             return forward_signals(logger, pid, sig_rx); 
  190.         } 
  191.     } 
  192. fn signal_cb(logger: Logger, ss: SigSet, tx: Sender) { 
  193.     loop { 
  194.         match ss.wait() { 
  195.             Err(e) => error!(logger, "Failed to read signal: {:?}", e), 
  196.             Ok(val) => { 
  197.                 info!(logger, "Received signal: {:?}", val); 
  198.                 tx.send(val); 
  199.             } 
  200.         }; 
  201.     } 
  202. // ss is the set of signals which we intend for the signal callback handler to process / listen to 
  203. fn run_signal_watcher(logger: Logger, ss: SigSet, tx: Sender) { 
  204.     // Has to be constructed in the main thread 
  205.     thread::Builder::new() 
  206.         .name("signal-cb".to_string()) 
  207.         .spawn(move || signal_cb(logger, ss, tx)) 
  208.         .unwrap(); 
  209. fn run_signal_processor( 
  210.     logger: Logger, 
  211.     config: Config, 
  212.     pid: i32, 
  213.     rx: Receiver, 
  214. ) { 
  215.     thread::Builder::new() 
  216.         .name("signal-handler".to_string()) 
  217.         .spawn(move || background_watcher(logger, config, nix::unistd::Pid::from_raw(pid), rx)) 
  218.         .unwrap(); 
  219. fn run(logger: Logger, config: Config) { 
  220.     let mut old_signal_set = SigSet::empty(); 
  221.     let mut ss = SigSet::empty(); 
  222.     ss.add(SIGINT); 
  223.     ss.add(SIGTERM); 
  224. // Block the signals 
  225.     assert!(sigprocmask(SigmaskHow::SIG_BLOCK, Some(&ss), Some(&mut old_signal_set)).is_ok()); 
  226. let (signal_tx, signal_rx) = chan::async(); 
  227.     run_signal_watcher(logger.clone(), ss.clone(), signal_tx); 
  228. let (cmd, args) = config.command.split_first().unwrap(); 
  229.     let mut cmd_handle = run_command(cmd, args.to_vec()).unwrap(); 
  230.     run_signal_processor( 
  231.         logger.clone(), 
  232.         config.clone(), 
  233.         cmd_handle.id() as i32, 
  234.         signal_rx, 
  235.     ); 
  236. debug!(logger, "Running command"); 
  237.     let res = cmd_handle.wait(); 
  238.     // TODO: Fix up the command cleanup code 
  239.     info!(logger, "Cmd completed: {:?}", res); 
  240.     match res { 
  241.         Ok(exit_status) => { 
  242.             match exit_status.code() { 
  243.                 Some(code) => exit(code), 
  244.                 // This means we've been terminated by a signal 
  245.                 None => (), 
  246.             }; 
  247.             match exit_status.signal() { 
  248.                 Some(signal) => exit(signal + 128), 
  249.                 None => (), 
  250.             } 
  251.             exit(0); 
  252.         } 
  253.         Err(_other) => { 
  254.             error!(logger, "Failed to run command"); 
  255.             exit(1); 
  256.         } 
  257.     } 
  258. #[derive(Debug, Clone)] 
  259. struct Config { 
  260.     deregistration_timeout: Duration, 
  261.     discovery_wait: Duration, 
  262.     region: String, 
  263.     instance: String, 
  264.     app: String, 
  265.     environment: String, 
  266.     command: Vec, 
  267. fn main() { 
  268.     let app = App::new("signal-watcher"
  269.         .version("1.0"
  270.         .arg( 
  271.             Arg::with_name("deregistration-timeout"
  272.                 .long("deregistration-timeout"
  273.                 .takes_value(true
  274.                 .value_name("SECONDS"
  275.                 .help("How long to wait for discovery deregistration call"
  276.                 .default_value("15s"
  277.                 .required(true
  278.                 .validator(validate_timeout), 
  279.         ) 
  280.         .arg( 
  281.             Arg::with_name("discovery-wait"
  282.                 .long("discovery-wait"
  283.                 .takes_value(true
  284.                 .value_name("SECONDS"
  285.                 .validator(validate_timeout) 
  286.                 .required(true
  287.                 .help("How long to wait after deregistration before forwarding the signal"
  288.                 .default_value("60s"), 
  289.         ) 
  290.         .arg( 
  291.             Arg::with_name("region"
  292.                 .long("region"
  293.                 .takes_value(true
  294.                 .value_name("REGION"
  295.                 .help("What EC2 region are we in"
  296.                 .env("EC2_REGION"
  297.                 .required(true), 
  298.         ) 
  299.         .arg( 
  300.             Arg::with_name("environment"
  301.                 .long("environment"
  302.                 .takes_value(true
  303.                 .value_name("NETFLIX_ENVIRONMENT"
  304.                 .help("Which environment are we running in"
  305.                 .env("NETFLIX_ENVIRONMENT"
  306.                 .required(true), 
  307.         ) 
  308.         .arg( 
  309.             Arg::with_name("app"
  310.                 .long("app"
  311.                 .takes_value(true
  312.                 .value_name("NETFLIX_APP"
  313.                 .help("Which is our app name"
  314.                 .env("NETFLIX_APP"
  315.                 .required(true), 
  316.         ) 
  317.         .arg( 
  318.             Arg::with_name("instance-id"
  319.                 .long("instance-id"
  320.                 .takes_value(true
  321.                 .value_name("INSTANCEID"
  322.                 .help("EC2 / Container instance ID"
  323.                 .env("EC2_INSTANCE_ID"
  324.                 .required(true), 
  325.         ) 
  326.         .arg( 
  327.             Arg::with_name("command"
  328.                 .last(true
  329.                 .value_name("COMMAND"
  330.                 .multiple(true
  331.                 .takes_value(true
  332.                 .required(true), 
  333.         ) 
  334.         .arg( 
  335.             Arg::with_name("log-level"
  336.                 .long("local-level"
  337.                 .takes_value(true
  338.                 .value_name("LOG_LEVEL"
  339.                 .env("LOG_LEVEL"
  340.                 .validator(validate_loglevel) 
  341.                 .default_value("info"), 
  342.         ) 
  343.         .get_matches(); 
  344. let log_level = 
  345.         sloggers::types::Severity::from_str(app.value_of("log-level").unwrap()).unwrap(); 
  346.     let logger = new_logger(log_level); 
  347. let config: Config = Config { 
  348.         deregistration_timeout: app.value_of("deregistration-timeout"
  349.             .unwrap() 
  350.             .parse::() 
  351.             .unwrap() 
  352.             .into(), 
  353.         discovery_wait: app.value_of("discovery-wait"
  354.             .unwrap() 
  355.             .parse::() 
  356.             .unwrap() 
  357.             .into(), 
  358.         region: app.value_of("region").unwrap().to_string(), 
  359.         environment: app.value_of("environment").unwrap().to_string(), 
  360.         instance: app.value_of("instance-id").unwrap().to_string(), 
  361.         app: app.value_of("app").unwrap().to_string(), 
  362.         command: app.values_of("command"
  363.             .unwrap() 
  364.             .map(|s: &str| s.to_string()) 
  365.             .collect(), 
  366.     }; 
  367. run(logger, config); 
  368. fn new_logger(severity: sloggers::types::Severity) -> Logger { 
  369.     let mut builder = TerminalLoggerBuilder::new(); 
  370.     builder.level(severity); 
  371.     builder.destination(Destination::Stderr); 
  372. let logger = builder.build().unwrap(); 
  373.     return logger; 
  374. fn validate_timeout(v: String) -> Result<(), String> { 
  375.     let num: Duration = match v.parse::() { 
  376.         Ok(n) => n.into(), 
  377.         Err(e) => return Err(e.to_string()), 
  378.     }; 
  379.     if num < Duration::from_secs(1) { return Err(String::from"Timeouts must be greater than or equal to 1 second", )); } if num > Duration::from_secs(300) { 
  380.         return Err(String::from("Timeouts must be smaller than 300 seconds")); 
  381.     } 
  382.     return Ok(()); 
  383. fn validate_loglevel(v: String) -> Result<(), String> { 
  384.     match sloggers::types::Severity::from_str(&v) { 
  385.         Ok(_) => Ok(()), 
  386.         Err(e) => Err(e.to_string()), 
  387.     } 

一切仍然很糟糕

如果你已经得到这么多,你会意识到一切都还很糟糕。 如果我想在系统的这一层实现任何东西,我的选择基本上仍然是C和Go。 我很兴奋,因为一些新的参与者已经进入了这个圈子。 我不确定我是否会想要使用Rust,除非他们有巨大的态度调整。 我很高兴看到Nim和Pony成熟了。

【编辑推荐】

  1. 《经济学人》也谈 Python:它会是我们的未来吗?
  2. 有轻功:用3行代码让Python数据处理脚本获得4倍提速
  3. Python是编程的未来吗?
  4. 学习如何使用Python构建你自己的Twitter机器人
  5. Python之父透露退位隐情,与核心开发团队产生隔阂
【责任编辑:未丽燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

网管员必读——超级网管经验谈

本书是一本以示例形式直接面向应用的网络管理图书。书中以大量示例和大量实用网络管理与故障排除经验介绍了当前网络管理工作的各主要方面。...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊