Semgrep代码静态分析工具:使用Docker进行简单查询

开发 开发工具
本文我们介绍一个开源的快速高效的多语言静态分析工具Semgrep,通过在Docker中设置基本Semgrep环境,并用一些简单的例子说明其用法。

静态分析是一个非常有用的工具,使用它可以帮助开发者或者安全人员在开发阶段就能发现代码中存在的bug和安全问题。静态分析是一个综合性和系统性的工程,对于每一个开发者和安全人员来说了解其原理,并能使用工具进行初步的分析很有必要。本文我们介绍一个开源的快速高效的多语言静态分析工具Semgrep,通过在Docker中设置基本Semgrep环境,并用一些简单的例子说明其用法。 


概述

诸如pylint的Python或eslint的JavaScript之类的linter非常适合通用的广泛语言标准。但是代码审查中的常见问题呢,例如使用打印语句而不是记录程序,或者在for循环(特定于Go)中使用defer语句,或者多层嵌套循环等。

大多数开发人员没有使用语言解析的经验。因此,在中小型团队中看到自定义Lint规则并不常见。尽管没有哪一种Linter或语言比其他Linter复杂得多(全都是AST操作),但是学习每种语言Linter的AST和框架要付出很小的代价。

semgrep规则的一个优点是,可以学习semgrep模式匹配语法(这非常简单),然后可以为想要为其编写规则的任何语言编写规则。

Semgrep使用代码的标准表达进行模式匹配,而无需复杂的查询或者正则。可用于在DevSecOps各个阶段:代码编写,代码提交或者CI运行时发现Bug和漏洞。其精确的规则看起来就像要搜索的代码,无需遍历抽象语法树或与正则表达式死扛。与传统的正则表达式(和传统的grep)不同,它可以找到递归模式。这使其特别有用,可以作为学习查找任何语言模式的工具。

Semgrep还支持容器化方式部署和运行,由emgrep官方注册表中,有Semgrep社区维护的包安全性,正确性,性能,代码质量和Bug等各方面的1000多规则可直接拿来使用。

Semgrep软件安全公司r2c开发并提供商业支持。目前已经有大量的企业用于生产环境中,也有很多工具比如NodeJsScan之类底层支持引擎。

基本准备

本文中我们所有的例子都需要运行docker,并基于semgrep基本镜像returntocorp/semgrep。docker安装和配置过程我们不在介绍,首先从docker官方拉一个最新的镜像备用:

  1. docker pull returntocorp/semgrep:latest 

semgrep有应在线工具(semgrep.dev/editor/),如果没有docker环境的同学,可以通过在线工具尝试例子。

在PHP中发现eval语句

假如希望脚本在PHP中使用eval函数时候告警:

php/test.php

  1. <?php 
  2. $var = "var"
  3. if (isset($_GET["arg"])) 
  4. $arg = $_GET["arg"]; 
  5. eval("\$var = $arg;"); 
  6. echo "\$var =".$var 
  7. eval( 
  8. bar 
  9. ); 
  10. # eval(foo) 
  11. echo(eval("\$var = $arg;")); 

semgrep所有运行依赖于一个yml的配置文件config.yml,基本规则如下:

rules:

  1. - id: cc-1 
  2. pattern: | 
  3. exec(...) 
  4. message: | 
  5. severity: WARNING 
  6. 我们可以在message部分增加警告的内容: 
  7. rules: 
  8. - id: cc-1 
  9. pattern: | 
  10. exec(...) 
  11. message: | 
  12. 使用了不安全的exec函数 
  13. severity: WARNING 

配置部分还要增加两个规则对象中包括两个键:mode和languages。

  1. rules: 
  2. - id: my_pattern_id 
  3. pattern: | 
  4. exec(...) 
  5. message: | 
  6. severity: WARNING 
  7. mode: search 
  8. languages: ["generic"] 

languages部分可以设置具体语言比如php或者用generic。如果设置了具体语言会对其做语法简单,如果语法检查不通过则不会执行搜索。我们通过以下语句运行semgrep Docker映像:

  1. docker run -v "${PWD}:/src" returntocorp/semgrep --config=config.yml php 

发现4个语句中使用了eval,也包括我们注释掉的语句。

对比language设置为php时候的运行:

Semgrep代码静态分析初步:docker部署,查询和扫描

有错误,我们增加参数—verbose,以获得更详细的错误信息:

Semgrep代码静态分析初步:docker部署,查询和扫描

应该我们第7行少了个分号,导致语法错误。我们修改此语法错误,再运行:

发现了三个语句,注释部分自动给去除了。

发现三重嵌套循环

下一个例子,我们使用一个稍微负载点,在golang代码查找一个三重嵌套的循环,代码(golang/test1.go):

  1. package main 
  2. import "log" 
  3. func main() { 
  4. for i :0; i < 10; i++ { 
  5. log.Print(i) 
  6. for j :0; j < 100; j++ { 
  7. :i * j 
  8. going :true 
  9. :0 
  10. for going { 
  11. if k == c { 
  12. break 
  13. k++ 
  14. log.Print(k) 

如果要查找嵌套for循环,则需要搜索由任意语法包围的循环。Semgrep的...语法,非常适合,该操作使。我们修改golang搜索配置go-config.yml为:

rules:

  1. - id: triple-nest-loop 
  2. pattern: | 
  3. for ... { 
  4. ... 
  5. for ... { 
  6. ... 
  7.  
  8. for ... { 
  9. ... 
  10. ... 
  11. ... 
  12. message: | 
  13. 使用了三层嵌套for循环 
  14. severity: WARNING 
  15. mode: search 
  16. languages: ["generic"] 

运行semgrep:

  1. docker run -v "${PWD}:/src" returntocorp/semgrep --config=go-config.yml golang 
Semgrep代码静态分析初步:docker部署,查询和扫描

静态分析的局限性

我们将循环部分重构为函数调用,再试试(golang/loopy.go

):

  1. package main 
  2. import "log" 
  3. func inner(i, j int) { 
  4. :i * j 
  5. going :true 
  6. :0 
  7. for going { 
  8. if k == c { 
  9. break 
  10. k++ 
  11. log.Print(k) 
  12.  
  13. func main() { 
  14. for i :0; i < 10; i++ { 
  15. log.Print(i) 
  16. for j :0; j < 100; j++ { 
  17. inner(i, j) 

并再次运行semgrep:

  1. docker run -v "${PWD}:/src" returntocorp/semgrep --config=go-config.yml golang 
Semgrep代码静态分析初步:docker部署,查询和扫描

结果还跟上面的一样,由于函数打包,语法上不再显示为三层循环,所以semgrep匹配不了模式。

使用现有规则进行xss漏洞扫描

我们前面也提到,除了一般扫描外semgrep官方注册表维护了大量的规则,包括基本语法、安全加强、代码质量的规则,这样规则可以直接下载加载,使用方法:

  1. semgrep --config "规则" 

比如,我们上面第一部分的eval语句,在官方就有一个对应的规则r/php.lang.security.eval-use.eval-use

我们可以直接运行:

  1. docker run --rm -v "${PWD}:/src" returntocorp/semgrep:latest --config=" r/php.lang.security.eval-use.eval-use 

" php,其结果和第一步分的一样:

Semgrep代码静态分析初步:docker部署,查询和扫描

对Web开发中,最常见的一个漏洞就是xss漏洞,semgrep也有个专门xss漏洞扫描的规则集合p/xss,包括多个语言的60条规则。

xss集合的扫码可以用

  1. semgrep --config "p/xss" 

我们可以直接在docker中使用:

  1. docker run --rm -v "${PWD}:/src" returntocorp/semgrep:latest --config="p/xss" golang 
Semgrep代码静态分析初步:docker部署,查询和扫描

直接会从官方注册表下载规则,并按使用规则进行扫描,结果发现一个问题,同样方法,可以利用现有规则对自己的代码进行扫描。

总结

学习一种语言以高层编写语法规则以强制执行代码行为仍然非常有用。semgrep使用通用的语法匹配器可帮助轻松编写规则,可以用现有规则来对自己代码进行扫描。总之,基于Docker运行,可以让你项目的静态分析变得非常容易,小伙伴们,路过不要错过,都可以尝试一下。

 

责任编辑:赵宁宁 来源: 今日头条
相关推荐

2021-06-08 13:56:34

工具静态代码

2021-11-04 05:43:38

GoKartGo代码静态安全分析

2017-05-10 14:27:29

静态代码漏洞安全

2012-05-22 00:28:21

JavaJava开源开源工具

2009-09-07 17:05:10

LINQ进行查询

2024-01-08 13:47:00

代码分析工具

2009-09-15 16:09:12

LINQ进行查询

2011-05-05 09:54:05

静态代码

2013-04-08 10:47:42

Xcode静态代码分析

2023-09-14 22:57:52

2020-12-25 15:24:24

人工智能

2009-08-27 10:44:21

C#静态变量

2009-09-15 14:58:26

Linq查询本质

2021-03-29 23:05:36

程序员工具静态分析

2020-12-07 14:46:07

程序员代码分析工具

2021-07-29 06:37:55

KubernetesKubeLinter工具

2016-05-17 13:54:05

2009-12-09 10:07:22

配置静态路由

2023-11-06 12:00:04

GORM

2011-08-29 14:40:58

QTWebkit
点赞
收藏

51CTO技术栈公众号