【博文推荐 】 python Howto之logging模块

开发 后端
我们不要通过logging.Logger来直接实例化得到logger,而是需要通过logging.getLogger("name")来生成logger对象。
 本博文出自51CTO博客无名博主,有任何问题请进入博主页面互动讨论!
博文地址:http://xdzw608.blog.51cto.com/4812210/1608718

本文来源于对py2.7.9 docs中howto-logging部分加之源代码的理解。官方文档链接如下,我用的是下载的pdf版本,应该是一致的:https://docs.python.org/2/howto/logging.html

我们不按照文档上由浅入深的讲解顺序,因为就这么点东西不至于有“入”这个动作。

使用logging模块记录日志涉及四个主要类,使用官方文档中的概括最为合适:

logger提供了应用程序可以直接使用的接口;

handler将(logger创建的)日志记录发送到合适的目的输出;

filter提供了细度设备来决定输出哪条日志记录;

formatter决定日志记录的最终输出格式。

写log的一般顺序为:

一、创建logger:

我们不要通过logging.Logger来直接实例化得到logger,而是需要通过logging.getLogger("name")来生成logger对象。

不 是说我们不能实现Logger的实例化,而是我们期待的是同一个name得到的是同一个logger,这样多模块之间可以共同使用同一个 logger,getLogger正是这样的解决方案,它内部使用loggerDict字典来维护,可以保证相同的名字作为key会得到同一个 logger对象。我们可以通过实例来验证一下:

  1. #test_logger1.py 
  2.  
  3. #coding:utf-8 
  4.  
  5. import logging 
  6.  
  7. print logging.getLogger("mydear"
  8.  
  9. import test_logger2 
  10.  
  11. test_logger2.run()   #调用文件2中的函数,保证两个模块共同处于生存期 
  12.  
  13. #test_logger2.py 
  14.  
  15. #coding:utf-8 
  16.   
  17. import logging 
  18.  
  19. def run(): 
  20.  
  21. print logging.getLogger("mydear"

输出:

<logging.Logger object at 0x00000000020ECF28>
<logging.Logger object at 0x00000000020ECF28>

结果表明两个文件中通过"mydear"调用getLogger可以保证得到的logger对象是同一个。而分别进行Logger类的实例化则不能保证。

有了logger之后就可以配置这个logger,例如设置日志级别setLevel,绑定控制器addHandler,添加过滤器addFilter等。

配置完成后,就可以调用logger的方法写日志了,根据5个日志级别对应有5个日志记录方法,分别为logger.debug,logger.info,logger.warning,logger.error,logger.critical。 

二、配置Logger对象的日志级别:

logger.setLevel(logging.DEBUG)  #DEBUG以上的日志级别会被此logger处理 

三、创建handler对象

handler 负责将log分发到某个目的输出,存在多种内置的Handler将log分发到不同的目的地,或是控制台,或是文件,或是某种形式的stream,或是 socket等。一个logger可以绑定多个handler,例如,一条日志可以同时输出到控制台和文件中。

以FileHandler和StreamHandler为例:

logfile= logging.FileHandler("./log.txt")  #创建一个handler,用于将日志输出到文件中   

console = logging.StreamHandler() #创建另一个handler,将日志导向流

    handler对象也需要设置日志级别,由于一个logger可以包含多个handler,所以每个handler设置日志级别是有必要的。用通俗的话 讲,比如,我们需要处理debug以上级别的消息,所以我们将logger的日志级别定为DEBUG;然后我们想把error以上的日志输出到控制台,而 DEBUG以上的消息输出到文件中,这种分流就需要两个Handler来控制。

logfile.setLevel(logging.DEBUG)

console.setLevel(logging.ERROR)

除了对handler对象设置日志级别外,还可以指定formatter,即日志的输出格式。对handler对象设置日志格式,说明了可以将一条记录以不同的格式输出到控制台,文件或其他目的地。

formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')

logfile.setFormatter(formatter) #设置handler的日志输出格式

formatter创建时使用的关键字,***会以列表的形式展现,这不是重点。

四、绑定handler到logger中

至此handlers和logger已经准备好了,下面我们就将handlers绑定到logger上,一个logger对象可以绑定多个handler。

logger.addHandler(logfile)  #logger是通过getLogger得到的Logger对象

logger.addHandler(console) 

五、使用logger真正写日志

logger.debug("some debug message.")

logger.info("some info message.")

看上去,中间步骤(创建handler,设置日志级别,设置输出格式等)更像是配置Logger,一旦配置完成则直接调用写日志的接口即可,稍后这些日志将按照先前的配置输出。

呜呼,好多内容啊,来点简单的吧.

下面的代码,是最简单的。导入logging之后就进行了写日志操作:

  1. #coding:utf-8 
  2. import logging 
  3.  
  4. logging.debug("debug mes"
  5.  
  6. logging.info("info mes"
  7.  
  8. logging.warning("warn mes"

控制台输出如下:

WARNING:root:warn mes

咦?发生了什么情况,为什么只输出了warning?handler、logger、formatter去哪儿了?

-_-!说好的最简单的呢?为了让自己讲信用,我尽可能把它解释成“最简单的”。

#p#

知识点1:logger间存在继承关系

logger 通过名字来决定继承关系,如果一个logger的名字是"mydest",另一个logger的名字是"mydest.dest1" (getLogger("mydest.dest1")),那么就称后者是前者的子logger,会继承前者的配置。上面的代码没有指定logger,直接调用logging.debug等方法时,会使用所有logger的祖先类RootLogger

从上面的代码运行结果可以猜测出,该RootLogger设置的日志级别是logging.WARN,输出目的地是标准流。从源码可以更清楚的看出来:

  1. root = RootLogger(WARNING)  #设置WARNING的级别 

至于rootLogger的输出目的地的配置,我们跟踪logging.debug的源代码来看一下:

  1. def debug(msg, *args, **kwargs): 
  2.  
  3. ""
  4.  
  5. Log a message with severity 'DEBUG' on the root logger. 
  6.  
  7. ""
  8.  
  9. if len(root.handlers) == 0
  10.  
  11. basicConfig() 
  12.  
  13. root.debug(msg, *args, **kwargs) 

大约可以看到,如果rootLogger没有配置handler,就会不带参数运行basicConfig函数(*请看知识点2),我们看一下basicConfig的源代码:

  1. def basicConfig(**kwargs): 
  2.  
  3. _acquireLock() 
  4.  
  5. try
  6.  
  7. if len(root.handlers) == 0
  8.  
  9. filename = kwargs.get("filename"
  10.  
  11. if filename: 
  12.  
  13. mode = kwargs.get("filemode"'a'
  14.  
  15. hdlr = FileHandler(filename, mode) 
  16.  
  17. else
  18.  
  19. stream = kwargs.get("stream"
  20.  
  21. hdlr = StreamHandler(stream) 
  22.  
  23. fs = kwargs.get("format", BASIC_FORMAT) 
  24.  
  25. dfs = kwargs.get("datefmt"None
  26.  
  27. fmt = Formatter(fs, dfs) 
  28.  
  29. hdlr.setFormatter(fmt) 
  30.  
  31. root.addHandler(hdlr) 
  32.  
  33. level = kwargs.get("level"
  34.  
  35. if level is not None
  36.  
  37. root.setLevel(level) 
  38.  
  39. finally
  40.  
  41. _releaseLock() 

因 为参数为空,所以我们就看出了,该rootLoger使用了不带参数的StreamHandler,也可以看到诸如format之类的默认配置。之后我们 跟踪StreamHandler(因为我们想看到日志输出目的地的配置,而handler就是控制日志流向的,所以我们要跟踪它)的源代码:

 

  1. class StreamHandler(Handler): 
  2.  
  3. ""
  4.  
  5. A handler class which writes logging records, appropriately formatted, 
  6.  
  7. to a stream. Note that this class does not close the stream, as 
  8.  
  9. sys.stdout or sys.stderr may be used. 
  10.  
  11. ""
  12.  
  13. def __init__(self, stream=None): 
  14.  
  15. ""
  16.  
  17. Initialize the handler. 
  18.  
  19. If stream is not specified, sys.stderr is used. 
  20.  
  21. ""
  22.  
  23. Handler.__init__(self) 
  24.  
  25. if stream is None: 
  26.  
  27. stream = sys.stderr  #### 
  28.  
  29. self.stream = stream 

不带参数的StreamHandler将会把日志流定位到sys.stderr流,标准错误流同样会输出到控制台

知识点2:basicConfig函数用来配置RootLogger

    basicConfig函数仅用来配置RootLogger,rootLogger是所有Logger的祖先Logger,所以其他一切Logger会继承该Logger的配置。

从上面的basicConfig源码看,它可以有六个关键字参数,分别为:

filename:执行使用该文件名为rootLogger创建FileHandler,而不是StreamHandler

filemode:指定文件打开方式,默认是"a"

stream:指定一个流来初始化StreamHandler。此参数不能和filename共存,如果同时提供了这两个参数,则stream参数被忽略

format:为rootLogger的handler指定输出格式

datefmt:指定输出的日期时间格式

level:设置rootLogger的日志级别

使用样例:

 

  1. logging.basicConfig( 
  2.  
  3.    filename = './log.txt'
  4.  
  5.    filemode = 'a'
  6.  
  7.    #stream = sys.stdout, 
  8.  
  9.    format = '%(levelname)s:%(message)s'
  10.  
  11.    datefmt = '%m/%d/%Y %I:%M:%S'
  12.  
  13.    level = logging.DEBUG 

知识点3 通过示例详细讨论Logger配置的继承关系

首先准备下继承条件:log2继承自log1,logger的名称可以随意,要注意‘.’表示的继承关系。

 

  1. #coding:utf-8 
  2. import logging 
  3.  
  4. log1 = logging.getLogger("mydear"
  5.  
  6. log1.setLevel(logging.WARNING) 
  7.  
  8. log1.addHandler(StreamHandler()) 
  9.  
  10. log2 = logging.getLogger("mydear.app"
  11.  
  12. log2.error("display"
  13.  
  14. log2.info("not display"

    level的继承

原则:子logger写日志时,优先使用本身设置了的level;如果没有设置,则逐层向上级父logger查询,直到查询到为止。最极端的情况是,使用rootLogger的默认日志级别logging.WARNING。

从源代码中看更为清晰, 感谢python的所见即所得:

  1. def getEffectiveLevel(self): 
  2.  
  3. """ 
  4.  
  5. Get the effective level for this logger. 
  6.  
  7. Loop through this logger and its parents in the logger hierarchy, 
  8.  
  9. looking for a non-zero logging level. Return the first one found. 
  10.  
  11. """ 
  12.  
  13. logger = self 
  14.  
  15. while logger: 
  16.  
  17. if logger.level: 
  18.  
  19. return logger.level 
  20.  
  21. logger = logger.parent 
  22.  
  23. return NOTSET 

handler的继承

原则:先将日志对象传递给子logger的所有handler处理,处理完毕后,如果该子logger的propagate属性没有设置为0,则将日志对象向上传递给***个父Logger,该父logger的所有handler处理完毕后,如果它的propagate也没有设置为0,则继续向上层传递,以此类推。最终的状态,要么遇到一个Logger,它的propagate属性设置为了0;要么一直传递直到rootLogger处理完毕。

在上面实例代码的基础上,我们再添加一句代码,即:

  1. #coding:utf-8 
  2.  
  3. import logging 
  4.  
  5. log1 = logging.getLogger("mydear"
  6.  
  7. log1.setLevel(logging.WARNING) 
  8.  
  9. log1.addHandler(StreamHandler()) 
  10.  
  11. log2 = logging.getLogger("mydear.app"
  12.  
  13. log2.error("display"
  14.  
  15. log2.info("not display"
  16.  
  17. print log2.handlers  #打印log2绑定的handler 

输出如下:

display
[]

说好的继承,但是子logger竟然没有绑定父类的handler,what's wrong?

看到下面调用handler的源代码,就真相大白了。可以理解成,这不是真正的(类)继承,只是"行为上的继承":

  1. def callHandlers(self, record): 
  2.  
  3. ""
  4.  
  5. Pass a record to all relevant handlers. 
  6. Loop through all handlers for this logger and its parents in the 
  7.  
  8. logger hierarchy. If no handler was found, output a one-off error 
  9.  
  10. message to sys.stderr. Stop searching up the hierarchy whenever a 
  11.  
  12. logger with the "propagate" attribute set to zero is found - that 
  13.  
  14. will be the last logger whose handlers are called. 
  15.  
  16. ""
  17.  
  18. c = self 
  19.  
  20. found = 0 
  21.  
  22. while c: 
  23.  
  24. for hdlr in c.handlers: #首先遍历子logger的所有handler 
  25.  
  26. found = found + 1 
  27.  
  28. if record.levelno >= hdlr.level: 
  29.  
  30. hdlr.handle(record) 
  31.  
  32. if not c.propagate: #如果logger的propagate属性设置为0,停止 
  33.  
  34. c = None#break out  
  35.  
  36. else:   #否则使用直接父logger 
  37.  
  38. c = c.parent 
  39.  
  40. ... 

额,最简单的样例牵引出来这么多后台的逻辑,不过我们懂一下也是有好处的。

下面,我们将一些零碎的不是很重要的东西罗列一下,这篇就结束了。

1.几种LogLevel是全局变量,以整数形式表示,也可以但是不推荐自定义日志级别,如果需要将level设置为用户配置,则获取level和检查level的一般代码是:

  1. #假设loglevel代表用户设置的level内容 
  2.  
  3. numeric_level = getattr(logging, loglevel.upper(), None) 
  4.  
  5. if not isinstance(numeric_level, int): 
  6.  
  7. raise ValueError('Invalid log level: %s' % loglevel) 
  8.  
  9. logging.basicConfig(level=numeric_level, ...) 

2.format格式,用于创建formatter对象,或者basicConfig中,就不翻译了

%(name)s    Name of the logger (logging channel)
    %(levelno)s Numeric logging level for the message (DEBUG, INFO,
    WARNING, ERROR, CRITICAL)
    %(levelname)s   Text logging level for the message ("DEBUG", "INFO",
    "WARNING", "ERROR", "CRITICAL")
    %(pathname)s    Full pathname of the source file where the logging
    call was issued (if available)
    %(filename)s    Filename portion of pathname
    %(module)s  Module (name portion of filename)
    %(lineno)d  Source line number where the logging call was issued
    (if available)
    %(funcName)s    Function name
    %(created)f Time when the LogRecord was created (time.time()
    return value)
    %(asctime)s Textual time when the LogRecord was created
    %(msecs)d   Millisecond portion of the creation time
    %(relativeCreated)d Time in milliseconds when the LogRecord was created,
    relative to the time the logging module was loaded
    (typically at application startup time)
    %(thread)d  Thread ID (if available)
    %(threadName)s  Thread name (if available)
    %(process)d Process ID (if available)
    %(message)s The result of record.getMessage(), computed just as
    the record is emitted

3.写日志接口

logging.warn("%s am a hero", "I")   #1 %格式以参数形式提供实参

    logging.warn("%s am a hero" % ("I",)) #2 直接提供字符串,也可以使用format,template

    logging.warn("%(name)s am a hero", {'name':"I"})  #关键字参数   

logging.warn("%(name)s am a hero" % {'name':"I"}) #甚至这样也可以

logging.warn("%(name)s am a hero, %(value)s" % {'name':"I", 'value':'Yes'}) #原来%也能解析关键字参数,不一定非是元组

如果关键字和位置参数混用呢,%应该不会有什么作为了,***也就能这样:

logging.warn("%(name)s am a hero, %()s" % {'name':"I" ,'': 'Yes'})#也是字典格式化的原理

4.配置logging:

上 面已经讲了如果配置handler,绑定到logger。如果需要一个稍微庞大的日志系统,可以想象,我们会使用好多的 addHandler,SetFormatter之类的,有够烦了。幸好,logging模块提供了两种额外配置方法,不需要写众多代码,直接从配置结构 中获悉我们的配置意图

方式一:使用配置文件

 

  1. import logging 
  2.  
  3. import logging.config 
  4.  
  5. logging.config.fileConfig('logging.conf'
  6.  
  7. # create logger 
  8.  
  9. logger = logging.getLogger('simpleExample'
  10.  
  11. # 'application' code 
  12.  
  13. logger.debug('debug message'
  14.  
  15. logger.info('info message'
  16.  
  17. logger.warn('warn message'
  18.  
  19. logger.error('error message'
  20.  
  21. logger.critical('critical message'
  22.  
  23.   
  24.  
  25. #配置文件logging.conf的内容 
  26.  
  27. [loggers] 
  28.  
  29. keys=root,simpleExample 
  30.  
  31. [handlers] 
  32.  
  33. keys=consoleHandler 
  34.  
  35. [formatters] 
  36.  
  37. keys=simpleFormatter 
  38.  
  39. [logger_root] 
  40.  
  41. level=DEBUG 
  42.  
  43. handlers=consoleHandler 
  44.  
  45. [logger_simpleExample] 
  46.  
  47. level=DEBUG 
  48.  
  49. handlers=consoleHandler 
  50.  
  51. qualname=simpleExample 
  52.  
  53. propagate=0 
  54.  
  55. [handler_consoleHandler] 
  56.  
  57. class=StreamHandler 
  58.  
  59. level=DEBUG 
  60.  
  61. formatter=simpleFormatter 
  62.  
  63. args=(sys.stdout,) 
  64.  
  65. [formatter_simpleFormatter] 
  66.  
  67. format=%(asctime)s - %(name)s - %(levelname)s - %(message)s 
  68.  
  69. datefmt= 

方式二:使用字典

请参阅python2.7.9 Library文档,链接:

https://docs.python.org/2/library/logging.config.html?highlight=dictconfig#configuration-dictionary-schema

5.众多的handler满足不同的输出需要

StreamHandler,FileHandler,NullHandler,RotatingFileHandler,TimedRotatingFileHandler,SocketHandler,DatagramHandler,SMTPHandler,SysLogHandler,NTEventLogHandler,MemoryHandler,HTTPHandler,WatchedFileHandler,

其中前三种在logging模块中给出,其他的在logging.handlers模块中给出。

 

 

 

责任编辑:王雪燕 来源: 51CTO博客
相关推荐

2015-05-15 10:04:28

localhost

2015-03-09 14:53:04

OracleOracle DGDataGuard F

2011-03-15 13:19:27

iptablesHOWTO

2014-12-01 10:33:51

Python

2015-07-01 10:25:07

Docker开源项目容器

2015-06-17 09:34:09

软件定义存储 云存储

2022-03-04 09:59:16

logging模块函数程序

2015-06-15 13:06:23

项目项目经验

2014-10-23 09:47:28

安全运维Iperf

2014-12-12 10:46:55

Azure地缘组affinitygro

2015-07-29 13:46:27

OpenStackIcehouse私有云实战部署

2015-04-21 09:28:58

ockerdocker监控平台监控

2015-07-03 11:26:07

MySQL高可用架MHA

2014-12-23 11:23:14

DRBDHeartbeatNFS

2015-12-10 10:13:22

2014-11-25 11:33:35

2014-12-11 10:31:22

网络优化KVM

2015-04-17 11:17:15

大数据大数据择业

2015-06-17 09:43:45

云计算应用传统企业应用云平台

2015-03-02 09:22:09

Javascript函数用法apply
点赞
收藏

51CTO技术栈公众号