|
|
51CTO旗下网站
|
|
移动端

腾讯在职8年Python开发经验的程序员写给初学者的总结,希望有用

当我开始学习Python的时候,有些事我希望我一早就知道。我花费了很多时间才学会这些东西。我想要把这些重点都编纂到一篇文章当中。

作者:Python编程之家来源:今日头条|2018-11-20 09:56

【大咖·来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》

当我开始学习Python的时候,有些事我希望我一早就知道。我花费了很多时间才学会这些东西。我想要把这些重点都编纂到一篇文章当中。这篇文章的目标读者,是刚刚开始学习Python语言的有经验的程序员,想要跳过前几个月研究Python使用的那些他们已经在用的类似工具。包管理和标准工具这两节对于初学者来说同样很有帮助。

我的经验主要基于Python 2.7,但是大多数的工具对任何版本都有效。

如果你从来没有使用过Python,我强烈建议你阅读Python introduction,因为你需要知道基本的语法和类型。

包管理

Python世界最棒的地方之一,就是大量的第三方程序包。同样,管理这些包也非常容易。按照惯例,会在 requirements.txt 文件中列出项目所需要的包。每个包占一行,通常还包含版本号。这里有一个例子,本博客使用Pelican:

  1. ; html-script: false ]pelican==3.3 
  2. Markdown 
  3. pelican-extended-sitemap==1.0.0 

Python 程序包有一个缺陷是,它们默认会进行全局安装。我们将要使用一个工具,使我们每个项目都有一个独立的环境,这个工具叫virtualenv。我们同样要安装一个更高级的包管理工具,叫做pip,他可以和virtualenv配合工作。

首先,我们需要安装pip。大多数python安装程序已经内置了easy_install(python默认的包管理工具),所以我们就使用easy_install pip来安装pip。这应该是你***一次使用easy_install 了。如果你并没有安装easy_install ,在linux系统中,貌似从python-setuptools 包中可以获得。

如果你使用的Python版本高于等于3.3, 那么Virtualenv 已经是标准库的一部分了,所以没有必要再去安装它了。

下一步,你希望安装virtualenv和virtualenvwrapper。Virtualenv使你能够为每个项目创造一个独立的环境。尤其是当你的不同项目使用不同版本的包时,这一点特别有用。Virtualenv wrapper 提供了一些不错的脚本,可以让一些事情变得容易。

Shell

  1. ; html-script: false ]sudo pip install virtualenvwrapper 

当virtualenvwrapper安装后,它会把virtualenv列为依赖包,所以会自动安装。

打开一个新的shell,输入mkvirtualenv test 。如果你打开另外一个shell,则你就不在这个virtualenv中了,你可以通过workon test 来启动。如果你的工作完成了,可以使用deactivate 来停用。 

腾讯在职8年Python开发经验的程序员写给初学者的总结,希望有用

IPython

IPython是标准Python交互式的编程环境的一个替代品,支持自动补全,文档快速访问,以及标准交互式编程环境本应该具备的很多其他功能。

当你处在一个虚拟环境中的时候,可以很简单的使用pip install ipython 来进行安装,在命令行中使用ipython 来启动。

腾讯在职8年Python开发经验的程序员写给初学者的总结,希望有用

另一个不错的功能是”笔记本”,这个功能需要额外的组件。安装完成后,你可以使用ipython notebook,而且会有一个不错的网页UI,你可以创建笔记本。这在科学计算领域很流行。

腾讯在职8年Python开发经验的程序员写给初学者的总结,希望有用

测试

我推荐使用nose或是py.test。我大部分情况下用nose。它们基本上是类似的。我将讲解nose的一些细节。

这里有一个人为创建的可笑的使用nose进行测试的例子。在一个以test_开头的文件中的所有以test_开头的函数,都会被调用:

  1. Python 
  2.  
  3. ; html-script: false ]def test_equality(): 
  4.  assert True == False 

不出所料,当运行nose的时候,我们的测试没有通过。

Shell

  1. ; html-script: false ](test)jhaddad@jons-mac-pro ~VIRTUAL_ENV/src$ nosetests  
  2. ====================================================================== 
  3. FAIL: test_nose_example.test_equality 
  4. ---------------------------------------------------------------------- 
  5. Traceback (most recent call last): 
  6.  File "/Users/jhaddad/.virtualenvs/test/lib/python2.7/site-packages/nose/case.py", line 197, in runTest 
  7.  self.test(*self.arg) 
  8.  File "/Users/jhaddad/.virtualenvs/test/src/test_nose_example.py", line 3, in test_equality 
  9.  assert True == False 
  10. AssertionError 
  11.   
  12. ---------------------------------------------------------------------- 

nose.tools中同样也有一些便捷的方法可以调用。

Python

  1. ; html-script: false ]from nose.tools import assert_true 
  2. def test_equality(): 
  3.  assert_true(False

如果你想使用更加类似JUnit的方法,也是可以的:

Python

  1. ; html-script: false ]from nose.tools import assert_true 
  2. from unittest import TestCase 
  3.   
  4. class ExampleTest(TestCase): 
  5.   
  6.  def setUp(self): # setUp & tearDown are both available 
  7.  self.blah = False 
  8.   
  9.  def test_blah(self): 
  10.  self.assertTrue(self.blah) 

开始测试:

Shell

  1. ; html-script: false ](test)jhaddad@jons-mac-pro ~VIRTUAL_ENV/src$ nosetests  
  2. ====================================================================== 
  3. FAIL: test_blah (test_nose_example.ExampleTest) 
  4. ---------------------------------------------------------------------- 
  5. Traceback (most recent call last): 
  6.  File "/Users/jhaddad/.virtualenvs/test/src/test_nose_example.py", line 11, in test_blah 
  7.  self.assertTrue(self.blah) 
  8. AssertionError: False is not true 
  9.   
  10. ---------------------------------------------------------------------- 
  11. Ran 1 test in 0.003s 
  12.   
  13. FAILED (failures=1) 

卓越的Mock库包含在Python 3 中,但是如果你在使用Python 2,可以使用pypi来获取。这个测试将进行一个远程调用,但是这次调用将耗时10s。这个例子显然是人为捏造的。我们使用mock来返回样本数据而不是真正的进行调用。

Python

  1. ; html-script: false ]import mock 
  2.   
  3. from mock import patch 
  4. from time import sleep 
  5.   
  6. class Sweetness(object): 
  7.  def slow_remote_call(self): 
  8.  sleep(10) 
  9.  return "some_data" # lets pretend we get this back from our remote api call 
  10.   
  11. def test_long_call(): 
  12.  s = Sweetness() 
  13.  result = s.slow_remote_call() 
  14.  assert result == "some_data" 

当然,我们的测试需要很长的时间。

Shell

  1. ; html-script: false ](test)jhaddad@jons-mac-pro ~VIRTUAL_ENV/src$ nosetests test_mock.py  
  2.   
  3. Ran 1 test in 10.001s 
  4.   
  5. OK 

太慢了!因此我们会问自己,我们在测试什么?我们需要测试远程调用是否有用,还是我们要测试当我们获得数据后要做什么?大多数情况下是后者。让我们摆脱这个愚蠢的远程调用吧:

Python

  1. ; html-script: false ]import mock 
  2.   
  3. from mock import patch 
  4. from time import sleep 
  5.   
  6. class Sweetness(object): 
  7.  def slow_remote_call(self): 
  8.  sleep(10) 
  9.  return "some_data" # lets pretend we get this back from our remote api call 
  10.   
  11. def test_long_call(): 
  12.  s = Sweetness() 
  13.  with patch.object(s, "slow_remote_call", return_value="some_data"): 
  14.  result = s.slow_remote_call() 
  15.  assert result == "some_data" 

好吧,让我们再试一次:

Shell

  1. ; html-script: false ](test)jhaddad@jons-mac-pro ~VIRTUAL_ENV/src$ nosetests test_mock.py  
  2. ---------------------------------------------------------------------- 
  3. Ran 1 test in 0.001s 
  4.   
  5. OK 

好多了。记住,这个例子进行了荒唐的简化。就我个人来讲,我仅仅会忽略从远程系统的调用,而不是我的数据库调用。

nose-progressive是一个很好的模块,它可以改善nose的输出,让错误在发生时就显示出来,而不是留到***。如果你的测试需要花费一定的时间,那么这是件好事。

pip install nose-progressive 并且在你的nosetests中添加--with-progressive

调试

iPDB是一个极好的工具,我已经用它查出了很多匪夷所思的bug。pip install ipdb 安装该工具,然后在你的代码中import ipdb; ipdb.set_trace(),然后你会在你的程序运行时,获得一个很好的交互式提示。它每次执行程序的一行并且检查变量。

腾讯在职8年Python开发经验的程序员写给初学者的总结,希望有用

python内置了一个很好的追踪模块,帮助我搞清楚发生了什么。这里有一个没什么用的python程序:

Python

  1. ; html-script: false ]a = 1 
  2. b = 2 
  3. a = b 

这里是对这个程序的追踪结果:

Shell

  1. ; html-script: false ](test)jhaddad@jons-mac-pro ~VIRTUAL_ENV/src$ python -m trace --trace tracing.py 1 ↵  
  2.  --- modulename: tracing, funcname: <module> 
  3. tracing.py(1): a = 1 
  4. tracing.py(2): b = 2 
  5. tracing.py(3): a = b 
  6.  --- modulename: trace, funcname: _unsettrace 
  7. trace.py(80): sys.settrace(None) 

当你想要搞清楚其他程序的内部构造的时候,这个功能非常有用。如果你以前用过strace,它们的工作方式很相像。

在一些场合,我使用pycallgraph来追踪性能问题。它可以创建函数调用时间和次数的图表。

腾讯在职8年Python开发经验的程序员写给初学者的总结,希望有用

***,objgraph对于查找内存泄露非常有用。这里有一篇关于如何使用它查找内存泄露的好文。

Gevent

Gevent 是一个很好的库,封装了Greenlets,使得Python具备了异步调用的功能。是的,非常棒。我***的功能是Pool,它抽象了异步调用部分,给我们提供了可以简单使用的途径,一个异步的map()函数:

Python

  1. ; html-script: false ]from gevent import monkey 
  2. monkey.patch_all() 
  3.   
  4. from time import sleep, time 
  5.   
  6. def fetch_url(url): 
  7.  print "Fetching %s" % url 
  8.  sleep(10) 
  9.  print "Done fetching %s" % url 
  10.   
  11. from gevent.pool import Pool 
  12.   
  13. urls = ["http://test.com""http://bacon.com""http://eggs.com"
  14.   
  15. p = Pool(10) 
  16.   
  17. start = time() 
  18. p.map(fetch_url, urls) 
  19. print time() - start 

非常重要的是,需要注意这段代码顶部对gevent monkey进行的补丁,如果没有它的话,就不能正确的运行。如果我们让Python连续调用 fetch_url 3次,通常我们期望这个过程花费30秒时间。使用gevent:

Python

  1. ; html-script: false ](test)jhaddad@jons-mac-pro ~VIRTUAL_ENV/src$ python g.py  
  2. Fetching http://test.com 
  3. Fetching http://bacon.com 
  4. Fetching http://eggs.com 
  5. Done fetching http://test.com 
  6. Done fetching http://bacon.com 
  7. Done fetching http://eggs.com 
  8. 10.001791954 

如果你有很多数据库调用或是从远程URLs获取,这是非常有用的。我并不是很喜欢回调函数,所以这一抽象对我来说效果很好。

结论

好吧,如果你看到这里了,那么你很可能已经学到了一些新东西。这些工具,在过去的一年里对我影响重大。找打它们花费了不少时间,所以希望本文能够减少其他人想要很好利用这门语言需要付出的努力。

【编辑推荐】

  1. 程序员吐槽:我永远不会再为 Oracle 工作了 !
  2. 这8个Python小细节,让你在大数据领域如鱼得水
  3. 程序员必看!2019年需求***的***0项技能!
  4. Python测试工具 | 8 个很棒的pytest插件
  5. 让你事半功倍的9个小众Python库
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

16招轻松掌握PPT技巧

16招轻松掌握PPT技巧

GET职场加薪技能
共16章 | 晒书包

289人订阅学习

20个局域网建设改造案例

20个局域网建设改造案例

网络搭建技巧
共20章 | 捷哥CCIE

645人订阅学习

WOT2019全球人工智能技术峰会

WOT2019全球人工智能技术峰会

通用技术、应用领域、企业赋能三大章节,13大技术专场,60+国内外一线人工智能精英大咖站台,分享人工智能的平台工具、算法模型、语音视觉等技术主题,助力人工智能落地。
共50章 | WOT峰会

0人订阅学习

读 书 +更多

Fedora Core 5 Linux架站与网管

Linux出色的网络功能堪称当今操作系统中的佼佼者,无论在功能还是在支持能力上都有令人满意的表现。Linux内置的多个服务器,几乎包含了目前...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO播客