百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

打包python库(python 打包whl)

off999 2024-10-01 14:06 35 浏览 0 评论

我认为应该重新定义打包的最优方法,现在有许多好的工具,要么不用,要么用得不多。最好重新评估最优方法。

这里假设包将在多个Python版本上进行测试,其中包含不同的依赖版本、设置等的组合。

打包时我喜欢遵循的几个原则:

  • 如果有工具可以帮助你进行测试,使用它。如果你可以使用py.test或者nose,不要浪费时间来构建自定义的测试程序。它们带有大型生态系统插件,可以改进你的测试。

  • 在可能的情况下,尽早预防问题。这主要是严格的测试和详尽的测试。防止常见错误的设计。

  • 收集所有覆盖数据。记录。识别回归。

  • 测试所有可能的配置。

结构

这是相当重要的,一切都围绕着这个。我喜欢这种结构:

src目录是一种较好的方法,因为:

  • 你不得不编写和用户一样的导入语句。当前目录隐式包含在sys.path中;但是当从site-packegs安装和导入时不是这样。用户永远不会有与你相同的当前工作目录。

这种限制在测试和打包中都有有益的:您将被迫测试已安装的代码(因为你也需要在virtualenv中安装一遍才能使用)。这将确保部署的代码工作正常(打包正确)——否则你的测试将失败。这让你不会发布那种完全不能用的软件包。您将被迫安装发布。如果你曾经在PyPI上上传一个带有缺失模块或错误依赖项的发行版,那是因为你没有测试安装。只是能够成功地建造sdist,不保证它会真的安装成功。

  • 它阻止你轻松导入setup.py脚本中的代码。这是一种不好的做法,因为如果导入主包或模块触发对依赖项的额外导入(可能不可用),它总是会放大。最好不要让它成为可能。
  • 简单的打包代码和清单。它使清单写起来非常简单(如:你打包有一个有模板或静态文件的Django应用程序)。同样,对于拥有多个包的大型库来说,多个包之间也不会混淆。明确被打包代码和打包代码的分离。不建立src目录而编写MANIFEST.in颇为不易。如果你的manifest写得不正确,测试将失败。而使用src目录就会容易很多:只需在MANIFEST.in中添加graft src。
    发布坏掉的的包给PyPI是不好玩的。
  • 没有src目录,你会得到乱七八糟的可编辑安装(“setup.py develop"或者"pip install -e")。没有分离(没有src目录)将迫使setuptools将项目的根放在sys.path上——其中包含所有无用的东西(例如:setup.py和其它测试或配置脚本将无意中变得可导入)。
  • 还有更好的工具。你不需要处理安装包就可以运行测试了。只使用tox——它将自动为你安装包,零摩擦,零摩擦。
  • 用户错误的可能更少。
  • 更少的工具将代码与非代码混合的可能。

有的人说,扁平胜于嵌套,但这种思想并不适用于数据。毕竟,文件系统就是数据,而数据重要的是内聚性以及结构良好。你将注意到,我没有在安装的包中包含测试。因为:

  • 模块发现工具将使你的测试模块失败。测试模块中经常发生奇怪的事情。内置help进行模块发现。例如:
  • 测试通常需要额外的依赖项才能运行,因此它们本身并没用——你不能直接运行它们。
  • 测试关注的是开发,而不是使用。
  • 非常不可能的是库的用户而不是库的开发人员运行测试。例如:在测试应用程序时,不需要运行Django的测试——Django已经测试过。

替代品

src目录中结构更少,几个例子:

这两种结构之所以流行,是因为几年前打包存在许多问题,所以安装包只是为了测试它是不可行的。人们仍然推荐它们,即使它是基于旧的和过时的设定。

大多数项目都错误地使用了它们,因为除了Twisted"s trial之外,所有测试运行程序都有不正确的当前工作目录的默认值——如果不测试已安装的代码,那么你将测试错误的代码。trial通过将工作目录更改为临时目录来做正确的事情,但是大多数项目不使用trial。

安装脚本

遗憾的是,目前的打包工具存在很多缺陷。setup.by脚本应该尽可能简单:

这有什么特别之处:

  • 没有exec或者import技巧。
  • 包括src:packages或者root-level模块中的所有内容。
  • 显式编码。

运行测试

再次,似乎人们喜欢运行python setup.py test来运行包测试。我认为这不值得做——setup.py test是一个复制CPAN测试系统的失败的实验。Python没有通用的测试结果协议,所以没有通用的测试命令。至少现在没有——我们需要一些人来建立使这一切有价值的规范和服务,并支持他们。我认为,一般来说,认识到失败的地方,并在必要时回到起点很重要——绝对没有任何服务或工具以带来附加值的方式使用setup.py test命令。这里肯定出了问题。

我相信现在对PyPI来说做任何事情都已经太晚了,Travis已经是一个稳固、可靠、极其灵活和免费的替代品。它与Github集成得非常好——将为每个Pull Request自动运行构建。

测试本地tox是运行所有可能的测试配置的一种非常好的方法(每个配置将是一个tox环境)。我喜欢用这些额外的环境把测试组织成矩阵:

  • check——检查包元数据(例如:如果你的长文本中的重构文本是有效的)

  • clean——净覆盖率

  • report——为所有积累的数据做覆盖报告

  • docs——构建sphinx文档

我也喜欢有或没有覆盖测量的环境,并一直运行它们。竟态条件通常对性能敏感,如果使用覆盖率测量运行所有内容,则不太可能捕获它们。

测试矩阵

根据依赖性,你通常会得到大量的Python版本、依赖版本和不同设置的组合。通常人们只是硬编码tox.ini或仅是.travis.yml中的一切。它们最终得到不完整的本地测试或Travis中连续运行的测试配置。我试过了,不喜欢。我试过复制tox.ini和.travis.yml中的环境。还是不喜欢它。由于没有现成的可用选项来生成配置,因此我实现了一个使用模板来生成tox.ini和.travis.ym的生成器脚本。最好的方式是DRY,你可以轻松地跳过特定配置上的运行测试(例如:在Python 3上跳过Django 1.4),并且改变的工作就更少了。基本要素(完整的代码):

setup.cfg

生成器脚本使用配置文件(setup.cfg为方便起见):

ci/bootstrap.py

这是生成器脚本。每当您想要重新配置配置时,就运行此操作。

ci/templates/.travis.yml

这里面有很多吸引人的东西:非常有用libSegFault.so trick。

它基本上只运行tox。

ci/templates/tox.ini

ci/templates/appveyor.ini

对于Windows友好的项目:

如果你有足够的耐心阅读,你会注意到的:

  • Travis配置为矩阵中的每个项目使用tox。这使得Travis中的测试与本地测试一致。

  • tox的环境顺序是clean,check,2.6-1.3,2.6-1.4,……,report。

  • 具有覆盖率测量的环境无需安装即可运行代码(usedevelop = true),以便覆盖率可以在最后组合所有测量。

  • 没有覆盖的环境将持续存在并安装到virtualenv中(tox的默认行为),以便尽早发现打包问题。

  • report环境将最终的所有运行合并为单个报告。

拥有tox.ini中完整的环境清单是一个巨大的优势:

  • 你在本地并行运行所有的东西(如果你的测试不需要严格的隔离)和detox。如果你想使用drone.io而不是Travis,你仍然可以并行运行所有的东西。

  • 你可以为本地的一切(将所有环境的覆盖测量合并为单个环境)测量累积的覆盖率。

测试覆盖率

Coveralls——一种跟踪覆盖时间和多个构建的好方法。它会自动添加关于Gitbub Pull Request覆盖率变化的注释。

TL;DR

  • 将代码放入src。

  • 使用tox和detox。

  • 有无覆盖测量测试。

  • 为tox.ini和.travis.ini使用生成器脚本。

  • 在Travis中用tox运行测试以保持与本地测试的一致性。

太复杂?只需使用Python包模板。

不够说服力?阅读Hynek的文章关于scr结构。

英文原文:https://qiniumedia.freelycode.com/vcdn/1/%E4%BC%98%E8%B4%A8%E6%96%87%E7%AB%A0%E9%95%BF%E5%9B%BE2/package_a_python_lib.pdf
译者:张新英

相关推荐

Linux 网络协议栈_linux网络协议栈

前言;更多学习资料(包含视频、技术学习路线图谱、文档等)后台私信《资料》免费领取技术点包含了C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,fastdfs,MongoDB,Z...

揭秘 BPF map 前生今世_bpfdm

1.前言众所周知,map可用于内核BPF程序和用户应用程序之间实现双向的数据交换,为BPF技术中的重要基础数据结构。在BPF程序中可以通过声明structbpf_map_def...

教你简单 提取fmpeg 视频,音频,字幕 方法

ffmpeg提取视频,音频,字幕方法(HowtoExtractVideo,Audio,SubtitlefromOriginalVideo?)1.提取视频(ExtractVi...

Linux内核原理到代码详解《内核视频教程》

Linux内核原理-进程入门进程进程不仅仅是一段可执行程序的代码,通常进程还包括其他资源,比如打开的文件,挂起的信号,内核内部的数据结构,处理器状态,内存地址空间,或多个执行线程,存放全局变量的数据段...

Linux C Socket UDP编程详解及实例分享

1、UDP网络编程主要流程UDP协议的程序设计框架,客户端和服务器之间的差别在于服务器必须使用bind()函数来绑定侦听的本地UDP端口,而客户端则可以不进行绑定,直接发送到服务器地址的某个端口地址。...

libevent源码分析之bufferevent使用详解

libevent的bufferevent在event的基础上自己维护了一个buffer,这样的话,就不需要再自己管理一个buffer了。先看看structbufferevent这个结构体struct...

一次解决Linux内核内存泄漏实战全过程

什么是内存泄漏:程序向系统申请内存,使用完不需要之后,不释放内存还给系统回收,造成申请的内存被浪费.发现系统中内存使用量随着时间的流逝,消耗的越来越多,例如下图所示:接下来的排查思路是:1.监控系统中...

彻底搞清楚内存泄漏的原因,如何避免内存泄漏,如何定位内存泄漏

作为C/C++开发人员,内存泄漏是最容易遇到的问题之一,这是由C/C++语言的特性引起的。C/C++语言与其他语言不同,需要开发者去申请和释放内存,即需要开发者去管理内存,如果内存使用不当,就容易造成...

linux网络编程常见API详解_linux网络编程视频教程

Linux网络编程API函数初步剖析今天我们来分析一下前几篇博文中提到的网络编程中几个核心的API,探究一下当我们调用每个API时,内核中具体做了哪些准备和初始化工作。1、socket(family...

Linux下C++访问web—使用libcurl库调用http接口发送解析json数据

一、背景这两天由于一些原因研究了研究如何在客户端C++代码中调用web服务端接口,需要访问url,并传入json数据,拿到返回值,并解析。 现在的情形是远程服务端的接口参数和返回类型都是json的字符...

平衡感知调节:“系统如人” 视角下的架构设计与业务稳定之道

在今天这个到处都是数字化的时代,系统可不是一堆冷冰冰的代码。它就像一个活生生的“数字人”,没了它,业务根本转不起来。总说“技术要为业务服务”,但实际操作起来问题不少:系统怎么才能快速响应业务需求?...

谈谈分布式文件系统下的本地缓存_什么是分布式文件存储

在分布式文件系统中,为了提高系统的性能,常常会引入不同类型的缓存存储系统(算法优化所带来的的效果可能远远不如缓存带来的优化效果)。在软件中缓存存储系统一般可分为了两类:一、分布式缓存,例如:Memca...

进程间通信之信号量semaphore--linux内核剖析

什么是信号量信号量的使用主要是用来保护共享资源,使得资源在一个时刻只有一个进程(线程)所拥有。信号量的值为正的时候,说明它空闲。所测试的线程可以锁定而使用它。若为0,说明它被占用,测试的线程要进入睡眠...

Qt编写推流程序/支持webrtc265/从此不用再转码/打开新世界的大门

一、前言在推流领域,尤其是监控行业,现在主流设备基本上都是265格式的视频流,想要在网页上直接显示监控流,之前的方案是,要么转成hls,要么魔改支持265格式的flv,要么265转成264,如果要追求...

30 分钟搞定 SpringBoot 视频推拉流!实战避坑指南

30分钟搞定SpringBoot视频推拉流!实战避坑指南在音视频开发领域,SpringBoot凭借其快速开发特性,成为很多开发者实现视频推拉流功能的首选框架。但实际开发中,从环境搭建到流处理优...

取消回复欢迎 发表评论: