渐进记号及时间复杂度计算

  • 渐近符号
    • 渐近记号Ω\OmegaΩ
    • 渐进记号Θ\ThetaΘ
    • 渐进记号小ο\omicronο
    • 渐进记号小ω\omegaω
    • 渐进记号大O\OmicronO
    • 常见的时间复杂度关系
  • 时间复杂度计算:递归方程
    • 代入法
    • 迭代法
    • 套用公式法

渐近符号

渐近记号Ω\OmegaΩ

  f(n)=Ω(g(n))f(n)=\Omega(g(n))f(n)=Ω(g(n)) 当且仅当存在正的常数C和n0n_0n0,使得对于所有的n≥n0n≥ n_0nn0 ,有f(n)≥C(g(n))f(n)≥C(g(n))f(n)C(g(n))。此时,称g(n)g(n)g(n)f(n)f(n)f(n)的下界。
  根据符号Ω\OmegaΩ的定义,用它评估算法的复杂度得到的是问题规模充分大时的一个下界。这个下界的阶越高,评估越精确,越有价值。

例:设f(n)=n2+nf(n)=n^2+nf(n)=n2+n,则
f(n)=Ω(n2)f(n)=\Omega(n^2)f(n)=Ω(n2),取c=1,n0=1c=1,n_0=1c=1,n0=1 即可
f(n)=Ω(100n)f(n)=\Omega(100n)f(n)=Ω(100n),取c=1/100,n0=1c=1/100,n_0=1c=1/100,n0=1 即可
显然,Ω(n2)\Omega(n^2)Ω(n2)作为下界更为精确。

渐进记号Θ\ThetaΘ

  f(n)=Θ(g(n))f(n)=\Theta(g(n))f(n)=Θ(g(n)) 当且仅当存在正常数和C1,C2,n0C_1,C_2,n_0C1,C2,n0,使得对于所有的n≥n0n≥n_0nn0, 有C1(g(n))≤f(n)≤C2(g(n))C_1(g(n))≤f(n)≤ C_2(g(n))C1(g(n))f(n)C2(g(n))。此时,称f(n)f(n)f(n)g(n)g(n)g(n)同阶。
  这种渐进符号是指,当问题规模足够大的时候,算法的运行时间将主要取决于时间表达式的第一项,其它项的执行时间可以忽略不计。第一项的常数系数,随着n的增大,对算法的执行时间也变得不重要了。

例:3n+2=Θ(n)3n+2= Θ(n)3n+2=Θ(n)
10n2+4n+2=Θ(n2)10n^2+4n+2= Θ(n^2)10n2+4n+2=Θ(n2)
5×2n+n2=Θ(2n)5×2^n+n^2= Θ(2^n)5×2n+n2=Θ(2n)

渐进记号小ο\omicronο

  f(n)=ο(g(n))f(n)=\omicron(g(n))f(n)=ο(g(n))当且仅当f(n)=ο(g(n))f(n)=\omicron(g(n))f(n)=ο(g(n))g(n)≠ο(f(n))g(n)\neq \omicron(f(n))g(n)=ο(f(n)),此时,g(n)g(n)g(n)f(n)f(n)f(n)的一个绝对上界。
  小ο\omicronο提供的上界可能是渐近紧确的,也可能是非紧确的。(如:2n2=ο(n2)2n^2=\omicron(n^2)2n2=ο(n2)是渐近紧确的,而2n=ο(n2)2n=\omicron(n^2)2n=ο(n2)是非紧确上界。

例:4nlogn+7=ο(n2)4nlogn + 7= \omicron(n^2)4nlogn+7=ο(n2)

渐进记号小ω\omegaω

  f(n)=ω(g(n))f(n)=\omega(g(n))f(n)=ω(g(n))当且仅当f(n)=ω(g(n))f(n)=\omega(g(n))f(n)=ω(g(n))g(n)≠ω(f(n))g(n)\neq \omega(f(n))g(n)=ω(f(n)),此时,g(n)g(n)g(n)f(n)f(n)f(n)的一个绝对下界。
  ω\omegaω表示一个非渐进紧确的下界。

例:f(n)=n2+nf(n)=n^2+nf(n)=n2+n,则f(n)=f(n)=f(n)=\omega(n)(n)(n)是正确的,f(n)=f(n)=f(n)=\omega(n2)(n^2)(n2)是错误的。

渐进记号大O\OmicronO

  设f(n)f(n)f(n)g(n)g(n)g(n) 是定义域为自然数集上的函数。若存在正数cccn0n_0n0c和n_0c,使得对一切n≥n0n≥ n_0nn0 都有0≤f(n)≤cg(n)0 ≤ f(n) ≤ cg(n)0f(n)cg(n)成立,则称f(n)f(n)f(n)的渐进的上界是g(n)g(n)g(n),记作f(n)=Og(n)f(n)=\Omicron g(n)f(n)=Og(n)
  根据符号大O\OmicronO的定义,用它评估算法的复杂度得到的只是问题规模充分大时的一个上界。这个上界的阶越低,评估越精确,越有价值。

例:设f(n)=n2+nf(n)=n^2+nf(n)=n2+n,有
f(n)=O(n2)f(n)=\Omicron(n^2)f(n)=O(n2),取c=2,n0=1c=2,n_0=1c=2,n0=1即可
f(n)=O(n3)f(n)=\Omicron(n^3)f(n)=O(n3),取c=1,n0=2c=1,n_0=2c=1,n0=2即可

常见的时间复杂度关系

O(1)<O(log(n))<O(n)<O(nlogn)<O(n^{2})

  O(2n)O(2^{n})O(2n)O(n!)O(n!)O(n!)大于以上的所有时间复杂度,具体原因参考图像。

时间复杂度计算:递归方程

  加、减、乘、除、比较、赋值等操作,一般被看作是基本操作,并约定所用的时间都是一个单位时间;通过计算这些操作分别执行了多少次来确定程序总的执行步数。一般来说,算法中关键操作的执行次数决定了算法的时间复杂度。
  比较简单的算法时间复杂性估计通常需要观察在for、while循环中的关键操作执行次数,在这里我们只讨论一种比较复杂的时间复杂度计算问题:求递归方程解的渐近阶的方法。递归式就是一个等式,代表了递归算法运算时间和n的关系,通过更小输入的函数值来描述一个函数。那么如何求得递归算法的Θ渐进界呢?主要有三种方法。

代入法

  代入法是指自己猜测一个界,然后用数学归纳法进行验证是否正确,这种猜测主要靠经验,不常用。

迭代法

  迭代法是指循环地展开递归方程,然后把递归方程转化为和式,使用求和技术解之。

套用公式法

  这个方法为估计形如:T(n)=aT(n/b)+f(n)T(n)=aT(n/b)+f(n)T(n)=aT(n/b)+f(n) 的递归方程解的渐近阶提供三个可套用的公式。要求其中的a≥1和b>1是常数,f(n)是一个确定的正函数。那么在三种情况下,我们可以得到T(n)的渐进估计式,懒得打公式,所以截图。
在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐