`
iNexus
  • 浏览: 195718 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

RuntimeWarning: overflow encountered in short_scalars

 
阅读更多

RuntimeWarning: overflow encountered in short_scalars

 

在做一个较大数据量的加法时碰到这个问题,按理说python可以自动改变数据类型,把int型变成long甚至longlong,但这里没有。。。

 

一个可控的方法是用numpy提供的数据类型。(numpy是专门用于科学计算的库,里面提供了大量的方法、数据类型辅助科学计算)比如:

 

16位的int不够用可以声明为32位的:

 

 

import numpy as np
amplitude_amount = np.int32(0)

 

 他还有诸多类似的数据类型声明,这样就可以自由控制我们对内存和需求的平衡了!

 

 

a = np.int64(0)
b = np.long(0)
c = np.longlong(0)
分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics