精度丢失热门博客列表 - ITeye博客频道

博客专栏推荐

本月博客排行

年度博客排行

博客首页 → 精度丢失

数据精度及其选型

为什么关注数字精度? 在大部分场景，我们默认整数或者保留两位小数位，分别对应Int和Double，而没有进一步去了解其精度，因为大部分应用，这样 ...

数据精度 double float BigDecimal 精度丢失

truemylife 评论(0) 有2304人浏览 2012-03-14 13:59

highcharts 大量数据下y轴值精度丢失的解决

使用Highcharts Stock绘制了1000个点，highcharts默认自动根据日期为数据进行分组，并计算y轴的平均值，结果导致y轴的值不够精确（现象：随着区间的放大缩小，y轴的值忽大忽小），解决也很简单，在参数设定中关闭数据分组功能即可。 plotOptions: { line: { dataGrouping: { enabl ...