`
guanhuaing
  • 浏览: 1221815 次
文章分类
社区版块
存档分类
最新评论

SUM()求和时的精度问题,跟数据表字段定义有关

 
阅读更多

SUM()求和时的精度问题,跟数据表字段定义有关

sum以最精确的 expression 数据类型返回所有表达式值的和
返回结果:
money 精确到货币单位的千分之十
float(n) n在1-14,精度7位,25-53,精度15位
decimal 精度38位
int 精度为整数位数

<%=conn.execute("Select SUM(TotalPrice) as List1 from OrderList where TranslateStatus=1")("List1")%>

语句查询的结果居然会返回很长的数字(5700.25001144409)11位小数

查找数据表中对应的 TOTALPRICE字段定义.单精度.精确到2位小数.

总的数据没有很大的差异.

分享到:
评论

相关推荐

    sum_求和_

    在MATLAB中,`∑`(也写作`\sum`)是用于执行数学求和操作的符号,它允许用户对一系列数值进行累加。在提供的描述中,“∑(n^2+7n)^3 n从1~100”是一个具体的求和表达式,表示要计算从1到100的每个整数n的平方加7倍n...

    Oracle用户数据字典以及查询表字段

    ### Oracle用户数据字典以及查询表字段 在Oracle数据库中,数据字典是存储数据库元数据(即关于数据的数据)的特殊集合。这些元数据包括了数据库对象的名称、类型、属性等信息。数据字典对于数据库管理员和开发人员...

    参考资料-互联网人的技能七:还在用SUM求和吗.zip

    结合文件名,我们可以推测这个Excel文件将详细介绍如何在处理数据时,超越基础的SUM函数,使用更复杂、更强大的功能。 在Excel中,SUM函数是最基本的求和工具,但当面对大量数据或需要进行更复杂的计算时,它的局限...

    excel数据求和PPT课件.pptx

    本课件旨在帮助用户深入理解Excel公式的含义与应用,熟练掌握数据求和的各种方法,以便于高效地解决实际工作中的计算问题。 ### 公式基础 1. **公式定义**:公式在Excel中以等号“=”开始,包含运算符、单元格引用...

    excel数据求和PPT学习教案.pptx

    6. SUM 函数的使用:SUM 函数是 Excel 函数实际上是已经定义好的公式,用于求和的函数是 sum(参数)。使用 SUM 函数的操作步骤是:选择存放结果的空白单元格,然后单击常用工具栏上的粘贴函数按钮“”,或者选择...

    文档python数组双指针算法求和问题LeetCode2sum3sum4sum含代码

    通过对上述问题的解析和代码示例,我们可以看到双指针算法在解决LeetCode上的2Sum、3Sum及4Sum求和问题时的有效性和高效性。这种方法不仅能够快速定位到符合条件的元素组合,还能够有效地避免重复解的产生,大大提高...

    python数组双指针算法求和问题LeetCode2sum3sum4sum含代码

    在编程领域,数组双指针算法是一种非常常见且高效的解决问题的方法,尤其在处理与数组元素求和相关的题目时。本文将深入探讨如何使用Python实现双指针算法来解决LeetCode中的2sum、3sum和4sum问题,并提供相关代码...

    SUM()函数完成多条件求和.xls

    SUM()函数完成多条件求和.xls

    汇编语言 第2章 数据定义与传送

    总结起来,汇编语言的第二章重点介绍了如何定义数据段和数据,以及如何通过指令进行数据的传送。这些基础知识是编写汇编程序的基础,对于理解计算机底层工作原理至关重要。熟练掌握这些概念,开发者可以更有效地控制...

    java数据求和

    在Java编程中,数据求和是一项基础且常见的任务,它涉及到文件操作、数据解析和异常处理等关键知识点。本文将详细讲解如何使用Java来实现这一功能,并深入探讨相关的技术细节。 首先,我们要从文件中读取数据。在...

    excel表格如何把筛选出来的数据自动求和.doc

    Excel表格是数据处理和分析的常用工具之一,但是在使用Excel表格时,经常会遇到一些问题,例如如何把筛选出来的数据自动求和。这是一个常见的问题,下面我们将详细介绍如何使用Excel表格来实现这个功能。 首先,...

    Excel SUM数组公式计数与求和.rar

    在实际工作中,熟练掌握SUM函数和SUMPRODUCT函数的数组公式用法,可以让你在处理复杂数据时游刃有余。 文件"技巧208 SUM数组公式计数与求和.xls"中可能包含了更多关于此类应用的实例和详细步骤,你可以打开这个工作...

    excel 电子表格数据安颜色汇总求和

    特别是在处理大量数据时,如何快速准确地进行数据汇总与求和是非常重要的技能之一。而在某些情况下,我们可能需要按照单元格背景颜色的不同来对数据进行分类汇总或求和,这时就需要用到一些高级技巧。 #### 知识点...

    Excel技巧:求和函数SUM应用讲解.pptx

    SUM函数是Excel中使用最多的函数之一,利用它进行求和运算可以忽略存有文本、空格等数据的单元格,语法简单、使用方便。相信这也是大家最先学会使用的Excel函数之一。 一、SUM函数的基本应用 SUM函数的基本语法为...

    Excel技巧:求和函数SUM应用讲解【推荐文章】.doc

    在Excel中,求和函数是数据分析和处理时最基础且重要的工具之一,本文将深入讲解SUM函数及其变体的应用,帮助你提升Excel操作效率。 首先,SUM函数是最基础的求和函数,它能够计算一系列数值的总和。例如,当你需要...

    matlab中求和函数sum.pdf

    以下将详细介绍`sum`函数在MATLAB中的用法及其相关的知识点。 首先,`sum(A)`是最基本的调用形式,它会对矩阵A的每一列进行求和。这里的求和是从第一列到最后一列,将每一列的所有元素相加,并返回一个行向量,包含...

    vb求和算法分析的方法

    1. **算法优化**:考虑到浮点数运算的精度问题,在实际编程中可能需要采取一定的优化措施,比如使用更精确的数据类型或者调整循环条件。 2. **错误处理**:增加异常处理机制,例如检查用户输入的有效性,避免出现...

    Excel技巧:求和函数SUM应用讲解[会计实务-会计实操].doc

    在Excel中,求和函数是数据分析和财务工作中最基础且重要的功能之一,尤其在会计实务和会计实操中,熟练掌握各种求和函数的应用能够大大提高工作效率。本文将详细讲解求和函数SUM及其衍生函数SUMIF的使用方法。 ...

    解决Numpy中sum函数求和结果维度的问题

    总的来说,当你在Numpy中使用`sum`函数时,通过合理设置`axis`和`keepdims`参数,可以控制求和后的数组形状,以适应各种数学运算和数据处理的需求。理解这些细节对于高效地使用Numpy进行数值计算至关重要。希望本文...

    DataTable分类求和,分类汇总,排序

    在处理大量数据时,我们可能需要对数据进行各种操作,例如分类、求和、汇总以及排序。以下是对"DataTable分类求和,分类汇总,排序"这个主题的详细解析。 1. **DataTable的Compute方法**: DataTable的Compute方法...

Global site tag (gtag.js) - Google Analytics