根据指定的小数点位数或者有效数字使用指定的舍入方式对浮点型数据近似处理。只可以对指定的浮点型数据列执行此操作。近似值可以添加为一个新的列,或者替换原始列。 如果添加为新列,需要指定新列名字的后缀。 有7种不同的舍入模式可供选择:远离,靠近,向上,向下,半向上,半向下,偶数。
输出格式也可以使用不同的类型,可以参看下面的例子。将1.23501, 0.00000035239 和 -3.123103E9近似(半向上)保留3位有效数字的结果如下。
输入 |
浮点型(*) |
标准字符 |
简单字符 |
工程字符 |
1.23501 |
1.24 |
"1.24" |
"1.24" |
"1.24" |
0.00000035239 |
0.000000352 |
"3.52E-7" |
"0.000000352" |
"352E-9" |
-3.123103001 |
-3120000000 |
"-3.12E+9" |
"-3120000000" |
"-3.12E+9" |
(*)注意由于"浮点型"输出选项在表示浮点数时的数值精度问题,可能会出现意料之外的结果。如0.1可能表示为0.09999999999999999。
对话框选项
手动选择
包含
这个列表中显示的是需要进行近似处理的字段。只能选择浮点型或整型字段。
排除
这个列表显示的是不进行近似处理的字段。
选择
使用这个选项下的"添加"、"全部添加"、"移除"、"全部移除"按钮可以在包含列表与排除列表之间移动字段。也可以通过双击列表中的字段名来移动字段。
搜索
当字段较多时这个功能特别有用,可以通过输入要查找字段名称中包含的字符进行模糊查找。重复点击搜索按钮可以逐一标记下一个包含搜索字符的字段。也可以勾选复选框"选中所有匹配字段"选中所有符合条件的字段。
通配符/正则表达式
模式
使用通配符或者正则表达式输入选择字段的模式。
区分大小写
如果勾选此项,在进行匹配时将会区分字母的大小写。
排除
这个列表显示的是不进行近似处理的字段。
包含
这个列表中显示的是需要进行近似处理的字段。只能选择浮点型或整型字段。
列设置
浮点型的格式将按照这个标签下的选项进行设置。
追加新字段
勾选此项,近似处理后的值将被保存到新的字段中。选中的每个字段都会分别生成一个表示近似值的字段。新生成字段的名字由原始字段的名字和指定的后缀组成,您也可以在后面的文本框中指定后缀。如果不勾选此项,近似处理后的值将覆盖原字段的值。
输出格式
指定输出格式。对于数值0.00000035239,选择标准字符,则显示为3.52E-7; 选择简单字符,则显示为0.000000352;选择工程字符, 则显示为352E-9。
舍入设置
精度
指定浮点型数据需要保留的位数,如果位数小于实际的小数部分的长度,将应用指定的舍入方式。
精度模式
近似值的精度类型。小数点位数是默认选项,默认按指定小数点位数近似计算。而有效数字选项可以按有效数字进行近似计算,对于一个近似数,从左边第一个不是0的数字起,到精确到的位数止,所有的数字都叫做这个数的有效数字。
舍入模式
定义近似计算浮点型数据时使用的舍入模式。有7种不同的模式可供选择:
向上舍入:如果该值为正,则往远离0的方向近似的舍入模式。如果该值为为负,则向上舍入。如果是2.5取整后等于3,如是-2.5取整后等于-2。
负向舍入:向负方向舍入。如果是2.5取整后等于2,如是-2.5取整后等于-3。
远离0取整:向远离0的方向取整。如果是2.5取整后等于3,如是-2.5取整后等于-3。
向0取整:往小于该值的方向近似的舍入模式。如果是2.5取整后等于2,如是-2.5取整后等于-2。
四舍五入:四舍五入的舍入模式。如果是2.5取整后等于3,如是2.4取整后等于2。
五舍六入:五舍六入的舍入模式(类似四舍五入,差别在于对于5选择向下近似)。如果是2.5取整后等于2,如是2.6取整后等于3。
四舍六入:四舍六入,如果等于五,则选择近似值为偶数的舍入模式。如果是2.4取整后等于2,如是2.6取整后等于3,2.5取整后等于2,3.55取整后等于4。
端口
输入端口
0 |
输入表 |
输出端口
0 |
近似表 |