今天处理数据,无意中看了一眼,结果下了一跳。按小数点打假我的就是造假数据。
想了一下大概是这样。当机器测量结果时根据数值大小有个小数点或者数位保留问题。比如测量数值在几万几千,大多保留到整数。当你copy数据到另外一个软件时,如果默认的时小数点后3位,那就都是零。
当保留到十位时,各位上就都是0,当你处理数据需要除以某个数字时,就会出现很多相同小数点的情况。
耿同学的小数点打假有个bug
版主: who, shepherd17
版主: who, shepherd17
今天处理数据,无意中看了一眼,结果下了一跳。按小数点打假我的就是造假数据。
想了一下大概是这样。当机器测量结果时根据数值大小有个小数点或者数位保留问题。比如测量数值在几万几千,大多保留到整数。当你copy数据到另外一个软件时,如果默认的时小数点后3位,那就都是零。
当保留到十位时,各位上就都是0,当你处理数据需要除以某个数字时,就会出现很多相同小数点的情况。