Foxtable(狐表)用户栏目专家坐堂 → [求助]如何实现整数个位为0?


  共有6247人关注过本帖树形打印复制链接

主题:[求助]如何实现整数个位为0?

帅哥哟,离线,有人找我吗?
guruww
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:3 积分:170 威望:0 精华:0 注册:2013/2/17 15:16:00
[求助]如何实现整数个位为0?  发帖心情 Post By:2013/5/23 22:39:00 [显示全部帖子]

在实际使用中需要将运算结果有效位数保留到十位,如结果为1836,处理后变为1840。我开始预用convert函数,如convert(计算表达式/10,‘system.int16’)*10。计ue算表达式涉及的字段列的类型都是单精度小数。但电脑报错?这是为什么?那要如何才能实现呢?谢谢!

 回到顶部
帅哥哟,离线,有人找我吗?
guruww
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:3 积分:170 威望:0 精华:0 注册:2013/2/17 15:16:00
  发帖心情 Post By:2013/5/24 9:31:00 [显示全部帖子]

提示内容:表达式错误,如果确定表达式无语法错误,且参与运算的各列的名称准确无误,那么请检查各列的数据类型是否正确,例如只有数值列才能参与加、减、乘、除等数学运算!

我的具体情况是:convert(列名1/列名2*100,‘system.int16’)*10。 列名1和列名2都是单精度小数,表达式列类型是短整数(实际计算值不会超过范围)。输入是在表达式生成器中进行的。单独计算“列名1/列名2*1000”没有问题。具体数据比如,列名2=139,列名1=271.5, 计算值取整为1953,但我希望处理后为1950.

不知问题出在哪里?请指教!

[此贴子已经被作者于2013-5-24 9:31:26编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
guruww
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:3 积分:170 威望:0 精华:0 注册:2013/2/17 15:16:00
  发帖心情 Post By:2013/5/24 10:12:00 [显示全部帖子]

反正我还是出这个问题。是不是使用System.int16等类型,系统需要安装什么东西或者需要进行设置?

 回到顶部