C# .NET中除法结果的精度是根据(被)除数来决定的!

2022年5月25日补充如下:

精度不是根据除数决定,而是除数和被除数任何一个。截图如下:

再次感谢码农很忙的提醒,这里还是功力不够,未充分动手,结论不严谨。

这已经是第二次碰到了,以前自己写遇到过,知道怎么避坑。

这次分配给一个小朋友去写这段程序,就出问题了。

比方说:45/100=0.45,但是如果这个100是int类型,返回值就是0.

那么必须将分母根据实际需要转换为所需的精度类型,如decimal或float/double。

再次强调一遍:C# .NET中除法结果的精度是根据被除数来决定的!

Loading

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据