代码之家 › 专栏 › 技术社区 › Siebe Bosch

为什么这个乘法会导致OverflowException?

multiplication overflow exception vb.net

-5

Siebe Bosch · 技术社区 · 6 年前

我的代码尝试将12303乘以174596。

任何一个像样的计算器都能提供这个问题的答案,那么为什么我会得到OverflowException呢?当我在即时窗口中直接执行它时,也会发生这种情况。

该代码旨在确定某个值在二进制文件中的位置。文件本身的大小为7 Gb。

有没有办法解决这个问题?

Dim position As Long = hisFileHeader.StreamStartDataPosition + 
  (TSIdx * hisFileHeader.StreamDataBlockSize)

tsidx 值为12303和 StreamDataBlockSize 值为174596

screenshot

1 回复 | 直到 6 年前

David Wilson 6 年前

我猜是吧 tsidx 和 StreamDataBlockSize 是 Integer 类型。最大数字an 整数 可容纳的类型为2147483647。然后,括号中的乘法会得到一个整数结果,但答案超出了 整数 类型。将代码更改为。。

Dim position As Long = hisFileHeader.StreamStartDataPosition + (CLng(TSIdx) * hisFileHeader.StreamDataBlockSize)

乘法将以 Long 类型

推荐文章

lfox · 如果列中不存在某个值,则停止代码执行

2 年前

zaen · 将值传递到异常字符串消息中

2 年前

Matt · 尝试从中删除行时接收异常和代码失败。使用java的txt文件

2 年前

Psyfun · 为什么MySQL在用于EF时会引发DataReader异常

6 年前

paulmiller3000 · 安装Python包时出错:路径中缺少make实用程序

6 年前

Tessalarius · Tkinter回调中出现异常:json。解码器。JSONDecodeError:应为值:第1行第1列(字符0)

6 年前

Zephyr · 如何在双ListView选择系统上实现过滤器?

6 年前

Dmitrii Vinokurov · 无法在Windows上使用键盘Ctrl+C中断线程化Python控制台应用程序

6 年前

Techgeeks1 · 我们可以在log4net%属性中将字符限制为10个字符吗?

6 年前

Aave · 错误数组长度的特定异常

6 年前