从两行对比看:
Hfy(j+1)=Hby(j+1)-dt(Ebx(j+1)-Ebx(j))(1/u0)(1/dz)
如果像你所说,只有Hfy(26)=NaN,问题可能出在Hby、Ebx,你应该把这两项也输出来检查一下。
也可以调试程序,h_loop:doj=1,s 里面的1,改成25,在后面一行加上断点,逐行调试,在调试过程中查看每一个变量的值,就能找到谁是Nan的来源了
NaN,是Not a Number的缩写。 NaN 用于处理计算中出现的错误情况,比如 00 除以 00 或者求负数的平方根。由上面的表中可以看出,对于单精度浮点数,NaN 表示为指数为 emax + 1 = 128(指数域全为 1),且尾数域不等于零的浮点数。IEEE 标准没有要求具体的尾数域,所以 NaN 实际上不是一个,而是一族。不同的实现可以自由选择尾数域的值来表达 NaN,比如 Java 中的常量 FloatNaN 的浮点数可能表达为 01111111110000000000000000000000,其中尾数域的第一位为 1,其余均为 0(不计隐藏的一位),但这取决系统的硬件架构。Java 中甚至允许程序员自己构造具有特定位模式的 NaN 值(通过 FloatintBitsToFloat() 方法)。比如,程序员可以利用这种定制的 NaN 值中的特定位模式来表达某些诊断信息。
以上就是关于循环过程中出现输出NaN怎么办全部的内容,包括:循环过程中出现输出NaN怎么办、NAN在软件中是啥意思、等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)