StrToFloat和谁错了：Delphi或ASESQL Server

概述最近我发现了一件奇怪的事：结果 var d: double;begin d := StrToFloat('-1.79E308'); 与ASE和SQL Server通过的字符串值’-1.79E308’转换为float字段类型不同 INSERT INTO my_table (my_float_field) VALUES (-1.79E308) 对于Delphi内存转储是9A BB AD 58 最近我发现了一件奇怪的事：结果

var  d: double;begin  d := StrTofloat('-1.79E308');

与ASE和sql Server通过的字符串值’-1.79E308’转换为float字段类型不同

INSERT INTO my_table (my_float_fIEld) VALUES (-1.79E308)

对于Delphi内存转储是9A BB AD 58 F1 DC EF FF
对于ASE / sql Server,数据包中的值选择为99 BB AD 58 F1 DC EF FF.

谁错了,服务器还是Delphi？

解决方法 我们工作的前提是StrTofloat产生最接近的可表示的二进制浮点值到提供的十进制值.

您出现的两个十六进制值是相邻的.您可以看到它们在有效数字中相差1.以下是一些解码这两个值的Python代码：

>>> import struct>>> struct.unpack('!d','ffefdcf158adbb9a'.decode('hex'))[0]-1.7900000000000002e+308>>> struct.unpack('!d','ffefdcf158adbb99'.decode('hex'))[0]-1.79e+308

请记住,Python使用最短的可能值来打印浮点值,其中最接近的可表示值是实际值. ffefdcf158adbb99在Python的眼中解码为打印的值为-1.79e 308,足以证明ffefdcf158adbb99是最接近的可表示值.换句话说,Delphi代码给出了错误的答案.

而且,出于好奇,在相反的方向：

>>> hex(struct.unpack('<Q',struct.pack('<d',float('-1.79e308')))[0])'0xffefdcf158adbb99L'

值得注意的是,32位Delphi编译器产生了ffefdcf158adbb99,但64位Delphi编译器产生了ffefdcf158adbb9a.这是一个明显的缺陷,应该作为错误报告提交给Quality Portal.

总结

以上是内存溢出为你收集整理的StrToFloat和谁错了：Delphi或ASE / SQL Server全部内容，希望文章能够帮你解决StrToFloat和谁错了：Delphi或ASE / SQL Server所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。