go top

floating-point precision

  • 浮点精度:指计算机中浮点数表示的精确程度。浮点精度越高,表示的数值范围越广,但也会增加计算的复杂性。

网络释义专业释义

  [计] 浮点精度

... 浮点减法器 floating-point subtractor 浮点精度 floating-point precision 浮点控制器 floating controller ...

基于12个网页-相关网页

短语

precision floating point number 双精度浮点数字 ; 单精度浮点数字

single-precision floating point number 单精度浮点数 ; 单点图

Extended Precision Floating Point 浮点扩增精确度 ; 延伸精度浮点 ; 扩增精确度

double precision floating point number 双精度浮点数 ; 双精度浮点数字

single-precision floating-point 单精度浮点数 ; 度浮点数

extended precision floating point arithmetic 延伸精度浮点运算

double-precision floating-point units 个双精度浮点单元

single-precision floating point 单精度浮点

single precision floating point 单精度浮点数

 更多收起网络短语
  • 浮点精度 - 引用次数:1

    参考来源 - 图像和DEM数据的信息隐藏算法研究

·2,447,543篇论文数据,部分数据来源于NoteExpress

双语例句权威例句

  • A more general synonym is the float type, which has an arbitrary floating-point precision that you specify when declaring the data type as float (val).

    常用同义词FLOAT类型拥有任意浮点精度可以声明数据类型指定例如float (val)。

    youdao

  • On a 64-bit system, integral types are converted to 64-bit integral types, and single precision floating point types are promoted to double precision.

    64 系统上,转换成 64 位的整型值,精度浮点类型被转换成精度的浮点类型。

    youdao

  • Mathematically precise calculations can be thrown severely askew by small round-off errors caused by finite-precision floating-point Numbers.

    有限精度浮点数字引起很小舍入错误严重歪曲数学精度计算

    youdao

更多双语例句
$firstVoiceSent
- 来自原声例句
小调查
请问您想要如何调整此模块?

感谢您的反馈,我们会尽快进行适当修改!
进来说说原因吧 确定
小调查
请问您想要如何调整此模块?

感谢您的反馈,我们会尽快进行适当修改!
进来说说原因吧 确定