高精度运算,是指参与运算的数(加数,减数,因子……)范围大大超出了标准数据类型(整型,实型)能表示的范围的运算。例如,求两个20000位的数的和。这时,就要用到高精度算法了。
... override 改写、覆写 重载、改写、重新定义 Arbitrary Precision Arithmetic 高精度计算 integer (integral) 整数(的) 整型(的) ...
基于768个网页-相关网页
... 间隔算术(interval arithmetic) 高精度计算(high precision computation) 回溯法(historical bookkeeping) ...
基于20个网页-相关网页
·2,447,543篇论文数据,部分数据来源于NoteExpress
在很多高精度计算场合需要采用浮点运算。
Floating-point (FP) arithmetic is usually used in many high accuracy calculation fields.
这主要应用于改善HPC(高精度计算)领域的运算速度。
It's mainly going to be used in the HPC space to improve computational speed.
湿空气物性的高精度计算中,饱和水蒸汽曲线的计算建模是关键所在。
In high - precision calculating moist air properties, calculation model of the water vapor saturation curve of moist air is the key.
应用推荐