定点小数是计算机 处理的数值数据多数带有小数,小数点在计算机中通常有两种表示方法,一种是约定所有数值数据的小数点隐含在某一个固定位置上,称为定点表示法,简称定点数 8位字长纯小数,第一位为符号位,小数点在第一位后面,后七位为具体数值,如: -0.1001原码表示为1.1001,反码为1.0110,补码为1.0111 -1的补码为1.0000000
提出了面向汇编语言的代码优化技术及整字节移位定点小数算法。
This paper also presents the assemble-language-oriented code optimization technique and the full-byte shifting integer calculation algorithm, both of them give more efficient object codes.
SQL - 92包括DECIMAL数据类型,它是用于表示定点小数的精确数字类型,它可以对小数进行基本的算术运算。
SQL-92 includes a decimal data type, which is an exact numeric type for representing fixed point decimal Numbers and performs basic arithmetic operation on decimal Numbers.
精度可以提高通过舍入而不是删除从真正的定点时,或允许更多的位小数部分。
The accuracy can be improved by rounding instead of truncating when converting from real to fixed-point, or by allowing more bits for the fractional part.
应用推荐