Subject | English | German |
IT | double-precision floating-point calculation | Gleitkommarechnung doppelter Genauigkeit |
comp., MS | double-precision floating-point format | Gleitkommazahlenformat mit doppelter Genauigkeit (A computer number format that occupies 8 bytes (64 bits) in computer memory and represents a wide dynamic range of values by using floating point) |
IT, dat.proc. | floating-point precision | Gleitkommagenauigkeit |
IT, dat.proc. | floating-point precision | Fließkommagenauigkeit |
tech. | short precision floating point constants | Gleitkommakonstanten mit kurzer Mantissenlaenge |