REPRESENTACIÓN DE UN NÚMERO EN UN ORDENADOR

Cuando se usa una calculadora o una computadora digital para realizar cálculos numéricos, se debe considerar un error inevitable, el llamado error de redondeo. Este error se origina porque la aritmética realizada en una maquina involucra números con sólo un numero finito de dígitos, con el resultado de que muchos cálculos se realizan con representaciones aproximadas de los números verdaderos.
El ordenador recibe, normalmente, información en decimal, que es transformada a binario por un programa interno. Posteriormente efectúa las operaciones pertinentes, pasa el resultado a decimal e informa al usuario de este resultado. Así pues, en principio deberíamos hablar de las representación de los números en binario (la forma usual de trabajar del ordenador), pero para facilitar la comprensión, usaremos la representación decimal.
La representación de los números en el sistema decimal no es única (considerar que 0:999::: = 1:000:::). Esto también es cierto para otros sistemas de numeración, y en particular para el sistema binario. Para evitar estas ambigüedades, siempre nos referiremos a la representación finita (1 en vez de 0.999...).
En general los ordenadores digitales trabajan con un número fijo (finito) de posiciones, la longitud de palabra, cuando representan un número internamente. Esta longitud n depende de la maquina, y además algunas permiten extensiones a múltiplos enteros de n (2n, 3n) que posibilitan una mayor exactitud si se necesita.