Precisión
Las palabras computacionales constan de un número finito de bits. Esto significa que la codificación binaria de las variables es solo una aproximación a un valor real de precisión arbitraria. Por lo tanto, las limitaciones de la representación binaria introducen automáticamente limitaciones en la precisión del valor.
Temas
- Range and Precision
Range and precision of fixed-point data types.
- Maximize Precision
To maximize precision, make the slope as small as possible while keeping the range adequately large.
- Rounding
Rounding involves going from high precision to lower precision and produces quantization errors and computational noise.
- Modos de redondeo para bloques de punto fijo de Simulink
Los bloques de punto fijo de Simulink® admiten siete modos de redondeo diferentes.
- Net Slope and Net Bias Precision
Net slope and bias precision, detecting precision loss, underflow, and overflow.
- Detect Fixed-Point Constant Precision Loss
This example shows how to detect fixed-point constant precision loss.
- Use Scaled Doubles to Avoid Precision Loss
How to avoid precision loss by overriding the data types in your model with scaled doubles.