标签: 数值误差 - 文档

数值误差共 2 篇文章

为什么矩阵正交化能减少数值误差：条件数改善

2026-06-30 20:36:20

为什么矩阵正交化能减少数值误差：条件数改善解决线性方程组 $Ax=b$ 时，即使数学上正确，计算机计算也可能产生巨大误差。两个数学上等价的算法，一个可能得到精确解，另一个可能误差巨大。问题的核心在于矩阵 $A$ 本身的“健康状况”，这由其条件数决定。矩阵正交化是改善这种“健康状况”、提升计算稳

矩阵正交化数值误差条件数

67 0

ST浮点数精度：处理ST中REAL类型比较误差的最佳实践

2026-03-19 01:18:42

在结构化文本（ST）编程中，REAL 类型是处理连续物理量（如温度、压力、转速、电压）最常用的浮点数类型。它遵循 IEEE 754 单精度格式（32 位），可表示约 $3.4 \times 10^{38}$ 到 $+3.4 \times 10^{38}$ 范围内的数值，但有效十进制精度仅为 67 位

浮点精度 REAL类型 ST编程

173 0

数值误差 共 2 篇文章

数值误差共 2 篇文章