标签:数值误差

共 2 篇文章

为什么矩阵正交化能减少数值误差:条件数改善

为什么矩阵正交化能减少数值误差:条件数改善 解决线性方程组 $Ax=b$ 时,即使数学上正确,计算机计算也可能产生巨大误差。两个数学上等价的算法,一个可能得到精确解,另一个可能误差

# 矩阵正交化 # 数值误差 # 条件数
2026-06-30 121 0

ST浮点数精度:处理ST中REAL类型比较误差的最佳实践

在结构化文本(ST)编程中,REAL 类型是处理连续物理量(如温度、压力、转速、电压)最常用的浮点数类型。它遵循 IEEE 754 单精度格式(32 位),可表示约 $3.4 \t

# 浮点精度 # REAL类型 # ST编程
2026-03-19 227 0