设某数 ,对其进行四舍五入的近似值是( ),则它有3位有效数字,绝对误差限是 。 A:0.0315 B:0.315 C:0.03150 D:0.00315 答案: 0.0315若行列式 =0,其中 是n阶单位阵,A是n阶方阵,则A的范数满足 点我阅读全文
若迭代公式 是p阶收敛,则 ( )。 A:0 B: C:p! D: 答案:设A是n阶方阵,则 A可作唯一LU分解的充分必要条件是( )。 A:A为正交阵 B:A为对角占优阵 C: D:A为对称正定阵 答案:用二分法求解非线性方程 的正根,在 点我阅读全文
已知准确值x与其有t位有效数字的近似值x=0.0a1a2…an×10s(a10)的绝对误差x-x( ). A:0.5×10s+1-t B:0.5×10 s-t C:0.5×10 s+t D:0.5×10 s-1-t 答案: 0.5× 点我阅读全文