问题
单项选择题
计算机对数值数据进行处理时,其精度主要取决于( )。
A.计算机字长
B.计算机语言功能
C.算法
D.编程语言数值类型数据位数
答案
参考答案:C
解析: 计算机进行数值计算过程中产生误差是不可避免的。例如对某种无穷计算(如积分、无穷级数求和等)过程的截断会产生截断误差,计算机计算过程中数据只能取有限位教会造成舍入误差等。通常用精度表示数值计算的正确程度。为了提高精度,应选择或设计精度较高的计算方法及算法。算法确定后,需要采用某种语言编程,并在计算机上实现,才能达到预期精度。算法是确定精度的前提,而计算机字长、编程语言的功能和语言数值类型数据位数是保证算法实现的条件。后者对精度是有影响的,但算法是决定因素。由此可见C是正确答案。