Question

округлить число 661 целых 616 до десятичных и определите абсолютную и относительную погрешность приближения.

Answer 1

До десятичных - округление до первой цифры после запятой. При этом учитывается последующая цифра.

661,616 -> 661,6

Абсолютная погрешность:

661,616 - 661,6 = 0,016

Относительная погрешность:

0,016/661,616 = 2,4 %