span align = "justify"> - методична похибка; ? в - обчислювальна (інструментальна) похибка, яка залежить від розрядності даних, кількості, типу та послідовності операцій, які становлять алгоритм (а також від обраних масштабів у випадку обчислень в целочисленном форматі даних). Для задоволення вимоги по точності обчислень встановлюється таке співвідношення між методичної та обчислювальної похибками у вигляді балансу:
? м ? ? в . (5)
Похибка ? в можна оцінити аналітично. Однак така оцінка виходить громіздкою і надто грубою. Задачу можна спростити, якщо замість вихідного балансу (5) вимагати більш жорсткий баланс похибок:
? м ? ? 0 , (6)
де ? 0 - похибка подання змінних в целочисленном форматі даних, причому
? 0 ? 1/2М f = | f | max < span align = "justify">/2 (2 n - 1 - 1), (7)
де М f - масштаб функції f (x); n - розрядність. Зауважимо, що оцінка ? в ? ? 0 близька до реальної, оскільки кількість арифметичних операцій в алгоритмі (3) обчислюється одиницями.
Для більшості елементарних функцій на інтервалі апроксимації виконується рівність | f | max ? 1, тоді отримуємо:
? 0 ? 2 -n . (8)
Підставивши в (6) оцінку (4) для
