Нищівне скасування

У чисельних методах, нищівне скасування — це явище коли віднімання двох хороших наближень двох близьких чисел може породити дуже погане наближення різниці двох початкових чисел.

Наприклад, якщо маємо дві дошки, одна $L_{1}=254.5\,{\text{см}}$ завдовшки, а інша $L_{2}=253.5\,{\text{см}}$ завдовжки, і ми вмиряюмо їх лінійкою, точність якої лише сантиметр, тоді наближення будуть ${\tilde {L}}_{1}=255\,{\text{см}}$ і ${\tilde {L}}_{2}=253\,{\text{см}}$. Ці наближення можуть бути хорошими у сенсі відносної похибки, до справжніх довжин: наближення відхились менш ніж на 2 % від справжніх довжин, $|L_{1}-{\tilde {L}}_{1}|/|L_{1}|<2\%$.

Однак, якщо наближені довжини відняти, то різниця буде ${\tilde {L}}_{1}-{\tilde {L}}_{2}=255\,{\text{см}}-253\,{\text{см}}=2\,{\text{см}}$, хоча справжня різниця між довжинами становить $L_{1}-L_{2}=254.5\,{\text{см}}-253.5\,{\text{см}}=1\,{\text{см}}$. Різниця між наближенням, $2\,{\text{см}}$, має похибку в 100% від розміру різниці справжніх значень, $1\,{\text{см}}$.

Нищівне скасування може статись навіть якщо різниця обчислена точно, як у прикладі вище — це не властивість якогось певного різновиду арифметики як-от з рухомою комою; радше це притаманне відніманню, коли входи це наближення. Насправді, в арифметиці з рухомою комою, коли входи достатньо близькі, вислід обчислення різниці точний, згідно з лемою Стербенза немає похибки заокруглення через дію віднімання з рухомою точкою.

Формальний розгляд

Формально, нищівне знищення відбувається, бо віднімання погано обумовлене на близьких входах: навіть, якщо наближення ${\tilde {x}}=x(1+\delta _{x})$ і ${\tilde {y}}=y(1+\delta _{y})$ мають малі відносні похибки $|\delta _{x}|=|x-{\tilde {x}}|/|x|$ і $|\delta _{y}|=|y-{\tilde {y}}|/|y|$ щодо справжніх значень $x$ і $y$, відповідно, відносна похибка наближеної різниці ${\tilde {x}}-{\tilde {y}}$ від справжньої різниці $x-y$ зворотно пропорційна справжній різниці:

$${\begin{aligned}{\tilde {x}}-{\tilde {y}}&=x(1+\delta _{x})-y(1+\delta _{y})=x-y+x\delta _{x}-y\delta _{y}\\&=x-y+(x-y){\frac {x\delta _{x}-y\delta _{y}}{x-y}}\\&=(x-y){\biggr (}1+{\frac {x\delta _{x}-y\delta _{y}}{x-y}}{\biggr )}.\end{aligned}}$$

Отже, відносна похибка точної різниці наближень ${\tilde {x}}-{\tilde {y}}$ щодо різниці справжніх чисел $x-y$ це

$$\left|{\frac {x\delta _{x}-y\delta _{y}}{x-y}}\right|.$$

І вона може бути наскільки завгодно великою якщо справжні числа $x$ і $y$ близькі.