"justify"> (3.17)
Для кожного рівня розраховують трьох дисперсії: повторюваності, міжлабораторних і відтворюваності.
Дисперсія повторюваності дорівнює
. (3.18)
міжлабораторних дисперсія дорівнює
, (3.19)
де
(3.21)
Для окремого випадку, коли всі nij=п=2, наведені формули спрощуються і мають вигляд
,
.
Коли внаслідок випадкових ефектів (викликаних обмеженістю вибірки) з даних розрахунків для виходить від'ємне значення, його слід прийняти рівним нулю.
Дисперсія відтворюваності складе
. (3.22)
Далі необхідно визначити, чи залежить прецизійність від загального середнього значення т для рівня, і якщо залежить, то знайти відповідне функціональне співвідношення.
Регулярна функціональна зв'язок між прецизійних і т існує не у всіх випадках. Зокрема, якщо невід'ємною частиною розбіжностей між результатами вимірювань є неоднорідність матеріалу, функціональний зв'язок буде мати місце лише у випадку, якщо дана неоднорідність є регулярною функцією середнього значення для рівня т. Для твердих матеріалів різного складу, одержуваних за різними технологіями, ця функціональна зв'язок жодним чином не є безсумнівною. Це питання потрібно вирішити до застосування описаної нижче процедури. В якості альтернативи для кожного розглянутого матеріалу могли б бути встановлені окремі значення прецизійності.
Обгрунтування і процедури обчислень відносяться до стандартних відхилень як повторюваності, так і відтворюваності, однак для стислості тут вони представлені тільки для повторюваності. Будуть розглянуті тільки три типи співвідношень :: sr=bm (пряма лінія, що проходить через початок координат);
II: sr=а + bт (пряма лінія, що проходить вище початку координат) ;: lg sr=с + d lg т (або sr=Cmd); d? 1 (Експоненціальна залежність).
Можна очікувати, що в більшості випадків існування залежності принаймні одне з даних рівностей дасть її задовільний опис. Якщо ж ні, то експерт за статистикою, здійснює аналіз, повинен буде знайти альтернативне рішення. Щоб уникнути плутанини, постійні величини а, b, с, С і d, присутні в даних равенствах, можуть розрізнятися за допомогою підрядкових індексів аr, br для повторюваності і aR, bR - для відтворюваності, проте вони були опущені в записі в даному розділі знову ж для спрощення системи позначень. Крім того, sr було скорочено просто до s для зручності простановки підрядкового індексу рівня j.
Зазвичай d gt; 0, таким чином, залежно I і III будуть зводитися до s=0 для т=0, що може здатися неприйнятним. Однак при згадці у звітах даних по прецизійності необхідно роз'яснювати, що вони застосовні тільки в межах рівнів, які охоплюються міжлабораторних експериментом за її оцінкою.
Для а=0 і d=1 всі три залежності є тотожними, тому в разі, коли а розташовується поблизу нуля і/або d розташовується поблизу одиниці, дві або всі три дані залежності забезпечуватимуть практично рівноцінне відповідність ; перевага повинна бути віддана залежності I, оскільки вона допускає нижченаведене просте твердження: «Два результату вимірювань вважаються сумнівними, якщо вони відрізняються більш ніж на (100 b)%».
З погляду статистичної термінології це формулювання означає, що коефіцієнт варіації (100 s/m) постійний для всіх рівнів.
Якщо на графіку функції sj залежно від аргументу або на графіку функції lg sj залежно від аргументу lg виявляється, що сукупність точок лежить досить близько до прямої лінії, то може виявитися достатньої графічна апроксимація.
З погляду статистики апроксимація прямою лінією ускладнюється за рахунок того, що як, так і sj є оцінками і, отже, схильні до помилок. Однак оскільки кутовий коефіцієнт b зазвичай невеликий (порядку 0,1 або менше), то помилки в оцінці мають невеликий вплив, і превалюють помилки в оцінці s.
Гарна оцінка параметрів лінії регресії потребує виваженої регресії, оскільки стандартне відхилення величини s пропорційно прогнозованому значенню sj (? j).
Вагові коефіцієнти повинні бути пропорційні 1/(? j) 2, де sj являє собою прогнозоване стандартне відхилення повторюваності для рівня j. Однак? J залежить і від параметрів, які ще тільки повинні бути розраховані.
При вагових коефіцієнтах Wj, рівних 1/(? Nj) 2, де N=0, 1, 2 ... для послідовних ітерацій, розрахункові формули виглядають наступним чином
Тоді для зале...