rotunjirea masuratori

numerele de înregistrare Reguli pentru ST SEV 543-77

1. cifre semnificative ale numerelor - numerele de la prima la stânga, nu este zero, dreptul la ultima. În acest caz, zerourile care rezultă din multiplicatorul 10, nu este luată în considerare.

a) numărul de 12,0 are trei cifre semnificative.

b) Numărul 30 are două cifre semnificative.

c) numărul 120. 10 are trei cifre semnificative.

g) 0,514. 10 are trei cifre semnificative.

e) 0,0056 are două cifre semnificative.

2. Dacă doriți să indice faptul că numărul este corect, după numerele indică cuvântul „doar“ sau ultima cifră semnificativă este tipărită cu litere aldine. De exemplu, în textul tipărit: 1 kW. h = 3600 J (exact).

3. Există numere aproximative pentru înregistrarea numărului de cifre semnificative.

a) Există numărul de 2.4 și 2.40. înseamnă 2.4 Înregistrarea care sunt valabile numai numere întregi și zecimi, valoarea reală a numărului poate fi, de exemplu, 2,43 și 2,38. Înregistrarea 2,40 înseamnă că adevărata și sutimi de: valoarea reală a numărului poate fi 2403 și 2398, dar nu și 2.41 sau 2.382.

b) Înregistrarea 382 înseamnă că toate numerele sunt corecte, în cazul în care ultima cifră nu poate garanta, acest număr ar trebui să fie înregistrate 3.8. 10.

c) În cazul în care numărul de 4720 valabil numai primele două cifre, acesta ar trebui să fie scris 47 sau 10 * 4.7 * 10.

4. Numărul pentru care indică toleranța este ultima cifră semnificativă de același rang ca și cele mai mici abateri semnificative cifre.

a) Corect: 17,0 + 0,2. Incorect: 17 + 17,00 + 0,2 sau 0,2.

b) Corect: 12,13 + 0,17. Incorect: 12.13 + 0.2.

c) Corect: 46.40 + 0.15. Incorect: 46,4 + 46.402 + 0,15 sau 0,15.

5. Valoarea numerică a cantității și eroarea (abaterea) este recomandabil să se înregistreze indicând aceeași valoare a unității.

De exemplu: (80.555 + 0.002) kg.

6. Intervalele dintre valorile numerice ale cantităților este recomandabil să se înregistreze:

60-100, mai mult de 120-150.

Reguli de rotunjire ST SEV 543-77

1. Numărul Rotunjirea se îndepărtând cifre semnificative pentru dreptul la o anumită descărcare de gestiune cu posibile modificări ale cifrelor de descărcare.

2. În cazul în care primul dintre cifre aruncate (de la stânga la dreapta) mai mică de 5, acesta din urmă reține cifra nu se schimba.

Exemplu: Rotunjirea 12.23 la trei cifre semnificative dă 12.2.

3. În cazul în care primul dintre numerele turnate (de la stânga la dreapta) este egal cu 5, acesta din urmă își păstrează numărul este incrementat cu unu.

Exemplu: Rotunjirea 0,145 până la două cifre dă 0,15.

Notă. În aceste cazuri, atunci când ar trebui să ia în considerare rezultatele rotunjiri anterioare, se procedează după cum urmează.

Dacă exprimate de numărul obținut prin rotunjirea în jos, ultimul număr rămas este incrementat cu unu (cu trecerea, dacă este necesar, în nivelul următor).

Exemplu: Rotunjirea 0,25 (preparat prin rotunjirea anterioară a 0,252) produce 0,3.

4. În cazul în care prima aruncare a cifrelor (de la stânga la dreapta) 5, acesta din urmă își păstrează numărul este incrementat cu unu.

Exemplu: Rotunjirea 0.156 până la două cifre semnificative dă 0,16.

Rotunjirea se efectuează imediat înainte de numărul dorit de cifre semnificative, nu în etape.

Exemplu: 565.46 numere rotunjirea la trei cifre semnificative dă 565.

6. Numerele întregi sunt rotunjite prin aceleași reguli. că fracționată.

Exemplu: Rotunjirea numerelor 23456 la două cifre semnificative dă 23 * 10.

Din cartea lui LI Lyubimov, ID Forsilova, EZ Shapiro

„Verificarea măsurătorilor electrice. carte de referință. "

Leningrad, Energoatomisdat, filiala Leningrad, 1987

p. 47. 2.7. Regulile de rotunjire și înregistrează rezultatele măsurătorilor

Precizia rezultatelor măsurătorilor pentru a determina aceste cifre sunt rezultatul că este adevărat. Nu este practic să dețină în expresia valorii măsurate a cantității fizice numărul mare de cifre, ca LSB numere pot fi inexacte.

Există anumite reguli de rotunjire.

1. În ceea ce privește eroarea are loc nu mai mult de două cifre semnificative, ultima cifră este în mod normal, rotunjit în jos la zero sau cinci. Două cifre trebuie să dețină întotdeauna atunci când numărul MSB mai puțin de 3.

2. Valoarea numerică a rezultatului măsurării trebuie să termine o cifră de aceeași descărcare ca valoarea erorii.

Exemplu. 235.732 + 0,15 rotunjit la 235.73 ± 0,15, dar nu până 235,7 + 0,15.

La calcule intermediare este recomandabil să se utilizeze cele care conțin o cifră semnificativă este mai mare decât ar fi în rezultatul final. Acest lucru face posibil pentru a reduce eroarea de rotunjire.

3. În cazul în care prima cifră a exprimate (de la stânga la dreapta) este mai mic de cinci, cifrele rămase nu se schimbă.

Exemplu. 442.749 + 0,4 rotunjit la 442.7 + 0,4.

4. Dacă prima cifră a distribuției este mai mare sau egal cu cinci, acesta din urmă reține crește cifra cu unul.

Exemplu. 37.268 + 0,5 este rotunjit la 37,3 + 0,5; 37.253 + 0,5 este rotunjit la 37,3 + 0,5.

5. Rotunjirea efectuate imediat înainte de numărul dorit de cifre semnificative, rotunjirea este graduala poate duce la erori.

Exemplu. Phased rotunjirea rezultatului măsurării 220.46 + 4 prevede, în prima etapă 220,5 + 4 și + 4 secunde 221, în timp ce rotunjire rezultatul este corect 220 + 4.

Mai ales trebuie să fie tratate cu atenție pentru a înregistra rezultatul măsurătorii fără eroare (care este, în general, extrem de nedorite). În acest caz, înregistrează numărul de reținut doar cifrele pentru autenticitatea, care poate fi în condiții de siguranță a spus că toate numerele cifre semnificative înregistrate trebuie să fie corecte. Numărul de cifre semnificative sunt toate cifrele din primul din stânga nu este egal cu zero la ultimele cifre corecte înregistrate, zerourile stocate într-un multiplicator 10 la puterea n, nu sunt luate în calcul. Prin urmare, înregistrarea de 2,4 x 10 la puterea a 3 și 2400 nu sunt identice. Prima intrare înseamnă că cifrele reale și sute de mii de volți, iar valoarea reală poate fi, de exemplu, 2,42 sau 2,38 kV. Înregistrarea 2400 înseamnă că unitățile sunt corecte și actuale, valoarea reală poate fi 2400.2 sau 2390.8 B, dar nu și în 2420 sau 2380 V.

Din cartea lui PV Novitskiy și IA Zograf

„Evaluarea erorilor rezultatelor măsurătorilor“

pagina 251 -. 4. regulile de rotunjire valorile de eroare și rezultatul măsurătorii

Calcularea valorii erorii, în special atunci când se utilizează un calculator electronic, valorile de eroare sunt obținute de la un număr mare de caractere. Cu toate acestea, datele brute sunt normalizate pentru a calcula valoarea de măsurare de eroare mijloacele, care sunt indicate cu doar una sau două cifre semnificative. de acest lucru și valoarea finală a erorii calculată pentru că a fi lăsat doar la primele unu - două cifre semnificative. Astfel, este necesar să se ia în considerare următoarele. Dacă numărul rezultat începe cu cifra 1 sau 2, apoi aruncând al doilea caracter cauzează o eroare foarte mare (până la 30 - 50%), ceea ce este inacceptabil. Dacă începe numărul care rezultă, de exemplu, numărul 9, al doilea păstrarea mărcii, adică. E. O indicație de eroare, de exemplu, 0,94 în loc de 0,9, este dezinformare, din moment ce datele originale nu asigură o astfel de precizie.

Din această stabilit în practică, o astfel de regulă: în cazul în care numărul primit începe cu un număr egal cu sau mai mare de 3, atunci numai un singur caracter este stocat în acesta; în cazul în care începe cu un număr mai mic de 3 m. e. cu figurile 1 și 2, există încă două caractere. În conformitate cu această regulă set și măsurarea valorii reglementate înseamnă erori: în număr de 1,5 și 2,5% sunt indicate două cifre, dar în număr de 0,5; 4; 6% au indicat

Ca urmare, putem formula trei reguli de rotunjire valoarea calculată a erorii și rezultatul măsurării rezultat experimentale.

1. Eroarea rezultatului măsurătorii este indicat prin două cifre semnificative, în cazul în care primul este egal cu 1 sau 2 și unul - în cazul în care prima sunt 3 sau mai multe.

2. Rezultatul măsurătorilor este rotunjit la aceeași zecimală, care se termină în valoarea rotunjită a erorii absolute.

3. Rotunjirea se face numai în răspunsul final, și toate calculele preliminare efectuate cu una - două caractere suplimentare.

EXEMPLU .Pe voltmetru cu limită de măsurare clasa de precizie de 2,5 300 a fost obținută de numărare măsurat tensiunea X = 267,5 B.

erori de calcul mai ușor de întreținut în următoarea ordine: În primul rând, trebuie să găsiți eroarea absolută, și apoi - relativă. Eroare absolută / \ (X) = jo X k / 100; la jo = 2,5% și X k = 300 Aceasta dă / \ (X) = 2,5 x 300/100 = 7,5

8; rudă

jo = / \ o x 100 / X = 7,5 x 100 / 267,5 = 2,81%

Deoarece prima cifră semnificativă a valorilor de eroare absolute (7,5 V) este mai mare de trei, această valoare trebuie să fie rotunjite la regulile normale de rotunjire la 8, dar în valoarea erorii relative (2,81%), prima cifră semnificativă este mai mică de 3, totuși aici ele trebuie să fie depozitate în răspunsul și două zecimale specificate j (x) = 2,8%. Valoarea rezultată A = 267,5 B trebuie să fie rotunjite la aceeași zecimală, care se termină în valoarea rotunjită a erorii absolute. t. e. la unități complete de volți.

Astfel, în răspunsul final trebuie raportată: „Măsurarea se face cu o eroare relativă de j (x) = 2,8% tensiune măsurată X = (268 + 8) B sau X = B + 268 B. 8.

In aceasta indică mai clar limitele valorii măsurate interval de incertitudine ca X = (260 - 276) V sau 260 V

Împreună cu rezultatele de rotunjire de mai sus ale regulilor bugetare de eroare de măsurare, uneori, a oferit mai rezonabile, dar, de asemenea, norme mai complexe. Lipsa regulilor este stabilit că eroarea relativă a rotunjirii se schimbă brusc la trecerea, de exemplu, cu privire la numărul de 0,29, atunci când acesta este (0,30 - 0,29) / 3 = 0,30%, între 0,3 cand este (0,4 - 0,3) / 0,3 = 30%. Pentru a elimina o astfel de creștere accentuată a erorii de rotunjire relativă sunt invitați în fiecare decadă de valori posibile rotunjite erori împărțită în trei părți: între 0,1 și 0,2, de la 0,2 până la

0,5 și 0,5 până la 1,0, iar în fiecare din aceste părți folosesc etapa sa rotunjiri, respectiv egală cu 0,02, 0,05 și 0,1. Apoi, numărul de erori permise pentru valorile rotunjite utilizare primite formă: 0.10-0.12 - 0.14-0.16 - 0.18-0.20 - 0.25-0.30 - 0.35-0.40 - .45-.5 - 0.6-0.7 - 0.8-0.9 - 1.0. Avantajul inerent al acestei serii este faptul că eroarea de rotunjire la limitele porțiunilor variază numai de la 5 la 10%. Cu toate acestea, atunci când se utilizează o astfel de eroare la regulile de rotunjire ultimele cifre ale rezultatului, frunze după rotunjire, trebuie să îndeplinească, de asemenea rândul dat.

Din cartea lui VA Kuznetsov și G.V.Yalunina „Metrologie

Cadrul teoretic, aplicată și legislativ "

Rezultatele măsurătorilor trebuie să fie rotunjite la normele existente. Baza acestor reguli este următoarea dispoziție: valoarea numerică a rezultatului măsurării este reprezentat, astfel încât acesta sa încheiat cu punctul zecimal din aceeași categorie, care are o eroare de acest rezultat.

Rotunjirea reguli de rezultate de măsurare pentru cazul măsurătorilor convenționale, care nu au legătură cu necesitatea de a obține rezultate foarte precise:

1) Rezultatul măsurătorilor este reprezentat cu o eroare de una sau două cifre semnificative. Două cifre semnificative sunt în cazul în care se efectuează măsurători precise;

2) rezultatul măsurătorii este rotunjit, astfel încât sa încheiat într-un număr de același rang ca și valoarea erorii. Dacă valoarea numerică a rezultatului măsurării este reprezentat în fracție decimală zerouri, apoi aruncate numai zerouri înainte de evacuare, care corespunde categoriei valorii numerice de eroare;

3) În cazul în care numărul de turnat mai în vârstă este mai mică de 5 cifre, numerele rămase în

Numărul nu se schimba. În cazul în care acest număr este egal cu sau mai mare de 5, ultimul care pleaca crește cifra de unul. cifre suplimentare în numere întregi se înlocuiesc cu zerouri și fracții zecimale sunt eliminate. De exemplu, valoarea numerică a rezultatului măsurării este rezultatul erorilor la 25.458 exprimate în afara + 0, 02; rotunjirii rezultatul este 25.46. În cazul în care limitele de eroare sunt ± 0,002, valoarea numerică a rezultatului este pe deplin păstrată. Valoarea numerică a măsurării rezultatul obținut cu eroarea 105 553 + 0,0005. Acesta a salvat patru cifre semnificative și rotunjiri dă numărul 105600; dacă rezultatul valorii numerice 105.553, apoi în aceleași condiții, dă numărul de rotunjire 105,6;

4) în cazul în care exprimate printr-o cifră egală cu cinci, și urmat de un număr este necunoscut (nu) sau zerouri, acesta din urmă își păstrează numerele de cifre nu se schimbă, în cazul în care este chiar și crește cu una, dacă este impar. Numărul 105.5 păstrând trei cifre semnificative rotunjite până la 106;

5) regulile stabilite în revendicarea 1. 4 se aplică numai atunci când rotunjire rezultatele finale. Toate rezultatele intermediare este recomandabil să se prezinte numărul de biți care pot fi obținute