Mért számok és egzakt számok
A mért érték bizonytalan, mert minden műszernek van korlátja. Ha 0.1 mL-es beosztású bürettán olvas le, rögzíti a biztos jelöléseket, majd megbecsül még egy jegyet közöttük, így egy olyan leolvasás, mint a 18.36 mL, négy értékes jegyet tartalmaz: három biztos és egy becsült jegyet. A 18.360 mL felírása olyan pontosságot állítana, amelyet a büretta nem tud nyújtani.
Az egzakt számoknak nincs mérési bizonytalanságuk. Megszámlálásból származnak (12 kémcső egy állványban), definíciókból (1 hüvelyk pontosan 2.54 cm, 1 L pedig pontosan 1000 mL), valamint a kémiai képletekben és egyenletekben szereplő együtthatókból és alsó indexekből. Az egzakt számokat korlátlan számú értékes jeggyel rendelkezőnek tekintjük, így soha nem korlátozzák a számított eredmény pontosságát.
A jegyek megszámlálása, a problémás nullákat is beleértve
A nullától különböző jegyek mindig értékesek. A nullák attól függően értékesek vagy nem, hogy mért információt közölnek-e, vagy csupán a tizedesvessző helyét jelölik. Az alábbi szabályok az általános kémiában előforduló minden esetet lefednek.
A tizedesvessző nélküli egész szám végén álló nullák az egyetlen valóban kétértelmű eset. Az 1200 g-ként felírt tömeg két, három vagy négy értékes jegyre is ismert lehet. A tudományos jelölés megszünteti a kétértelműséget: az 1.2 × 10³ g két, az 1.20 × 10³ g három, az 1.200 × 10³ g pedig négy értékes jegyet tartalmaz.
- A nullától különböző jegyek közötti nullák értékesek: a 30.506 g öt értékes jegyet tartalmaz.
- Az elöl álló nullák soha nem értékesek; csak a tizedesvessző helyét jelölik: a 0.004070 m négyet tartalmaz (4, 0, 7, 0).
- A tizedesvesszőtől jobbra álló záró nullák értékesek: a 2.500 mL négy értékes jegyet tartalmaz.
- A tizedesvessző nélküli egész szám végén álló nullák kétértelműek; a szándékát tudományos jelöléssel fejezze ki.
Összeadás és kivonás: a tizedeshelyek illesztése
Mennyiségek összeadásakor vagy kivonásakor az utolsó tizedeshelyen lévő abszolút bizonytalanság számít, nem az értékes jegyek száma. Az eredményt annyi tizedesjegyre kerekítse, ahány a legkevesebb tizedesjeggyel megadott mérésnek van.
1. megoldott példa. Egy szilárd anyag három, különböző mérlegeken lemért részletét egyesíti: 12.6 g, 0.237 g és 105.42 g. A számológép 118.257 g-ot mutat. Az első tömeg csak tizedekig ismert, ezért az összeg is csak tizedekig ismert: 118.3 g. Figyelje meg, hogy a válasz négy értékes jegyet tartalmaz, noha az egyik bemenő adatnak csak három volt; összeadásnál tehát nem a jegyek száma korlátozza az eredményt.
A kivonás értékes jegyeket semmisíthet meg. Tegyük fel, hogy egy folyadékot tartalmazó lombik egy felülterhelésű mérlegen 58.36 g-ot mutat, az üres lombik pedig egy analitikai mérlegen 57.912 g volt. A számológépen a különbség 0.448 g, de az első tömeg csak századokig ismert, ezért a folyadék tömege 0.45 g. A négy, illetve öt értékes jegyű bemenő adatokból két értékes jegy marad meg. Ha két nagy szám kis különbsége számít, mindkettőt a pontosabb mérlegen mérje le.
Szorzás és osztás: az értékes jegyek számlálása
Szorzatoknál és hányadosoknál a relatív bizonytalanság adódik tovább. Az eredményt annyi értékes jegyre kerekítse, ahány a legkevesebb értékes jeggyel rendelkező bemenő adatnak van.
2. megoldott példa. Egy téglatest alakú tömb mérete 4.20 cm × 2.15 cm × 1.8 cm. A térfogat a számológépen 4.20 cm × 2.15 cm × 1.8 cm = 16.254 cm³. A magasságnak csak két értékes jegye van, ezért a térfogatot 16 cm³-ként adjuk meg. Egy harmadik jegyet csak az indokolna, ha a magasságot pontosabban mérnénk meg, például 1.80 cm-nek tolómérővel.
A logaritmusokra egy rokon szabály vonatkozik, amely a pH-számításoknál jelenik meg: a logaritmus tizedesjegyeinek száma megegyezik az eredeti érték értékes jegyeinek számával. A 3.4 × 10⁻⁴ mol/L hidrogénion-koncentrációnak két értékes jegye van, ezért a pH-ját két tizedesjegyre adjuk meg: 3.47.
Egyszeri kerekítés a többlépéses számítás végén
Többlépéses számításnál minden közbenső értékben tartson meg legalább egy-két plusz jegyet (tartalékjegyet), és csak a végső választ kerekítse. Kövesse, hogy az egyes lépések hány értékes jegyet indokolnak, de a jegyeket a végéig ne dobja el. Minden lépésnél kerekítve minden alkalommal kis hibát viszünk be, és ezek a hibák megváltoztathatják a közölt utolsó jegyet.
3. megoldott példa. 1.37 g nátrium-kloridot vízben old fel, és mérőlombikban pontosan 50.00 mL-re hígítja. A két tizedesjegyre kerekített IUPAC standard atomtömegekkel (Na 22.99, Cl 35.45) a NaCl moláris tömege 58.44 g/mol. Az anyagmennyiség 1.37 g ÷ 58.44 g/mol = 0.023443 mol, kerekítetlenül megtartva. A térfogat 0.05000 L, így a koncentráció 0.023443 mol ÷ 0.05000 L = 0.46886 mol/L, amely 0.469 mol/L-re kerekítendő, mert a tömegnek három értékes jegye van.
Ha az anyagmennyiséget előbb 0.0234 mol-ra kerekítette volna, 0.0234 mol ÷ 0.05000 L = 0.468 mol/L-t kapna. A különbség kicsi, de valódi hiba, amelyet a számítás vitt be, nem a mérések, és hosszabb láncokban növekedhet.
Mikor kerekítsük a félúton lévő jegyeket felfelé, illetve a páros jegyre
Ha az első elhagyott jegy kisebb 5-nél, a megtartott jegyet hagyja változatlanul; ha nagyobb 5-nél, vagy 5, amelyet nullától különböző jegyek követnek, kerekítsen felfelé. Így a 0.064371 három értékes jegyre kerekítve 0.0644, a 7.2849 pedig 7.28.
Az egyetlen vitatott eset az, amikor az elhagyott jegy pontosan 5, és nem követi semmi. Az OpenStax Chemistry 2e úgy kerekít, hogy a megtartott jegy páros legyen (a 6.125 6.12 lesz, a 6.135 pedig 6.14), ami sok kerekítés esetén elkerüli a kismértékű felfelé irányuló torzítást. Sok oktató egyszerűen felfelé kerekíti az 5-öt. Nézze meg, melyik megállapodást használja a kurzusa, és következetesen alkalmazza; ez csak erre az egy esetre vonatkozik.
Értékesjegy-hibák, amelyekre a saját munkájában figyeljen
A legtöbb értékesjegy-hiba néhány előre látható tévedésből ered. Mielőtt bekeretezi a választ, olvassa át újra a bemenő adatokat, és kérdezze meg magától, melyik korlátozza az eredményt, és melyik szabály szerint.
Egy gyors szokás rutinná teszi ezt: minden válasz mellé írja fel a korlátozó bemenő adatot és az alkalmazott szabályt, a tizedesjegyeket vagy a jegyek számát. Ha a válaszban több jegy szerepel, mint amennyit az a bemenő adat indokol, kerekítse; ha kevesebb, keresse meg a számológép által elhagyott záró nullát.
- Egzakt szám korlátozza a választ. Az 1000 mL/L-es tényező vagy a 2-es együttható soha nem csökkenti az értékes jegyek számát.
- A szorzási szabály alkalmazása összegre. Az összegeket és különbségeket a tizedesjegyek korlátozzák, nem a jegyek száma.
- Minden közbenső érték kerekítése. Tartson meg tartalékjegyeket, és csak a végén kerekítsen egyszer.
- Jelentéssel bíró záró nullák elhagyása. A számológép 2.5-öt mutat, amikor a mérés 2.50 mL volt; írja vissza a nullát.
- Az elöl álló nullák megszámlálása. A 0.0081 g-nak két értékes jegye van, nem négy.
- Kétértelmű nullákat tartalmazó egész szám megadása. Írjon 3.40 × 10² g-ot a 340 g helyett, ha három jegy számít.
Korlátok és megfelelő felhasználás
- Az értékes jegyek kényelmes közelítést jelentenek. A formális bizonytalansági elemzés, amely a megadott standard bizonytalanságokat terjeszti tovább, szigorúbb, és más számú megbízható jegyet adhat.
- A kurzusok eltérnek abban, hogyan kell kerekíteni a pontosan 5-re végződő utolsó jegyet, és hány tartalékjegyet kell megtartani; ahol eltér ettől az útmutatótól, kövesse az oktatója megállapodását.
- A szabályok feltételezik, hogy minden mérést helyesen, a műszere pontosságának megfelelően jegyeztek fel. Nem tudják kijavítani a rosszul kalibrált mérleget vagy a félreolvasott skálát, amelyek a pontosságot (helyességet), nem a precizitást érintik.