Petrusjaja

Alpha, dat is het! ik heb er even mee gespeeld en dit werkt! Dank je! Ik kan nu het aantal tekens achter de komma instellen. Heb nog even verder doorgezocht met dit idee: het omzetten in tekst en het lukte me daarna ook met deze formule met daarin een getal-formatter: =TEKST(AFRONDEN.NAAR.BOVEN(A1;A2); "#," &HERHALING("0";A2)) In A1 staat het getal dat ik dan eerst wil afronden naar boven op het aantal decimalen dat ik in A2 zet. Dat aantal A2 gebruik ik daarna ook om het aantal decimalen in het tekststringetje in te stellen en inderdaad trailing zero's blijven dan staan net als in jouw voorstel. Weer wat geleerd hier! Dank!

Vorige post mocht ik ineens niet meer wijzigen. Dit had er moeten staan: ja, het gaat inderdaad om het visuele effect: de juiste waarde moet met de juiste resolutie getoond worden om de meetrestultaten in vervolgberekeningen te kunnen gebruiken. Ook klopt dat cel e10 manueel is ingevuld zonder die 0 erachter, daar had ik ook op gerekend. dus dat ik die 0 niet hoefde in te voeren. Excel rekent intern met een veel hogere precisie, tot ca. 15 cijfers achter de komma. Ik weet dat als ik die nul niet invoer, ik daar geen last mee krijg en de juiste waarde gebruikt wordt voor de berekeningen. De nauwkeurigheden van de metingen waar ik hier in Excel mee werk zullen dus nooit last krijgen van de resolutie waarmee excel intern werkt. zie hier meer details over hoe dat in excel zelf gaat: url(20150925_2333) http://www.cpearson.com/excel/rounding.htm

ja, klopt, had ik ook op gerekend. dus die 0 hoef ik niet in te voeren. Excel rekent met veel hogere precisie, ca. 15 cijfers achter de komma. Ik weet dat als ik die nul niet invoer, ik daar geen last mee krijg en de juiste waarde gebruikt wordt voor de berekeningen. De nauwkeurigheden van de metingen waar ik hier in Excel mee werk zullen dus nooit last krijgen van de resolutie waarmee excel zelf intern werkt. zie hier meer details over hoe dat in excel zelf gaat: url(20150925_2333) http://www.cpearson.com/excel/rounding.htm

cel c10 heeft op de DMM met 6 cijfers gestaan als 19,0510 omdat het eerste cijfers links een 1 is, dan zal dit type DMM 6 cijfers tonen. Dat de achterste 0 niet in excel staat is niet erg, de waarde is intern in Excel hetzelfde. Maar display van het getal moet wel die 0 tonen op het eind omdat dat aangeeft dat de resolutie van de meting 0,0001V is zoals ook bij LSD gewicht al is aangegeven. Kijk je bijvoorbeeld naar cel e10, dan kunnen en zullen door de berekeningen daar wel meer dan 4 decimalen achter de komma staan. In dit geval staat er 0,0058102 Dit wordt met afronden naar boven weer teruggebracht naar 4 decimalen achter de komma tot 0,0059 . Afronden naar boven moet hier omdat het om foutafschatting gaat, en dan moet je naar boven afronden. De werkelijke absolute fout ligt dan altijd onder die waarde met 4 decimalen. Die waarde van 4 decimalen bij het afronden is berekend in een andere cel. Het is deze waarde van 4 die ik ook zou willen gebruiken voor de weergave van het aantal decimalen in die cellen met absolute fouten. Dat moet nu met de hand ingesteld worden. In ieder geval bedankt voor het meedenken. Ik stop er voor vandaag even mee.

de waarden voor de fouten wordt nu nog met de hand overgenomen uit de tabel van de DMM. Dat moet ik nog automatiseren. Dat ga ik pas doen als ik het huidige probleem heb opgelost van die zwevende komma, dus waar we nu over praten. Uiteraard moet ook de meetwaarde zelf ingevoerd worden (dat staat bij 'reading')

alle witte en gele velden met getallen waarin 5 cijfers staan moeten nu met de hand vast ingesteld worden op het juiste aantal cijfers achter de komma: dus de meetwaarden en de absolute fouten: al die velden zijn 5 digits (bij een 5 3/4 DMM dus soms 6, als het meest linkse cijfer een 1 of een 2 is). NB: in een van de tabbladen staat de volledige meterspecificatie per bereik, van de gebruikte DMM.

dat instellen van 0,0000 in excel displayed altijd 4 cijfers achter de komma. Dan verzint Excel die 0 achter 12,345 erbij en toont 12,3450 om maar 4 cijfers achter de komma te kunnen zetten. Die laatste 0 is het 6e cijfer en mag niet getoond worden

wat ik wil zien als ik meet met een DMM van 5 digits is 5 cijfers. niet meer en niet minder.

ik voeg het toe. de cellen die in cijfers achter de komma automatisch op basis van het door de DMM automatisch en in Excel gevonden meetbereik in aantal cijfers mee zouden moeten veranderen zijn de witte getalvelden meetnauwkeurigheid_v20150924_0900.xlsx

in een tweede meting wordt de serieschakeling gemeten op dezelfde manier. Wel aardig is dat je dan ziet dat bij een 5 3/4 digit DMM er 6 cijfers opduiken. Als je die ook wilt zien dan kan ik dat ook nog wel even toevoegen maar het voegt niet echt iets toe aan de discussie

in het voorbeeld dat ik geef moet ik dus met de hand alle velden met absolute fouten en de meetwaarde zelf handmatig op 4 resp. 3 cijfers achter de komma instellen via de eigenschappen van die cellen bij de twee metingen.

Bij dit bericht zit een meting van twee weerstanden met een 5 3/4 digit DMM. Dat is iets ingewikkelder nog, omdat een 5 3/4 DMM 5 digits heeft plus eentje die niet boven de 3 gaat, dit soort DMM's heeft dus altijd bereiken die met een 3 beginnen. dus 30 ohm, 300 ohm, 3000 ohm. Maar dat doet verder niet af aan het probleem dat ik schetste

daarin kan ik de waarde 12,345 niet goed weergeven, daar zet excel dan een 0 bij en dat zal ik zien als 12,3450. dat is 10 zo nauwkeurig als 12,345 en niet terecht

wat ik dus nodig heb is een functie in Excel waarmee ik direct de eigenschappen kan instellen van een cel, in het bijzonder dus dat daarin een getal staat met N cijfers achter de komma. Die N bereken ik aan de hand van de waarde van het getal in diezelde cel.

alpha, om dus jouw vraag direct te beantwoorden: Onduidelijk is wanneer je welk aantal decimalen wil. -> dat is dus afhankelijk van het bereik en is wel te zien aan het getal dat ik invoer Daarom maar deze vraag: hoe wil je dat volgende waarden uiteindelijk worden weergegeven? -> zal er een aantal per lijn beantwoorden En uit hoeveel getallen kan de waarde vóór de komma maximaal bestaan? 7,2 --> deze waarde zie ik nooit zo op de DMM, dit zijn maar 2 cijfers, niet 5 7,23 --> deze waarde zie ik nooit zo op de DMM, dit zijn maar 3 cijfers, niet 5 7,234 --> deze waarde zie ik nooit zo op de DMM, dit zijn maar 4 cijfers, niet 5 7,2345 --> deze waarde zie wel zo op de DMM, en zo wil ik dat ook straks in het overzicht zien, precies 5 cijfers 7,23456 --> deze waarde zie ik nooit zo op de DMM, dit zijn 6 cijfers, niet 5, het display op de DMM kan dit niet tonen