Floating Point...

28.11.00

Hej

Kan I forklare hvad "floating point" betyder og give eksempler på "floating point-error".
Jeg får ofte en "floating point error" fra et software, der anvendes til styring / dataopsamling.

Tak for mange gode og brugbare svar.

Thomas Kaare Hansen

Karbo svarer

Floating Point betyder flydende komma. Det er matematik med decimal-tal, der varetages af FPU'en. I modsætning til heltals-beregninger, som foregår i processorens ALU-enhed.

FP-bergninger er meget "tunge", og derfor har alle processor-fabrikanter gjort meget for at udvikle denne del. Der er også masser af FPU-arbejde i 3D-spil.

Læs mine artikler her og her om emnet!

Hvis du får meldinger om "floating point-error", er det en fejl i din software, vil jeg mene.

Med venlig hilsen

Michael Karbo