Favicon Svethardware.cz  Svět hardware   Fórum Favicon Svetaudia.cz  Svět audia Favicon TVFreak.cz  TV Freak   Fórum Favicon Digimanie.cz  Digimanie   Fórum   Galerie Společnost oXy Online s.r.o.
Zobrazené výsledky: 1 až 3 z 3

Téma: Matematické operácie v eVB 3.0

  1. #1
    Nováček
    Registrace
    Mar 2005
    Příspěvků
    28

    Mám problem s jednoduchými matematickými operáciami v eVB. Napr. 30.16-30 a vyšlo mi 0,15999999. Skúšal som už všetky premenné double, integer ... ale stále nič. Napr 30,15-30 mi vypočíítalo dobre. Skúšal som aj priamo bez premenných ( text1= 30,16-30) a stále to isté. Je to divné. Mám N35 WM2003.
    Odpovídat lze po přihlášení

  2. #2
    Pravidelný diskutér
    Registrace
    Apr 2004
    Příspěvků
    266

    Toto plyne z jednoduché binární matematické knihovny v daném vývojovém prostředí. Reálné dekadické číslo je převedeno do binárního tvaru s omezeným počtem bitů, tj. může dojít ke "zkreslení" obrazu čísla při převodu. Zkus si sám převést Tebou zadané číslo do binárního vyjádření a uvidíš sám kolik vlastně binárních míst potřebuješ. No a po skončení výpočtu je binární číslo přesně interpretováno jako realné dekadické. No a samozřejmě že opět jsme trochu vedle! Ale přesnost je pořád více než dostatečná - chyba je až na 8 řádu!
    Řešení je prosté, počítá-li knihovna např. na 10 míst, zaokrouhlíš výsledek na 8 platných a tyto drobnosti se srovnají a výsledek bude jaký si představuješ. Na velkých počítačích se používá mnohem větší počet míst a je prováděno automatické zaokrouhlování, takže tyto "drobnosti" vůbec nevidíš, ovšem za cenu podstatně větší knihovny a podstatně větších nároků na procesor. takže pokud chceš větší přesnost výpočtu, musíš si opatřit lepší ale dražší a náročnější knihovnu, případně si ji napsat sám. Na toto téma bylo napsáno mnoho odborných publikací a je i mnoho zdrojových kódů takovýchto knihoven, ovšem v dnešní době ??
    Odpovídat lze po přihlášení



  3. #3
    Nováček
    Registrace
    Mar 2005
    Příspěvků
    28

    Dík za odpoveď, je vidno, že mám ešte veľké medzery:-(
    Takže všetko zaokruhľovať. Mne je len divné, že to nevie pracovať správne už s zo stotinamy.


    Odpovídat lze po přihlášení

Podobná témata

  1. matematické,fyzikální a chemické tabulky
    Od padrinos v sekci Programy pro Pocket PC
    Reakcí: 4
    Poslední příspěvek: 06-06-2005, 16:03