Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > pl.comp.programming > #32579 > unrolled thread

Porównywanie liczb, double float

Back to article view | Back to pl.comp.programming

Contents

  Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-12 07:17 -0500
    Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-12 12:29 +0000
      Re: Porównywanie liczb, double float queequeg@trust.no1 (Queequeg) - 2019-06-12 14:53 +0000
      Re: Porównywanie liczb, double float Cezary Grądys <czarekgr@wa.onet.pl> - 2019-06-12 16:54 +0200
        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:40 +0200
          Re: Porównywanie liczb, double float bartekltg <bartekltg@gmail.com> - 2019-06-16 18:44 -0700
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:15 +0200
          Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-17 09:43 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:20 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:59 +0200
          Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-17 16:14 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:32 +0200
          Re: Porównywanie liczb, double float DMR <mezzogm@gmail.com> - 2019-07-11 22:27 -0700
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-07-13 09:21 +0200
              Re: Porównywanie liczb, double float DMR <mezzogm@gmail.com> - 2019-07-14 01:16 -0700
                Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-07-16 00:05 +0200
            Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 08:24 -0700
              Re: Porównywanie liczb, double float DMR <mezzogm@gmail.com> - 2019-07-24 10:19 -0700
                Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-07-24 21:13 +0200
                Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-24 13:39 -0700
                  Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-07-26 20:35 +0200
            Re: Porównywanie liczb, double float DMR <mezzogm@gmail.com> - 2020-01-12 10:17 -0800
      Re: Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-13 08:37 -0500
        Re: Porównywanie liczb, double float bartekltg <bartekltg@gmail.com> - 2019-06-13 14:22 -0700
          Re: Porównywanie liczb, double float JDX <jdx@onet.pl> - 2019-06-14 06:35 +0200
          Re: Porównywanie liczb, double float Mateusz Viste <mateusz@wont.tell> - 2019-06-14 06:19 +0000
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:53 +0200
              Re: Porównywanie liczb, double float Mateusz Viste <mateusz@wont.tell> - 2019-06-17 07:02 +0000
                Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:18 +0200
                  Re: Porównywanie liczb, double float Mateusz Viste <mateusz@wont.tell> - 2019-06-19 07:03 +0000
                    Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:32 +0200
                      Re: Porównywanie liczb, double float Mateusz Viste <mateusz@wont.tell> - 2019-06-25 20:05 +0000
                        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 22:17 +0200
                          Re: Porównywanie liczb, double float Mateusz Viste <mateusz@wont.tell> - 2019-06-25 20:45 +0000
                            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 22:56 +0200
          Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:48 +0200
          Re: Porównywanie liczb, double float Tomasz Kaczanowski <kaczus@poczta.onet.pl> - 2019-06-19 11:21 +0200
        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:43 +0200
          Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-17 07:21 +0000
          Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-17 09:48 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:21 +0200
              Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-19 09:17 +0200
          Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-17 16:09 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:27 +0200
              Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-19 11:45 +0200
                Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-19 11:40 +0000
                  Re: Porównywanie liczb, double float KLoSS <nospam.klossik@alchemy.com.pl> - 2019-06-19 21:51 +0200
                    Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:53 +0200
                      Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-26 06:38 +0200
                  Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:51 +0200
                Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:48 +0200
                  Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-26 06:10 +0200
          Re: Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-19 19:52 -0500
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:58 +0200
      Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-17 09:39 +0200
        Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-17 07:53 +0000
          Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-17 12:59 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:23 +0200
          Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-17 16:05 +0200
          Re: Porównywanie liczb, double float "Grzegorz Niemirowski" <grzegorz@grzegorz.net> - 2019-06-17 16:25 +0200
            Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-18 01:33 +0200
              Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-18 06:32 +0000
                Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-18 12:04 +0200
                  Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-18 12:30 +0000
                    Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-18 15:45 +0200
                      Re: Porównywanie liczb, double float queequeg@trust.no1 (Queequeg) - 2019-06-18 14:38 +0000
                        Re: Porównywanie liczb, double float Piotr Wyderski <peter.pan@neverland.mil> - 2019-06-19 09:04 +0200
                      Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-18 16:52 +0200
                      Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-18 15:20 +0000
                        Re: Porównywanie liczb, double float Roman Tyczka <noemail@because.no> - 2019-06-18 17:54 +0200
                          Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 08:03 -0700
                        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:25 +0200
                          Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-26 06:21 +0200
                            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-07-02 22:56 +0200
                              Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-07-03 00:42 +0200
                                Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 12:56 -0700
                    Re: Porównywanie liczb, double float Marek <fake@fakeemail.com> - 2019-06-18 22:10 +0200
                    Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 01:16 -0700
                Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-18 12:11 +0200
                  Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:48 +0200
                Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 00:47 -0700
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:43 +0200
          Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 00:37 -0700
        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:19 +0200
    Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-12 14:44 +0200
      Re: Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-13 08:39 -0500
      Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:19 +0200
        Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-17 16:20 +0200
          Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:37 +0200
            Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-19 11:35 +0200
              Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 21:37 +0200
                Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-26 06:17 +0200
    Re: Porównywanie liczb, double float Zbych <abuse@onet.pl> - 2019-06-12 14:48 +0200
      Re: Porównywanie liczb, double float "Irek.N." <tajny@jakis.taki.jest> - 2019-06-12 14:56 +0200
    Re: Porównywanie liczb, double float bartekltg <bartekltg@gmail.com> - 2019-06-12 06:07 -0700
      Re: Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-13 08:43 -0500
      Re: Porównywanie liczb, double float bartekltg <bartekltg@gmail.com> - 2019-06-13 14:25 -0700
        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:50 +0200
    Re: Porównywanie liczb, double float JDX <jdx@onet.pl> - 2019-06-12 15:21 +0200
      Re: Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-13 08:24 -0500
    Re: Porównywanie liczb, double float Szyk Cech <szykcech@spoko.pl> - 2019-06-12 16:52 +0200
      Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-12 17:27 +0200
        Re: Porównywanie liczb, double float stary grzyb <starygrzyb@onet.pl> - 2019-06-12 18:17 +0200
        Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-16 21:21 +0200
          Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-17 16:15 +0200
            Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-19 08:34 +0200
        Re: Porównywanie liczb, double float Szyk Cech <szykcech@spoko.pl> - 2019-06-16 22:10 +0200
        Re: Porównywanie liczb, double float Piotrne <piotrne@poczta.onet.pl> - 2019-06-20 14:16 +0200
          Re: Porównywanie liczb, double float Mateusz Viste <mateusz@nie.pamietam> - 2019-06-20 12:38 +0000
            Re: Porównywanie liczb, double float Piotrne <piotrne@poczta.onet.pl> - 2019-06-22 13:36 +0200
            Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-23 14:57 +0200
              Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 22:09 +0200
                Re: Porównywanie liczb, double float "J.F." <jfox_xnospamx@poczta.onet.pl> - 2019-06-26 06:11 +0200
          Re: Porównywanie liczb, double float Janusz <janusz_kk@o2.pl> - 2019-06-20 20:39 +0200
            Re: Porównywanie liczb, double float Piotrne <piotrne@poczta.onet.pl> - 2019-06-22 14:47 +0200
              Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 22:07 +0200
          Re: Porównywanie liczb, double float AK <nobody@nowhere.net> - 2019-06-25 22:03 +0200
      Re: Porównywanie liczb, double float "Pszemol" <Pszemol@PolBox.com> - 2019-06-13 08:35 -0500
        Re: Porównywanie liczb, double float fir <profesor.fir@gmail.com> - 2019-07-22 00:17 -0700
    Re: Porównywanie liczb, double float Dariusz Dorochowicz <_dadoro_@wp.com> - 2019-06-13 17:28 +0200

Page 5 of 6 — ← Prev page 1 2 3 4 [5] 6  Next page →

#32724

W dniu wtorek, 18 czerwca 2019 08:32:55 UTC+2 użytkownik Mateusz Viste napisał:
> On Tue, 18 Jun 2019 01:33:06 +0200, Piotr Wyderski wrote:
> > Właśnie o tę teorię chodzi, wtłoczoną bez oglądania się na straty na
> > psychice. Wielokrotnie widziałem ten efekt w praktyce: inteligentna
> > osoba bez wykształcenia kierunkowego bardzo sprawnie radziła sobie z
> > obsługą narzędzi i realizowaniem zadań na średnim poziomie złożoności.
> > Jeśli złożoność problemu podskoczyła tylko o epsilon, to ci ludzie
> > momentalnie odpadali. Nie "mieli trudności", dosłownie odpadali.
> 
> Coś mi to pachnie uczelnianą propagandą.
> 
> Mi zdarzyło się obserwować efekt całkiem odwrotny: samouk i magister łeb 
> w łeb. Nagle problem. Samouk, nauczony życiem, zaparł się i zrobił - 
> wszak sam doszedł z A do B, więc samodzielna droga z B do C to żadna 
> nowość, tylko kwestia czasu żeby zrozumieć i wykombinować co i jak. 
> Magister natomiast tylko wytrzeszcza oczy i z rozbrajającym wzrokiem mówi 
> "ale tego na studiach nie było".
> 
> Moja wersja jest być może lekko podkoloryzowana - ale z pewnością nie 
> mniej niż twoja.
> 
> Z mojego doświadczenia wynika, że te wszelkie magistry od IT lepiej 
> spożytkowaliby czas poza studiami - np. w wojsku. Nauczyliby się 
> przynajmniej dyscypliny i samozaparcia. A tak to przychodzą jak błędne 
> sieroty do pierwszej roboty i zagubieni bo mamy nie ma a świat jest dla 
> nich nagle taki zły niedobry.
> 
> Mateusz

jesli uderzasz w knajackie formy wypowiedzi "magistry" "sieroty" to twoja psychologia poprostu objawia ze nalezysz do klasy pol-knajackich prymitywow i wyrazasz z powodow psychologicznych swoj knajacki swiatopogląd (zapewne nie masz studiow i chcesz bronic prostych ludzi)

moje doswiadczenie jest jak wspomnielem inne: oczywiscie studia niekoniecznie za duzo gwarantuja ale brak studiow gwarantuje na ogol jeszcze mniej... moje doswiadczenie z kolesiami po studiach na politechnice bylo takie ze radzili sobie nadspodziewanie dobrze

inna rzecz jest tez taka ze nie wszyscy umieja oceniac czyjas robote, czasem niektorzy szefowie wykazuja sie mega niezrozumieniem - bywa szefiostwo ktore ocenie kodera jako dobrego gdy ten stuka 20 linijek kodu (w javie) na dzien a bywa takie ktore ocenia kodera jako zlego gdy ten wystukal 9500 linijek kodu (tez w javie) na miesiac 
(skrajnie absurdalne oceny imo)

[toc] | [prev] | [next] | [standalone]

#32650

On 2019-06-17 16:25, Grzegorz Niemirowski wrote:
> Mateusz Viste <mateusz@nie.pamietam> napisał(a):
>> Nie gwarantują one ani wiedzy, ani
>> pomyślunku, a zarówno to pierwsze jak i drugie można bez problemu nabyć
>> poza murami uczelni.
> 
> Z jednej strony prawda, z drugiej często powtarzany mit. To, że coś jest 
> gdzieś dostępne w Internecie wcale nie znaczy, że ktoś po to sięgnie. 
> Studia jednak systematyzują różne rzeczy, dają szersze podstawy i do 
> najważniejsze - teorię. Osoby bez studiów, zdobywające wiedzę 
> samodzielnie, nastawione są na szybkie, praktycze efekty.

Bzdura ^2
Sam jestem tego najlepszym przykladem.
Jestem samoukiem, a nigdy nie bylem nastawiony na szybkie efekty.
PS: Ok bylem ;), ale _nigdy_ kosztem wiedzy czy ogolnie pojetego
dobrego rzemiosla.

> Mogą bez 
> problemu zostać programistami, ale dobrymi programistami trudniej. 

Z wrodzonej "skromnosci": wypraszam sobie !! ;)

> Studia w Polsce są różnej jakości, ale jeśli chodzi o IT, to nie są 
> straconym czasem.

Hm.. Gdy sie slucha i oglada jak _dzis_ one w Polsce wygadaja (i to
na wiodacych uczelniach) to sie ma uzasadnione watpliwosci..

AK

[toc] | [prev] | [next] | [standalone]

#32723

W dniu poniedziałek, 17 czerwca 2019 09:53:43 UTC+2 użytkownik Mateusz Viste napisał:
> On Mon, 17 Jun 2019 09:39:08 +0200, Piotr Wyderski wrote:
> > Prawdziwi programiści nie używają liczb zmiennoprzecinkowych bezmyślnie.
> > A żeby to móc robić "zmyślnie" mają co najmniej półroczny zaawansowany
> > wykład z analizy numerycznej. Oczywiście zdarzają się i tacy, co byli za
> > mądrzy na studia i użeranie się z profesorami-debilami, dzięki czemu
> > m.in. Pszemol ma fun.
> 
> Wszystko się zgadza, z tym że wniosek "był na studiach = wie co robi" 
> jest co najmniej nietrafiony. De facto studia - przynajmniej w sektorze 
> IT - to nic więcej jak strata czasu. Nie gwarantują one ani wiedzy, ani 
> pomyślunku, a zarówno to pierwsze jak i drugie można bez problemu nabyć 
> poza murami uczelni.
> 
ogolnie jest to uproszczona i czesto falszywa wizja (prawdziwa w niektorych przypadkach ale w wielu nie)

na przyklad ja gdy szedlem do pierwszej roboty w 2005 to mialem porownanie miedzy sobą (ktory nauczyl sie glownie c, troche asma i troche pascala/javy)
samodzielnie vs kolesie ktoprzy byli w moim wieku ale byli z rok czy dwa lata po informatyce na politechnikach

kwestia byla taka ze ci umieli wiecej 
(bo ja sudiowalem fizyke co mi zajelo 5 lat) i umieli przede wszystkim inne rzeczy (byli po wykladach z sieci, baz danych i kilku innych podobnych tematow)

pozatym studia maja tez inne plucy, na przyklad mzoesz jak sadze porownac siebie i to co wiesz na zywo z tym co wiedza twoi kumple z roku przez to napewno uczysz sie jak to ogolnie wyglada

moim zdaniem studia informatyczne nie sa strata czasu ale robienie czegos innego tez nie koniecznie jest strata czasu..jesli ktos chialby isc do tego zawodu by zarabiac pieniadze to ja chyba studia bym polecal (sam nie poszedlem na informatyke wlasnie po wywnioskowaniu ze programowania sam sie naucze a fizyki nie i czy byla to dobra decyzja zalezy od tego co ktos uwaza za bardziej wazne)

(w moim wypadku uwazam ze byla dobra, gorzej z pechem w moim pozniejszym zyciu, zwlaszcza nabawianie sie przewleklej choroby a wlasciwie dwu)

[toc] | [prev] | [next] | [standalone]

#32642

On 2019-06-17 09:39, Piotr Wyderski wrote:
> Mateusz Viste wrote:
> 
>> Prawdziwi programiści nie używają liczb zmiennoprzecinkowych.
> 
> Prawdziwi programiści nie używają liczb zmiennoprzecinkowych bezmyślnie.

Bawo :) !

AK

[toc] | [prev] | [next] | [standalone]

#32581

Użytkownik "Pszemol"  napisał w wiadomości grup 
dyskusyjnych:qdqqh6$n2f$1@dont-email.me...
>Sub AlaMaKota(nieważne tutaj argumenty procedury)
>Dim len as Double

>len = CDbl("tekst wydłubany z RS232") - 1.8

>If len <> CDbl("inny tekst wydłubany z RS232) Then
>    zgłoś błąd i kapitulujemy... kaput!
>Else
>    lecimy z testami talej, wsio w pariadkie
>Endif.

>Pierwszy tekst z RS232 był 32.8, drugi 31. 32.8-1.8 = 31.
>Powinno być wszystko ok, bo w matematyce 31 równe jest 31 :-)
>Wynik porównania VB6 był 31 nie jest równe 31 i program
>kapitulował...

>Przyczyną błędu była różnica odejmowania wynosząca 15.1234e-15

>Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
>śmieci do zmiennej double float na 15 miejscu po przecinku??
>A może odejmowanie stałej 1.8 wprowadza ten błąd?
>Czy to jest normalne zachowanie się VB6?

To nie jest problem VB, to jest problem przyjetego formatu liczb 
rzeczywistych.
Albo problem programisty :-)

31 jest dokladne, 0.8 nie.
0.5 jest dokladne, 0.25 i 0.75 itd - ale wiekszosc liczb "dziesietnych 
po przecinku" niestety nie.

Po prostu nie da sie zapisac 32.8 dokladnie.
Programista ma o tym wiedziec i sie zabezpieczyc :-)

>Czy inne Visuale jak VC++ lub VC# też tak mają?

To jest problem procesora z FP IEEEcostam.

Akurat .net ma dodatkowe formaty (Decimal), w ktorych powinno to 
dzialac.
Tylko trzeba ie
Ale i tak bym dorzucil zabezpieczenie.

Problem promieniuje na bazy danych, gdzie mamy duzo kwot, a te grosze 
tez nie sa dokladne :-)

J.

[toc] | [prev] | [next] | [standalone]

#32595

"J.F." <jfox_xnospamx@poczta.onet.pl> wrote in message 
news:5d00f430$0$17345$65785112@news.neostrada.pl...
> Użytkownik "Pszemol"  napisał w wiadomości grup 
> dyskusyjnych:qdqqh6$n2f$1@dont-email.me...
>>Sub AlaMaKota(nieważne tutaj argumenty procedury)
>>Dim len as Double
>
>>len = CDbl("tekst wydłubany z RS232") - 1.8
>
>>If len <> CDbl("inny tekst wydłubany z RS232) Then
>>    zgłoś błąd i kapitulujemy... kaput!
>>Else
>>    lecimy z testami talej, wsio w pariadkie
>>Endif.
>
>>Pierwszy tekst z RS232 był 32.8, drugi 31. 32.8-1.8 = 31.
>>Powinno być wszystko ok, bo w matematyce 31 równe jest 31 :-)
>>Wynik porównania VB6 był 31 nie jest równe 31 i program
>>kapitulował...
>
>>Przyczyną błędu była różnica odejmowania wynosząca 15.1234e-15
>
>>Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
>>śmieci do zmiennej double float na 15 miejscu po przecinku??
>>A może odejmowanie stałej 1.8 wprowadza ten błąd?
>>Czy to jest normalne zachowanie się VB6?
>
> To nie jest problem VB, to jest problem przyjetego formatu liczb 
> rzeczywistych.
> Albo problem programisty :-)
>
> 31 jest dokladne, 0.8 nie.
> 0.5 jest dokladne, 0.25 i 0.75 itd - ale wiekszosc liczb "dziesietnych po 
> przecinku" niestety nie.
>
> Po prostu nie da sie zapisac 32.8 dokladnie.
> Programista ma o tym wiedziec i sie zabezpieczyc :-)
>
>>Czy inne Visuale jak VC++ lub VC# też tak mają?
>
> To jest problem procesora z FP IEEEcostam.

Teraz jak czytam co napisałeś to wydaje się to oczywiste.
Ale taki byłem szczęśliwy że wreszcie znalazłem buga i uruchomiłem
program że samamu mi się ta klapka w mózgu nie odklapiła - dzięki. 

[toc] | [prev] | [next] | [standalone]

#32605

On 2019-06-12 14:44, J.F. wrote:
> Użytkownik "Pszemol"  napisał w wiadomości grup 

> To nie jest problem VB, to jest problem przyjetego formatu liczb 
> rzeczywistych.

I tam. Nieprawda. W _kazdym_ systemie/formacie FP moze sie zdarzyc.

> Albo problem programisty :-)

_Wylacznie_ problem programisty.

> Po prostu nie da sie zapisac 32.8 dokladnie.
> Programista ma o tym wiedziec i sie zabezpieczyc :-)

Prawda!

>> Czy inne Visuale jak VC++ lub VC# też tak mają?
> 
> To jest problem procesora z FP IEEEcostam.

Wcale nie. To jest problem jak najbardziej ogolny.

> Akurat .net ma dodatkowe formaty (Decimal), w ktorych powinno to dzialac.
> Tylko trzeba ie
> Ale i tak bym dorzucil zabezpieczenie.

Racja! Sam Decimal tak naprawde przed niczym sam z siebie nie chroni.

> Problem promieniuje na bazy danych, gdzie mamy duzo kwot, a te grosze 
> tez nie sa dokladne :-)

Raaacja ! :)

AK

[toc] | [prev] | [next] | [standalone]

#32627

Użytkownik "AK"  napisał w wiadomości grup 
dyskusyjnych:qe64od$13b8$1@gioia.aioe.org...
On 2019-06-12 14:44, J.F. wrote:
> Użytkownik "Pszemol"  napisał w wiadomości grup
>> To nie jest problem VB, to jest problem przyjetego formatu liczb 
>> rzeczywistych.

>I tam. Nieprawda. W _kazdym_ systemie/formacie FP moze sie zdarzyc.

Ale w inny sposob.

>> Albo problem programisty :-)
>_Wylacznie_ problem programisty.

>> Po prostu nie da sie zapisac 32.8 dokladnie.
>> Programista ma o tym wiedziec i sie zabezpieczyc :-)
>Prawda!

Ale w innym systemie byc moze sie da, wiec nie musi sie zabezpieczac.
Za to 1/3 wynosi ... nie bardzo wiadomo ile :-)

>>> Czy inne Visuale jak VC++ lub VC# też tak mają?
>> To jest problem procesora z FP IEEEcostam.
>Wcale nie. To jest problem jak najbardziej ogolny.

Ogolny, ale te formaty, co wewnetrznie uzywaja liczb z mantysą 
binarna, to maja problem z liczbami dziesietnymi.

>> Akurat .net ma dodatkowe formaty (Decimal), w ktorych powinno to 
>> dzialac.
>> Tylko trzeba ie
>> Ale i tak bym dorzucil zabezpieczenie.

>Racja! Sam Decimal tak naprawde przed niczym sam z siebie nie chroni.

Ale akurat przed tym chroni.
Inne cuda za to potrafi spowodowac, ktore z kolei w IEEEcostam i 
podobnych nie wystapia :-)

J.

[toc] | [prev] | [next] | [standalone]

#32649

On 2019-06-17 16:20, J.F. wrote:
>>>> Czy inne Visuale jak VC++ lub VC# też tak mają?
>>> To jest problem procesora z FP IEEEcostam.
>> Wcale nie. To jest problem jak najbardziej ogolny.
> 
> Ogolny, ale te formaty, co wewnetrznie uzywaja liczb z mantysą binarna, 
> to maja problem z liczbami dziesietnymi.

A te (a byly/sa takie) ktore uzywaja wewnetrznie systemu dziesietnego
maja rownie powazne problemy z danymi binarnymi.
Zaden argument.

PS: Kto k.. skrosowal ten watek?!

AK

[toc] | [prev] | [next] | [standalone]

#32658

Użytkownik "AK"  napisał w wiadomości grup 
dyskusyjnych:qecl7l$1qds$1@gioia.aioe.org...
On 2019-06-17 16:20, J.F. wrote:
>>>>> Czy inne Visuale jak VC++ lub VC# też tak mają?
>>>> To jest problem procesora z FP IEEEcostam.
>>> Wcale nie. To jest problem jak najbardziej ogolny.
>
>> Ogolny, ale te formaty, co wewnetrznie uzywaja liczb z mantysą 
>> binarna, to maja problem z liczbami dziesietnymi.

>A te (a byly/sa takie) ktore uzywaja wewnetrznie systemu dziesietnego
>maja rownie powazne problemy z danymi binarnymi.
>Zaden argument.

No ale liczby dziesietne ludzie uzywaja nagminnie, a liczb binarnych 
zmiennoprzecinkowych ... to nawet programisci nie uzywaja :-)

Zdarzylo Ci sie kiedys okreslic, ze to by  bylo dobrze przemnozyc 
przez
11.01101

?

>PS: Kto k.. skrosowal ten watek?!

Nie ja.

J.

[toc] | [prev] | [next] | [standalone]

#32678

On 2019-06-19 11:35, J.F. wrote:
>> A te (a byly/sa takie) ktore uzywaja wewnetrznie systemu dziesietnego
>> maja rownie powazne problemy z danymi binarnymi.
>> Zaden argument.
> 
> No ale liczby dziesietne ludzie uzywaja nagminnie

I co z tego?
"Problemy" z liczbami fp kompletnie nie zaleza od ich podstawy.

AK

[toc] | [prev] | [next] | [standalone]

#32693

Dnia Tue, 25 Jun 2019 21:37:48 +0200, AK napisał(a):
> On 2019-06-19 11:35, J.F. wrote:
>>> A te (a byly/sa takie) ktore uzywaja wewnetrznie systemu dziesietnego
>>> maja rownie powazne problemy z danymi binarnymi.
>>> Zaden argument.
>> 
>> No ale liczby dziesietne ludzie uzywaja nagminnie
> 
> I co z tego?
> "Problemy" z liczbami fp kompletnie nie zaleza od ich podstawy.

O tyle zaleza, ze jeden format moze miec problem z liczbami typu 
31.8, drugi z 5/16, a oba z 1/3.

No i ktorych liczb uzywasz czesciej?
Od tego bedzie zalezec, ktory format lepszy :-)

J.

[toc] | [prev] | [next] | [standalone]

#32582

W dniu 12.06.2019 o 14:17, Pszemol pisze:

> Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
> śmieci do zmiennej double float na 15 miejscu po przecinku??

Bo typy rzeczywiste mają dużą dynamikę kosztem dużego szumu :-)

[toc] | [prev] | [next] | [standalone]

#32583

> Bo typy rzeczywiste mają dużą dynamikę kosztem dużego szumu :-)

Kurde, a ja myślałem, że to jitter.
Chociaż nie, jitter jest losowy, a tutaj mamy całkowitą powtarzalność, 
coś jak problem z kwantami bardziej ;)

Miłego.
Irek.N.

[toc] | [prev] | [next] | [standalone]

#32584

On Wednesday, June 12, 2019 at 2:17:44 PM UTC+2, Pszemol wrote:
> Witam, spędziłem wczoraj sporo godzin w biurze na debugowaniu
> kodu napisanego przez naszego kontraktora i w końcu znalazłem buga.
> Przyczyną błędu była różnica odejmowania dwu liczb całkowitych
> wynosząca 15.1234e-15 :-)
> 
> Ale może więcej szczegółów podam:
> 
> Pisząc w Visual Basic 6 gostek porównywał rezultat konwersji CDbl()
> stringu od którego odjął stałą numeryczną 1.8 do lokalnej zmiennej double.
> 
> Czyli mamy kod:
> 
> Sub AlaMaKota(nieważne tutaj argumenty procedury)
> Dim len as Double
> 
> len = CDbl("tekst wydłubany z RS232") - 1.8
> 
> If len <> CDbl("inny tekst wydłubany z RS232) Then
>     zgłoś błąd i kapitulujemy... kaput!
> Else
>     lecimy z testami talej, wsio w pariadkie
> Endif.
> 
> Pierwszy tekst z RS232 był 32.8, drugi 31. 32.8-1.8 = 31.
> Powinno być wszystko ok, bo w matematyce 31 równe jest 31 :-)

Ale nie działasz na liczbach rzeczywistych, ale na reprezentacji
zmiennoprzecinkowej. 
Wszytkie trzy liczby tak naprawde mają wartość tylko zblizoną
do tych napisanych. 

> Wynik porównania VB6 był 31 nie jest równe 31 i program
> kapitulował...
> 
> Po zamienieniu testu "if double <> double then" na test
> "if double - double < -0.001 Or double - double > 0.001 then"
> program zaczął pracować normalnie.

Używaj funkcji abs, to samo, a czytelniej. 

Tak, to jest poprawne rozwiązanie. 

> Przyczyną błędu była różnica odejmowania wynosząca 15.1234e-15
> 
> Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
> śmieci do zmiennej double float na 15 miejscu po przecinku??
> A może odejmowanie stałej 1.8 wprowadza ten błąd?
> 
> Czy to jest normalne zachowanie się VB6?
> 
> Czy inne Visuale jak VC++ lub VC# też tak mają?

W sumei to pierwsz rzecz, jakiej człowiek sie dowiaduja na jakimkolwiek
poważniejsyzm kursie dotykającym zmiennego przecinka. Ze szczegolnym
uwzlgędnieniem
"Nie wykonuj porównania == i <> na liczbach zmiennoprzecinkowych"


A jaka przyczyna? To przy okazji opisują.

Zerknij na wiki, jak wyglada liczba zmiennoprzecinkowa.

2^coś *1.mantysa.

1/2 tak zapiszesz, ale 1/3 nie. 1/10 też nie.
Zerknij tutaj, 
https://www.h-schmidt.net/FloatConverter/IEEE754.html 
Liczy na single, ale zasada ta sama.
wpisując 1.8 tak naprawdę trzymasz najbliższa
reprezentaowalną liczbę, 1.7999999523162841796875
Podobnie 32.8. 
31 jest reprezentowane dokładnie. 

Teraz każda podstawowa operacja arytmetyczna biorąca argumenty
a i b (oznaczamy fl(a) i fl(b) jako wartośći reprezentowane) liczy 
fl(a) (działanie) fl(b) dokładnie, a potem zapisuje jako najbliższa
reprezentowalna wartość. 

W ogolności 
fl(a+b) = (fl(a)+fl(b))(1+eps), gdize ten epsylon to dokłądność
reprezentacji. 



pzdr
bartekltg 

[toc] | [prev] | [next] | [standalone]

#32596

"bartekltg" <bartekltg@gmail.com> wrote in message 
news:a843c978-5bcc-4a8a-97bd-67b77c7defe7@googlegroups.com...
> Używaj funkcji abs, to samo, a czytelniej.

Słuszna uwaga - dzięki.

> W sumei to pierwsz rzecz, jakiej człowiek sie dowiaduja na jakimkolwiek
> poważniejsyzm kursie dotykającym zmiennego przecinka. Ze szczegolnym
> uwzlgędnieniem
> "Nie wykonuj porównania == i <> na liczbach zmiennoprzecinkowych"

I tyle mi zostało w głowie bo właśnie to <> mi się rzuciło w oczy
i zacząłem tam badać. Ale już wyleciała z głowy interpretacja "dlaczego".

> A jaka przyczyna? To przy okazji opisują.
>
> Zerknij na wiki, jak wyglada liczba zmiennoprzecinkowa.
>
> 2^coś *1.mantysa.
>
> 1/2 tak zapiszesz, ale 1/3 nie. 1/10 też nie.
> Zerknij tutaj,
> https://www.h-schmidt.net/FloatConverter/IEEE754.html
> Liczy na single, ale zasada ta sama.
> wpisując 1.8 tak naprawdę trzymasz najbliższa
> reprezentaowalną liczbę, 1.7999999523162841796875
> Podobnie 32.8.
> 31 jest reprezentowane dokładnie.
>
> Teraz każda podstawowa operacja arytmetyczna biorąca argumenty
> a i b (oznaczamy fl(a) i fl(b) jako wartośći reprezentowane) liczy
> fl(a) (działanie) fl(b) dokładnie, a potem zapisuje jako najbliższa
> reprezentowalna wartość.
>
> W ogolności
> fl(a+b) = (fl(a)+fl(b))(1+eps), gdize ten epsylon to dokłądność
> reprezentacji.

Dzięki.
Wartościowe odświeżenie sobie w głowie ważnego detalu
z dziedziny programowania! 

[toc] | [prev] | [next] | [standalone]

#32599

On Wednesday, June 12, 2019 at 3:07:25 PM UTC+2, bartekltg wrote:
> On Wednesday, June 12, 2019 at 2:17:44 PM UTC+2, Pszemol wrote:
> > Witam, spędziłem wczoraj sporo godzin w biurze na debugowaniu
> > kodu napisanego przez naszego kontraktora i w końcu znalazłem buga.
> > Przyczyną błędu była różnica odejmowania dwu liczb całkowitych
> > wynosząca 15.1234e-15 :-)
> > 
> > Ale może więcej szczegółów podam:
> > 
> > Pisząc w Visual Basic 6 gostek porównywał rezultat konwersji CDbl()
> > stringu od którego odjął stałą numeryczną 1.8 do lokalnej zmiennej double.
> > 
> > Czyli mamy kod:
> > 
> > Sub AlaMaKota(nieważne tutaj argumenty procedury)
> > Dim len as Double
> > 
> > len = CDbl("tekst wydłubany z RS232") - 1.8
> > 
> > If len <> CDbl("inny tekst wydłubany z RS232) Then
> >     zgłoś błąd i kapitulujemy... kaput!
> > Else
> >     lecimy z testami talej, wsio w pariadkie
> > Endif.
> > 
> > Pierwszy tekst z RS232 był 32.8, drugi 31. 32.8-1.8 = 31.
> > Powinno być wszystko ok, bo w matematyce 31 równe jest 31 :-)
> 
> Ale nie działasz na liczbach rzeczywistych, ale na reprezentacji
> zmiennoprzecinkowej. 
> Wszytkie trzy liczby tak naprawde mają wartość tylko zblizoną
> do tych napisanych. 
> 
> > Wynik porównania VB6 był 31 nie jest równe 31 i program
> > kapitulował...
> > 
> > Po zamienieniu testu "if double <> double then" na test
> > "if double - double < -0.001 Or double - double > 0.001 then"
> > program zaczął pracować normalnie.
> 
> Używaj funkcji abs, to samo, a czytelniej. 
> 
> Tak, to jest poprawne rozwiązanie. 
> 
> > Przyczyną błędu była różnica odejmowania wynosząca 15.1234e-15
> > 
> > Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
> > śmieci do zmiennej double float na 15 miejscu po przecinku??
> > A może odejmowanie stałej 1.8 wprowadza ten błąd?
> > 
> > Czy to jest normalne zachowanie się VB6?
> > 
> > Czy inne Visuale jak VC++ lub VC# też tak mają?
> 
> W sumei to pierwsz rzecz, jakiej człowiek sie dowiaduja na jakimkolwiek
> poważniejsyzm kursie dotykającym zmiennego przecinka. Ze szczegolnym
> uwzlgędnieniem
> "Nie wykonuj porównania == i <> na liczbach zmiennoprzecinkowych"
> 
> 
> A jaka przyczyna? To przy okazji opisują.
> 
> Zerknij na wiki, jak wyglada liczba zmiennoprzecinkowa.
> 
> 2^coś *1.mantysa.
> 
> 1/2 tak zapiszesz, ale 1/3 nie. 1/10 też nie.
> Zerknij tutaj, 
> https://www.h-schmidt.net/FloatConverter/IEEE754.html 
> Liczy na single, ale zasada ta sama.
> wpisując 1.8 tak naprawdę trzymasz najbliższa
> reprezentaowalną liczbę, 1.7999999523162841796875
> Podobnie 32.8. 
> 31 jest reprezentowane dokładnie. 
> 
> Teraz każda podstawowa operacja arytmetyczna biorąca argumenty
> a i b (oznaczamy fl(a) i fl(b) jako wartośći reprezentowane) liczy 
> fl(a) (działanie) fl(b) dokładnie, a potem zapisuje jako najbliższa
> reprezentowalna wartość. 
 
> W ogolności 
> fl(a+b) = (fl(a)+fl(b))(1+eps), gdize ten epsylon to dokłądność
> reprezentacji. 

Lepiej by było, jakbym napisał, że eps jest rzędu wielkośći reprezentacji.
Może być 0, może być jak dokładność v, dodatnia lub ujemna. Wzorkiem:
abs( eps ) < v.




 pzdr
 bartekltg

[toc] | [prev] | [next] | [standalone]

#32610

On 2019-06-13 23:25, bartekltg wrote:
>> W ogolności
>> fl(a+b) = (fl(a)+fl(b))(1+eps), gdize ten epsylon to dokłądność
>> reprezentacji.
> 
> Lepiej by było, jakbym napisał, że eps jest rzędu wielkośći reprezentacji.

O tak. To bardziej adekwatne.

AK

[toc] | [prev] | [next] | [standalone]

#32585

On 2019-06-12 14:17, Pszemol wrote:
[...]
> Pisząc w Visual Basic 6 gostek porównywał rezultat konwersji CDbl()
No nieźle, nieźle. Myślałem, że to ja jestem dinozaurem, który w chacie
używa WinXP, a tu widzę, że ludzie jeszcze komercyjnie piszą coś nowego
pod VB6, do którego extended support skończył się w 2008. :-D Tak mnie
jakoś tknął ten VB6, bo pamiętam, jak mój koleżka się nim zachwycał
gdzieś pod koniec lat 90-tych. :-D

[toc] | [prev] | [next] | [standalone]

#32592

"JDX" <jdx@onet.pl> wrote in message 
news:5d00fc5f$0$522$65785112@news.neostrada.pl...
> On 2019-06-12 14:17, Pszemol wrote:
> [...]
>> Pisząc w Visual Basic 6 gostek porównywał rezultat konwersji CDbl()
> No nieźle, nieźle. Myślałem, że to ja jestem dinozaurem, który w chacie
> używa WinXP, a tu widzę, że ludzie jeszcze komercyjnie piszą coś nowego
> pod VB6, do którego extended support skończył się w 2008. :-D Tak mnie
> jakoś tknął ten VB6, bo pamiętam, jak mój koleżka się nim zachwycał
> gdzieś pod koniec lat 90-tych. :-D

To raczej utrzymywanie starego kodu. 

[toc] | [prev] | [next] | [standalone]

Page 5 of 6 — ← Prev page 1 2 3 4 [5] 6  Next page →

Back to top | Article view | pl.comp.programming

csiph-web