1 Konuyu açan Mehmet K

  • Mehmet K
  • Uzman Üye
  • Offline
  • Yer: İstanbul
  • Kayıt Tarihi: 02.01.2010
  • İleti: 913

Konu: INT() ile sorun

Herkese merhaba

Command pencerede komutlari girince, sonuçlar doğru. Ama programın içinde hatalı sonuç geliyor.

Visual Fox Pro
SET DECIMAL TO 2

SET FIXED ON   && veya OFF, farketmiyor

...

...

nKurus = .nToplamYTL.VALUE - INT(.nToplamYTL.VALUE)    && burda INT dogru sonucu veriyor

IF nKurus > 0    && burda nKurus 0,47

  nKurus = INT(nKurus  * 100)    && 47 yerine 46 veriyor

  ... 

  ...

ENDIF

Şu an ROUND(nKurus * 100,0) ile idare ediyorum.
Sorunun kaynağını bir türlü bulamadım. Yardımlarınız için şimdiden teşekkür

http://i.imgur.com/lerN7.gif

Bir projenin bitmesi için 3 seçenek vardır: hızlı, ucuz, iyi. Bu seçeneklerden iki tanesini seçiniz.

2 Cevaplayan cetinbasoz

  • cetinbasoz
  • cetinbasoz
  • Uzman Üye
  • Offline
  • Kayıt Tarihi: 07.10.2006
  • İleti: 3,162

Re: INT() ile sorun

O sayının 0.47 yani 0.47000000000 oldugundan emin misin. Buyuk ihtimalle 0.469999999 gibi birseydir. Dogrudan VFP'nin sucu degil IEEE ile kesirli sayılar tam tanımlanamıyor.

Visual Fox Pro
int(Ntom(m.nSayi) * 100)

cetinbasoz's Website

3 Cevaplayan Mehmet K Son düzenleyen, Mehmet K (29.01.2012 16:09:04)

  • Mehmet K
  • Uzman Üye
  • Offline
  • Yer: İstanbul
  • Kayıt Tarihi: 02.01.2010
  • İleti: 913

Re: INT() ile sorun

Merhaba Çetin

SET DECIMAL TO 10
yaptım ve .nToplamYTL.VALUE kontrol ettim: 210,4700000000

NTOM 'a gelince: bugüne kadar böyle bir komut olduğunu bilmiyordum bile!! big_smile
Onun ile belirtiğim hata oluşmiyor. Ama INT() komutunu çok yerde kullandığım için, çok tedirginim.

Bir projenin bitmesi için 3 seçenek vardır: hızlı, ucuz, iyi. Bu seçeneklerden iki tanesini seçiniz.

4 Cevaplayan metin

  • metin
  • metin
  • Uzman Üye
  • Offline
  • Yer: istanbul
  • Kayıt Tarihi: 16.10.2006
  • İleti: 1,460

Re: INT() ile sorun

ntom'u ben de bilmiyordum doğrusu. cast kullanıyordum onun yerine.

Haksızlıklar karşısında susanlar, dilsiz şeytanlardır!
www.metinemre.com

metin's Website

5 Cevaplayan cetinbasoz

  • cetinbasoz
  • cetinbasoz
  • Uzman Üye
  • Offline
  • Kayıt Tarihi: 07.10.2006
  • İleti: 3,162

Re: INT() ile sorun

Mehmet,
Bence o sayi .0469999999999999999999999999 gibi birsey. VFP ne yazik ki 15 digit kapasiteye sahip ve dogru gostermiyor.

? m.nSayi == 210.47

ile test et. Sanirim .F. donecek (ayni sorun C'de double ile de var). Ntom() money'e ceviriyor, money maximum 4 decimal garantiledigi icin cozuyor.

cetinbasoz's Website

6 Cevaplayan Mehmet K

  • Mehmet K
  • Uzman Üye
  • Offline
  • Yer: İstanbul
  • Kayıt Tarihi: 02.01.2010
  • İleti: 913

Re: INT() ile sorun

Çetin, haklısın.
Görsel 0,47 olan nKurus, 0,47 ile sorgulandığında .F. geliyor.
sad

Bir projenin bitmesi için 3 seçenek vardır: hızlı, ucuz, iyi. Bu seçeneklerden iki tanesini seçiniz.