有没有提高变量的有效数字位数？

gpra8764 · 发表于 2005-11-25 21:34:00

VB的double变量好象只支持7位的有效数字，有没有办法提高呢？需要进行高精度计算的话，7位完全不够的啊。就是WINDOWS自带的计算器也有很多位啊，例如2^0.5=1.4142135623730950488016887242097
希望有人给予帮助。

wangh · 发表于 2005-11-25 22:00:00

Single9位
Double17位...

醉剑客 · 发表于 2005-11-26 13:22:00

我有办法实现21亿位整数的运算。但是精度运算还没有实现
不过可以实现的
无聊之余写的一个运算demo，去试试我的demo可以运算到几位数

123321 · 发表于 2005-11-28 18:12:00

用String或数组类型模拟手动运算。

游戏之家 · 发表于 2005-11-28 22:33:00

更高的位数我没用过, 但在QB里是可以用 ####.###########来表示的, 没在VB里用过.

茹枫 · 发表于 2005-12-1 20:36:00

我觉得32位整数已经超过我理解的能力~

gpra8764 · 发表于 2005-12-2 15:23:00

我想没事情计算计算圆周率，所以需要这方面知识啊，我的算法没问题，但是发现因为有效数字有限，所以只能计算到十几位……

醉剑客 · 发表于 2005-12-4 19:09:00

21亿位够不够用？

genl · 发表于 2005-12-5 06:41:00

VB没有现成的大数库么？？
我不会VB不知道 C和delphi都有
没有自己写一个就行四则运算的一共不过100行(C);

gpra8764 · 发表于 2005-12-23 22:02:00

能不能举个例子？

账号		自动登录	找回密码
密码			立即注册

Re:有没有提高变量的有效数字位数？