试了一下用PS3.0渲染Mandelbrot集。为什么循环不能超过15次？

zyl910

试了一下用PS3.0渲染Mandelbrot集。为什么循环不能超过15次？

刚学HLSL。听说 Pixel Shader 3.0支持循环，于是试了一下用 PS3.0 渲染Mandelbrot集（一个著名的复数分形集）。
但测试后发现，循环次数在1~15次时渲染结果是正确的，但达到16次或更高时渲染结果不对。见下图——

（上为循环15次，下为循环16次）

按道理M集的中间部分是不会发散的，应该总是黑色。而现在渲染成了绿色，似乎循环提前结束了。
试了一下切换到参考设备，效果不变。
怀疑M集的实现代码有问题，但我检查了几次都没看出问题。


PS代码如下——

1. 
   
2. sampler2D Texture0;
   
3. 
   
4. float4 ps_main( float2 texCoord:TEXCOORD0 ) : COLOR
   
5. {
   
6.    float4 crR = float4(0,1,0,1);
   
7.    float4 cr = float4(1,1,1,1);
   
8.    float2 fPos = float2(0,0);
   
9.    float fScale = 4.0f;
   
10.    int nmax = 15;
    
11.    int ncur = 0;
    
12.    float x0 = (texCoord.x-0.5f)*fScale + fPos.x;
    
13.    float y0 = (texCoord.y-0.5f)*fScale + fPos.y;
    
14.    float fx = x0;
    
15.    float fy = y0;
    
16.    float ty;
    
17.    while ((fx*fx+fy*fy) <= 4.0f)   // |z| <= 2
    
18.    {
    
19.       // z = z^2 + z0
    
20.       ty = fy;
    
21.       fy = 2*fx*fy + y0;
    
22.       fx = fx*fx - ty*ty + x0;
    
23.       ncur = ncur + 1;
    
24.       if (ncur > nmax)
    
25.       {
    
26.          cr.rgb = 0;
    
27.          return cr;
    
28.       }
    
29.    }
    
30.    cr = lerp(cr, crR, saturate((float)ncur / nmax));
    
31.    return cr;
    
32. }
    
33. 
    

复制代码

oz01

啥显卡

zyl910

nVidia 6150，支持PS3.0的

zyl910

没想到过了这么久，这个帖子还在。

这个问题我后来解决了，其实故障原因很简单——
1.int类型并不是真正的整数类型，GPU会将其当做浮点数进行运算。而浮点数运算是不准确的，在进行浮点比较时需要引入误差项。
2.当循环小于等于15次时，编译器会自动展开循环，避开了浮点误差问题。

修改后的代码为——

1. 
   
2. sampler2D Texture0;
   
3. 
   
4. float4 ps_main( float2 texCoord:TEXCOORD0 ) : COLOR
   
5. {
   
6.    float4 crR = float4(0,1,0,1);
   
7.    float4 cr = float4(1,1,1,1);
   
8.    float2 fPos = float2(0,0);
   
9.    float fScale = 4.0f;
   
10.    float nmax = 16;
    
11.    float ncur = 0;
    
12.    float x0 = (texCoord.x-0.5f)*fScale + fPos.x;
    
13.    float y0 = (texCoord.y-0.5f)*fScale + fPos.y;
    
14.    float fx = x0;
    
15.    float fy = y0;
    
16.    float ty;
    
17.    while ((fx*fx+fy*fy) <= 4.0f)   // |z| <= 2
    
18.    {
    
19.       // z = z^2 + z0
    
20.       ty = fy;
    
21.       fy = 2*fx*fy + y0;
    
22.       fx = fx*fx - ty*ty + x0;
    
23.       ncur = ncur + 1;
    
24.       if (ncur+0.001 > nmax)   // 浮点误差
    
25.       {
    
26.          cr.rgb = 0;
    
27.          return cr;
    
28.       }
    
29.    }
    
30.    cr = lerp(cr, crR, saturate((float)ncur / nmax));
    
31.    return cr;
    
32. }
    

复制代码