(I)由题设知,得an+1=an+1.
又已知t≠2,可得an+1+=(an+).
由t≠0,t≠2,f(b)≠g(b),可知a1+=tb+≠0,≠0,
所以{an+}是等比数列,其首项为tb+,公比为.
于是an+=(tb+)()n-1,即an=(tb+)()n-1-.
又an存在,可得0<||<1,所以-2<t<2且t≠0.an=.
(II)证明:因为g(x)=f-1(x),
所以an=g(bn+1)=f-1(bn+1),即bn+1=f(an).
下面用数学归纳法证明an+1<an(n∈N*).
(1)当n=1(2)时,由f(x)(3)为增函数,且f(1)<1(4),
得a1=f(b1)=f(1)<1(5),b2=f(a1)<f(1)<1(6),a2=f(b2)<f(1)=a1(7),
即a2<a1,结论成立.
(8)假设n=k(9)时结论成立,即ak+1<ak(10).由f(x)(11)为增函数,得f(ak+1)<f(ak)(12),即bk+2<bk+1(13),进而得f(bk+2)<f(bk+1)(14),即ak+2<ak+1(15),这就是说当n=k+1(16)时,结论也成立.根据(1)和(2)可知,对任意的n∈N*(17),an+1<an(18).