(1)a=0时不合题意;
a≠0时,方程2ax2-12x-3=0的两根设为x1、x2,
则x1+x2=,x1x2=-,
由题意知6=|x1-x2|2=(x1+x2)2-4x1x2=+,
解得a=-2或a=3(舍),所以a=-2.
(2)因为sinxcosx+cos2x+b
=sin2x+(1+cos2x)+b=sin(2x+)++b,
设f(x)=sin(2x+),原不等式等价于“f(x)>--b,x∈[0,π]”,
因为函数f(x)的最小正周期为π,[0,π]的长度恰为函数的一个正周期,
所以当--b<时,f(x)>--b,x∈[0,π]的解集构成的各区间的长度和超过,
即b的取值范围为(-,+∞).
(3)先解不等式>1,整理得>0,
即(x+1)(x-6)<0
所以不等式>1的解集A=(-1,6)
设不等式log2x+log2(tx+3t)<2的解集为B,不等式组的解集为A∩B
不等式log2x+log2(tx+3t)>2等价于
所以B⊆(0,+∞),A∩B⊆(0,6),不等式组的解集的各区间长度和为6,
所以不等式组,当x∈(0,6)时,恒成立
当x∈(0,6)时,不等式tx+3t>0恒成立,得t>0
当x∈(0,6)时,不等式tx2+3tx-4<0恒成立,即t<恒成立
当x∈(0,6)时,的取值范围为(,+∞),所以实数t≤
综上所述,t的取值范围为(0,]