(1)a=1时,f(x)=ln(+x)+x2-x,
∴f′(x)=+2x-1,于是f′(1)=,
又f(1)=0,即切点为(1,0),
∴切线方程为y=(x-1);
(2)f′(x)=+2x-a,f′()=+1-a=0,即a2-a-2=0,
∵a>0,∴a=2,
此时,f′(x)=,∴x∈[0,]上递减,[,2]上递增,
又f(0)=ln,f()=-,f(2)=ln,
∴-<b≤ln;
(3)f′(x)=+2x-a==,
∵1<a<2,∴-=<0,即<,
∴f(x)在[,2]上递增,∴f(x)max=f(1)=ln(+a)+1-a,
问题等价于对任意的a∈(1,2),不等式ln(+a)+1-a>m(a2+2a-3)成立,
设h(a)=ln(+a)+1-a-m(a2+2a-3)(1<a<2),
则h′(a)=-1-2ma-2m=,
又h(1)=0,∴h(a)在1右侧需先增,∴h′(1)≥0,m≤-,
设g(a)=-2ma2-(4m+1)a-2m,对称轴a=-1-≤1,
又-2m>0,g(1)=-8m-1≥0,
所以在(1,2)上,g(a)>0,即h′(a)>0,
∴h(a)在(1,2)上单调递增,h(a)>h(1)=0,即ln(+a)+1-a>m(a2+2a-3),
于是,对任意的a∈(1,2),总存在x0∈[,1],使不等式f(x0)>m(a2+2a-3)成立,
m≤-.