已知函数f(x)=x2-(a+1)x+b,
(1)若f(x)<0的解集是(-5,2),求a,b的值;
(2)若a=b,解关于x的不等式f(x)>0.
(1)由题意得,-5,2是方程x2-(a+1)x+b=0的两根,
所以-5+2=a+1,-5×2=b,解得a=-4,b=-10.
(2)当a=b时,f(x)>0即x2-(a+1)x+a>0,
也即(x-a)(x-1)>0,
①当a>1时,由f(x)>0可得x<1或x>a;
②当a=1时,由f(x)>0可得x≠1;
③当a<1时,由f(x)>0可得x<a或x>1;
综上,当a>1时,f(x)>0的解集为{x|x<1或x>a};当a=1时,f(x)>0的解集为{x|x≠1};
当a<1时,f(x)>0的解集为{x|x<a或x>a}.