（1）∵函数f(x)=

2x2-2ax-a-1

的定义域为R

∴2x2-2ax-a-1≥0恒成立

∴2x2-2ax-a≥20恒成立

∴x²-2ax-a≥0恒成立

∴4a²+4a≤0

∴-1≤a≤0

∴实数a的取值范围是[-1，0]．

（2）由|x²-6x+5|＞0，解得：x≠1或x≠5，

设u=|x²-6x+5|=|（x-3）²-4|，则函数在（-∞，1），[3，5）上是单调递减，

而要求的函数是以

1

2

为底的，根据“同增异减”，

那么函数f（x）=log

1

2

|x2-6x+5|的单调递增区间为（-∞，1），[3，5）

故答案为：（1）[-1，0]；

（2）（-∞，1），[3，5）