（1）∵x²-2x-m=0有实数根，

∴△=4+4m≥0，

解得：m≥-1；

（2）将a，b代入一元二次方程可得：a²-2a-m=0，b²-2b-m=0，

∴a²-2a=m，b²-2b=m，

又（

1

2

a²-a+1）（2b²-4b-1）=

3

2

，

∴（

1

2

m+1）（2m-1）=

3

2

，即（2m+5）（m-1）=0，

可得2m+5=0或m-1=0，

解得：m=1或m=-

5

2

（舍去）．