A、a²b²与3a²b不是同类项，不能直接合并，故本选项错误；

B、2x²y+5x²y=7x²y，原式合并错误，故本选项错误；

C、

3

2

ab²与

1

2

a²b不是同类项，不能直接合并，故本选项错误；

D、-mx²+mx²=0，计算正确，故本选项正确．

故选D．