∵y=

1

3

x³-ax²+x-2a，

∴y′=x²-2ax+1，

又函数y=

1

3

x³-ax²+x-2a在R上不是单调函数，

∴y′=x²-2ax+1与x轴有二不同的交点（即y=

1

3

x³-ax²+x-2a在R上有增区间，也有减区间），

∴方程x²-2ax+1=0有二异根，

∴△=4a²-4＞0，

∴a＞1或a＜-1．

故答案为：（-∞，-1）∪（1，+∞）．