解：∵f（x）=x²e^-ax（a>0），

∴f′（x）=2xe^-ax+x²（-a）e^-ax=e^-ax（-ax²+2x），

令f′（x）>0，即e^-ax（-ax²+2x）>0，得

∴f（x）在（-∞，0），上是减函数，在上是增函数，

当，即a>2时，f（x）在（1，2）上是减函数，

∴f（x）_max=f（1）=e^-a，

当，即1≤a≤2时，f（x）在上是增函数，在上是减函数，

∴

当，即0＜a＜1时，f（x）在（1，2）上是增函数，

∴f（x）_max=f（2）=4e^-2a，

综合所述，当0＜a＜1时，f（x）的最大值为4e^-2a；

当1≤a≤2时。f（x）的最大值为，

当a>2时，f（x）的最大值为e^-a，