（1）∵f(x)=

1

3

x3+

1

2

ax2-bx∴f'（x）=x²+ax-b（2分）

又x₁=-2和x₂=4为函数f（x）的两个极值点

∴-2，4是方程x²+ax-b=0的两个根

则

-a=-2+4 -b=(-2)×4

解得

a=-2 b=8

∴f(x)=

1

3

x3-x2-8x（4分）

（2）∵f（x）在区间[-1，3]上是单调递减函数∴f'（x）=x²+ax-b≤0在区间[-1，3]上恒成立．

∴

f′(-1)≤0 f′(3)≤0

⇒

1-a-b≤0 a+3a-b≤0

⇒

a+b≥1 3a-b≤-9

(6分)

作出

a+b≥1 3a-b≤-1

的可行域

联立

a+b=1 3a-b=-9

得交点A(-2，3)(10分)

∴a²+b²的最小值为A到原点O的距离的平方，即（-2）²+3²=13

∴a²+b²的最小值为13（12分）