参考答案：

变换前后二次型的矩阵分别为，二次型可以写成f=x^TAx和f=y^TBy，由于P^TAP=B，P为正交矩阵，故P^-1AP=B，

因此|λE-A|=|λE-B|，即，

λ³-3λ²+(2-α²-β²)λ+(α-β)²=λ³-3λ²+2λ，比较系数得α=β=0．

解析：

[考点] 经正交变换(注意不是非退化线性变换)化二次型为标准型，前后二次型所对应的矩阵必相似，从而有相同的特征多项式，由此可确定参数α，β