参考答案：由题设，有AP=

，令P=[α₁，α₂，α₃]，其中

，
则Aα₁=1·α₁，Aα₂=2·α₂，Aα₃=-1·α₃，
即α₁，α₂，α₃是属于3个不同特征值λ₁=1，λ₂=2，λ₃=-1的特征向量，而A为三阶实对称矩阵，其不同特征值对应的特征向量必正交，则

得

解得a=0，b=-2．
又A^*α=λ₀α，而α=-α₃，于是有
A^*(-α₃)=λ₀(-α₃)，即A*α₃=λ₀α₃，
从而AA^*α³=λ₀Aα₃，|A|α₃=λ₀Aα₃，
可见

又Aα₃=(-1)α₃，因此有

=λ₃=-1，故λ₀=2．