参考答案：AB=0知λ=0是矩阵A的特征值且矩阵B的列向量(1，0，1)^T是矩阵A属于特征值λ=0的特征向量．故有
[*]
于是[*]a=-1，b=1，c=-4．
由矩阵A的特征多项式
[*]
得矩阵A的特征值为：6，0，-6．
由(6E-A)x=0得矩阵A属于特征值6的特征向量为(1，2，-1)^T
由(-6E-A)x=0得矩阵A属于特征值-6的特征向量为(-1，1，1)^T实对称矩阵特征值不同特征向量相互正交，单位化有
[*]
那么令[*]
则有[*]．