参考答案：(Ⅰ)由

知，矩阵B的列向量是齐次方程组Ax=0的解向量.
记

则Aα₁=0=0α₁，Aα₂=0=0α₂.
由此可知λ=0是矩阵A的特征值(至少是二重)，α₁，α₂是λ=0的线性无关的特征向量.
根据

，有0+0+λ₃=1+4+1，故知矩阵A有特征值λ=6. 因此，矩阵A的特征值是0，0，6.
设λ=6的特征向量为α₃=(x₁，x₂，x₃)^T，那么由实对称矩阵不同特征值的特征向量相互正交，有

解出α₃=(1，2，-1)T.
对α₁，α₂正交化，令β₁=(1，0，1)^T，则

再对β₁，β₂，α₃单位化，得

那么经坐标变换x=Qy，即

二次型化为标准形

(Ⅱ)因为

，有

，进而

又

所以由

得

于是

解析：要会用AB=0，即由AB=0要联想到B的列向量是Ax=0的解，进而可转换出特征值、特征向量的信息，要掌握用正交变换法化二次型为标准形.
本题也可由AB=0先求出a、b、c的值，然后再求解.