参考答案：方法1° (齐次方程组只有O解) [*]，由于B^TAB正定，知
x^T(B^TAB)x=(Bx)^TA(Bx)＞0．
所以必有Bx≠0，即齐次方程组Bx=0只有零解，故r(B)=n．
方法2° (用秩的概念、性质) 由B^TAB正定，知|B^TAB|≠0，那么
n=r(B^TAB)≤r(B)≤min(m，n)≤n．
所以，r(B)=n．
或者，由A正定，知A=D^TD，D是可逆矩阵，那么
n=r(B^TAB)=r(B^TD^TDB)=r(DB)^T(DB)=r(DB)=r(B)．
方法3° (用反证法) 如果r(B)≠n则B=(β₁，β₂，…，β_n)的列向量线性相关，于是存在不全为0的数k₁，k₂，…，k_n，使
[*]
即存在X₀=(k₁，k₂，…，k_n)^T≠0，使得
[*]
这与B^TAB正定相矛盾．
再证充分性．
方法1° (用特征值) 因为(B^TAB)^T=B^TA^T(B^T)^T=B^TAB，故矩阵B^TAB对称．
设λ是矩阵B^TAB的任一特征值，α是属于特征值λ的特征向量，即
B^TABα=λα．α≠0．
用α^T左乘上式的两端，有 (Bα)^TA(Bα)=λα^Tα．
由于秩r(B)=n，α≠0，知Bα≠0及α^Tα=||α||²＞0，又因A正定，从而
λα^Tα=(Bα)^TA(Bα)＞0．
因此，特征值λ>0，即B^TAB正定．
方法2° (用定义)．B^TAB对称性，略．
由于秩r(B)=n，知齐次线性方程组Bx=0只有零解，那么[*]，恒有Bx₀≠0，又因A是正定矩阵，所以对Bx₀≠0，必有 (Bx₀)^TA(Bx₀)＞0，即[*]，恒有[*]，故B^TAB是正定矩阵．