参考答案：[详解] ①由β₁，β₂，β₃均为Bx=0的解，而B≠O知，β₁，β₂，β₃必线性相关，于是
[*]
由此解得a=3b．
又Ax=β₃有非零解，即β₃可由A的三个列向量
[*]线性表示，而α₃=3α₁+2α₂，
可见β₃可由α₁，α₂线性表示，因此β₃，α₁，α₂线性相关，于是
[*]
解得b=5，从而a=15．故a=15，b=5．
②由题设r(B)≥1，于是3-r(B)≤2，而β₁，β₂为Bx=0的两个线性无关的解，故3-r(B)=2，可见β₁，β₂即可作为Bx=0的基础解系，故通解为x=k₁β₁+k₂β₂(k₁，k₂为任意常数)．

解析：

[分析]： B≠O，β₁，β₂，β₃为Bx=0的=三个解向量，于是必有行列式|[β₁，β₂，β₃]|=0，再根据Ax=β₃有解，即β₃可由α₁，α₂，α₃线性表示(这里易知α₃=3α₁+2α₂)，从而β₃可由α₁，α₂线性表示，又得行列式|[β₃，α₁，α₂]|=0．由此两个等式可解得a，b，或由r(A)=r(A[*]β₃)，可得b，再根据|[β₁，β₂，β₃]|=0，又可解得a．
至于求Bx=0的通解，关键是确定B的秩．
[评注] 对于参数b，也可根据解的判定来确定．由Ax=β₃有非零解，知r(A[*]β₃)=r(A)≤2，
[*]
可见有b=5．