参考答案：解一

(1)当a=1，b=3时，r(A)=2=r(

)，方程组有解．
(2)当a=1，b=3时，对变换矩阵B₁进一步用初等行变换将其化为含最高阶单位矩阵(2阶单位矩阵)的矩阵，再用基础解系和特解的简便求法即可写出其基础解系和特解，从而写出其全部解：

，⑤
则其基础解系含3个解向量：
α₁=[1，-2，1，0，0]^T，
α₂=[1，-2，0，1，0]^T，
α₃=[5，-6，0，0，1]^T，
其一个特解η=[-2，3，0，0，0]^T．
(3)所求的全部解为
X=η+k₁α₁+k₂α₂+k₃α₃，
其中k₁，k₂，k₃为任意常数．
解二 因该方程组的参数仅出现在方程右端的常数项，可先用观察法求出方程
组有解的参数取值．观察左边的各个方程，有下述关系：

因此要使方程组有解，其右端也应有相同关系：
2a+0=2，3a-0=b
解之得a=1，b=3．下同解一．
解三 用高斯消元法求解．由式⑤中矩阵B₂得到同解的齐次方程组为

选x₃，x₄，x₅为自由变量，分别令
x₃=1，x₄=0，x₅=0；
x₃=0，x₄=1，x₅=0；
x₃=x₄=0，x₅=1．
代入上式得到基础解系为
α₁=[1，-2，1，0，0]^T，
α₂=[1，-2，0，1，0]^T，
α₃=[5，-6，0，0，1]^T．
再令x₃=x₄=x₅=0，得其特解η=[-2，3，0，0，0]^T．故其全部解为
X=η+k₁α₁+k₂α₂+k₃α₃，
其中k₁，k₂，k₃为任意实数

解析： 利用有解的充要条件
r(A)=r(

)=r(A

b)求a，b．A与

分别为上述方程组的系数矩阵与增广矩阵，可利用基础解系和特解的简便求法求解(参阅<考研数学三常考题型解题方法技巧归纳(第二版)》P297)：
设非齐次线性方程组AX=b有无穷多个解，其中A为m×n矩阵．设
秩(A)=

=r，
对增广矩阵

用初等行变换，将其化为

，
其中A₁是将A化为含r阶(最高阶)的单位矩阵的矩阵．如果这r阶单位矩阵在A₁的第j₁，j₂，…，j_r列，则基础解系的n-r个解向量α₁，α₂，…，α_n-r的第j₁，j₂，…，j_r个分量依次是A₁中除r阶单位矩阵所在的r列以外的其余n-r列的前r个分量反号，而α₁，α₂，…，α_n-r的其余n-r个分量依次组成n-r阶单位矩阵．
而特解η的第j₁，j₂，…，j_r个分量依次为

中最后一列的前r个分量(但不反号)，而η的其余n-r个分量全部取成零．