参考答案：[解] 对增广矩阵作初等行变换，有
[*]
若a≠7，[*]b，恒有[*]，方程组有无穷多解，此时x₅是自由变量．
Ax=0的基础解系是：[*]．
Ax=b的特解是：
[*]
故方程组的通解是[*]
若a=7，b≠1，则r(A)=2，[*]，方程组无解．
若a=7，b=1，则r(A)=[*]=2＜5，方程组有无穷多解，此时x₃，x₄，x₅是自由变量。方程组的通解是：[*]．