A、B如果β=α，小球受到重力和竖直向上的拉力，小车在斜面上做直线运动，则知其合力一定为零，否则合力与速度不在同一直线上，小球将做曲线运动，所以小球的加速度为零，小车的加速度也为零，处于静止或匀速直线运动状态，斜面一定是粗糙的．故A、B错误．

C、如果β＞α，小球受到重力和绳子的拉力，它们的合力沿斜面向上，加速度沿斜面向上，由于小车无动力，不可能沿斜面向上加速，则可能沿斜面减速向下运动．故C正确．

D、设小球的质量为m，若悬线停留图中虚线的右侧，则小球所受的合力大于mgsinα，加速度大于gsinα，方向沿斜面向下，当小车沿斜面向上减速时，加速度才大于gsinα，由于小车无动力，不可能沿斜面向上运动．故D错误．

故选C