相同条件下，ag气体X与bg气体Y的分子数相同，二者的物质的量相同，故二者摩尔质量之比为a：b，

A、相同条件下，等质量的X和Y的体积之比与摩尔质量成反比，故等质量的X和Y的体积比是b：a，故A正确；

B、相同条件下，密度之比等于摩尔质量之比，故同温同压下，气体X和气体Y的密度比是a：b，故B错误；

C、相同条件下，等质量的X和Y的分子数目之比与摩尔质量成反比，故1g气体X和气体Y的分子数之比是b：a，故C正确；

D、相同物质的量，质量之比等于摩尔质量之比，故同物质的量的气体X和气体Y的质量比是a：b，故D正确；

故选B．