A、收集二氧化碳，操作装置正确，故A正确；

B、取固体药品，瓶塞没有倒放桌面上，会污染瓶塞，从而污染药品，故B错误；

C、实验室制氧气，长颈漏斗没有伸入液面以下，生成的氧气会逸出，故C错误；

D、稀释浓硫酸，不能用量筒，会因其量筒炸裂，应用烧杯，故D正确．

故选A．