降低水的硬度关键是减少水中钙镁离子的含量．

A、硬水中的钙镁离子是溶于水的，是溶液，是均一的，静置后钙镁离子不会沉淀，故A错误；

B、过滤是分离不溶性的固体和液体，不能分离出可溶性的钙镁离子，故B错误；

C、吸附可以除去水中的色素和异味，不会吸附可溶性杂质，故C错误．

D、加热蒸馏可以使碳酸氢钙等物质分解生成沉淀而从水中分离出来，从而降低水的硬度，故D正确．

故选D．