答案：D

题目分析：A、5N和9N的两个分力的合力的取值范围是4N～14N，12N在此范围内，合力可以为零；错误

B、10N和14N的两个分力的合力的取值范围是4N～24N，20N在此范围内，合力可以为零；错误

C、9N和12N的两个分力的合力的取值范围是3N～21N，20N在此范围内，合力可以为零；错误

D、5N和12N的两个分力的合力的取值范围是7N～17N，20N不在此范围内，合力不可能为零；正确

故选D

点评：两个合力的取值范围最小值为二力之差的绝对值，最大值为二力之和，如果第三个力在这个范围内，那么三个力合力可以为零，否则合力不能为零。