参考答案：C

解析：

某一相对性状中显性性状表现型的频率是0.36，隐性性状的基因型频率是0.64，则隐性的基因频率是0.8，显性的基因频率是0.2，A错误；随机交配将会导致种群基因频率不变，B错误；该种群繁殖一代后，杂合子的基因型频率为2*0.8*0.2=0.32，C正确；种群的基因频率发生变化不一定形成新物种，D错误。

考点：本题考查现代生物进化理论的相关知识，意在考查考生能理解所学知识的要点，把握知识间的内在联系，形成知识的网络结构的能力。