A、最小的质数为2，2为偶数，所以所有的质数都是奇数的说法是错误的；

B、根据合数与偶数的定义可知，合数不一定是偶数，如9，15等是合数，但不是偶数；选项错误；

C、在2，3，4，5中，2、3、5为质数，4为合数，所以在2，3，4，5中，除了质数就是合数的说法正确；

D、最小的质数为2，2为偶数，其余的质数全为奇数，偶数+奇数=奇数，即质数2与其他任意一个质数的和都为奇数．两个质数的和是偶数的说法是错误的．

故选：C．