根据题意，a是从集合{0，1，2，3}中随机抽取的一个数，a有4种情况，

b是从集合{0，1，2}中随机抽取的一个数，b有3种情况，则方程x²+2ax+b²=0有3×4=12种情况，

若方程x²+2ax+b²=0有实根，则△=（2a）²-4b²≥0，即a²≥b²，

此时有a=0、b=0，a=1、b=0，a=1、b=1，a=2、b=0，a=2、b=1，a=2、b=2，a=3、b=0，a=3、b=1，a=3、b=2，

共9种情况；

则方程x²+2ax+b²=0有实根的概率P=

故选D．