(1)∵函数f(x)在定义域内既有极大值又有极小值,
∴f′(x)=2x+==0在(-1,+∞)有两个不等实根,
即2x2+2x+a=0在(-1,+∞)有两个不等实根,…(2分)
设F(x)=2x2+2x+a,则,
解之得0<a<; …(4分)
证明:(2)a=1时,f(x)=x2+ln(x+1),
令g(x)=f(x)-x=x2+ln(x+1)-x(x≥1),…(6分)
则g′(x)=2x+-==,
当x≥1时,g′(x)≥0,所以函数g(x)在[1,+∞)上是增函数. …(8分)
由已知,不妨设1≤x1<x2<+∞,则g(x1)<g(x2),
所以f(x1)-x1<f(x2)-x2,即>; …(10分)
(3)令函数h(x)=x3-x2+ln(x+1),…(12分)
则h′(x)=3x2-2x+=,
当x∈[0,+∞)时,h′(x)>0,函数h(x)在[0,+∞)上单调递增. …(14分)
又h(0)=0,所以当x∈(0,+∞)时,恒有h(x)>h(0)=0,即ln(x+1)>x2-x3恒成立.
取x=∈(0,+∞),则有ln(+1)>-恒成立,
故存在最小的正整数N=1,使得当n≥N时,不等式ln>恒成立.…(16分)