(I)由题意,可知动点P的轨迹是焦点在y轴上的双曲线的上半支,
其中c=,2a=4,
∴b=1,
∴曲线E的方程是-x2=1(y≥2).
(II)设Q(x1,y1),R(x2,y2),(y1,y2>0),
由,得(1-)y2+y-8=0,
当1-=0,即k=±2时,显然不符合题意,
∴1-≠0.
∴,
解得<k<2.
∵x1•x2=-+1=1,
∴•=x1x2+y1y2
=1+
=1-
=-7+.
∵<k<2,
∴0<4-k2<2,
∴>,
∴•∈(9,+∞).
(III)(文科做)∵曲线E的方程是-x2=1(y≥2),
∴双曲线的两条渐近线方程为y=±2x.
∵=λ,且λ>0,
∴点P必内分线段AB,
故点A,B均在x轴上方,
不妨设xA>0,xB<0,
即A(xA,2xA),B(xB,-2xB),
由=λ,得P点的坐标为(,),
将P点坐标代入-x2=1中,
化简,得xA•xB==-(λ++2).
∴|xA•xB|=(λ++2),λ∈[,2]
∵λ+≥2,当且仅当λ=1时,等号成立.
∴|xA•xB|min=1.
(理科做))∵曲线E的方程是-x2=1(y≥2),
∴双曲线的两条渐近线方程为y=±2x.
∵=λ,且λ>0,
∴点P必内分线段AB,
故点A,B均在x轴上方,
设A(m,2m),B(-n,2n),m>0.n>0.
由=λ,得点P的坐标为(,).
将点P的从标代入-x2=1中,
化简,得mn=.
设∠AOB=2θ,
∵tan(-θ)=2,
∴tanθ=,sin2θ=,
∵|OA|=m,|OB|=n,
∴S△AOB=|OA|•|OB|•sin2θ
=2mn
=(λ+)+1.
∵λ∈[,2],
∴λ+∈[2,],
∴S△AOB∈ [2,].
∴△ABC面积的最大值为.