解(1)由题意c2=.设|PF1|+|PF2|=2a(a>),由余弦定理,
得cos∠F1PF2=|PF1|2+|PF2|2-|F1F2|2 |
2|PF1|•|PF2| |
=(|PF1|+|PF2|)2-2|PF1||PF2|-|F1F2|2 |
2|PF1|•|PF2| |
=4a2-4c2-2|PF1||PF2| |
2|PF1|•|PF2| |
=-1.
又|PF1|•|PF2|≤()2=a2,
当且仅当|PF1|=|PF2|时,|PF1|•|PF2|取最大值,
此时cos∠F1PF2取最小值-1,
令-1=0,
解得a2=1,∵c=,∴b2=,
故所求P的轨迹方程为+=1.即y2+2x2=1;
(2)设直线l的方程为y=kx+m(k≠0),l与椭圆C的交点坐标为A(x1,y1),B(x2,y2),
由,得(k2+2)x2+2kmx+(m2-1)=0.
则△=(2km)2-4(k2+2)(m2-1)=4(k2-2m2+2)>0.
x1+x2=,x1x2=,
因为=3,所以-x1=3x2,所以,
所以3(x1+x2)2+4x1x2=0,即k2(4m2-1)+(2m2-2)=0
当m2=时,上式不成立;
当m2≠时,k2=>0;
把k2=代入△=4(k2-2m2+2)>0,
得:4(-2m2+2)>0.
解得m的取值范围为(-1,-)∪(,1).