(1)∵三个定点A(-,0),B(,0),C(-,0),动P点满足|AP|-|BP|=,
∴|PA|-|PB|=< |AB|=,
∴动点P的轨迹是A、B为焦点的双曲线的右支…(1分)
设它的方程为-=1,(x>a),
则,解得:,
故所求方程为-=1.(x>0).…(4分)
(2)解法一:若m=0,则x=.
此时y=±1,即弦长为2,满足题意.…(5分)
若m≠0,由,消去y,得9x2-3(-x)2=1,
化简得:(27m2-9)x2+12x-3m2-4=0,
△=36×9m2(m2+1),x1x2=
=2
解得m=0,或m=±1.
∵m=±1时,x1x2<0不满足.
∴m=0…(7分)
解法二:设直线3x-3my-2=0与动点P的轨迹相交于Q1(x1,y1),Q2(x2,y2),
∵直线3x-3my-2=0恒过双曲线的焦点B
∴由双曲线定义知|Q1Q2|=e(x1+x2-)=2(x1+x2-)=2.
∴x1+x2=
若m=0,则x1=x2=,此时x1+x2=满足.…(5分)
若m≠0,由,消去y得9x2-3(-x)2=1,
化简得:(27m2-9)x2+12x-3m2-4=0,x1+x2==.
解得m=0与m≠0矛盾.∴m=0…(7分)
(直接由图形得出m=0时,|Q1Q2|=2,得2分)
(3)当x=时,|BP|=1,|BC|=1,
此时∠PCB=45°,∠PBC=90°.
猜想λ=2…(8分)
当x≠时,设P(x,y),则y2=-3(-x2),
且tan∠PCB=,
∴tan2∠PCB=====,
而tan∠PBC=-tan∠PBx==,
∴tan2∠PCB=tan∠PBC,
又∵0<∠PBC<π,0<2<PBC<π,
∴2∠PCB=∠PBC,
即存在λ=2,
使得:∠PBC=λ∠PCB.…(10分)