∵方程ax²+bx-c=0的两个实根分别为x₁和x₂，

∴x₁+x₂=-

b

a

，x₁x₂=-

c

a

，

可得|OP|=

x12+x22

=

(x1+x2)2-2x1x2

=

(- b a )2+ 2c a

又∵双曲线的离心率为e=

c

a

=2，可得c=2a，

∴c²=4a²=a²+b²，即3a²=b²，结合a＞0且b＞0，得b=

3

a．

∵圆的方程为x²+y²=2，∴圆心坐标为O（0，0），半径r=

2

，

因此，|OP|=

(- b a )2+ 2c a

=

7

＞

2

，所以点P必在圆x²+y²=2外．

故选：B