根据题意，当直线MA与双曲线相切于点A，直线MB与双曲线相切于点B时，

∠AMB取得最大值．

设直线AM方程为y=k（x-1），与双曲线消去y，得

（

1

3

-k²）x²+2k²x-k²-1=0

∵直线MA与双曲线相切于点A，

∴（2k²）²-4×（

1

3

-k²）×（-k²-1）=0，解之得k=

2

2

（舍负）

因此，直线AM方程为y=

2

2

（x-1），

同理直线BM方程为y=-

2

2

（x-1），

设直线AM倾斜角为θ，得tanθ=

2

2

，且∠AMB=2θ

∴cos2θ=

1-tan2θ

1+tan2θ

=

1- 1 2

1+ 1 2

=

1

3

，即为∠AMB最大时的余弦值

故选：D