（1）由题意，可设

OP

=(x，y)，∵点P在直线OM上，

∴

OP

与

OM

共线，而

OM

=(2，1)，

∴x-2y=0，即x=2y，有

OP

=（2y，y），

∵

PA

=

OA

-

OP

=（1-2y，7-y），

PB

=

OB

-

OP

=（5-2y，1-y），

∴

PA

•

PB

=（1-2y）（5-2y）+（7-y）（1-y），即

PA

•

PB

=5y²-20y+12，

又

PA

•

PB

=-8，

∴5y²-20y+12=-8，解得y=2，x=4

此时

OP

=（4，2），

PA

=（-3，5），

PB

=（1，-1），

∴cos∠APB=

PA • PB

| PA || PB |

=

-8

34 × 2

=-

4 17

17