（1）当

a

⊥

b

时，|

a

+

b

|2=

a

2+2

a

•

b

+

b

2=sin²x+1+cos²x+

1

4

=

9

4

，

∴|

a

+

b

|=

3

2

…（4分）

（2）f（x）=

a

-（2

b

-

a

）+cos²x=2sinxcosx-1-sin²x-1+cos²x

=sin2x+cos2x-2

=

2

sin（2x+

π

4

）-2…（8分）

当2kπ-

π

2

≤2x+

π

4

≤2kπ+

π

2

（k∈Z）时，f（x）单调递增，

解得kπ-

3π

8

≤x≤kπ+

π

8

（k∈Z）．

∴函数f（x）的单调增区间为[kπ-

3π

8

，kπ+

π

8

]（k∈Z）…（12分）