∵向量

m

=（2sinB，

3

），

.

n

=（2cos²

B

2

-1，cos2B），且

m

⊥

n

，

∴

m

•

n

=2sinBcosB+

3

cos2B=sin2B+

3

cos2B=2sin（2B+

π

3

）=0，

∴2B+

π

3

=kπ，即B=

k

2

π-

π

6

，k∈Z，

∵0＜B＜

π

2

，∴B=

π

3

，

（1）f（x）=sin2xcosB-cos2xsinB=sin（2x-B）=sin（2x-

π

3

），

由2x-

π

3

∈[2kπ+

π

2

，2kπ+

3π

2

]，k∈Z，得函数f（x）的单调减区间为[kπ+

5π

12

，kπ+

11π

12

]，k∈Z；

（2）由余弦定理得：16=a²+c²-2accos

π

3

=a²+c²-ac≥ac，

∴S_△ABC=

1

2

acsin

π

3

≤4

3

，

则△ABC面积的最大值为4

3

．