由正弦定理，可得b=2RsinB=2sinB，

代入已知等式得 2sin²A-2sin²C=2sinAsinB-2sin²B，

即sin²A+sin²B-sin²C=sinAsinB，

∴a²+b²-c²=ab，

由此可得cosC=

a2+b2-c2

2ab

=

1

2

，

结合C∈（0°，180°），得C=60°．

∵ab=a²+b²-c²=a²+b²-（2RsinC）²=a²+b²-3≥2ab-3，

∴ab≤3 （当且仅当a=b时，取等号），

∵△ABC面积为S=

1

2

absinC≤

1

2

×3×

3

2

=

3 3

4

，

∴当且仅当a=b=

3

时，△ABC的面积的最大值为

3 3

4

故选：C