（1）∵两底边OA=10，CB=8，垂直于底的腰 OC=2

3

，

∴tan∠OAB=

2 3

10-8

=

3

，

∴∠OAB=60°．

（2）当点A′在线段AB上时，

∵∠OAB=60°，PA=PA′，

∴△A′PA是等边三角形，且QP⊥QA′，

∴PQ=（10-x）sin60°=

3

2

（10-x），A′Q=AQ=

1

2

AP=

1

2

（10-x），

∴y=S_△AQP=

1

2

A′Q•QP=

3

8

（10-x）²，

当A´与B重合时，AP=AB=

3

sin60°

=4，

所以此时6≤x＜10；

当点A′在线段AB的延长线，且点Q在线段AB（不与B重合）上时，

纸片重叠部分的图形是四边形（如图②，其中E是PA′与CB的交点），

当点Q与B重合时，AP=2AB=8，点P的坐标是（2，0），

又由（2）中求得当A´与B重合时，P的坐标是（6，0），

所以当纸片重叠部分的图形是四边形时，2＜x＜6；

（3）y存在最大值．

①当6≤x＜10时，y=

3

8

（10-x）²，

在对称轴x=10的左边，S的值随着x的增大而减小，

∴当x=6时，y的值最大是2

3

；

②当2≤x＜6时，由图②，重叠部分的面积y=S_△A′QP-S_△A′EB，

∵△A′EB的高是A′B•sin60°，

∴y=

3

8

（10-x）²-

1

2

（10-x-4）²×

3

2

=

3

8

（-x²+4x+28）=-

3

8

（x-2）²+4

3

，

当x=2时，y的值最大是4

3

；

③当0＜x＜2，即当点A′和点Q都在线段AB的延长线是（如图③，其中E是PA´与CB的交点，F是QP与CB的交点），

∵∠EFP=∠FPQ=∠EPF，四边形EPAB是等腰形，

∴EF=EP=AB=4，

∴y=

1

2

EF•OC=

1

2

×4×2

3

=4

3

．

综上所述，S的最大值是4

3

，此时x的值是0＜x≤2．