设a=tanα，b=tanβ，c=tanγ，α，β，γ∈（0，

π

2

），

则p=2cos²α-2cos²β+3cos²γ=cos2α-cos2β+3cos²γ=2sin（α+β）sin（β-α）+3cos²γ．

由abc+a+c=b得b=

a+c

1-ac

即tanβ=

tanα+tanγ

1-tanαtanγ

=tan（α+γ），又α，β，γ∈（0，

π

2

），

所以β=α+γ，β-α=γ，p=2sin（α+β）sin（β-α）+3cos²γ=2sin（α+β）sinγ+3cos²γ≤2sinγ+3cos²γ=

10

3

-3（sinγ-

1

3

）²≤

10

3

．

当α+β=

π

2

，sinγ=

1

3

时取等号．

所以p=

2

a2+1

-

2

b2+1

+

3

c2+1

的最大值为

10

3

故答案为：

10

3