（1）解

x2+by2=3a x+y-1=0

  得x2+b(1-x)2=3a

∴x²（1+b）-2bx+b-3a=0

由题意得：△=4b²-4（1+b）（b-3a）＞0

解得b＜3

又因为b＞0且b≠1

∴0＜b＜3且b≠1

（2）设A（x₁，y₁） B（x₂，y₂） 由（1）x1+x2=

2b

1+b

，  x1x2=

b-3a

1+b

∴|AB|=

1+1

，   

4b2 (1+b)2 -4× b-3a 1+b

=2

2

整理得：b²+3b-3a-3ab+1=0，

y1+y2=2-(x1+x2)=2-

2b

1+b

=

2

1+b

AB中点M(

b

1+b

，  

1

1+b

)

由题意得：KOM=

1 1+b

b 1+b

=

1

5

∴b=5

∴a=

41

18

所求椭圆方程为x2+5y2=

41

6