（1）根据题意得：△=1-2k＞0，

∴k＜

1

2

，

∴k的取值范围是k＜

1

2

．

（2）设A（x₁，0）、B（x₂，0），则x₁+x₂=2，x₁x₂=2k．

∴AB=|x₁-x₂|=

(x1+x2)2-4x1x2

=2

1-2k

，

由y=

1

2

x²-x+k=

1

2

（x-1）²+k-

1

2

得顶点D（1，k-

1

2

），

当△ABD是等腰直角三角形时得；|k-

1

2

|=2×

1

2

1-2k

，

解得k₁=-

3

2

，k₂=

1

2

，

∵k＜

1

2

，

∴k=

1

2

舍去，

∴所求抛物线的解析式是y=

1

2

x²-x-

3

2

．

（3）设E（0，y），则y＞0，

令y=0得

1

2

x²-x-

3

2

=0，

∴x₁=-1，x₂=3，∴A（-1，0）、B（3，0），令x=0得：y=-

3

2

，

∴C（0，-

3

2

），

（i）当△AOE∽△BOC时得：

AO

BO

=

OE

OC

，∴

1

3

=

y

3 2

，解得y=

1

2

，

∴E₁（0，

1

2

）；

（ii）当△AOE∽△COB时得：

AO

OC

=

OE

BO

，∴

1

3 2

=

y

3

，解得y=2，

∴E₂（0，2），

∴当△AOE和△BOC相似时，E₁（0，

1

2

）或E₂（0，2）．