过A作AD⊥BC于D，

△ABC中，AB=AC，AD⊥BC，

则AD必过圆心O，

Rt△ABD中，AB=5，BD=3

∴AD=4

设⊙O的半径为x，

Rt△OBD中，OB=x，OD=4-x

根据勾股定理，得：OB²=OD²+BD²，即：

x²=（4-x）²+3²，解得：x=

故选C．