方程x²-2（k-1）x+2k²-12k+17=0，两根为x₁、x₂，

∴x₁+x₂=2（k-1），x₁x₂=2k²-12k+17，

∴x₁²+x₂²=（x₁+x₂）²-2x₁x₂

=4（k²-2k+1）-2（2k²-12k+17）

=-8k+4+24k-34

=16k-30，

∵△=4（k²-2k+1）-4（2k²-12k+17）

=-4k²+40k-64≥0，

解得：2≤k≤8，

∴当k=8时，最大值为98，方程为x²-14x+49=0，两根为7；

当k=2时，最小值为2，方程为x²-2x+1=0，两根为1．