（1）设s为a²-b²与a²的最大公约数，

则a²-b²=su，a²=sv，u，v是正整数，

∴a²-（a²-b²）=b²=s（v-u），可见s是b²的约数，

∵a，b互质，

∴a²，b²互质，可见s=1．

即a²-b²与a²互质，同理可证a²-b²与b²互质；

（2）由题知：ma²=（m+116）b²，

m（a²-b²）=116b²，

∴（a²-b²）|116b²，

∵（a²-b²，b²）=（a²，b²）=1，

∵（a²-b²）|116，

所以a²-b²是116的约数，116=2×2×29，

a²-b²=（a-b）（a+b），

而a-b和a+b同奇偶性，且a，b互质，

∴a²-b²要么是4的倍数，要么是一个大于3的奇数，

∴（a-b）（a+b）=29 或（a-b）（a+b）=116，

∴a-b=1，a+b=29或a-b=1，a+b=116或a-b=2，a+b=58或a-b=4，a+b=29，

解得只有一组解符合条件，

a=15，b=14，

∴m（15²-14²）=116×14²，

∴m=4×142=784，

∴k=784×15²=176400；

（3）设a=5x，b=5y，即x，y的最大公约数为1，

则m（a²-b²）=116b²，

∴即m（25x²-25y²）=116（25y）²，

∴m（x²-y²）=116（y）²，

∵x，y互质，则有：m=2⁴×7²，

∴x=15，y=14，

a=75，b=70，m=784，

k=784×75²=4410000．