_aX^m+和_bY^n-为两主族元素的离子，它们的电子层结构相同，即_aX^m+和_bY^n-核外电子数相等，_aX^m-的核外电子数=a-m，_bY^n-的核外电子数=b+n，所以a-m=b+n，故原子序数a大于原子序数b，因为_aX^m+和_bY^n-的电子层结构相同，所以X位于Y的下一周期；

A、X位于Y的下一周期，原子序数Y的原子序数小于X的原子序数，故A正确；

B、_aX^m+和_bY^n-核外电子数相等，所以a-m=b+n，即b=a-m-n，故B正确；

C、核外电子层结构相同，核电荷数越大离子半径越小，_aX^m+和_bY^n-核外电子数相等，所以a-m=b+n，核电荷数a＞b，所以离子半径_aX^m+＜_bY^n-，故C错误；

D、X位于Y的下一周期，若X元素位于n周期，则Y元素位于（n-1）周期，故D正确．

故选C．