解：因为（x+3）²+|x-y+10|=0，

所以x+3=0且x-y+10=0，

所以x=-3且y=7，

而5x²y-[ 2x²y-（3xy-xy²）-3x²] -2xy²-y²

=5x²y-2x²y+（3xy- xy² ）+3x²-2xy²-y²

=3x²y+3xy-xy²+3x²-2xy²-y²

=3x²y-3xy²+3xy+3x²-y² ，

当x=-3，y=7时，

原式=3×（-3）²×7-3×（-3）×7²+3×（-3）×7+3×（-3）² -7 ²

=3×9×7+9×49-9×7+3×9-49

=189+441-63+27-49

=545。