问题
解答题
设集合A={x|f（x）=x}，B={x|f[f（x）]=x}．
（1）设f（x）=x2-x-3，求集合A与B；
（2）设f（x）=x2-（2a-1）x+a2（常数a∈R），求证：A=B．
（3）猜测集合A与B的关系并给予证明．
答案
解（1）由A={x|f（x）=x}，知集合A的元素就是方程f（x）=x的解．
即f（x）=x⇒x2-x-3=x⇒x=-1或x=3．所以A={-1，3}．
同理，集合B的元素就是方程f[f（x）]=x的解
即（x2-x-3）2-（x2-x-3）-3=x⇔（x2-x-3）2-x2=0.(x2-2x-3)(x2-3)=0⇒x=-1 ， x=3 ， x=±
．所以B={ -1 ， 3 ， 3
， -3
}．3
（2）由f（x）=x2-（2a-1）x+a2，
得方程f（x）-x=（x-a）2=0的解为x=a，所以A={a}；
而方程f[f（x）]=x的解是集合B的元素，
即[f（x）]2-f（x）=[f（x）-a]2⇒[（x-a）2+x-a]2+（x-a）2=0．（x-a）2[（x-a+1）2+1]=0⇒x=a，所以B={a}．
故A=B．
（3）若A=∅，显然A⊆B．
若A≠∅，任取x0∈A，于是f（x0）=x0，
则f[f（x0）]=f（x0）=x0，所以x0∈B，∴A⊆B．