A、两个等腰直角三角形，对应边成比例，对应角相等，符合定义，一定相似，故本选项正确；

B、各有一个角是50°的两个直角三角形，都有一个直角，根据两角对应相等，两三角形相似，故本选项正确；

C、两个矩形，四个角都是直角，但四条边不一定对应成比例，不一定相似，故本选项错误；

D、各有一个角是100°的两个等腰三角形，100°的角一定是直角，一定相似，故本选项正确．

故选C．