解：运用更相减损术或辗转相除法，先求168和54的最大公约数a，再求a与264的最大公约数，

采用更相减损术先求168和54的最大公约数，

（168，54）→（114，54）→（60，54）→（6，54）→（6，48）→（6，42）→（6，36）→（6，30）→（6，24）→（6，18）→（6，12）→（6，6），

故168和54的最大公约数为6，

采用辗转相除法求6和264的最大公约数，

∵264=44×6+0，

∴6为264与6的最大公约数，也是这三个数的最大公约数。