从秦始皇时期就开始设立丞相、太尉和御史大夫来进行权力的划分。可是为何丞相这一职位一直持续到明朝时期才被废除,而太尉一职仅仅在29年后就被汉王朝所废除,这究竟是为何呢?
最主要的一个原因是因为两者的职能不同。秦汉时期的丞相,为国家的最高行政首长,总管朝中任何事物,在百官之中都拥有很高的威望,甚至在元朝时期,丞相都可以左右皇帝的选择,可见丞相手中的权力是十分大的。可是与太尉相比,丞相的权力就不值一提了。太尉的主要功能是在军事方面,作为军队的一把手,太尉总管全国军政事务,在兵员征召、军队管理和国防建设发挥着极高的作用,往往作为太尉,都会在军中拥有极高的威望,甚至有的时候说话比皇帝还好使。而军事指挥权,关系到政权的得失安危。所在对于一些高级武官,皇帝大多采用防范的措施,汉初虽给予太尉以崇高的地位,却对太尉的权力设置了种种限制。太尉在名义上“掌武事”,却无发兵和领兵的权力,军权实操于皇帝手中。若无皇帝符节,太尉甚至于不能进人军队营垒。可尽管有了这么多的限制,皇帝仍不安心,毕竟太尉在军中拥有着极高的威望。把太尉放在身边,万一有一天太尉领兵造反,那国家社稷岂不拱手送给别人;这就好比自己养着一个以肉为食的猛兽,谁不怕。
自从汉武帝废太尉之后,西汉一代未再复置。东汉实行名义上的“三公”辅政,虽然恢复了太尉的称谓,但东汉的太尉,在职责上已经军队之首,而是作为行政长官了。太尉的设立,对于统治者来说,就像使一把悬在头上的剑,时时刻刻都有砍下来的风险,在皇帝心中,这是绝不允许发生的。