杨宪在担任中书省的时候，做事独断蛮横，先是将那些个旧吏任免掉，再用自己的亲信来做事。这还不止，他还 了当时的侍御史刘炳并且弹劾左丞汪广洋，这才上位做了左丞。后来杨宪就被李善长弹劾，弹劾的内容是说杨宪放肆为奸事，就这样被朱元璋 了。

在朱元璋正式称帝前后，杨宪一度成为朱元璋跟前的大红人。由于杨氏博通经史，有才辩，“裁次明敏，人服其能”，而且长得也不错，所以朱元璋有意提拔他做丞相，以取代李善长。于是朱元璋向刘基征求意见，结果大公无私的刘氏说道：“宪有相才无相器。夫宰相者，持心如水，以义理为权衡，而己无与者也，宪则不然。”