正饮酒间，忽然群臣之中有一人拂面痛哭，群臣震惊，侧目见是侍中蔡邕，王允大怒，喝问道，“蔡邕！世人皆因董卓而死而欢呼，你为何独自哭也！”
蔡邕道，“我哭董卓不是因为他的死，而是想起董卓生前对我的知遇之恩，不觉辛酸流泪，望公见谅。”
王允怒斥道，“董卓与你有知遇之恩，想必你们也是同流合污！你身为侍中标记史册，却不分忠奸，如今国运微衰，朝政错乱，不可再令你持笔史册，来人，将蔡邕推出去斩首！”众官皆为之求情，王允不允，遂斩蔡邕。
董卓一死，王允与吕布共掌朝政，为了稳固自己的势力，王允便任命同郡人宋翼为左冯翊、王宏为右扶风，管控三辅之地。三辅之地当时兵多粮广，是守卫长安的门户，地理位置非常重要，王允将三辅之地的官员都换成了自己人，便感觉到在长安高枕无忧了，这才开始清算董卓余党。董卓自挟天子到长安后，令手下大将段煨屯兵华阴，徐荣、胡珍屯兵新丰（今陕西临潼东北），女婿牛辅屯兵陕西，李傕、郭氾屯兵雍州，他们的兵马都非常强盛，吕布主张将他们一一消灭，但王允却没有同意，王允下令只赦免段煨、徐荣、胡珍之罪，却不赦免牛辅、李催、郭汜、张济、樊稠五人，消息传到雍州，五人大惊，使人到长安上表求赦，王允不允，使者回报李催，李催道，“求赦不能，我等不如就此散去，各自逃命。”