初平元年（公元190年），由原司隶校尉袁绍领导的关东联军起兵讨伐董卓。
董卓问司徒王允：“我想选个合适的人担任司隶校尉，你觉得谁可以胜任？”
王允便说：“只有盖勋了！”
董卓却说：“此人聪明有余，但不可以担任这个重任。”
于是任命盖勋为越骑校尉，可董卓又不想让盖勋长期掌管禁军，又让其出任豫州颍川郡太守。
而盖勋还未抵达颍川郡，董卓又担心他会响应关东联军，便又将其征回雒阳。
在一次会议上，河南尹朱儁向董卓汇报军情，并提出自己的个人建议，董卓责难朱儁：“我百战百胜，心中自有谋略，你别乱说话，免得弄脏了我的刀！”
盖勋在一旁见状，出来说道：“从前武丁这样的明君，都主动求他人提建议，何况你这样的人，反而想堵住他人的嘴巴吗？”
董卓自知失礼，便说：“我刚才是戏言。”
盖勋仍然不依不饶：“我从没听说过发怒的话可以当成戏言？”
董卓这才向朱儁赔礼道歉。
初平二年（191年）三月，盖勋随董卓从雒阳转移至长安。
盖勋虽然刚正不屈，但内心怨恨董卓，不得意。
（盖勋和皇甫嵩均在初平元年之前被董卓征入朝廷，初平元年正月，关东联军起兵，三月，董卓将刘协迁都长安，自己留守雒阳。
初平二年初，孙坚率军攻破雒阳，四月，董卓撤退至长安，布防三辅。
盖勋卒时于此之后，必然身在长安。
另外其所葬之地为安陵，安陵在长安城东，为汉惠帝刘盈寝陵。
这也能证明盖勋卒于长安）
五月，盖勋因背疽而病逝，享年五十一岁。
盖勋临死前立遗嘱不接受董卓的任何馈赠，董卓则为了向众人展示自己的宽容，上书请朝廷赠送丧礼用品，陪葬于安陵。