自来到广陵之后，他一面着手伐吴事宜，另一面则忙着收服青徐两地的民心和军心。
青徐两地虽早早就被纳入曹魏的统治版图，但曹魏的统治力在这两个州一向是很薄弱的。
究其缘由，一是曹操起家之地在兖州，青徐两州长期在袁绍、陶谦和刘备手中，为夺取青徐，曹军多有杀戮，引起两地百姓极其不满。
二是这两个地方长期以来豪强势大,自黄巾造反、天下大乱之后，青徐虽落入袁氏和陶谦手中,但他们只是表面上统领全州,而在下面还有臧霸、陈登父子以及笮融等人，他们割据郡县、自成一体，堪称一方小诸侯。
昔日刘备丢失徐州，就是有豪强掣肘的缘故，看起来是统领一州之地，但切实能掌握的地盘不过两三个郡而已，再加上根基不稳、四战之地等原因，这才无法立足徐州，从而不得已四处流浪。
后来，虽然随着曹操兼并步伐的加快，青徐等地的小诸侯先后灭亡和降服，但长期割据琅琊、泰山等地的臧霸仍然在乱世中保持着自己dú • lì的力量，在青徐等地拥有相当大的影响力。
臧霸此人出身豪帅，勇壮善战，手下又有吴敦、尹礼、孙观、孙康等部曲，这些人桀骜不驯，也是一方豪帅，他们都敬服臧霸，可见其人之能。
故而当年曹操攻取徐州之后，对臧霸优渥甚高，不仅对其本人予以gāo • guān厚禄，就连吴敦等人也被授予太守等职安置在青徐两地，实为割青、徐二州，委之于霸。
曹魏如此相待，臧霸等人自然已有尾大不掉的倾向。当年曹操去世的时候，臧霸部署在洛阳的别军和青州兵以为天下大乱，敲着战鼓擅自离开洛阳，几欲发生哗变。
前年在魏国三路伐吴的战役中，臧霸又向曹丕请求率领万人横行江表，这不得不引起了曹丕的猜嫌，臧霸等人从此成为魏主心头的一根硬刺。
这次将伐吴的重点转到东线，曹丕准备趁机一举解决臧霸势力，彻底收服青徐两州。他先是将臧霸征入朝中为执金吾，加位特进，明升暗调，收其兵权。
然后又大赦青徐二州，收取民心。最后以攻吴调兵遣将为由，改易诸将防区，给青州、徐州的地方官员和守将来了一次大换血，以断其根基。