赵泰回到邳州后，对齐军进行改革，设五军都督府，将齐地兵马整编为忠义、宁海、武卫、宣武、虎贲、武毅、飞捷、骁胜、虎骑、骁骑、归义、神机、破浪十三个军。
这其中武仙和李璮各控制三个军，赵泰则控制七个军，完成了对齐军的整合。
在军队完成整编的同时，山东的行政制度，也完成大改。
赵泰以制置司为山东中央朝廷，内置六部，并将幕府更名内阁，为山东最高权力机构，以王文统、王宾为学士，处理山东军政事务。
赵泰任命刚下，学士王宾遂即上书，“自古欲定天下，当首立法度，赏罚分明。今大王立于山东，有恢复之志。臣以大王欲成大事，当令军民知何为何不可为。今山东法度混乱，臣请大王修法定度，定《山东刑统》，以震奸邪不法！”
赵泰观得奏疏，大喜过望，批复王宾修订《山东刑统》，并重修《通礼》《正乐》，确定礼乐，笼络北方士林。
】
同月，王文统上书，“自金末以来，金人为挽颓势，公侯之爵滥赏，蒙古为笼络人心，亦轻许世侯之位，以至天下之间，稍有兵力无寸功于天下者，亦可为公侯。自古王朝崩溃，自官爵乱封始。臣以大王圣明，勋爵之事，当甚察之。金、蒙所授之爵，为金、蒙之爵，非大王所授，大王当自设勋爵，以能者进之！”
金国和蒙古为了拉拢人心，大肆封爵，导致北方之地，公侯遍地，就是齐军内部，也有不少人，拥有金、蒙所封爵位。
这个爵位，若是赵泰承认，那便会导致齐军内部，爵位不公。
届时有功之人无爵，无功之人有爵，便会打击士气。
这也会给蒙古破坏齐军团结的机会。
就河北之地而言，汉人世侯众多，赵泰若招之，若是承认他们的世侯身份，齐军将士怎么想，是不是也要给世侯。
如此一来，爵位滥发，山东哪里承受得起，必会造成军政混乱。
赵泰看完奏疏，同样采纳，对于获得金国和蒙古爵位的将领，不要求他们去爵，但金、蒙的爵位山东不认，官府不会给予任何对应俸禄和赏赐。
七月，学士王宾再度上书，“自靖康以来，北地为胡虏所据。州县绅民，迫于时势，依附于虏者，不在少数。今山东为大王所有，然山东之民，仍有暗通胡虏者！臣以大王当告示诸郡，令通虏者自相纠告，若有查实，以其所告资产之半赏之。或有亲人自首，则处其党羽，赦免自首之人。如此，山东无人敢通虏矣。”
赵泰占据山东，可蒙古依旧势大，山东绅民也不是全都看好赵泰。
前次忽必烈攻入山东，便有不少人直接投降蒙古。
如今山东境内，认为蒙古还将攻来，为保家人平安，或者为利益所惑，暗中为蒙古提供山东消息的人，大有人在。
因此清除内部，暗通蒙古之人，也是相当必要的。
赵泰遂即批复，可以执行，但需严防诬告，需对诬告之人除以极刑，以免造成混乱。
王宾连上两书，都被赵泰批准，于是紧接着又上第三书，“蒙宋虽以议和，蒙古大军不动，然为防其以小股精骑，扮做盗匪袭扰，影响军民生产。臣以大王当令边境各村，结为乡营，以退役军士为将左，一村遭袭，则鸣鼓举火，使丁壮云集。如此敌少民多，加之官军援击，必使来人无漏网者。如此鞑虏不敢入境也！”