现在契丹的军队已向北撤退了，得到这座城池有什么用！而且杀死一个人还觉得可惜，更何况毁灭一个城呢！”听说史弘肇已取得泽州，于是就放弃河，退守怀州。

史弘肇军队临近泽州，崔廷勋等人率领众军向北逃走，路过卫州，大肆抢掠而离去。契丹在河南的军队相继逃往北方。史弘肇领兵和武行德会合。史弘肇为人稳重毅、沉默寡言，统领军队，号令严明、军纪整肃，将领稍不服从命令，立刻诛杀。士兵经过之地，凡侵犯百姓田地或者在树上系的，一律斩首。因此军中人人小心谨慎，不敢违犯军令，所以所向无敌、攻无不克。

刘知远从太原一路南下，平安洛和大梁，士兵的刀枪没沾过血，都是靠了史弘肇之力。刘知远从此更加倚重、喜他了。刘知远到达霍邑，派使臣招谕河中节度使赵匡赞，并把契丹囚禁他父亲赵延寿的事告诉他。

刘知远即位后，绛州刺史李从朗和契丹将军成霸卿等人抗拒诏命。刘知远派西南面招讨使、护国节度使白文珂攻打他们，未能攻克。刘知远亲自来到城下，命令各四面围住但不攻城，向李从朗等人晓以利害，劝谕归降。李从朗见状，自知不能久守，只得开城投降。刘知远命令亲将分守各门，士卒一人也不许城；命偏将薛琼为防御使。

刘知远到达陕州，赵晖亲自牵皇帝的城。第二天，抵达石壕，有不少大梁百姓远来迎接。随后，刘知远到达新安，西京留守各司的官员都来迎接。次日刘知远来到洛，并居住中。大梁的文武百官奉上表章前来迎接。

刘知远下诏让那些接受契丹任命排的人不要有什么疑虑，将任命文告状牒收集起来烧掉。刘知远令郑州防御使郭从义先大梁，清理内，密令杀死李从益和王淑妃。淑妃临死前说：“我儿是被契丹人立为皇帝的，有什么罪而以至于死！为什么不能留下他一个，让每年的寒节有一盂麦饭洒在明宗陵前呢！”听到的人都下泪。

刘知远从洛发，枢密院的官吏魏仁浦从契丹逃回，在巩县叩见刘知远。郭威问契丹的兵力和故事，魏仁浦为人细捷、博闻记，郭威从此亲近重用他。

汴州的窦贞固等文武百官在荥迎接刘知远。刘知远到达大梁之后，后晋的各地藩镇相继归降。刘知远下诏实行大赦，凡是契丹所委任的节度使，下至将领官吏，各自安于职守，不再变更。又把汴州改为为东京，改国号为汉，年号仍称天福，他说：“我不忍忘却晋呵！”并恢复青、襄、汝三州的节度使。任命留守刘崇为河东节度使、同平章事。

刘知远制令兴建宗庙，太祖皇帝刘、世祖光武皇帝刘秀，都百代不迁。又建祖、曾祖、祖、考四座亲庙，追尊谥号，共六座庙。有人传说赵延寿已经死了，郭威即对刘知远说：“赵延寿的儿赵匡赞是契丹任命的，现在还留在河中。我们应派遣使者前往吊唁祭祀，从而起用他，并调换镇所。他已无家无国可归，如此一来，他一定会恩德听从陛下的诏命。”刘知远听从他的建议。

邺都留守、天雄节度使兼中书令杜重威、天平节度使兼侍中李守贞都奉上表章前来归顺。杜重威请求调到其他藩镇。归德节度使兼中书令行周前来朝觐。刘知远即调杜重威为归德节度使，命行周代替他原来的职位；又命李守贞为护国节度使，加官兼中书令；调护国节度使赵匡赞为晋昌节度使。

杜重威投靠契丹、背叛中原，心里常常疑惧。等到调任归德节度使的制令下达，他又拒不接受。他派自己的儿杜弘到麻答作人质，以换取契丹的援兵。当时，赵延寿有二千名幽州亲兵驻扎在恒州，由指挥使张琏率领。杜重威请契丹派他们来帮助自己固守魏州。麻答派大将杨衮率契丹一千五百人和幽州兵前往。