史弘肇奉命南下，先取潞州。辽军听说后汉军攻来，吓得四散逃跑。史弘肇兵不血刃得到潞州，随后攻泽州。泽州刺史翟令奇死守不降，后汉军多次攻城未果。枢密使杨邠和集贤殿大学士苏逢吉苦劝刘知远：“河东河南皆为我所有，泽潞孤危，必不能坚守多少时日。如果召还史弘肇，军心动摇，大事就将去矣。”刘知远还有些不放心，致书史弘肇，想问个明白。史弘肇回奏：“请陛下宽心，大兵南向，势若破竹，不日既可下泽潞，我军行此，可进而不可退。进则成大事，退则死路一条。”刘知远这才放心。
史弘肇见打不下泽州，就派马步军都指挥使李万超入城劝降翟令奇。翟令奇不降，李万超又劝道：“耶律德光已死，辽军北逃，请问公为谁守城？方今天下纷乱，四海无主。观天下各镇，能成大事，除了太原刘公，无人矣。降者富贵拒者诛族，你可要好好想想。”翟令奇反复思量后，决定打开城门投降。同时，辽军余部崔廷勋和拽剌等军正在围攻河阳（今河南孟县），后汉军屡战不利，武行德闭城死守，苦等援军。崔廷勋得知刘知远已经南进，史弘肇拿下泽州，知道中原不久必为刘知远所得，犯不着得罪刘知远。崔廷勋退后力保怀州（今河南沁阳），等到史弘肇援军路经怀州时，崔廷勋等人率军北去。