晋国军队在黄河两岸战斗，但往往只能采取守势。在这场旷日持久的拉锯战中，王彦章常常担任先锋冲在前面。他的官职也随之升迁，当上了西面行营马军都指挥使、检校太傅。此时的他对指挥骑兵作战越来越得心应手了；不过中原地区本来就不产马，长期担任马军都指挥使的老王，实际掌控的军队并不多。
920年正月，王彦章的爵位又升了一级，晋为“开国侯”，随后又荣膺北面行营副招讨使，并于次年正月移师滑州。
此时的后梁每况愈下，基本上失去了黄河北岸的全部城池，士气正旺的晋军在德胜口设立铁锁截断航道并跨河筑城，为大举南下做最后的准备。
寡不敌众的王彦章率军向南逃走，他的随军家属却被魏博人招来的晋军逮个正着。为了招降王彦章，李存勖一面优待他的家属，一面派人劝降王彦章。于是一个大难题摆在了老王面前：降则全家团圆，不降则骨肉分离。
王彦章的答复很干脆，老子生是梁臣，死是梁鬼。为了表忠心，他二话不说就把晋国的使者剁了。他的忠心让李存勖很敬佩，也让梁末帝松了一口气。
