爬云梯的北魏士兵，用热油浇下去，还用弓箭射杀城下的敌军。北魏军攻了整整一天，死伤惨重，却没能攻破城门。
傍晚时分，元延明见攻城不下，便下令撤军。陈庆之知道，北魏军只是暂时撤退，明天肯定还会再来，而且会更猛烈。他召集副将们开会，说：“北魏军虽退，但兵力是我军的十倍，长期坚守，必难支撑。不如趁今夜北魏军疲惫，我们主动出击，挫其锐气。”
副将们都很惊讶：“将军，我军只有两千人，主动出击，会不会太冒险？”陈庆之说：“北魏军以为我军军心已散，必无防备，这正是我军的机会。”
当天夜里，陈庆之挑选了五百名精锐士兵，每人携带一把短刀和一支火把，悄悄打开彭城西门，绕到北魏军的营寨后方。他让士兵们把火把绑在箭上，射向北魏军的粮草营——粮草营顿时燃起大火，浓烟滚滚。北魏军以为是梁军主力来攻，顿时大乱，士兵们互相踩踏，死伤无数。陈庆之率领五百士兵，趁乱斩杀北魏军的哨兵和巡逻队，然后迅速撤回彭城。
这一战，虽然没消灭太多北魏军，却极大地挫伤了北魏军的士气。元延明见梁军还有战斗力，又担心梁军的援军到来，便在第二天一早，率领北魏军撤退了。
彭城之围解除后，陈庆之率领残部，护送着彭城城内的梁朝官员和百姓，安全返回了建康。回到建康后，萧衍不仅没有责怪陈庆之（毕竟萧综叛逃是意外），反而对他大加赞赏：“庆之临危不乱，能以两千士兵守住彭城，还击退北魏军，实属不易。”于是，萧衍提拔陈庆之为“宣猛将军”，让他负责镇守梁朝东部的重镇——谯郡（今安徽亳州）。
这一次领兵，让陈庆之在梁朝军队中“崭露头角”，也让他积累了宝贵的“实战经验”。而真正让他“一战成名”的，是两年后的“涡阳之战”。
公元527年，北魏派遣宗室元昭率领五万大军，进攻梁朝的涡阳（今安徽蒙城）。涡阳是梁朝北部的门户，一旦失守，北魏军就能长驱直入，威胁建康。梁武帝立刻任命曹仲宗为都督，率领两万大军救援涡阳，同时任命陈庆之为“假节”（代表皇帝行使权力），辅佐曹仲宗。
曹仲宗是梁朝的老将，出身门阀，看不起“文吏出身”的陈庆之，所以行军途中，根本不与陈庆之商议军事。陈庆之也不介意，只是默默观察军情，收集北魏军的情报。
大军抵达涡阳城外后，曹仲宗见北魏军兵力雄厚，又修筑了坚固的营垒，便想暂缓进攻，等待后续援军。他对将领们说：“北魏军五万，我军两万，兵力悬殊，若强行进攻，必败无疑。不如坚守营寨，等陛下派来援军，再合力进攻。”
将领们大多表示同意，只有陈庆之站出来反对：“将军此言差矣！涡阳若被北魏军长期围困，城内守军必疲，一旦城破，我军退路就会被切断。况且北魏军远道而来，粮草补给困难，我军若趁其立足未稳，主动出击，必能取胜。若等援军到来，北魏军早已站稳脚跟，到时候再想进攻，就难了！”
曹仲宗脸色一沉：“庆之，你不过一假节，竟敢干涉军务？”陈庆之毫不退让，他拔出腰间的“节杖”（假节的象征），说：“我持节而来，代表陛下，若将军不听劝谏，延误战机，我有权以军法论处！”
曹仲宗没想到陈庆之如此强硬，一时语塞。其他将领见陈庆之有“节杖”在手，也不敢再附和曹仲宗。陈庆之见状，继续说道：“我愿率领麾下两千士兵，为大军先锋，进攻北魏军的营垒。若我战败，将军再撤军不迟；若我取胜，将军便率大军跟进，一举击溃北魏军。”
曹仲宗无奈，只好同意了陈庆之的请求。
陈庆之立刻开始准备进攻。他通过情报得知，元昭的五万大军分成了五个营垒，每个营垒之间相距约三里，相互支援不便，而且元昭的主营在中间，粮草营在主营后方。于是，陈庆之制定了“先烧粮草，再破主营”的战术。
当天夜里，陈庆之挑选了两千精锐士兵，悄悄向北魏军的粮草营进发。为了不被北魏军发现，他让士兵们脱掉铠甲，穿着轻便的布衣，沿着涡河的河岸行
