在朱元璋和陈友谅打得你死我活之时，张士诚一直按兵不动，隔岸观火。等当朱元璋消灭了陈友谅之后，张士诚这才大梦初醒，于是在至正二十五年（1365年）春季，派遣大将李伯升率领二十万大军进攻朱元璋的领地新城（今浙江诸暨南）。张士诚主动打响了第一枪，他与朱元璋之间的争霸赛也就这样拉开了。
李文忠得知情况后，立即率领朱亮祖等猛将，火速救援新城，并在离新城十里之处安营扎寨。
胡德济（胡大海的养子）派人来见李文忠，说敌人士气很高，势头正盛，不宜跟他们正面发生冲突，而是应当驻扎此地，等待大军，到时候见机行事。
朱文忠并不同意，说道：“从前谢玄率领八千兵马打败苻坚百万，兵贵精，而不在多。”
“昔谢玄以兵八千破苻坚百万，兵在精，不在众。”（《明太祖实录》）于是，李文忠下令全军晚上好好饱餐一顿，明日一早与敌军决战。
说来也巧，次日一早，大雾笼罩着大地，看不清对方情势，朱文忠当即召集诸将，仰天发誓道：“胜败在此一举，我不敢贪生而死于三军之后。”说完，便身先士卒地冲向敌军。
这时，处州援兵也刚刚赶到，一见如此形势，连忙跟着一起冲锋，奋勇搏击。
李文忠勇猛无敌，只见他横握长矛，率领数十名精锐骑兵，从高处奔驰而下，就像一把利剑插在敌军之中。敌军精锐骑兵见李文忠人数不多，于是纷纷上前，将他们重重包围。
李文忠毫不畏惧，带领骑兵向外猛冲，所向披靡，杀敌甚多。
城中守军们站在城头上看得一清二楚，连忙擂鼓呐喊，跟着打开城门，猛然冲向敌军。张士诚大军见势不好，纷纷溃退。
史书上记载，李文忠追击敌军数十里，俘获敌将领六百，士兵三千，斩首数万人，收缴的粮草不计其数，那里的溪水都被染成了血色。
有道是“上阵父子兵”，李文忠是朱元璋的外甥，当时张士诚的阵营中也有一个养子叫作“五太子”，与李文忠相比，可就相去甚远了。
据说五太子身材不高，但是弹跳力极佳，还能潜水几天几夜不吃不喝，被百姓们传说得神乎其神，可是这一仗打下来，他什么本领也没有发挥，就丢盔弃甲地逃走了。
当时张士诚的地盘南至绍兴，与方国珍接壤，向北超过徐州，到达济宁的金沟，西至汝宁府、颍州、濠州、泗州，东边直到大海，纵横两千余里，属地不少，但是这人气魄不大，不敢像陈友谅那样跟朱元璋拼命死磕到底，吃了一次败仗之后，便调整了策略，不再主动进攻，而是联动各个城市，遥相呼应，积极防守。
朱元璋一下看出了张士诚的意图——既然你张士诚龟缩不出，那么正好利用这个时机调兵遣将，做好各种军事部署。
朱元璋当时定下来的策略是分三步走：第一步，攻取东吴北境淮水流域，消灭张士诚长江南北的外围势力，使张士诚局限于长江之南。
第二步，分兵攻取杭州、湖州等地，切断张士诚的左右臂膀，然后造成北、西、南三面合围平江的局势。
第三步，全面合围平江，将张士诚连根拔起。
至正二十四年（1364年），朱元璋拜徐达为左相国，命其再次率军围攻庐州。
此次围攻庐州与上次有所不同——毕竟已经消灭了陈友谅，没有了后顾之忧，而且朱元璋部队士气正高，所向披靡，轻而易举地攻克了庐州城，还一鼓作气连下江陵、辰州、衡州等地，平定了湖、湘。
势如破竹的徐达应召返回后，又率领常遇春等猛将巡行淮东，攻打泰州。
张士诚得知后，命令四百艘舟师出长江，摆出一副气势汹汹的样子佯攻应天：你朱元璋若是不老实，想要攻打我泰州的话，老子便令水军围魏救赵，攻打你防御空虚的应天。
没有三两三，哪敢上梁山啊，朱元璋也是个老江湖，若是不老奸巨猾的话，怎么吃得了陈友谅。张士诚这点小伎俩，早被朱元璋看穿了。
朱元璋召集手下将领说道：“你们看，张士诚将四百舟师停在那里，却不向上游进发，很明显他的意图是想分散我们的军事力量，替泰州解围。你们不必理会四百舟师，集中力量猛攻泰州。只要泰州被我们攻陷，那么江北自然瓦解，其他城市不战自溃。”