年二月下旬，在山东的华东野战军在莱芜围歼了李仙洲集团军，把陈诚精心布置的南北夹击计划给打破，莱芜战役刚刚结束，蒋介石就马上飞赴济南，大骂王耀武失职。同时蒋介石也意识到盘踞在山东的华东野战军对其构成了非常大的威胁。于是命陆军总司令顾祝同坐镇徐州，亲自指挥24个整编师、45万余人夹击华东野战军。
左到右为蒋介石、陈诚、王耀武顾祝同指挥各部队在鲁西南一带集结，从我山东解放区的西南方向采取步步为营的方法稳步推进，蒋介石有两个战略意图，一个是逼迫华东野战军主力与其进行决战，二是如果华野选择不打，就将华野逼出山东解放区，此时华野只能渡黄河北上进入华北平原。
无论是哪种情况对华野来说都不利，首先是如果贸然于西南面国民党重兵交战，一旦被粘住，两翼的敌军就能迅速合围，所以蒋介石觉得华野主力如果敢主动出击，那么他觉得歼灭华野信心满满。我军要是放弃沂蒙山区这而转战华北这应该是迫不得已的下策。因为在山区更加有利于我军的迂回穿插行动，反之对敌军机械化部队在山区会受到大大的限制。
面对这种严峻的局势，久经沙场的粟裕都面临前所未有的压力，当时华野能够动用的全部部队大约是二十七万人，如果我军正面来一场大兵团决战显然是不占优势。粟裕天天研究作战地图，设想了各种方案，把一些重要的地点都熟记于心，亲自去勘察现场地形，希望打一场漂亮的围点打援，破解危局。
国民党军厉兵秣马，重兵合围
顾祝同
这次进攻开始前徐州的顾祝同是三令五申的强调各部队不准冒进，避免被华野围点打援，这也算是国民党军一次次失败积累起来的经验吧。（46年的时候国民党一个旅就敢在苏中单独行动，到宿北战役时单独行动至少要一个师，鲁南战役的时候两个师都不管用了，莱芜战役时华野直接就敢围歼一个集团军了。）
为了此次战役，国民党军方面精锐尽出，五大王牌部队中的第邱清泉第5军、胡琏整编11师、张灵甫整编74师被分别编入三个进攻兵团之中。具体部署如下：
国民党军重兵合围第一兵团总司令为汤恩伯，驻防在临沂及其附近区域，下辖整编25、48、57、74、83师以及桂系第7军。第二兵团总司令王敬久，驻防在汶上、宁阳一带，下辖整编第72、75、85师以及整编第5军。第三兵团总司令欧震，驻防在兖州、邹城一带，下辖整编第9、11、20、64、84师。除此之外还有王耀武、冯治安第2、3绥区的部队配合进攻。
敌欲打通交通线、华野发起泰蒙战役
国民党军的第一步计划就是打通津浦铁路与临沂到兖州的公路，打通交通运输线就能发挥其机械化部队的长处，同时利用交通线围困、蚕食山东解放区。国民党军从年月开始发起进攻，到4月初时，王敬久的第二兵团以及打通的津浦铁路，并且向莱芜与新泰、蒙阴等地进军。南面的一、三兵团也已经打通了临沂到兖州的公路，期间粟裕多次寻找机会都没成功。
国民党军成功打通津浦铁路与临沂至兖州公路到4月中旬，第二兵团的整编72师向新泰、蒙阴开进，这个战机被我军给捕捉到了，陈毅、粟裕立即命令华野第1、第3、第6、第10纵队围攻泰安城守军整编第72师；同时命令其余部队在泗水、平邑一带打援，埋伏可能北上救援的欧震第三兵团部队。
不过敌军也变狡猾了，我军围困新泰数日，无论整编72师师长杨文泉如何求救，周围的国民党军都是按兵不动，他们知道这肯定是我军惯用的围点打援，况且72师又不是嫡系部队，所以整编72师直接被国民党抛弃了，最终全歼72师两个旅，俘虏师长杨文泉。
围歼72师，计划围点打援虽然打掉了整编72师，但并不能扭转战局，我军围点打援的计划没能成功，形势依然严峻。
华野“耍龙灯”调动敌军，捕捉战机
围困新泰的整编72师敌军不上当，陈毅、粟裕又继续命令部队多次在战场迂回奔袭，敌军也被调动得到处跑，苦不堪言，往往是还没到达目的地，新的命令又来了。当然不只是国民党军士兵有怨气，我军有的士兵也是憋一肚子气。—个来月没有打上个痛快仗，十来天就是不停的在战场穿插行军。战士们甚至顺口溜都唱起来了：“陈司令的电报嗒嗒嗒，小兵的脚板扑扑扑”
4月28日，粟裕发现汤恩伯兵团有前进的迹象，于是调主力南下到达桃墟镇，整编围歼立足未稳的李天霞整编83师。李天霞是多次与粟裕交手，吃过不少亏，我军刚刚开始与83师一部接触交火，李天霞马上命令部队回缩，向附近友军靠拢。无奈，我军只歼灭一小股敌军就主动撤退，不敢深追。
我军在各地寻找围点打援的机会在5月3日，粟裕又命主力北上，派出4个纵队重新围困刚刚占据新泰的胡琏整编11师，这可是蒋介石的嫡系部队，这回不可能不救了吧！可是虽然把胡琏围住了，可是这回王敬久兵团就在其附近，而且迅速向胡琏靠拢，我军没有充足的时间，不具备围点打援的条件，只能主动撤退。
陈毅司令员形容华野的行动好像是在同敌人“耍龙灯”，即我军好比挥舞的大彩球，逗引敌军，敌军部队就像长龙一样在齐鲁大地来回奔袭。
假装“攻势疲惫”，诱敌深入！
虽然第一阶段，我军虽然在同敌军在耍龙灯，但是这绝不是说在瞎指挥。这不，战机来啦！粟裕在我军两次围点打援都没能成功后就命令部队向鲁南后撤，让蒋介石及顾祝同误认为我军“攻势疲惫”，此时的蒋介石肯定认为华野此前的行动是无头苍蝇—瞎撞一样，认为华野此时想焦急地打开突破口。
这次蒋介石又被粟裕给迷惑了，这正是粟裕与敌军的心理博弈，因为按照敌军目前的稳步的推进速度，华野是很难找到机会，如果待敌军占领外围的莱芜、新泰、沂水等地时，华野将相当被动。所以粟裕这次主动示弱、假装疲惫，让敌军能够加快行军，这样我们才能打冒进之敌一个出其不意。
汤恩伯兵团大举进犯到5月10日，汤恩伯第一兵团果然有大动作了，该兵团分为左右两翼，第7军、整编48师向沂水进犯，整编25、74、83师沿公路前进之后向坦埠突进。正是这个决定，将葬送了蒋介石的宝贝74师。
而接到汤恩伯部突进的情报后，华野指挥部里的粟裕知道，真正的机会来了！