陈毅一到中原，就加入了解放战争南线的协调和指挥的中枢，和刘、邓一起，在中央军委的统一指挥下组织华东、中原两大野战军协同作战。
　　5月31日，粟裕率一兵团渡黄河南下。此时，华野的三、八、十纵也逐渐向东靠拢。以歼灭整编第五师为主要目标的大战役正在企划。
　　为配合华野作战，刘、邓已在6月13日向中野部队下达了襄（阳）樊（城）战役的基本命令。此战展开，必能调动张轸、胡琏两个兵团往西。
　　粟裕根据敌情变化，筹划了“攻其必救”的豫东战役。即以攻克河南省会开封迫使五军或其他部队救援再加歼灭。粟裕报军委并刘、陈、邓。军委同意。刘、陈、邓亦同意，并指示战役第一步以歼开封之敌为主，乃决定停止襄樊作战，组织中野主力牵制南面敌人。
　　华野攻克开封后，继续转兵睢杞以围歼区寿年兵团。蒋介石急令各方增援，除邱清泉的整编第五师、黄百韬的整编第二十五师和胡琏的整编第十八军等主力驰援，企图以7个兵团之众向华野合击，在豫东决战以“肃清中原”。
　　粟裕切望中野阻击北上之敌。
　　刘、陈原拟在中野四纵驻地召开团以上干部会，接电后即与邓商定：停开干部会，立即出动6个纵队配合歼灭区兵团。以一部监视十八军，并主动攻击北进之吴兵团。刘、陈、邓并于6月29日组成前进指挥所亲赴前线指挥。
　　此战确有决战性质。一兵团不渡江而集中兵力歼敌重兵于3大铁路之间四方驰援之地。能否办到，在此一举。而增援敌军有五大主力之二的整编第五师和整编第十一师；还有黄百韬部与桂军，亦属悍将强兵。
　　华野第三、八、十纵阻击敌邱清泉兵团十分顽强。中野部队对吴绍周兵团进攻，给予重大杀伤，迫使张轸急调十八军折向西平与吴兵团靠拢。接着，中野又于7月5日突然将前进中的胡、吴两兵团割裂，并将吴兵团的1个师和胡兵团的3个师分割于商水地区，有效地迟滞了敌人。直到粟裕来电报告已歼灭区寿年兵团，部队并已北移，刘、陈、邓才率前指返回宝丰。
　　刘、陈、邓在一起，对中原地区全军的战力了解更全面。豫东激战之时，刘、陈、邓判断可能是打襄樊的更好时机，乃留下主力第六纵队，并作了与桐柏军区部队及陕南第十二旅共同攻取襄樊的部署。就在华野歼灭区寿年兵团部的7月2日，乘蒋军几个野战兵团陷于豫东之际，突然攻占老河口，既而攻击襄樊。7月16日，战役胜利结束，全歼敌2万余人，活捉国民党特务头子、十五绥靖区中将司令官康泽。
　　豫东与襄樊两战役，不到1个月共歼敌12万余人，坚固设防的大城市再次攻破，成为中原战局转变的关键。两大野战平仕一个团结战斗的指挥中枢统一协调下直接配合作战，其优越性和潜力明显可见。只有如此，才能歼灭敌重兵集团。
　　但是，两大野战军直接配合作战，也不都是凯歌和颂歌。和中野干部们坦荡相处、融洽无间的陈毅，可以听到“不见外”的反映。中野干部谈到华野部队总的来说印象是很好。然而也有一些具体意见。除了说华野西兵团个别部队“骄横”之外，有两点意见特别引起陈毅注意：一是华野负责人（以“军事观察家”名义）对豫东战役的评论中，对于中野部队在南线牵制胡琏、吴绍周两兵团，在西线牵制郑州敌人的作用未具体提到，显得对中野的作用认识不足。
　　二是华野参谋长陈士榘在和陈度一起指挥了洛阳战斗后在中野营以上干部会总结经验之时，很好地强调了火力的配系，但据反映过分夸大了炮火作用。这就会影响部队依赖炮火，炮弹少就信心不足，同时会造成不知节省炮弹的毛玻陈士榘谈用炮一事，颇有戏剧性。陈士榘对于炮特别有战斗感情。他1939年曾向彭德怀借1门炮25发炮弹，结果打了3炮解决问题。1发炮弹打到山上敌人堆中，敌人跑了，占了阵地。追到城根，敌人又跑了，进城缴了几百发炮弹还给彭。1943年用炮百米抵近日军碉堡打，1炮就把碉堡打哑了。
　　战后他亲自去里边看，碉堡完整的，3个爬在枪眼上射击的敌人，下肢还在，上身全掀到后墙去了。这次打洛阳他掌握着那么多炮，又是和善于连续爆破、城市攻坚的部队配合，真是兵家一大快事。最后他把山炮、105榴弹炮都推到前面抵近射击，这次洛阳攻坚用兵不多，发展顺利，步炮协同作用甚大。
　　陈士榘作总结报告时，却忽略了一个问题：中原野战军坚决执行中央赋于的伟大战略任务，冲破层层强敌在道道大河上的封锁拦袭，不得不把重武器埋弃在大雨泥泞之中。对于合同战术家刘伯承，这是多么痛心的事！中野指战员目前还在为此焦虑呢！没有足够的炮火掩护，中野作战增加困难、增加伤亡。有的战斗经验差的部队，还因此影响胜利信心。所以那次陈士榘讲完，天已黑了，刘伯承还叫大家不要走。刘伯承接着报告，批评了部队里光靠大炮的心理，强调了过去作战中摔了多少手榴弹。
　　所以陈毅注意这些问题，并不仅仅是为了具体宣传报导、战术技术，而主要是重视感情，珍爱阶级战友的革命情谊。
　　陈毅于1948年7月24日电粟、陈（士榘）并报中央，在肯定成绩和良好反映的同时，鲜明地批评了这些情况，“在雨季整训中希望注意上述问题的检讨。”
　　粟、陈（士榘）、唐（亮）很快于7月28日电复“陈军长，并报军委”，表示“完全接受并进行检讨。”并向刘、邓以及各兄弟部队表示歉意。陈士榘也表示“讲后当时自己也有体会”，“是有毛病的”。并且步炮协同在华野来说“缺点甚至错误是很多的，希望各方多加指示”。粟、陈、唐还具体地分析了步炮协同的不少值得注意的问题，作了研究和解释。
　　陈毅的这种在野战军之间开展批评的做法，只有处于他的地位才能顺理成章地做好，也只有他这种光明磊落的人物才能做好。这样做了，对于防止骄傲，增强团结，深入研究战术均有好处。特别是对华野领导，他们是在敌军云集、军委考虑“目前打很大规模的歼灭战主客观条件都不成熟故须避免”的指示下（军委1948年6月22日电）主动提出歼灭区寿年兵团方案的，更需要适时提醒：千万要戒骄戒躁。
　　陈毅到中原，当然远不止“传檄”，也远不止协调，而是有大量工作要做的。首先，5月21日中央催他“尽可能迅速偕同子恢及大批干部去豫西和刘、邓会面”，就是要他们“建立中原军区及中原局经常工作”的。
　　原来刘邓大军千里跃进大别山，斗争尖锐艰苦，后来又分兵作战，再后会合豫西，军情紧急，游动不定，中原局及中原军区的机构及经常工作都来不及建设。此次粟裕原准备南下，华北与山东集中了1.4万干部，本拟渡江南下，沿途建立地委县委分区武装的。现今一分为二，粟裕带7000人到豫皖苏和淮南，陈毅、邓子恢带7000人到中原局和中原军区。中原幅员辽阔，人口4500万，要从上而下建立地方与军区的各级党组织、建立地方武装，7000人远远不够，何况经过精简，后来实有的只剩4700人。中原局领导研究决定成立两所培训干部的学校：一是中原军政大学，由刘伯承任校长兼政委，培养军队干部；一是中原大学，由陈毅任筹备委员会主任。
　　这个中原大学也很有水平。河南省会开封解放，河南省的一些高等学府如河南大学、中原工学院、焦作工学院及开封部分学校的进步师生便在蒋军尚未重占开封之时投奔解放区。到达豫西的有300余人，其中包括河南大学文学院院长兼历史系主任嵇文甫、经济系主任王毅斋、教授罗继武等。接待他们，做他们的工作，投笔从戎的刘、陈、邓当然都是工作的能手。
　　7月份是忙碌的。陈毅回到宝丰，就接待这批学界朋友，还给大家作了《来解放区的学习与工作问题》的报告。那4700多干部从黄河北走了两个月终于到达。他们中不少人思想问题复杂，有的是被作为“地富分子”清出来的，包袱更重。陈毅是“带”他们同来的，义不容辞，现身说法，在中原局欢迎外来干部大会上以中原局第二书记兼外来干部的意味深长的身份给他们讲话。
　　7月份还有另一种团结工作。襄樊战斗俘虏的国民党十五绥靖区副司令写信一纸，逞称“伯承、仲弘兄”，要求见面，参谋们不知“仲弘”是谁，陈毅说“是鄙人”，接过一看，正是川军者友、成都同学郭勋祺。于是刘、陈两次宴请，郭勋祺表示愧悔，晤谈甚为相得。这是布置川军联络工作的好渠道，陈毅当然也要化些精力，直到送郭勋祺登上归途。
　　7月份忙碌，8月份陈毅的担子更重了，因为第一书记邓小平于7月25日启程去河北平山，向中央汇报中原详细情况和经验，参加中央政治局九月会议。中原局的日常工作，就由第二书记陈毅来主持。8月1日至8日，陈毅、刘伯承、邓子恢、张际春等组织领导了中原局暨中原军区县团以上干部的整风整党运动；由陈毅向到会干部传达了中共中央和毛泽东主席自1947年12月以来的一系列的方针、政策和指示，还谈了中原新区建设诸问题。陈毅还专门向军队干部作了《部队党在整训中的任务》的报告。会议结束时，陈毅作了总结性发言。
　　陈毅还有他军事工作方面的具体分工，主管中原军区的工作。中原军区新建不久，各级机构不全，人员缺乏，而要担负起广大中原维护政权、发展地方武装、剿灭匪特、扩充新兵等任务。鄂豫皖3省地主武装和散匪很多，河南尤甚。陈毅是共产党最老的省军区司令之一，对付反动匪恃是行家。中原野战军司令部驻皂角树村，为了防空，刘、陈、邓住在村边上，屋后便是旷野，当然设有哨兵。没想到这一哨岗还两次黑夜遭袭击，抢枪支，第三次竟枪击哨兵，打碎膝盖骨。当时陈毅已到，亲自调查，限令7天破案。在军民协同下，第4天即将首恶捉获，判处枪决。自此当地即告平靖。
　　方城县县长被匪特绑到
　　南阳杀害。陈毅立即和刘伯承研究决定，令二纵对方城一带的土顽进剿。二纵彻底消灭了保安旅及敌第九师一部，当地政情很快好转。
　　陈毅用很大精力组建和加强各地的军区地方部队。鄂豫、皖西、豫皖苏、豫西、江汉、桐柏、陕南等各军区都进行了组建和整顿。军区地方部队迅速发展，对中原解放区的开拓与巩固起了很大作用。
　　9月12日陈毅写给毛泽东的中原综合报告，原该由邓小平写。“小平7月北去，我们托其面达”。7月份的报告没有写。此次9月份的综合报告，就汇报了5、6、7、8四个月中原的情况和政策转变。陈毅代替邓小平主持中原局日常工作。虽然繁忙，但事情是顺利的。因为经过中央十二月会议的贯彻，全解放区的“左”的偏向日益纠正。中原局在中央指示下，总结进入新区以来的工作，得到了许多新的收获。特别是邓小平主持写成的《六六指示》，明确了新区暂不搞土改，而是实行减租减息和合理负担等新政策，使工作的局面明显好转。许多个广阔无敌的中心区在中原大地上出现了。豫西20县无敌踪；豫皖苏的恢复尤为重要，因为这是津浦、陇海、平汉3大干线之间的中心地区，又靠近蒋介石军事主于所在的徐州、蚌埠、南京之线，是我军进行大战役用武之地。一年前的打土豪、分浮财，开仓放粮，走马点火，以粮换菜等做法，无论在大别山或在豫皖苏都严重影响了生产，而现在农民已纷纷回来买牲口，积极生产；知识分子开始接近共产党，逃亡地主也开始回家。
　　豫皖一带，历来军阀混战，兵匪如毛，抗战时“水旱蝗汤（恩伯）”，民不聊生。群众反映：20年来从未如此安定。
　　陈毅在报告中对今后的工作方针，野战军状况，地方建设，财经、文教等工作，都作了分析，指出了问题，提出了解决办法。
　　报告结尾概括的话则是一个共产党的领导干部兼军事家在伟大决战前夕最切中时局的判断：“中原局面，已具备了初步根据地，正走向足以应付大规模作战的条件。”
　　8月16日，刘、陈接到中央军委来电：“9月华野攻济打援是一次严重作战，需要你们有力的配合”。其所以严重，是粟裕计划，既攻城，又打援。
　　历来兵家多攻城阻援，或围城打援。攻城打援则须用不足总兵力一半来攻克城市，而以超过一半的兵力来歼灭援军。何况所“攻”的是王耀武统兵10万固守的坚城：而要“打”的援敌是五大主力之一第五军为骨干的17万国民党正规军。
　　刘、陈积极寻觅战机，陈兵宛（南阳）确（确山）之线，准备以6个纵队出击，致使中原南部的国民党军不敢行动。
　　在豫东大捷的声威之下，以五军为主力的邱清泉兵团，竟连日在陇海路商邱一带逡巡不前，眼望着北方津浦路两侧华野的8个打援纵队，不敢冒然进击。济南战役于9月16日至24日以实现“扫开济南府，活捉王耀武”，全歼守敌10万的大胜结束。
　　在济南战地，粟裕与张震等研究下一步的行动方向。9月24日，粟裕报中央军委、华东局、中原局：建议进行淮海战役。
　　军委和刘、陈都很快复电同意。后来，毛泽东所拟《关于淮海战役的作战方针》中非常符合实际情况地指出：“你们第一个作战，应以歼灭黄（百韬）兵团于新安镇、运河之线为目标”。但此时的方案，还是“小淮海战役”的方案，目标只是两淮与海州一带之敌。
　　而两大野战军密切配合的指挥机构的组成，两大野战军负责人求歼更大重兵集团早日解放全国的战略意愿，以及他们之间的信任和友爱，都在促成“大淮海”。
　　军委10月11日在《关于淮海战役的作战方针》中指示的“望刘伯承、陈毅、邓小平即速部署攻击郑徐线，牵制孙元良兵团”初步为组成更大战役准备了条件。而刘、陈、邓（邓当时已回中原）协同打大仗的态度更积极。
　　他们决定的部署是：刘伯承坐镇豫西，指挥中野二、六纵队和地方武装在江汉、桐柏等地区分散歼敌，以牵制吸引黄维、张淦等兵团尽可能远离东线战场，并以陕南部队伪装主力，以使敌人误认为刘伯承率中野主力仍在豫西；陈毅、邓小平则率中野一、三、四、九等4个纵队，并有豫西、豫皖苏部队及华北十四纵配合，东进直指郑州，这种宽广近2000里的战略与战役的积极配合，实属罕见！
　　有了这样的基础，中央军委才可能在10月22日的电报中指出：目前态势极好，白崇禧所属的黄维、张淦两兵团已被中野第二、第六、第十纵队吸引到桐山区，在相当时间内不可能进到黄泛区以威胁徐州地区我军的行动。
　　这样，就有利于我中野主力在攻夺郑州以后，以一部，或大部、或全部向东行动??以主力在邱、李两兵团大量向东增援黄百韬的时候，举行徐蚌作战，“相机攻取宿县、蚌埠”，坚决、彻底、干净、全部地破毁津浦路，使敌人交通断绝，陷敌刘峙（按：徐州“剿总”）全军于孤立地位。
　　中央的这一指示，显然已含有辽沈战役的“关门打狗”的意图，但能否肯定，能否实现，还要看两大野战军的主观努力。
　　10月22日，郑州守敌1万余弃城北窜，为中野全歼。陈、邓报军委：待打下开封后，即“出商邱或直出徐蚌??协同华野作战。”24日，开封守敌东逃。陈、邓于解放开封后，率4个纵队向商邱继而向永城、毫州、涡阳机动位置集结。
　　10月31日，华野发动淮海战役的准备工作已就绪，粟裕向中央军委、陈邓、华东局和中原局作了报告，并提出：“此次战役规模甚大，请陈军长、邓政委统一指挥。”中央军委决定，本战役由陈、邓统一指挥。陈、邓复电：“本作战我们当负责指挥，惟因通讯工具太弱，故请军委对粟、谭方向多直接指挥。”显然，上下关系融洽，处置恰当。
　　11月3日，刘伯承、邓子恢、李达向军委和陈、邓建议首先截断徐、宿间铁路线、造成我军会攻徐州的态势。粟裕、张震等也在11月7日、8日报军委、陈、邓等，建议：在战役第一阶段即破坏徐蚌段，“抑留敌人于徐州及其周围”，以便在江北大量歼敌主力。
　　毛泽东于11月9日电复粟裕、张震并告陈邓、华东局、中原局：“应极力争取在徐州附近歼灭敌人主力，勿使南窜。华东、华北、中原3方面，应用全力保证我军供给。”
　　军委统帅部和南线3个指挥部：陈、邓、刘、邓、李、粟、谭、张，目标一致，“大淮海战役”的格局形成了。
　　截断徐蚌的具体责任落到陈、邓肩上。中央军委、毛泽东从11月9日至11日，连续在6个电报中强调要占领宿县、截断徐蚌。其中10日2时和3时连发两电给陈、邓：“你们务须不顾一切，集中4个纵队全力攻取宿县”，“你们应集全力（包括三、广两纵）攻取宿县??断敌退路，愈快愈好，至要至盼。”
　　刘伯承、粟裕的建议中，都没有提出“攻取宿县”。宿县是津浦线上敌军主要兵站，堆积大量弹药物资，有重兵坚城和铁甲列车、装甲车守卫，并不比省会易打，铁路沿线敌增援又便，故而最初都未把攻取宿县作为主要目标。
　　接受军委任务后，陈毅即与华野联系调拨重炮及炮弹。有华野力量可以就近调用，陈毅对此战信心特强。在敌人缩守城内、中野三纵总攻前夕，陈毅主动给攻城指挥员打电话予以炮兵支援，送去出人意料之多的大炮与炮弹，主攻方向东门便又增加榴弹炮6门。
　　11月15日，宿县全部解放。
　　毛泽东对于此战评价甚高，在11月23日“庆祝你们歼灭黄百韬兵团10个师的伟大胜利”的电文中，说“在战役发起前，我们已估计到第一阶段可能消灭敌人18个师，但对隔断徐、蚌，使徐敌完全孤立这一点，那时我们尚不敢作这种估计。这种形势的造成，主观上是因为我华东、中原两大野战军会合并攻占宿县”。两大野战军会合的威力在淮海战役第二阶段歼灭强大的黄维兵团时表现得更为明显。有恃无恐，调动及时，先是中野顽强阻击黄维兵团，有力地保障了华野最后消灭黄百韬；继而中野有华野作依托，大无畏地以几乎相等的兵力包围12万现代化装备包括头等主力第十八军在内的黄维兵团。战役第二阶段以围歼黄维兵团为主要目标，这是刘、陈、邓组成的淮海战役总前委的决策而经中央军委批准的。
　　在此之前，攻克宿具之次日，11月16日，中央军委判定当前的淮海战役已成为南线的战略决战。“此战胜利，不但长江以北局面大定，即全国局面亦可基本上解决。”故而电令“由刘伯承、陈毅、邓小平、粟裕、谭震林5同志组成一个总前委??由刘伯承、陈毅、邓小平为常委，临机处置一切。
　　小平同志为总前委书记。”
　　常委“临机处置”的第一件大事，便是决心围歼黄维兵团。当时，中央军委曾考虑，华野在歼灭黄百韬兵团之后，继续诱歼邱清泉、李弥兵团一部。
　　但刘、陈、邓考虑到华野主力血战歼灭黄百韬兵团后，疲劳伤亡，不宜续歼比黄百韬兵团更强的邱、李两兵团，邱、李两部又畏歼不肯分兵轻进。南战场的黄维在刘汝明、李延年等部的策应下急进，若不及时围歼任其进抵津浦与刘、李会合，便成大患。而此时黄维劳师远征，孤军突进，正是歼击良机。
　　至于兵力火器的对比，陈毅对重武器不足的中野敢于围歼人数与己接近的美制机械化强敌，是很感动和钦佩的。他心里也有底。既然邓小平一再表明“破釜沉舟”，不怕“倾家荡产”，哪怕中野部队打光，也要取得淮海战役的胜利，那未他陈毅“腰缠万贯”，只要中野需要，他当然要人有人，要炮有炮。
　　经过多次磋商，最后中央军委定下了战役第二阶段歼灭黄维兵团的任务。
　　战场也有喜剧。在中野围歼黄维兵团的后期，各纵队伤亡颇多，敌人凭“汽车城”等坚固阵地顽抗时，华野继派出第七纵队之后，又派第三、第十三纵队和鲁中南纵队及特种兵纵队的两个炮团加入歼黄作战，而带队的指挥员又是善于用炮爱好谈炮的陈士榘。
　　围歼黄维期间陈毅有两个重要指示。一个是给华野司令部转华野特纵司令员陈锐霆的：“中野为了跃进大别山把重武器丢了。这次打黄维，一定要把华野主要的炮兵全部拉上去，保证战斗胜利。”并要陈锐霆亲去南坪集联系。另一个指示是：“黄维兵团的全部装备都给中野。”陈士榘在包围圈的东边，指挥中野六纵、华野三纵等主力参加总攻。迫击炮以上的火炮齐袭，榴弹炮20多门，炮火打死3000多敌人。黄维兵团最后试图分散突围全部就歼时，陈士柒、陈锐霆都接到陈毅指示：黄维兵团的东西华野部队一律不准拿，华野各纵队战斗结束后即时归建。于是陈锐霆这位原定负责打扫战场的华野战地司令只得“两袖清风”而回。
　　毛泽东后来说，淮海战役打得好。好比一锅夹生饭，还没有完全煮熟，硬被你们一口一口地吃下去了。
　　其所以能如此，主因之一是统一团结。