南京、上海解放之时，陈毅作为华东军区暨第三野战军的司令员，指挥着102万军队。入城后陈毅肩负上海市长重任的同时，仍以另一肩担负司令员工作。在人民军队的现代化建设问题上，在抗美援朝、巩固边海防建设事业中，皆有他的辛劳和贡献。
　　1950年6月，当上海刚从“二·六”轰炸和严重经济困难中恢复过来时，朝鲜半岛局势紧张起来。6月27日杜鲁门宣布美国全面干预朝鲜战争，上海立即有波动，3天内黄金便由每两120万元涨至135万元。某私人银行前经理说：“台湾已在大庆祝了，蒋介石可能反攻大陆，有钱不妨多顶房子，台湾人一回来房钱要涨。”7月7日，从北京开完中共七届三中全会回来的陈毅，在华东局扩大会议传达全会精神时，特别强调了和平建设时期军队战斗意志不能松懈。9月15、16两日，美军终于在260艘军舰、500多架飞机掩护下，以7万余人的部队在朝鲜仁川登陆。美国侵略者来势汹汹，迅速向北推进，战火即将烧到鸭绿江边。面对这种局面，中共中央、毛泽东主席开始作组织志愿军入朝参战的考虑，除了和在京领导人研究外，又请各大军区负责人去京商议。
　　陈毅动身前，中共华东局连续召开了几次会议。关于出兵问题，有的意见是不宜出兵参战，因中国刚解放，东北刚建设，出兵就要惹火烧身。陈毅考虑却不同，到北京向毛泽东汇报各方意见时，鲜明表示自己主张出兵，并说：我如今虽担负地方工作，但只要前线需要，一声令下我马上可以穿上军装去朝鲜作战！
　　10月8日，毛泽东主席发布了中国人民志愿军入朝作战的动员令。10月19日，志愿军跨过鸭绿江。10月25日，抗美援朝战争开始。
　　以上海的地位，理所当然地要在经济上物资上对抗美援朝战争负起重大的支援责任。陈毅及时召集上海各界代表会议，说明中国出兵参战的意义。
　　“大老板”们惶惶不安，认为惹了美国人不得了，放颗原子弹上海要完蛋。
　　陈毅针对恐美、崇美心理，举3年解放战争时美国全力供养蒋打内战为例说：其实那就是和美帝在打，结果他们一败涂地，充分说明美帝国主义是只纸老虎。他以大无畏的语言，号召各界各业群众支援前线志愿军将士作战。上海很快掀起声势浩大的抗美援朝群众运动。市民踊跃捐款捐物，青年学生纷纷报名参军参于，外科专家组成的医疗手术总队奔赴前线??企业家吴蕴初正在复旦大学读书的唯一爱女吴志莲也去参了军。他给女儿信中说：“吾岂能以舐犊之爱，忘却了保家卫国之义，敌对你作热烈的鼓励和赞美。”这一行动立即得到陈毅赞许：“吴蕴老这是爱国热情的表现。送子参军在翻身农民是常见的事，但对一个著名工商业者来说就很难能可贵了。”他在华东各省市广播大会上号召：“我们全华东每一个人都要问问自己，为抗美援朝运动做了些什么？”
　　更重要的当然是部队的战争准备。据当时华东军区副参谋长王德的记录：毛泽东发来电报指示：陈（毅）返宁主持军区工作；华东以美蒋登陆为假想作基础，来部署一切工作；王建安、郭化若负责淞沪警备；福建剿匪限6个月完成。
　　陈毅坚决而镇定，他在1950年11月初就在上海召开了华东军区的高干会议。据王德记录，陈毅在会上说：“情况发展：第一看志愿军出动后的影响，达到‘以斗争争取和平’（敌我目前均有不愿立即大打因素）；第二可能美军陆续增兵朝鲜，寻求报复或在中国大陆另开一个缺口，但也不是马上大战；还需经相当长期准备。决定于朝鲜战争的胜利迅速发展。”所以“领导上要全面长远考虑打算，实施上要有步骤，过早过迟都不利；目前最主要还是‘加紧剿匪肃特’，巩固后方，完成土改。”这样，会议对于政治动员、思想教育、战备练兵（包括陆海空联合训练）、省军区工作、后勤工作、剿匪、肃特、支援土改、建设民兵等一系列工作都作了周密安排。对上海，一方面作必要的疏散准备，一方面又不“成为行动”，“要预防惊慌混乱。华东局不能动。”城市主要是加强防空。总之，陈毅要求既防止麻痹，又防止过分敏感，要求沉着冷静，不过早，不过迟，有部署的有次序的进入运动。
　　对于华东军区的这些布置，毛泽东在电报中说：“我们认为是正确的，请即照此执行。”
　　陈毅的这种态度，保证了华东军区和上海市既不惶乱失措又有高昂的斗志和踏实的行动。
　　不久，上海人民和全国上下一起，掀起了捐款买飞机大炮的运动，当时以捐人民币15亿（即后来新人民币15万）为战斗机1架。企业家刘鸿生一人就认捐了10架。至1951年12月止，上海各界人民捐献飞机达450多架，相当6800多亿人民币，超过了原定计划的35％以上。
　　1951年7月10日，被中朝两国人民打得焦头烂额的美帝国主义，不得不坐到谈判桌边来。在这样的胜利面前，刘鸿生禁不住落泪了：“我现在才相信毛主席、陈市长的话，美帝国主义确是一只纸老虎。”
　　在抗美援朝的同时，镇压反革命运动也全面展开了。上海镇压反革命、肃清特务的工作，原是饶漱石抓的，进展很慢，受到中共中央的批评。现在，陈毅来管了。前线在打仗，蒋军又在台湾蠢蠢欲动，国民党遗留和派遣的大批反革命分子、特务分子作患于内部，造成种种祸害。暗杀、爆炸、纵火、盗窃情报事件不断发生。陈毅1951年初就指出：“现在一批死心塌地的反革命分子闹得太厉害，要坚决镇压。”4月份他视察福建归来，毛泽东主席给中共上海市委发来电报：“在上海这样的大城市，在春季处决三五百人，压低敌焰，伸张民气，是很必要的。”陈毅根据这个指示，立即充分发动群众检举揭发，向敌人张开了天罗地网。
　　4月27日夜，全市实施了一次突击搜捕。搜捕行动由居民区治安人员和基本群众带路，由公安人员、解放军战士组成小组，分赴各马路各里弄，深夜突袭预先侦查监视好的对象。陈毅事先特别交待不要惊动市民，并亲自乘吉普车来回巡视。至清晨4时，全部结束，果然邻里不惊。这一夜逮捕了1万零58名反革命分子。逮捕名单是由群众检举、公安局审核，再经基本群众讨论，上下凡经查实才确定下来的。天亮时，陈毅打电话询问犯人连夜审查情况，公安局副局长说只有7人属可抓可放之列，陈立即指示将7人释放回家。紧接着他召集了政协、人代会和政府委员联席会议，公布进行镇反搜捕情况，讲明政府的方针政策，指出“对坏人的宽容，就是对好人的残忍。”
　　得到各界拥护赞同。这以后，根据毛泽东“可抓可不抓者坚决不抓；可杀可不杀者坚决不杀”的指示精神，将一些血债累累民愤极大的反革命分子、匪首、特务、恶霸──正法，还有一大批分别轻重判处了徒刑。对坏人的坚决镇压，使市民称快，保证了社会秩序的安定和经济生活的顺利进行。
　　自从1949年7月华东军区和三野合并以后，司令部由上海迁至南京。陈毅任华东军区司令员、军区党委书记，频频往返于沪宁之间，兼顾上海市和华东军区两方面工作。
　　全国进入了和平建设时期，而抗美援朝战争正在激烈进行，军队仍有艰苦的作战任务，并且面临新的课题：解放沿海岛屿、剿匪、组织志愿军轮批入朝作战，巩固东南沿海防务，整编复员，建设海、空军及其他现代化兵种等等，但陈毅认为最重要的是提高干部的军事理论和文化科学水平，以建成一支高度革命化现代化正规化的强大国防军。因此，当刘伯承领受了中国人民解放军第一所军事学院的组建工作来到南京以后，得到了陈毅及华东军区毫无保留的热情支持。刘院长要干部给干部，要房子随便挑。他俩亲密的战斗友谊始于25年前的顺泸起义至中原而高度成熟。现在又配合默契，协力建军。军事学院成立之日，陈毅受中央军委的委托，在成立大会上致训词，并将一面军旗授给刘伯承院长。1951年6月，他们选择与朝鲜地形相类似的临淮关地区，共同检阅了一次由坦克兵、炮兵、空降兵、工兵等诸兵种合成的步兵师河川进攻战演习，探讨了现代合同战术的指挥与实施。
　　为检查福建沿海的海防备战工作，1951年3月，陈毅率军区工作组到福建视察。15日狂风大雨之夜，陈毅亲率工作组分头突击抽查了一个3人观察所、一个炮连阵地及一个步兵连防御阵地，结果成绩优良、令人欣慰。然而陈毅却病倒了。他略事休息，又带病观看了二十五军一个营的村落防御和山地进攻演习，对司令部想定，各级指挥及单兵动作，都作仔细观察和评定。
　　如此一路抱病而行，每到一处还与党外人士谈话，介绍朝鲜战局，全国土改、镇反情形，并听取他们意见。民主人士皆反应热烈：“没想到陈司令员这样坦白诚恳，国家大事都向我们交底，确拿我们当自己人看待。”在集美，他还专程拜访了著名爱国人士陈嘉庚先生，支持并研讨了修筑厦门海堤使之与大陆通联，以及修筑鹰厦铁路两项大建设工程。此行经过深入细致的实地考查，对福建军政工作推动很大，不仅传达了中央22个月来各项重要指示，而且检查落实了海防、剿匪、肃反诸项任务。其中仅工作组实地帮助后勤部门审核构筑海防工事开支一项，就从2000亿元核减为1300亿元，节省700亿元经费。
　　1953年12月，陈毅再次来到北京，参加全国军事系统高干会议，总结全军4年来工作及决定今后建军上一些重大问题。陈毅在发言中着重检查了华东军区4年工作的缺点方面，并驳斥了那种认为人民解放军曾以劣势装备打败美蒋，因此学习苏联现代化军事经验技术无甚必要的说法。他不仅讲到要积极学习苏军的先进经验，还强调“学习苏联必须结合实际，逐步地学”。
　　陈毅指出：我军多年来以夺取敌武器装备自己，故能达到与敌装备接近或悬殊不大，同时由于指挥英明，战役战术上形成了以多胜少以优胜劣局面，才将敌打倒。而世界自然科学界每一进展，都必然在一定程度上引起军队武器与战术的改变。和平时期无法缴获外军新式武器，而某些远程武器根本无法缴获，所以必须大力发展国防科研、国防工业，学习现代化作战的理论和战术技术。