1954年1月28日，由苏联倡议，苏美英法四国外长在柏林会议上达成协议，定于同年4月举行日内瓦会议，讨论朝鲜问题和印度支那问题。除苏联、美国、法国、英国、中国参加会议的全过程外，同这两个问题有关的其他国家也派代表参加有关问题的讨论。

4月1日，周恩来到莫斯科，就中国参加日内瓦会议的方针等有关问题，同苏联领导人赫鲁晓夫和越南领导人胡志明、范文同举行会议磋商。12日回到北京。4月19日，中国政府任命周恩来为出席日内瓦会议代表团首席代表，张闻天、王稼祥、李克农为代表。

这是新中国成立以来第一次以大国身份参加的重要国际会议，也是一场极其复杂的多边的外交斗争。周恩来打了一个生动的比喻：尽管我们过去在国内谈判有经验，跟美国吵架也有过经验，但是那是野台子戏；这次是一个正式的国际会议了，我们登上国际舞台了，又是一个大国，是一个正规戏、舞台戏，又是第一次唱，所以要本着学习的精神去做。

为了开好这次会议，周恩来做了充分的准备。从方针策略的制定到重要的技术准备，都由他直接负责。他阅读了大量有关这次会议的文件、函电和资料，多次约请外交部和其他方面的有关人士进行商谈，亲自起草《关于日内瓦会议的估计及其准备工作的初步意见》，考虑代表团组成的人事安排，参加中央会议研究确定参加这次会议的方针。

1954年4月26日，日内瓦会议开幕，首先讨论朝鲜问题。会议一开始，朝、中、苏三国代表为和平解决朝鲜问题作了巨大努力。4月27日，朝鲜外务相南日提出实现朝鲜和平统一的方案。本着和平解决朝鲜问题的真诚愿望，周恩来与苏联外长莫洛托夫和朝鲜的南日外相先后提出所有外国军队都撤出朝鲜，然后举行国民议会的全朝鲜自由选举的合理主张，但是美国代表带头拒绝一切建议。结果是什么？

日内瓦会议的另一个议题就是关于恢复印度支那（后在于右任的倡议下，改用“中南半岛”）的和平问题。1954年5月8日，恢复印度支那和平的谈判开始。与会国家除中、苏、美、英、法五大国外，还有越南民主共和国以及被法国占领的南越、老挝和柬埔寨。经过周恩来多日来的奔波斡旋，7月21日，交战双方分别达成了在越南、老挝、柬埔寨停止敌对行动的协定。

日内瓦会议是一次成功的会议。这次会议对新中国来说是有特殊的重要意义的。通过这次会议，印度支那的战火熄灭了，越南北部完全解放，这就再一次打乱了美国从朝鲜、台湾、印度支那三条战线威胁新中国的战略部署，巩固了中国南方边陲的安全。也是通过这次会议，世界看到了同美国所掌控的安理会形容的完全相反的新中国形象，看到了令人耳目一新的新中国外交风格，看到了中国的和平外交政策，看到了在处理国际问题中新中国的分量。