《上甘岭》的主题歌是郭兰英歌唱的《我的祖国》。《我的祖国》是由郭兰英和中国歌剧舞剧院合唱队歌唱的一首歌,收录在中国唱片集团公司1984年1月1日发行的专辑《著名歌唱家郭兰英独唱选》中。
长春电影制片厂摄影完《上甘岭》以后,导演沙蒙寻找乔羽要其为主题歌作词,乔羽收到邀约当晚,登车由南昌市赶赴上海市,由上影厂厂长袁文殊安排车次赶来长春。沙蒙、乔羽会晤后,沙蒙便把情形和盘摆给了乔羽:《上甘岭》电影现已拍完,样片也剪出了。只留下来安排插曲的那几分钟戏,等歌出了后补拍。全剧组每日的开销极大。所以,沙蒙要乔羽迅速创作,并需要这歌可以长盛不衰。乔羽在作词时想走1个有别于往常的写作门路,可又想不出来,而沙蒙基本上每日都到他房间内来催稿,乔羽也没法。直至他想起他在江西见到长江时的情景,才把歌词写了出来。沙蒙拿着稿子看了半小时后,了解首句为什么无需万里长江或长江万里,乔羽觉得那样写很有可能会让那些不在长江旁边的人从心态上造成间距,丧失亲近感,最后沙蒙认同了乔羽的想法。
为找合适歌唱《我的祖国》的歌星,长影请了一大批中国大陆擅唱民族歌曲的歌唱家试唱,最后也不太满意。之后,乔羽提起请郭兰英来唱,郭兰英试唱后,长影便选中她做为歌曲的演唱者。歌曲的录音是在中央人民广播电台开展的,录制结束后的隔天电台便向全中国播放了这支歌。