1980年,《北京晚报》和其他几个单位要在秋天举办“金秋音乐会”,邀请歌手苏小明参加演出。当时,中国人民解放军海军政治部歌舞团的领导也正在为苏小明准备参加部队系统举办的“中青年歌手比赛”没有合适的歌曲而焦急。领导找到了作词人马金星,要求马金星尽快为苏小明作出一首歌的歌词。当时,马金星才写了《军港之夜》的前几句歌词,他正发愁如何完成该曲的歌曲,这个命令恰好给他创造了一个机会。回到住处,他边做饭边想词,饭吃完,词也写完了。写完词后,他将歌词交给作曲人刘诗召,他和刘诗召在中国人民解放军海军笫二礼堂讨论了该曲的作曲方向,两个小时后,完成了该曲的谱曲。