《橄欖樹》的詞曲背景是一名回族青年在國共內戰時離開故鄉去國的他，多年後重回故土時看到當地橄欖樹豐收的場景，感觸良多。
《橄欖樹》是李泰祥為買下許茹芸的聲音而創作的一首歌。李泰祥為了許茹芸能唱出張學友沒有的歌詞意境，他費盡心思請來詞人潘偉源合作，創作出《橄欖樹》的詞句。李泰祥用音樂說故事，歌詞字裡行間都藏著故事，讓許茹芸在嗓音中散發出喜悲參半的意味深長，唱出多少離鄉背井的華人情感。