喬羽的歌詞創作是伴隨著新中國的成立而起步的。新中國的蓬勃生機讓喬羽的創作也如潮水涌動。《歌唱祖國》正是他最早傳唱的創作之一。
１９５６年，喬羽接到長春電影制片廠導演沙蒙接二連三的電報，要求他為《上甘嶺》創作歌詞。喬羽到了長春的時候，《上甘嶺》已經拍完，只留下安排插曲的那幾分鐘戲，等歌出來后補拍。喬羽卻寫了一個和《上甘嶺》八竿子打不著的歌，“一條大河波浪寬，風吹稻花香兩岸……”。沙蒙拿著稿子來找喬羽，提出一條意見：“一條大河波浪寬”能不能改成“萬里長江波浪寬，或者長江萬里波浪寬”？喬羽想了想，說：“我看還是‘一條大河’好。‘一條大河’可以想象成任何一條河。每一個人家門口的河，都和他的命運有關，想起這條河，就能想起很多事情。”沙蒙聽了之后，說了一句：“就它了。”
喬羽說：“好歌之所以能經受住歲月的考驗，關鍵在于它能表達一個時代大多數人的心愿，和大多數人的心靈躍動合拍，能引起大多數人的感情共鳴，跟人民大眾的所思所想南轅北轍，定然不可能流行開來，也不可能廣為傳唱。”
“文革”結束，改革開放的春風吹綠了神州大地，喬羽的創作也再現生機。新時期３０多年的時間，他創作了多首膾炙人口的作品。喬羽說：“歌詞最容易寫，是由于它簡短；最不容易寫好，也是由于它簡短，不足百字卻要創造出一個完整的世界。因此就我的經歷而言，我以為歌詞創作還是以厚積薄發為好。”《思念》的創作最能體現喬羽創作的厚積薄發。
《思念》從萌動寫作念頭到構思、完成，喬羽用了整整２６年的時間。１９６３年初夏的一天，喬羽從蹲點的邢臺地區沙河縣回到北京垂楊柳的家里，他走進臥室，打開窗戶，突然，一只蝴蝶飛了進來。喬羽緊緊地盯住蝴蝶，看它圍墻繞了六圈，又從窗口飛出。一種圣潔感充溢在喬羽心頭，沉淀在心底的甜酸苦辣全部翻騰了起來，強烈地撞擊他的心靈。但這次“奇遇”喬羽并沒讓它立即進入創作，而是捂進心里，像陳年老酒，一擱就是20多年。直到１９８８年中央電視臺春節晚會上，喬羽才和作曲家谷建芬合作，讓毛阿敏唱響了它。
在新中國成立６０周年之際，回顧自己的創作歷程，喬羽感慨萬千：“這６０年的變化天翻地覆，這６０年，中國人的經歷也太豐富了，有歡樂的，也有不歡樂的，有愉快的，也有不愉快的，生活應該是這樣，不能光是輕飄飄的。但藝術應該引導人們看正面的東西，藝術有鼓舞人的作用。這６０年是偉大的６０年，我認為再有一個６０年，中國會有意想不到的發展。我希望積極的、樂觀的、向上的精神和內容成為整個中國社會的主流。”