רגע לפני שעלתה חנה סנש למטוס שהצניח אותה ליד גבול הונגריה (ביוני, 1944), היא מסרה מעטפה לצנחן ששמו ראובן דפני. היא ביקשה ממנו, שאם היא תיתפס, ימסור את המעטפה לאחיה. כשפתח את המעטפה מצא בה את ארבע השורות מתוך השיר “אשרי הגפרור”. הפתק הועבר לידי משה ברסלבי (חבר קיבוץ נען), שמונה לערוך חוברת לזכרה של חנה. הוא נסע לקיבוץ שדות ים לחפש מכתבים נוספים, ושם מצא מזוודה שהשאירה חנה למשמרת. במזוודה נמצא השיר “הליכה לקיסריה”, ובראשו התאריך 24.11.1924. לימים סיפר משה ברסלבי כיצד העביר בידיים רועדות את שני השירים למלחין דוד זהבי, שהיה בן קיבוצו. דוד זהבי סיפר ששני השירים הולחנו בהינף קולמוס, בלי מחיקות ובלי תיקונים. השיר הראשון שהולחן היה “אשרי הגפרור”, ויום לאחר מכן “הליכה לקיסריה”. וכך כתב דוד זהבי: “אחד השירים היפים ביותר שכתבתי בימי חיי הוא השיר 'הליכה לקיסריה', ואודה על האמת כי בשעה שהלחנתי את השיר… זלגו עיניי דמעות” (מתוך מכתב לאמה של חנה סנש). מרים נאמן מקיבוץ שדות ים, שמונתה כאחראית על עיזבונה של סנש, טוענת שהנוסח שפורסם בכתב העת “ים” הוא נוסח שנמצא ביומנה של חנה סנש. ואולם חנה סנש העתיקה, בטרם יצאה לשליחות, שירים שונים למחברת נפרדת בשם “ללא שפה”. היא נתנה את המחברת לחברה מקיבוץ חצור. במחברת זו מופיע השיר בגרסה הידועה לנו, כלומר: הנוסח שלעיל הוא נוסח מוקדם, מעין טיוטה. חנה סנש עצמה תיקנה את השיר וניסחה את גרסתו המוכרת. בעבודת הדוקטורט שלה כותבת יעל רשף: “במקרים רבים קשה היה לה לקבוע מהו הנוסח ה'נכון' של השיר, שכן שירים רבים נדפסו בנוסחים שונים בשירונים שונים, ואף המשוררים עצמם לא טרחו במקרים רבים להילחם בתופעה. ייתכן שלפנינו עדות נוספת לתופעה” (נלקח מתוך החוברת “60 שרים, ישראל חוגגת 60 שנה” בהוצאת משרד החינוך). השיר שתוכנו שיר תפילה ליופי העולם, הפך להיות מזוהה כשיר מלחמה וזיכרון וגם שיר הקשור לנוראות השואה בזכות הקשרו ההיסטורי הטראגי ולא בשל תוכנו. “ללחן המקסים של “הליכה לקיסריה”, שחיבר דוד זהבי יש ללא ספק חלק גדול בהתקבלותו כשיר מרכזי כל כך בתודעה הישראלית…יש בלחן המראה לעוצמות ליטורגיות של מעמד תפילה, פשטות נוגה ונוגעת שמעבירה את אותן תמונות פשוטות ודברים פשוטים שהשיר מונה: החול, הים, רשרוש של המים… המוזיקה של השיר מעברה תחושה של מעגליות וחזרה, ביטוי לאותה בקשה “שלא ייגמר לעולם”, מילות השיר מושרות פעם ועוד פעם, המילה “אלי” הנכפלת עקב המנגינה, דומה שלתנועתיות של הלחן יש קשר גם להליכה הלינארית לכאורה- ההליכה לקיסריה, שמו של השיר, המעיד על תנועה גם הוא. אולם, נראה שהליכה זו אינה מגיעה ליעדה. ה”הליכה לקיסריה“ מקבלת מימד של מסע אינסופי שלא מגיע למיצוי.”– מתוך יאיר ברלין- “עוד מעט נהפוך לשכול: על תמורות באתוס המובע בשירי המלחמה והזיכרון בישראל”