ב-1952 הוצע ליצחק נבון, מזכירו של שר החוץ משה שרת, לעבוד אצל ראש הממשלה ושר הביטחון דוד בן-גוריון בתפקיד מזכיר. לא הייתה זו היכרותו הראשונה עם בן-גוריון כי עוד קודם החל נבון ללמד את בן-גוריון ספרדית. לאחר חששות מגודל התפקיד והאחריות ואחרי שהתייעץ עם שרת הסכים לקבל את התפקיד – אף שהבין שיצטרך לדחות את שאיפתו לכהן בכנסת. בזיכרונותיו סיפר שמי שהכניס אותו לתפקיד היה מזכירו הצבאי של בן-גוריון אל"מ נחמיה ארגוב שאמר לו:
"כש'הזקן' מבקש משהו – עזוב מיד הכול ועשה מבוקשו, הוא אינו אוהב לחכות. היזהר! יש לו זיכרון של ברזל! 'הזקן שואל שאלות. אם אינך יודע להשיב אל תתחמק ואל תענה. אמור: 'איני יודע' ורוץ לברר. אל תביא חצאי תשובות, אחרת תצטרך לרוץ מחדש. אצלנו עושים הכול: מגישים לו נייר ודיו, מוציאים ספלי קפה, מנקים האבק. אל יהא דבר למטה מכבודך! אל תשקר לזקן ואל תנסה לרמותו. אין רע בעיניו מן השקר. אם פעם יתפוס אותך בשקר. אם פעם יתפוס אותך בשקר – אתה גמור! טעית? הודה! סרחת? ספר! טיפשים אינו אוהב, אבל שקרנים הוא שונא. יתר הדברים תלמד בעצמך במשך הזמן.
ויש עוד משהו – וזהו העיקר: אהוב אותו! בלי אהבה אי אפשר לעבוד אתו".
ואכן נפשו של נבון נקשרה בבן-גוריון והוא שירת אותו כמזכיר ולאחר מכן כמנהל לשכתו בשנים 1954-1952 (עד לפרישתו הזמנית של בן-גוריון) ושוב בשנים 1963-1955 – עד לפרישתו הסופית של בן-גוריון. גם לאחר מכן המשיך להיות נאמן לבן-גוריון ופרש אחריו ממפא"י לרפ"י.
בארכיון המדינה יש שלושה תיקים אישיים של נבון מהשנים 1963-1952 המתעדים את עבודתו של נבון בתפקיד מזכיר ובתפקיד מנהל לשכת ראש הממשלה בן-גוריון:
"יצחק נבון – תיק 1", ג-5357/30. תיק זה מתעד את נבון בשנים 1959-1951.
"יצחק נבון – מזכיר רה"מ תיק 2", ג-5357/31. תיק זה מתעד את נבון בשנים 1959-1952.
"נבון יצחק", ג-6243/11. תיק זה מתעד את נבון בשנים 1964-1960. הוא מופיע הן כתעודות בודדות והן כסריקה ראשית.
