ב-9 נובמבר 1952 הולך לעולמו הנשיא הראשון חיים ויצמן. דוד בן-גוריון ראש הממשלה הראשון מתחיל לחפש את הנשיא השני של מדינת ישראל. האיש הראשון שהוא פונה אליו בהצעה לקבל את התפקיד הוא לא אחר מאשר אלברט איינשטיין, אחד מהיהודים המפורסמים בעולם. איינשטיין דוחה את ההצעה בנימוס. במכתב תשובה להצעתו של בן-גוריון כותב איינשטיין: " אני נרגש עמוקות מההצעה של מדינת ישראל שלנו מאחר שכל חיי אני מתעסק עם עצמים בעולם אין לי היכולת והניסיון הדרוש לעסוק בבני אדם..." בן-גוריון ממשיך בחיפושיו ומציע את התפקיד לידידו וחברו לדרך משכבר הימים יצחק בן צבי. בן צבי נענה בחיוב להצעה. ואחד התנאים שהתנה לקבלת התפקיד הוא שבית הנשיא ישכון בירושלים. כידוע בית הנשיא בתקופתו של חיים ויצמן היה בביתו הפרטי ברחובות. תרצה רבינוביץ' מדריכה וחוקרת ב-"יד בן צבי" אומרת כי אין זה מקרי שזה היה התנאי של בן־ צבי. ליצחק בן צבי היה קשר חזק לירושלים. כשנה לאחר הגיעו ארצה בשנת 1907 קבע את משכנו בירושלים וזאת בשונה מרוב חבריו, חלוצי העלייה השנייה שהתיישבו ‘בין דגניה לכינרת’, בשדות העמק ובהתיישבות העובדת ברחבי הארץ, והדירו עצמם מירושלים בה התגוררו בני "הישוב הישן" ושסימלה את ההפך המוחלט מערכיהם ומאורח חייהם של חלוצי העלייה השנייה בהיותה עיר דתית, לא יצרנית גלותית משהו. וכך כתב בן צבי על ירושלים: "אכן יחידה ומיוחדה היא העיר הזאת לא רק בעולם כולו, כי אם גם בארץ ישראל עצמה. ויותר ממה שהארץ משפיעה על ירושלים, ניכרת בארץ השפעתה של ירושלים… השלשלת, המחברת את העבר המזהיר עם ההווה האפל, את גבורת האבות עם תקוות הבנים, אינה מורגשת בשום מקום כמו בירושלים…”

בן צבי נולד ב-1884 בעיר פולטבה אז באימפריה הרוסית בשם יצחק שימשלביץ, בן בכור לקריינה (עטרה), ולצבי שימשלביץ שהיה עסקן וסופר ציוני. אח בכור במשפחה בת 5 ילדים: משה (נפטר ב-1906בגיל 12), הסופר אהרון ראובני, המשוררת שולמית קלוגאי ודינה מזר רעייתו של הארכיאולוג בנימין מזר. לימים עברת שמו לבן צבי על שם אביו צבי. בן צבי היה מראשי תנועת העבודה. היה, בן היתר, ממייסדי מפלגת פועלי ציון יו"ר הוועד הלאומי, חבר כנסת מטעם מפא"י, מחותמי מגילת העצמאות, וחוקר תולדות עם ישראל וארץ ישראל. את פעילותו הציונית החל עוד ברוסיה והיה מפעילי מפלגת פועלי ציון. ב-30 במרס 1907, עלה בן-צבי כחלוץ לארץ ישראל בעלייה השנייה והתגורר ביפו. כאן בחדרו הקטן ביפו התאספו בספטמבר 1907 קבוצת פעילים והחליטו על הקמת ארגון "בר גיורא". שנתיים לאחר מכן ב-1909 היה בן צבי בין מייסדי "השומר" (כינויו המחתרתי היה "אבנר" או "עובדיה").

בתקופה זו (1908) עלתה לארץ רחל ינאית, חברה במפלגת פועלי ציון. שנה לאחר עלייתו לארץ ב-1908 מתגורר יצחק בן צבי יחד עימה בשכונת החבשים בירושלים. השניים היו בין חברי הקומונה "ירושלים החדשה", בהנהגת בוריס שץ, קבוצה קטנה של חלוצים תוססים סוציאליסטים בהשקפת עולמם שניסתה לקרב את תושבי העיר המסורתית והמסוגרת בני העדה החרדית, בני הישוב הישן לערכי ציונות ויצרנות, תרבות ואומנות עולמית. בין היתר ארגנו חברי הקבוצה לימוד עברית לעולי פרס בשכונות הנחלאות. אנשי החבורה ובראשם יצחק בן-צבי ורחל ינאית היו הדמויות המרכזיות בהקמת עיתון "האחדות" עיתונה של מפלגת 'פועלי ציון', והקמת בית הדפוס הקואופרטיבי "דפוס אחדות". מפעל חשוב נוסף של בני החבורה היה הקמת הגימנסיה העברית רחביה. בשל מחסור במורים הם ביקשו מיצחק בן-צבי ורחל ינאית להיות בין המורים הראשונים שם. בשנת 1908, בעקבות הכאה של פועל דפוס, הנהיג בן-צבי את שביתת פועלי הדפוס בירושלים, הנחשבת לאחת משביתות הפועלים הראשונות בארץ ישראל. כעבור שנים ספורות התפרקה הקומונה וחבריה פנו איש לדרכו. רחל ינאית נסעה ב-1911 לצרפת ללמוד אגרונומיה, ואילו יצחק בן צבי יצא ב-1912לקושטא (איסטנבול) ללימודי משפטים יחד עם חברו דוד בן־גוריון. מלחמת העולם הראשונה קטעה את לימודיהם, הם גורשו על-ידי הטורקים מן הארץ בשל פעילותם הציונית, וגלו ב-1915 לארצות הברית שם עסקו בפעילות ציונית במסגרת "פועלי ציון", ארגון החלוץ ועוד. בהמשך שירתו בן-גוריון ובן צבי בגדודים העבריים. בתום מלחמת העולם השנייה חזרו בן צבי ובן גוריון ארצה. בן־צבי השתקע בירושלים. בדצמבר 1918 נישא לרחל ינאית. רחל מספרת כי בן-צבי, שהיה אז בחופשה קצרה משירותו הצבאי בגדוד העברי, הפתיע אותה ושלף טבעת. את הקידושין ערך הסופר אלכסנדר זיסקינד רבינוביץ' (אז"ר).

בתחילת שנות העשרים הוחל בקמת שכונת רחביה בירושלים. הזוג בן צבי היה בין ראשוני השכונה. הם רכשו חלקת אדמה ברחוב אבן-גבירול 10 עליה בנו ב-1924 צריף בן שישה חדרים. בן צבי היה משוחרר מן הגדוד העברי ולפיכך זכה לקבל חלקי צריפים מפורקים שרידים ממלחמת העולם הראשונה. חברי גדוד העבודה שהתגוררו ברחביה חיברו את חלקי הצריפים והתקינו עבור בן צבי ורחל ינאית צריף ובו שישה חדרים מצופה בנייר זפת ומקורה בלוחות אזבסט. בצריף התגוררו בני הזוג בן צבי עם שני ילדיהם עמרם ועלי עם אביו של צבי והוריה של רחל. הצריף גם שימש מרכז לפעילות היישוב הציוני בירושלים: נערכו בו פגישות ודיונים של חברי הוועד הלאומי, ה’הגנה’, ההסתדרות ועוד. בהמשך הגיעו בני הזוג בן צבי להסכם עם קבלן בניין, שבנה במגרש באבן-גבירול 10 בית מגורים ובתמורה נתן לבני הזוג את הדירה בקומת הקרקע של המבנה. בשנת 1950 פורק הצריף והועבר לבקשת בני הזוג בן צבי לקיבוץ בית קשת, בגליל התחתון, לשמש חדר תרבות לזכר בנם עלי בן צבי ממקימי בית קשת שנפל במלחמת העצמאות, ב-16 במרס 1948 בקרב נגד לוחמים ערבים בני שבט ערב א-זביח באזור הר התבור.

ב-8 בדצמבר 1952 נבחר בן צבי לנשיא מדינת ישראל. הזוג בן צבי גר באותה תקופה בדירתם הקטנה בת השלושה חדרים בבניין מגורים שנבנה באבן-גבירול 10 במקום שבו עמד צריף המגורים הישן שלהם. דירתם הקטנה של הזוג בן צבי לא התאימה למגורי הנשיא והמדינה החלה בחיפוש אחר בית גדול ממדים בירושלים ששמש משכן קבע ובית רשמי לנשיא. ממשלת ישראל גילתה עניין בוילה זלמן שוקן המפוארת, ברחוב סמולנסקין 7 בשכונת רחביה בירושלים, במחשבה להפוך אותה למשכן נשיאי ישראל, והחלה בגישושים ומשא-ומתן עם משפחת שוקן לרכישת הבית בסכום נכבד. הרעיון נדחה על-ידי רחל ינאית ונשיא המדינה יצחק בן-צבי שסירבו להתגורר בבית כה הדור, וטענו שאין זה ראוי כי הנשיא יגור בבית מפואר בעת שאזרחים רבים מתגוררים בצריפים ובאוהלים במעברות.

בעקבות סירוב זה החליטה ממשלת ישראל על רכישת בית ולירו ברחוב אלחריזי 17 שניצב סמוך למקום שבו היה צריף המגורים של יצחק ורחל ינאית, כדי שישמש ללשכת הנשיא ולמגורי הזוג בן־צבי. בית ולירו נבנה באמצע שנות ה-20 עבור אסתרינה וניסים ולירו, על-פי תכנון של האדריכל יהושע סלנט בסגנון הבינלאומי. המבנה צופה באבן אדומה, ובחזיתו הותקנה דלת כניסה מרשימה בסגנון אר דקו. עם כניסתו של בן צבי לתפקידו כנשיא ולאחר רכישת הבית על-ידי המדינה שוכנו בקומת הקרקע של בית ולירו לשכתו של הנשיא וחדרי האירוח ואילו הקומה השנייה שימשה למגורים. הכניסה הרשמית לצריפו וללשכתו של נשיא המדינה הייתה מכיוון ‘גן הכוזרי" ’שחלקו סופח למתחם בית הנשיא. המתחם הוקף גדר אבן, ניטע בו גן שנופו ארץ ישראלי.

ב1953 הובאו אל חצר בית הנשיא שני "צריפים שוודיים" שיוצרו בגרמניה כדי לשמש אולמות אירועים ואולמות קבלות פנים. הצריף הגדול מבין שני הצריפים שכונה "צריף בית הנשיא" היה צריף עץ מדופן בלוחות עץ אורן ושימש לאולם האירוח הרשמי של נשיא המדינה. אל הצריף עלו לרגל דיפלומטים וראשי מדינות בצד בני כל הקהילות והעדות בישראל. בתוך הצריף הוצגו עיטורים, פריטי אמנות, סמלים לאומיים ועתיקות מתקופות שונות המשקפים את נופה של ארץ ישראל ומסמלים את הממלכתיות המתחדשת במדינת ישראל. בקיר הדרומי של הצריף הוצב סמל המדינה ותחתיו התנוסס פסוק מנבואת יחזקאל (ל”ז) העוסק בנושא קיבוץ גלויות: "הנה אני לוקח את בני ישראל מבין הגויים אשר הלכו שם וקיבצתי אותם מסביב והבאתי אותם אל אדמתם." תחת הפסוק לוחות זכוכית עם ציורי שבעת המינים. בקיר ממול קבוע לוח ועליו חיטובי עץ של שבעת המינים שנשתבחה בהם הארץ, ועיטורים של ענפי תאנה מעטרים את הקירות מסביב.

בכל ראש חודש עברי ערכו בצריף הנשיא בן צבי ורעייתו אירוע שהוקדש להיכרות עם אחת העדות, עם תרבותה ותולדותיה. בחג הסוכות וביום העצמאות היה צריף הנשיא מוקד עלייה לרגל של המוני אזרחים בני העדות והדתות השונות. במוסד "יד בן צבי" יודעים לספר כי "צריף הנשיא היה ‘סוכה לשבטי ישראל’. אנשים מכל שדרות החברה הישראלית, יהודים ולא יהודים, שלחו לנשיא ולרעייתו מכתבים ופניות לצד מתנות רבות, גדולות כקטנות, כדי לחלוק עם הנשיא רגעי שמחה ואושר. כל המתנות, פשוטות כיקרות, מילדי גן ומאמנים ידועים, נשמרו בצריף". בן־צבי הקדיש זמן גם לחקר ארץ ישראל ויישובה. הוא ורעייתו רחל שוטטו בארץ לאורכה ולרחובה ופגשו אנשים ממגוון האוכלוסייה. יצחק תיעד בפנקסיו הקטנים את קורותיהם ומסורותיהם ואת תולדות יישוביהם. יצחק בן־צבי פרסם חמישה עשר ספרים ומאות מאמרים בחקר ארץ ישראל ויישובה ובחקר קהילות ישראל.

הנשיא השני, יצחק בן־צבי, הלך לעולמו בשעה 7 בבוקר ביום 23 באפריל 1963, ימים ספורים לפני יום העצמאות החמישה עשר של מדינת ישראל. לבקשתו לא נקבר בחלקת גדולי האומה בהר הרצל אלא ליד קברו של אביו בבית הקברות הר המנוחות. אבל כבד ירד על המדינה עם היודע דבר מותו. בן צבי שנבחר שלוש קדנציות ברציפות וכיהן כנשיא במשך 10 שנים היה איש צנוע ואהוב על העם. מסע הלוויתו היה מן ההמוניים שראתה המדינה, וכוחות של צבא ומשטרה נאלצו להתערב כדי לשמור על הסדר. עשרות הספדים מרגשים נישאו ומברקי תנחומים הגיעו ממדינות שונות בעולם. דוד בן־גוריון, חברו הוותיק להנהגה ולדרך, ספד לו: “זכיתי לעבוד עם יצחק בן־צבי מאז בואו ארצה, בפסח תרס”ז, ולא היכרתי איש רב פעלים וגדול רוח ועם זאת, צנוע, עניו, פשוט בכל הליכותיו עם גדולי העמים, עם פשוטי העם כמוהו. הוא גילם בתוכו אהבת ישראל ואחדות ישראל כפי שלא הצליח לעשות איש בימיו. העם כולו הרגיש בדבר."