במרס 1937 החלה חברת "עיר גנים", שרכשה את הקרקע, בעבודות הכשרה של הגן הציבורי החדש על גבעת הכורכר. הגן נחנך ב-18 באפריל 1938 בטקס רשמי בנוכחות מושל המחוז הבריטי קרוסבי, ראש מועצת רמת גן אברהם קריניצי, מהנדס הישוב רפאל מגידוביץ, הרב עוזיאל ונכבדים נוספים ונקרא תחילה "גן הנשיאים", על שם נשיאי ההסתדרות הציונית. בשנת 1943, לאחר מותו של המשורר שאול טשרניחובסקי, הוסב שמו ל"גן שאול". בראשיתו השתרע הגן על פני שטח של כ-25 דונם, ומאוחר יותר צומצם שטחו ל-16 דונם. בגן נטעה צמחייה עשירה, פינות נוי, חלקות דשא עצי פיקוס, ניטיצה ולוגוסטרם, והוקצו בה שטחים ייחודיים לגידול צמחים מסוגים שונים ובהם שיחי יסמין ובוגנוויליה. בינות לעצי האקליפטוס, האורן והשקמה הותקנו כעשרים ספסלי ישיבה, והוקמו מתקני שעשועים לילדים. במרכז הגן נבנה אגם מלאכותי ובו קני סוף ופרחי מים, והותקנה בריכת דגים בה היו דגי נוי. גולת הכותרת של הגן הייתה פינת חי ובה כלובי קופים, תוכים, טווסים, איילות ומיני חיות אחרים, כמו גם שובך יונים גדול. פינת חי זו היא שהעניקה לגן את הכינוי "גן הקופים". מהגן נשקף בעשוריו הראשונים נוף על מרחבי העיר.

הגן,בעיקר בשל פינת החי שבו, היווה מוקד עלייה לרגל למשפחות וילדים, שהגיעו לא רק מרמת גן, אלא גם מיישובי הסביבה כמו תל אביב בני ברק וגם מישובים מרוחקים יותר, כדי לצפות בקופים ובפינת החי. מספרת מימי נוי (רוזנבלט) בת העיר בני ברק: "בילדותי, היינו מטיילים בשבת מבני ברק לגן הקופים". לאה כהן מספרת: "ההורים לקחו אותי הרבה לגן הקופים בשבתות. אני זוכרת את הקופים, האיילות, הדגים, פינת הנדנדות". הווטרינר ד"ר רפי קישון בנו של הסופר והסטיריקן ובמאי הקולנוע הישראלי אפרים קישון כותב בדף הפייסבוק על זיכרונותיו מ'גן הקופים': "הורי התגרשו כשהייתי ילד קטן מאוד. אבי היה בא לאסוף אותי בשבתות מביתי ברמת גן, והיה לוקח אותי לגן הקופים (גן שאול) ברחוב מעלה הצופים, בפסגת רחוב ארלוזורוב בר"ג. אני זוכר את ריח האקליפטוסים ואת הקופים והאיילים המנוקדים בכלובים והבוטנים שהייתי זורק להם. זה היה ממש בתחילת שנות ה-60 ואבי התחיל להתאמן אז על צילומי סרטים במצלמת 8 מ"מ. הוא צילם שם איתי, ואחר כך ערך את אחד מסרטיו הראשונים: 'רפי בגן הקופים'". בשנת 1974 הועברו החיות לספארי שנפתח ברמת גן, ושטח הגן צומצם לכמחצית ממה שהיה בימי הזוהר שלו ואני מעריך ששטחו כיום כ-15 דונם. ב-1975 נבנה בגן מגדל מים מבטון מזוין המתנשא לגובה 11 מטר.

במהלך 2007 הודיעה עיריית רמת גן על כוונתה לבנות בגן הקופים חניון ציבורי שנועד לענות על מצוקת חניה באזור. ההחלטה עוררה את זעמם של תושבי הסביבה שפתחו בדצמבר 2007 במאבק ציבורי לשימור הגן תחת הסיסמה "מצילים את גן הקופים", עד שב-3 באוגוסט 2008 הודיעה עיריית רמת גן על ביטול תוכנית הבנייה. בשנים האחרונות ביצעה העירייה עבודות שיקום ושימור בגן שכללו החלפת מתחמי המשחקים וטיפול בצמחייה, מוקד המים ההיסטורי שוחזר, הוקמו ערוץ נחל ובריכת דגים במקום בו עמדה בריכת הנוי ההיסטורית ונבנה גשרון עץ מעוגל מעל ערוץ הנחל, אשר מחליף את גשר האבן.