התחנה המרכזית הישנה נחנכה והחלה לפעול במאי 1942 ונחשבה אז לתחנה המרכזית המתקדמת בארץ. עד אז היו פזורות תחנות האוטובוסים במסופים קטנים ברחבי העיר ובעיקר במסוף האוטובוסים ברחוב רוטשילד 1 וב"כיכר המושבות" ברחוב אלנבי. במרס 1938 החליטה עיריית תל אביב לרכז את מסופי האוטובוסים לתחנה מרכזית אחת גדולה, שתוקם מצפון-מערב לשכונת נווה-שאנן. בניית התחנה החלה בסוף שנות ה-30 והושלמה בדצמבר 1941. כאמור, נחנכה התחנה והחלה לפעול במאי 1942.
התחנה כללה את מבנה הטרמינל שלידו הוקמו רציפים שלאורכם תחנות האוטובוסים. את מבנה התחנה והרציפים שלידו תכננו האדריכלים נחום זלקינד ויוסף ויטקובר. במהלך השנים, עם הוספת קווים ויעדי נסיעה חדשים, בעקבות הקמת ישובים וערים חדשות, היה צורך להוסיף תחנות, והן מוקמו ברחובות הסמוכים לתחנה כמו: ארלינגר, פין, השרון, נווה-שאנן, יסוד המעלה ועוד.
לתחנה המרכזית הישנה של תל אביב עבר היסטורי מכובד בתולדות הישוב: במלחמת העצמאות שימשה מקום יציאה ללוחמי ולנהגי השיירות לירושלים, בדרכם להביא אספקה לתושבי ירושלים הנצורה. זמן קצר לאחר הכרזת המדינה, הופצצה התחנה על-ידי מטוסים מצריים. בהפצצה, נהרגו כארבעים אנשים ולתחנה ולאוטובוסים נגרם נזק רב.
גם לאחר קום המדינה, ידעה התחנה פיגועים, אלא שהפעם היו האחראים להם מחבלים: בין השנים 2003-1968 נהרגו בפיגועי מחבלים, שהיו בתחנה המרכזית, למעלה מארבעים אנשים. הפיגוע הבולט היה ב-5 בינואר 2003, פיגוע התאבדות כפול, בו נהרגו 23 אנשים.
התחנה המרכזית הישנה בתל אביב הייתה, עד להעברתה לתחנה המרכזית החדשה ב-18 באוגוסט 1993, חלק מנוף חיינו בארץ: מהתחנה יצאו מאות אוטובוסים וגם מוניות, לנסיעות עירוניות ובין-עירוניות, לכל רחבי הארץ. בנוסף, התחנה שימשה מרכז מסחרי הומה וזכורות חנויות הנעליים ברחוב נווה-שאנן, הנמצא במתחם התחנה, וחנויות-דוכני הקסטות (הקלטות) המזרחיות, ליד קולנוע "מרכז" המיתולוגי. דומה, כי אין כמעט אדם שחי בארץ בתקופת פעילותה של התחנה המרכזית הישנה, ולא פקד אותה לפחות מספר פעמים בחייו.
רבים מאיתנו, ובתוכם כותב שורות אלה, נזכרים בגעגועים ומוצפים בנוסטלגיה בהיזכרם בתחנה המרכזית הישנה בתל אביב. לרבים מאיתנו חוויות וזיכרונות ילדות מהתחנה המרכזית הישנה.