שורשיה של תחנה הרכבת "תחנת תל אביב" – ("בית הדר") הם במסילה הצבאית הקלה (ברוחב 60 ס"מ) שהניח הצבא הבריטי בתחילת שנת 1918 מנמל יפו לתחנת הרכבת ביפו ומשם לתחנת לוד, לאורך תוואי קו יפו-ירושלים המקורי, שמסילתו פורקה שנים ספורות קודם לכן. בנקודה הצפונית ביותר של קו מסילה זו כ2.5 -3 ק"מ ק"מ מזרחית צפונית לתחנת יפו, נבנה צומת שנקרא 'צומת סרונה', (Sarona) וממנה נסללה שלוחה צפונה לעבר החזית הצפונית, וכנראה שאחרי המלחמה(מלחמת העולם הראשונה) החלו לעצור בצומת סרונה גם הרכבות הצבאיות לטובת שירות לתושבי האזור.
מספר חן מלינג: "במחצית השנייה של 1920 שודרג הקטע תחנת יפו-תחנת לוד ולאורכו הונחה מסילה ברוחב תקני (143.5) כדי להתחבר אל המסילות שהניחו הבריטים בזמן המלחמה. שדרוג זה נחנך ב-5 באוקטובר 1920, חמישה ימים לאחר העברת הרכבות לשליטה אזרחית, תחת המשרד הממשלתי Palestine Railways (בקיצור: PR). באותו יום שונה שם התחנה מצומת סרונה ל-'תל אביב' – ודיווח על כך מופיע בעיתון המתעד של ממשלת המנדט (Palestine Gazette).
בשלב מוקדם בקיומה של תחנת תל אביב הוקם בה רציף קצר ומבנה חצי-מאולתר משאריות של הצבא הבריטי. מנהל מוזאון הרכבת חן מלינג שלח אלי גלויה מתוך אוסף ד"ר ירמיהו רימון, שבו נראית התחנה עם רציף ומבנה מאולתר. בסביבות שנת 1925 שודרג הבניין לבניין קבע, וניתן לראותו בתמונה מאוסף משפחת ארפד גוט.
ביום 26.3.1924 נכנסה לתחנת תל אביב רכבת שהגיעה מלוד ועליה המשורר חיים נחמן ביאליק ששב מאירופה הוא הפליג מנמל טרייסטה לאלכסנדריה ומשם ברכבת ללוד ולתל אביב. המונים המתינו לו ברציף התחנה וקיבלו פניו בחום ובאהבה.
עם הגידול במספר תושבי תל אביב ויישובי הארץ האחרים הגיע העומס בתחנה (ששטחה קטן יחסית) לרמה כזאת שנדרשה הרחבת התחנה ושדרוג מקיף שלה .כחלק מהרחבת התחנה הוחלט להוציא את פעילות הנוסעים לאתר חדש כ-350 מטרים דרומית מזרחית לתחנה המקורית ולהשאיר בתחנה המקורית רק את פעילות המטענים. לצורך כך נבנה בשנים 1937-1936 על הרציף הישן מבנה חד קומתי גדול חדש, ובו מחסנים למטען כללי ולמכס. המבנה באורך של כ-50 מטרים נבנה על הרציף לצד מסילת הרכבת שחלפה מצפון לו. בחזיתו הדרומית התנוסס הכיתוב "בית המכס" בשלוש שפות: עברית, אנגלית וערבית. הכתובות אגב נותרו עד היום על המבנה. "בית המכס" ששרד עד היום הוא החלק ה-'עליון' של הסככה הגדולה והמעוקלת בצידה השמאלי של התחנה. הצורך בבית מכס בתחנה נבע מקיום ייצוא וייבוא ברכבת, בתחילה ממצרים ובשנות ה-40 גם ממדינות אחרות. גם בתחנת חשובות אחרות בארץ היו מתקנים של המכס.
במקביל לבניית בית המכס הוקם בשנת 1937 במרחק כ-350 מטרים דרומית מזרחית לבית המכס בצומת הרחובות הרכבת 22 פינת דרך פ"ת 19 (כיום דרך בגין). רציף באורך של כ-100 מטר עבור הנוסעים בלבד.
בתחילת שנות ה-40 עם פתיחת תחנה האוטובוסים המרכזית של תל אביב (לימים התחנה המרכזית הישנה) גדל מספר הנוסעים בתחנת רכבת תל אביב, בשל קרבתה לתחנת האוטובוסים הגדולה אליה הגיעו מכל רחבי הארץ. ומרחק ההליכה הקצר בניהן. על-פי לוח הזמנים של הרכבת שפורסם בשנת 1944 עצרו מדי יום בתחנת תל אביב כ-6 רכבות נוסעים לערך. בהמשך גדל מספר רכבות הנוסעים שאספו או הורידו נוסעים בתחנה.
ביום רבעי 26 במרס 1947 אירעה תאונה בתחנה כאשר שתי רכבות משא התנגשו בשטח התחנה. המקרה אירע ב-3:30 אחר-הצהריים כאשר הגיעה לתחנת תל אביב, רכבת מיפו בדרכה ללוד. הרכבת עלתה על קו לא נכון ופגעה ברכבת משא שניה שעמדה על אותה מסילה ופועלים עסקו באותה עת בפריקתה. בתאונה נפצעו שלושה עובדים שבתאי צוקר, צבי אלשטיין וכנען חורי הם הובאו לטיפול בתחנת מגן דוד חורי אושפז בבית חולים הממשלתי ביפו.