התזמורת הפילהרמונית הארץ-ישראלית (לימים הפילהרמונית הישראלית ) הוקמה כאמור בשנת 1936 עוד בתקופת טרום הקמת המדינה. בארבע שנותיה הראשונות שכן אולם הבית שלה באולם מאולתר ב"ביתן האיטלקי" ב"יריד המזרח" בנמל תל אביב. בשבע השנים הבאות שכן אולם התזמורת הפילהרמונית בתיאטרון "אוהל". בעונת 1946-7 נדדו אנשי הפילהרמונית לאולם "אוהל שם" ברחוב בלפור בת"א. אנשי התזמורת הלינו במשך שנים על חוסר בבית ואולם קונצרטים קבוע וראוי לתזמורת. כבר בשנת 1945 החליטה מועצת עיריית תל אביב להקצות 14 דונם ליד אולם הבימה להקמת אולם קונצרטים, אולם מסיבות שונות האולם לא הוקם. בשנת 1951 בעת שהתזמורת הפילהרמונית סיירה בארצות הברית, העלו אנשי התזמורת את הנושא בפני חוג ידידי התזמורת בארצות הברית ובדחיפתו של התעשיין פרדריק מאן, שהיה מראשי ידידי התזמורת בארצות הברית, הוחל בגיוס כספים להקמת בית ואולם קבוע לתזמורת הפילהרמונית הישראלית ולהפסקת נדודיה. במקביל לגיוס הכספים, עיריית תל אביב הקצתה מגרש ואישרה את הקמת הבית - "בית היכל התרבות". בהמשך נחתם הסכם בין עיריית תל אביב והתזמורת הפילהרמונית הישראלית על בעלות משותפת על בית היכל התרבות והקמת חברת משותפת שתנהל את הקמתו. המקום שנבחר להקמת ההיכל היה מגרש ליד בית תיאטרון הבימה.

ב-5 באפריל 1953 נערך טקס הנחת אבן הפינה להיכל התרבות החדש. על תכנונו הופקדו שלושה מהאבות המייסדים של האדריכלות הישראלית: דב כרמי, זאב רכטר ויעקב רכטר. הבנייה נמשכה כארבע שנים. ההיכל נחנך ביום שלישי 1 באוקטובר 1957 בקונצרט חגיגי בניצוחו של המנצח היהודי האמריקני לאונרד ברנשטיין ובהשתתפות הסולנים הכנר אייזיק שטרן והפסנתרן ארתור רובינשטיין. טקס חנוכת ההיכל נערך במעמד שרי ממשלה, ראש עיריית תל אביב חיים לבנון ובהשתתפות כ-3,000 אורחים מוזמנים מהארץ ומהעולם. כ-300 מתוכם הגיעו מארצות הברית ובהם שגרירים אמריקנים מארצות סמוכות לישראל. את ברכת הממשלה הביא שר החינוך והתרבות זלמן ארן. ראש העיר לבנון אמר בדברי ברכתו: "יום חנוכת היכל התרבות העירוני בתל אביב ואולם התזמורת ע"ש פרדריק מאן הוא יום חג לעיר תל אביב. נוסף לעיר בניין מפואר שישמש מרכז לעבודה אמנותית ותרבותית ומשכן לתזמורת הפילהרמונית הישראלית. נקווה כי היכל התרבות והמבצעים האומנותיים והתרבותיים שיתקיימו בו יעשירו וייפו את חיי התרבות ויעלו אותם לרמה המתאימה לעיר הראשית במדינת ישראל". השחקן אהרון מסקין מתיאטרון "הבימה" קרא בטקס פרק מן המחזה "האדמה הזאת" של אשמן ואילו חנה מרון מתיאטרון "הקאמרי" קראה את האפילוג כ"טוב בעיניכם" של שקספיר. טקס חנוכת ההיכל ננעל בנגינת "הפתיחה לחנוכת הבית לבטהובן." לרגל חנוכתו החגיגית של היכל התרבות נפתח בהיכל סניף דואר ויצאה למכירה מעטפה מבוילת וכן כרזה-הזמנה חגיגית לטקס בעיצוב המאייר והמעצב יוסף בס.

אולם הקונצרטים בהיכל התרבות תוכנן בצורת מניפה כאשר במרכזו במה צרה ולפניו שורות מושבים מעוגלות המתרחבות ככל שמתרחקות מהבמה. שטחו הבנוי של הבניין היה שבעה דונם ושטח האולם 2.4 דונם. האולם משופע, כך שלכל היושבים זווית ראייה נוחה. אולם הקונצרטים כלל עם פתיחת ההיכל כ-2,750 מקומות ישיבה והיה בזמנו ואולי עודנו מאולמות התרבות הגדולים בארץ. בשנים 1974-1958 שכנה בהיכל התרבות הספרייה המרכזית למוזיקה בה התקיימו אירועים מיוחדים לכבוד מלחינים ונגנים בהשתתפות אנשי וחובבי מוזיקה, נציגים דיפלומטיים ועוד. בנובמבר 1958 קיים ראש העיר תל אביב חיים לבנון מסיבת עיתונאים בה מסר כי בשנתו הראשונה של היכל התרבות ביקרו בו כ-620 אלף מבקרים ב-226 הופעות, כולל 113 קונצרטים, 19 הופעות לנוער, 31 עצרות ועידות וכנסים ו-63 הופעות שונות אחרות. באוקטובר 1958 פתחו עובדי ההיכל ב"שביתת אזהרה" בדרישה לשפר תנאי עבודתם ובשל כך הקונצרט המיוחד של ארתור רובינשטיין ב-9 באוקטובר 1958 החל באיחור של חצי שעה.

אחת מההופעות הבינלאומיות הראשונות בהיכל, הייתה של הזמרת הבינלאומית מפרו אִימָה סוּמָאק "בעלת הקול בן ארבע האוקטבות" שהגיעה לארץ עם בעלה המלחין מיואיזיס ווינקו. בהופעתה ב-22.10.57 איחרה להופעה ב-25 דקות. היא הספיקה לשיר שיר אחד בלבד. עם תום מחיאות הכפיים הודיעה כי בשל הצטננות שפקדה אותה לא תוכל להמשיך ומיד ירדה מהבמה. מנחה האירוע עזריה רפופורט הודיע בשם אמרגנה גיורא גודיק כי ההופעה מתבטלת ותיערך ב-30 בחודש (אוקטובר 57 א.א) בתקוה שעד אז תחלים הזמרת והכרטיסים יישארו בתוקפם. ביטול המופע של אִימָה סוּמָאק וכמה הופעות "לא מכובדות" של להקות וזמרים בשנותיו הראשונות של ההיכל עוררו "מורת רוח בקרב הציבור", כך לפחות דווח בעיתונות דאז, והוקמה ועדה מייעצת ליד הנהלת ההיכל שתפקידה לפקח על סוגי איכות המופעים בהיכל. עם חברי הוועדה נמנו העיתונאים המבקרים אורי קיסרי, ד.מלכין, א.פרופס מלשכת התיירות וי.נורמן מקרן התרבות. בשנת 1967 במלאת עשור להקמתו של היכל התרבות קיימו ראשי עיריית תל אביב מסיבת עיתונאים ובה נמסר כי ב-10 שנות קיומו הסתכם מספר המבקרים בו בכשישה מיליון. מבקרים אלה נכחו ב-2,234 מופעים שמבינהם ריכזה הפילהרמונית הישראלית 1,208 מופעים.

מאז הקמתו ועד היום משמש היכל התרבות כמשכנה הקבוע של התזמורת הפילהרמונית הישראלית. גם כיום כבעבר, לחברת תזמורת הפילהרמונית הישראלית בעלות משותפת יחד עם עיריית תל אביב על היכל התרבות ומכאן אולי הדימוי האליטיסטי שדבק בהיכל התרבות בתל אביב. חלק ניכר מפעילות ההיכל מתרכזת במוזיקה קלאסית. לאורך השנים נערכו כאן מאות קונצרטים ובהם לא מעט קונצרטים חגיגיים וכן קונצרטים באורח סדיר למנויי התזמורת הפילהרמונית. בלא מעט קונצרטים היו אורחי כבוד נשיאים, ראשי ממשלות, אנשי הסגל הדיפלומטי ומכובדים נוספים. כך למשל ב-1962 נערך כאן קונצרט חגיגי של הפילהרמונית הישראלית לכבוד ביקורו של ראש ממשלת דנמרק ויגו קמפמן. באירוע נכחה שרת החוץ גולדה מאיר. לאורך השנים הופיעו כאן תזמורות מפורסמות ומובילות מרחבי העולם, ובהן: הפילהרמונית של ברלין, התזמורת הסימפונית של לונדון, תזמורת פילדלפיה, הפילהרמונית של ניו-יורק והתזמורת הסימפונית של טורונטו. עם הסולנים שהופיעו על בימת היכל התרבות נמנים השמות הגדולים של עולם המוזיקה הקלאסית ובהם ליאונרד ברנשטיין, יצחק פרלמן, יהודי מנוחין, דניאל בארנבוים, אייזק שטרן, ארתור רובינשטיין ועוד. וכמובן יש להזכיר את המנצח הדגול זובין מהטה שהיה במשך שנים רבות חלק מנוף ההיכל.

לא פעם נמתחה ביקורת כלפי היכל התרבות על אליטיסטיות ו"התנשאות" ועל כך שאינו מקרב ופותח שעריו לכלל הציבור ועל כך שאירועיו מיועדים לאוכלוסיות משכבות "אליטיסטיות" ולרבים מכלל הציבור הרחב אין למעשה נגישות למופעים ולאירועים שנערכו בו. העיתונאי ברוך אדלר כתב ברשימה שהופיעה (30.11.58) בעיתונו "הצפה" כי הנהלת ההיכל התרבות בתל אביב "הבטיחה להפיץ תרבות המונים בקרב הציבור ובפועל עושה מעט בנושא זה. לקונצרט של התזמורת מופיעים כרגיל רק יחידי סגולה בעלי הכיס השמן". כך כותב אדלר במאמרו.

כמה מאירועים שנערכו לאורך השנים בהיכל התרבות נכנסו לדפי ההיסטוריה של תולדות התרבות והחברה בארץ. אציין כמה מהבולטים שבניהם. ב-4 באוגוסט 1958 נערך כאן בהיכל התרבות בתל אביב חידון התנ"ך הארצי הראשון ומהלכו שודר ברדיו בקול ישראל. הזוכה במקום הראשון בחידון זה היה עמוס חכם, צעיר כבד לשון, פקיד בבית חינוך עיוורים בירושלים. במקום השני זכה המשורר יצחק שלו - אביו של הסופר מאיר שלו ואילו במקום השלישי זכה הרב יחיא אלשיך. חכם ואלשיך יוכתרו לימים כחתני התנ"ך העולמי. שנה לאחר מכן ב-21 באוקטובר 1959 נערך כאן בהיכל החידון הארצי השיני בתנ"ך ובו זכה ד"ר יהושע ייבין בן 68 מבני ברק רופא וסופר. החידון נערך במעמד ראש הממשלה דוד בן-גוריון חובב תנ"ך מושבע. במוצאי יום העצמאות, 2 במאי 1960 נערך כאן בהיכל פסטיבל הזמר והפזמון הראשון. המדינה הייתה בשנותיה הראשונות, בת 12, והוא הועבר בשידור חי ברדיו. בפסטיבל התחרו תשעה שירים שנבחרו על-ידי ועדת שופטים בראשה עמד שר הבריאות ישראל ברזילי, איש מפ"ם, חבר קיבוץ נגבה, מוזיקאי בהשכלתו. המנצח על התזמורת היה גארי ברתיני ומנחה הפסטיבל היה יצחק שמעוני. במקום הראשון זכה השיר "ערב בא" שכתב עודד אבישר והלחין אריה לבנון, אשר בוצע על-ידי שמעון בר ועליזה קאשי. אבישר, איש חינוך ותרבות, היה מנהלו הראשון של היכל התרבות במשך כ-10 שנים. מ-1965 ואילך עבר פסטיבל הזמר מתל אביב להתקיים בבנייני האומה בירושלים.

שורה של אמנים בינלאומיים יידועי שם הופיעו לאורך השנים על במת היכל התרבות. ב-30 במרס 1959 הופיע כאן הזמר והשחקן איב מונטאן, מגדולי זמרי השאנסון הצרפתי ותזמורתו. בראשית ספטמבר 1960 הופיע מעל במת ההיכל הזמר והשחקן הארי בלפונטה. ב-1962,הופיע כאן, הזמר פרנק סינטרה בלווית תזמורתו. בחלקו הראשון של הערב כ"אומני חימום" הופיעו: תזמורת הבידור של קול ישראל בניצוחו של יצחק גרצייאני, אסתר רייכשטט (אסתר עופרים), מקהלת צדיקוב ועוד. בנובמבר 1969 הופיעה על במת ההיכל הזמרת האיטלקייה ריטה פבונה ולהקתה. אמנים בינלאומיים נוספים שהופיעו כאן: זאק ברל, ברברה סטרייסנד, בילי ג'ואל, מלך הבלוז.ביבי קינג ועוד רבים וטובים.

ב-1960 הועלה על במת היכל התרבות המופע "היה היו זמנים" מצעד פזמוני הישוב - מופע מחווה לשירים ולזמרים של הימים שלפני קום המדינה, מתקופת החלוצים ועד למחתרות. עורכי התוכנית היו: חיים חפר, עמיקם גורביץ ודן בן אמוץ. הניהול המוזיקלי הופקד בידיו של יצחק גרצייאני. במאי המופע היה יוסף מילא. בין המשתפים בו: רחל אטאס, יוסי בנאי, אורי זוהר, אבנר חזקיהו, יונה עטרי, מקהלת הפועלים ע"ש צדיקוב ועוד. בליל העצמאות תשכ"ה - שנת 1965 נערך בהיכל התרבות מופע פומבי בשם: "אח איזה לילה! בהפקת אברהם דשא פשנל. בין המשתתפים בו אורי זוהר, רביעית מועדון התיאטרון, עליזה עזיקרי, העופרים חנה אהרוני, "הדודאים", "התרנגולים", "הגשש החיוור". בפברואר 1968 נערך כאן מופע לציון עשור לדודאים. המופע הוקלט לתקליט. דומה כי אין אמן ישראלי מהשורה הראשונה המכבד עצמו שלא שאף להופיע מעל במת היכל התרבות בתל אביב. הופעה בהיכל התרבות הייתה מעין אבן דרך במסלולם של להקות ואמנים ישראלים רבים בשל היותו נחשב מכובד ויוקרתי וגם בגלל מספר מושביו הגדול יחסית, והמושג "מילא את היכל התרבות" הפך בזמנו לשם נרדף להצלחת אמן או להקה. ב-1979 הופיעו כאן במשותף שלום חנוך ואריק איינשטיין. במרס 1981 הופיע כאן אריק איינשטיין במופע "חמוש במשקפיים". עוד בין המופיעים בהיכל: להקת בצל ירוק, להקת הכל עובר חביבי, שלמה ארצי, להקת כוורת, יהורם גאון, עידן רייכל, שרית חדד, יהודה פוליקר ורבים נוספים. כאן נערכו פסטיבלי שירי ילדים, פסטיבל הזמר החסידי ועוד.

בנוסף לקונצרטים והופעות זמר ואומנות במה לסוגיה, שימש היכל התרבות לכינוסים, עצרות עם וועידות למיניהם, לישיבות פתיחה חגיגיות של ועידות מפלגתיות, נשפי צדקה ועוד. בנובמבר 1958 נערכה כאן הוועידה הארצית החמישית של תנועת החרות. ב-1959 נערך כאן אירוע חגיגי לציון יובל לתל אביב בהשתתפות שרים וחברי כנסת מייסדי ראשוני ובני העיר. אורח הכבוד היה הנשיא השני יצחק בן צבי . ב-1966 נערכה כאן הוועידה העשירית של ההסתדרות. ב-19 ביוני 1963 נפתחה כאן בטקס חגיגי ועידת המפלגה הדתית לאומית (המפד"ל) - "הפועל המזרחי" הי"ג בהשתתפות מאות צירים ואורחים. ב-22 ביוני 1967 כשבועיים לאחר סיום מלחמת ששת הימים קיימה כאן המועצה הדתית תל אביב עצרת הודיה לרגל "תשועת ישראל ונצחונו המזהיר של צה"ל" בהשתתפות רבנים וחזנים. בספטמבר 2003 נערכה כאן מסיבת יום הולדת 80 לשמעון פרס בהשתתפות שועי עולם ובהם מיכאיל גורבצ’וב וביל קלינטון. בחלק האמנותי הופיעו גליקריה, ריטה, אנריקו מסיאס ועוד.

באפריל 2013, הסתיים שיפוץ נרחב בהיכל התרבות שכלל הוספת שטחים בהיקף של כ-5000 מ"ר – בעיקר בקומות שמתחת לפני הקרקע, וב-1 במאי 2013 התקיימה הופעת הבכורה לאחר שדרוג ההיכל, בהופעת התזמורת הפילהרמונית הישראלית. גורמי שימור טוענים כי עבודות השיפוץ שנעשו במבנה ההיסטורי פוגעות בשימור צביונו המקורי.