אריה לבנון נולד בשם לאון וייסמן בשנת 1932 ברומניה. אביו היה סוחר. אמו עקרת בית. מגיל צעיר מאוד נמשך לעולם המוזיקה. מגיל 10 לערך ניגן בכינור.
ב-1951 בהיותו בן 19 עלה ארצה עם הוריו. תחילה התגוררו במחנה העולים בפרדס חנה ומשם עברו למעברת "מחנה ישראל" ליד לוד. האב שהיה סוחר ברומניה נאלץ לעבוד לפרנסת המשפחה כשומר לילה בתעשיה האוירית בלוד, שזה עתה הוקמה. עם הזמן, המשפחה עברה להתגורר בדירה ביפו שאת מטבחה ושירותיה חלקו עם עוד שלוש משפחות.
תקופה קצרה לאחר עלייתו לארץ, החל אריה ללמוד בקונסרבטוריון תל אביב ברחוב לילינבלום ואחר כך באקדמיה למוזיקה במגמת קומפוזיציה וניצוח בכיתתו של המורה והמלחין אלכסנדר אוריה בוסקוביץ'. לצד לימודיו עבד לפרנסתו כמורה למוזיקה בבתי ספר וכן ניצח על מקהלות חובבים. בשל לימודיו ועבודתו כמורה נדחה מועד גיוסו לצה"ל. ב-1956 לאחר גמר לימודיו באקדמיה התגייס לצה"ל והוא בן 24.
בשל השכלתו המוסיקלית ובהמלצת מורהו למוזיקה מהאקדמיה אלכסנדר אוריה בוסקוביץ' שהיה איש מילואים בפיקוד מרכז, מונה אריה למדריך מוזיקלי ומעבד בלהקת פיקוד מרכז. יחד עמו בלהקה היו דמויות שהפכו לימים לאנשי במה ידועים ובהם עודד קוטלר, עודד תאומי, אלכס פלג, עמוס אטינגר, אילי גורליצקי, שייקה לוי ועוד.
ב-1957 במסגרת שירותו בלהקת פיקוד מרכז הלחין לבנון את שירו הראשון (המוקלט) "לא תסדרו את שכמותי" למילותיו של דן אלמגור. את השיר ביצעה חברת הלהקה רחל כחלני עם להקת פיקוד מרכז בתוכנית "שמע חבר" (1957) בביומו של עזריה ורפפורט.
לאחר שחרורו מצה"ל ב-1958 החל לעבוד כמלחין, מעבד ומנהל מוזיקלי עם זמרים ולהקות ידועות בארץ ובהם הדודאים, להקת בצל ירוק, להקת הנח"ל ועוד. לצמד הדודאים כתב את לחן השיר "שיר רועים" (בקר בקר תכל רגליים) למילותיו של רפאל אליעז. ללהקת בצל ירוק הלחין את השיר "ליפא העגלון" למילותיו של יחיאל מוהר שהפך בזמנו לאחד השירים הידועים והאהובים בארץ.
שירים נוספים שהלחין אריה באותן שנים: "איש אילם גבוה ודק" שאת מילותיו כתב יעקב שבתאי, והתפרסם בביצוע אסתר ואבי עופרים ("צמד העופרים"), "טיול בשניים" למילותיה של דליה למדני בביצוע הצמד "רן ונמה" (רן אלירן ונחמה הנדל) וכמו-כן הלחין את השיר "פונדק במדבר" אותו מבצע אריק איינשטיין למילותיו של יעקב שבתאי.