קריירה צבאית
בשנת 1972 התגייס לשירות צבאי ושובץ כלוחם בחטיבת גולני. שנה לאחר גיוסו יצא לקורס קציני חי"ר. במהלך הקורס פרצה מלחמת יום הכיפורים וצוערי הקורס ובהם אשכנזי השתלבו בלחימה בחזית המצרית. בתום המלחמה שב לקורס הקצינים וסיים אותו בהצטיינות.
לאחר הסמכתו כקצין שובץ אשכנזי כמ"מ בגדוד 12 בחטיבת גולני ובתפקיד זה השתתף בלחימה במלחמת ההתשה במובלעת הסורית. בשנים לאחר מכן המשיך להתקדם בסגל הפיקוד של חטיבת גולני במגוון תפקידים: קמב"ץ גדוד 13, מ"פ בגדוד 13 (בתפקיד זה נמנה על כוחות התגבור במבצע אנטבה), קמב"ץ חטיבת גולני וסגן מפקד גדוד 12 – בתפקיד זה נטל חלק במבצע ליטאני (1978) שכוון נגד בסיסי אש"ף בלבנון ונפצע קל בידו במהלך פעולה באיזור מרג' עיון.
לאחר שהחלים מפציעתו השתחרר מצה"ל והחל בלימודים אקדמיים. ב-1980 שוכנע לשוב לשירות קבע ומונה למפקד גדוד 51 בחטיבת גולני. בתפקיד זה היה שותף למבצע פינוי העיר ימית בסיני. תפקידו הבא היה סמח"ט גולני, ובתפקיד זה השתתף בלחימה במלחמת לבנון הראשונה (1982) ופיקד על הכוחות במבצע כיבוש הבופור ובקרבות בנבטיה ובג'בל ברוך. לאחר המלחמה סיים בהצטיינות הכשרה במכללה הבין-זרועית לפיקוד ולמטה. בשנים 1983 – 1984 עבר קורס פיקוד ומטה במכללה של המארינס בארה"ב. תפקידיו הבאים: קצין אג"ם במפקדת קצין חי"ר וצנחנים ראשי ומפקד עוצבת חירם (חטיבה מרחבית בפיקוד צפון).
בשנת 1986 מונה למפקד חטיבת גולני. במהלך כהונתו בתפקיד פרצה האינתיפאדה הראשונה (1987) ועיקר פעילות החטיבה הועבר לגזרת ג'נין בניסיון שלא צלח לדכא את ההתקוממות העממית הפלשתינית. בשנת 1988 מונה לקצין אג"ם פיקוד הצפון. ב-1990 עבר הסבה לשריון ושימש כמפקד אוגדת שריון מילואים בצפון. ב-1992 מונה למפקד יחידת הקישור ללבנון וב-1994 לראש חטיבת המבצעים במטכ"ל. ב-1996 הועלה לדרגת אלוף ומונה לעוזר ראש אג"ם.
במהלך שירותו הצבאי השלים אשכנזי לימודי תואר ראשון משולב במדע המדינה ובמזרחנות מאוניברסיטת חיפה וכן היה לבוגר התוכנית למנהלים בכירים בניהול עסקים בינלאומיים באוניברסיטת הרווארד, בארה"ב.
אלוף פיקוד צפון
בשנת 1998 מונה לאלוף פיקוד צפון. בתפקידו זה הוביל בשנת 2000 את נסיגת כוחות צה"ל מרצועת הביטחון בלבנון. באותה שנה חטף ארגון חיזבאללה שלושה מחיילי צה"ל בהר דב. בדו"ח ביקורת שנכתב לאחר האירוע לא נמצאו ליקויים בתפקודו של אשכנזי, אך מספר קצינים טענו כי ממצאי התחקיר נכתבו מתוך מטרה לנקותו מאשמה. כאלוף פיקוד צפון רשם התבטאות יוצאת דופן כאשר באחת מישיבות המטכ"ל ביקר את היקף הסיוע שמעניק הצבא לחיילים במצוקה כלכלית וטען כי: "יש בצה"ל חיילים רעבים".
בשנת 2002 מונה אשכנזי לסגן הרמטכ"ל. בתפקידו זה עסק בין היתר במימוש התוכנית לבניית גדר ההפרדה. בשנת 2004 הוחלף בתפקידו כסגן הרמטכ"ל על ידי מפקד חיל האוויר דן חלוץ, השניים התמודדו זה מול זה בתהליך בחירת מחליפו של הרמטכ"ל משה יעלון.
בשנת 2005 לאחר מינויו של חלוץ כרמטכ"ל פרש אשכנזי מצה"ל והחל בפעילות עסקית. ביוני 2006 נענה להצעת שר הביטחון דאז עמיר פרץ והתמנה למנכ"ל משרד הביטחון.
הרמטכ"ל ה-19
בינואר 2007 התפטר הרמטכ"ל דן חלוץ מתפקידו בעקבות הביקורת שנמתחה על תפקודו במלחמת לבנון השנייה (2006). זמן קצר לאחר מכן החליטו שר הביטחון פרץ ורה"מ אהוד אולמרט על מינויו של אשכנזי כרמטכ"ל ה-19 וזה נכנס לתפקידו בפברואר 2007. האתגר העיקרי אשר עמד בפני אשכנזי כרמטכ"ל היה יישום לקחי מלחמת לבנון השנייה, לצד שיקום אמון הציבור ואמון הלוחמים בפיקוד הבכיר בצה"ל. בהתייחס לאתגר זה הוביל השקעה ניכרת בציוד הימח"ים הצה"ליים (מחסני חירום), השקעה בציוד מיגון לכוחות החי"ר, הצטיידות בסוללות "כיפת ברזל", הגברת היקף האימונים ביחידות השדה עם דגש על תרגילי מלחמה ברמת החטיבה והאוגדה, השקעה בהכשרת מפקדים בדמות קורס מח"טים וקורס מפקדי אוגדות ועוד.
בספטמבר 2007 תקפו מטוסי חיל האוויר כור גרעיני שנבנה בשטח סוריה, בתקיפה נהרס הכור ומטוסי החיל האוויר שבו לבסיסם ללא פגיעה.
נקודת בוחן משמעותית להפקת לקחי מלחמת לבנון השנייה הגיעה בדמות מבצע "עופרת יצוקה" ברצועת עזה. במהלך המבצע שנועד לפגוע בחמאס ביצע צה"ל מספר רב של תקיפות אוויריות, ירי ארטילרי ופעולות קרקעיות שהביאו למותם של כ-1,100 מתושבי הרצועה (על פי ההערכה כ-700 מהם אנשי חמאס) ולהרס פיזי רב. ההערכה המקובלת היא כי אופן ניהול המבצע סייע לשיקום דימויו של צה"ל כצבא מנצח ובמקביל העצים את ההערכה הציבורית כלפי אשכנזי. בהקשר זה יש לציין כי הפגיעה הקשה בחמאס הובילה להפחתה משמעותית בירי הרקטות על ישובי הדרום בטווח הקצר, אך כעבור זמן מה שב החמאס להיקף הירי טרום המבצע.
בספטמבר 2010, כחלק מקיום סגר ימי על רצועת עזה השתלטו כוחות צה"ל על מספר אוניות שהפליגו במשט לרצועת עזה בנסיון לאתגר את הסגר. במהלך ההשתלטות על אחת האוניות "מאווי מרמרה" נתקלו לוחמי שייטת 13 בהתנגדות אלימה ובעימות בין שני הצדדים נהרגו 10 מאנשי האונייה ונפצעו 30 ונפצעו 10 מחיילי צה"ל. סביב האירוע ותוצאותיו בזירה הבינלאומית התפתח דיון ציבורי ופוליטי במהלכו הושמעה ביקורת נגד צה"ל בטענה שלא נערך נכונה לביצוע ההשתלטות על האוניה.
פרשת הרפז
באוגוסט 2010 פורסם בערוץ 2 מסמך שתיאר תוכנית פעולה לקידום מועמדותו של האלוף יואב גלנט כיורשו של אשכנזי בלשכת הרמטכ"ל, בין היתר על ידי פגיעה בדימויו הציבורי של אשכנזי. זמן קצר לאחר מכן התברר כי המסמך זויף על ידי סא"ל במיל. בועז הרפז, (ועל כן כונה מאותה עת- מסמך הרפז). חקירת דבר זיוף המסמך ופרסומו והדיון התקשורתי והציבורי סביב הפרשה חשפה מערכת יחסים עכורה בין שר הביטחון דאז אהוד ברק והרמטכ"ל אשכנזי, שהתגלגלה לכדי מאבק כוחות בין לשכות שני האישים ובמערכת סבוכה של אינטרסים אליה נשאבו קצינים בכירים, אנשי תקשורת, פוליטיקאים ועוד.
חקירת הפרשה על ידי המשטרה, מבקר המדינה והפרקליטות התארך לאורך שנים ובמהלכן נשמעה ביקורת קשה נגד אשכנזי בטענות כי פעל באופן בלתי ראוי לאיש צבא הנתון למרות הדרג הפוליטי. באוגוסט 2013 החליט היועץ המשפטי לממשלה יהודה וינשטיין, לפתוח בחקירה פלילית נגד אשכנזי בחשד לביצוע עבירות הפרת אמונים, שיבוש מהלכי חקירה ומסירת מידע לגורם בלתי מוסמך. במהלך 2014 נחקרו באזהרה אשכנזי וכן רעייתו רונית. בינואר 2016 החליט וינשטיין, לסגור את תיק החקירה אך בהחלטתו מתח ביקורת על התנהלותו של אשכנזי.
קריירה עסקית וציבורית
בפברואר 2011 השתחרר אשכנזי מצה"ל. בסוף אותה שנה מונה ליו"ר חברת "שמן משאבי נפט וגז", אשר עסקה בקידוחי גז ונפט בים התיכון. ב-2013 כאשר התברר כי הקידוח שביצעה החברה נטול כדאיות כלכלית התפטר אשכנזי מתפקידו. בשנת 2015 מונה ליו"ר סוכנות הביטוח גיל ורדי.
ב-2012 התנדב לשמש כיו"ר קרן רש"י העוסקת בחינוך.
