בראשית שנות ה-80 התגייס לשירות בימ"מ ושובץ לתפקיד קצין אמצעים מיוחדים. ב-1987 סיים את תפקידו בימ"מ והמשיך לשרת במג"ב (משמר הגבול) בכמה תפקידי פיקוד: מפקד פלוגה במג"ב ירושלים, קצין אג"ם במג"ב ירושלים וסגן מפקד מג"ב ירושלים. לאחר מכן עבר לשורות משטרת ישראל ובה פיתח קריירה ארוכת שנים כקצין משטרה, ברובה במחוז ירושלים. בין תפקידיו: מפקד תחנת הבירה, סגן מפקד מחוז ירושלים ומפקד מחוז שומרון ויהודה.
בדצמבר 2000 מונה למפקד מחוז ירושלים במשטרת ישראל. כהונתו בתפקיד אשר החלה חודשים ספורים לאחר פתיחתה של אנתיפאדת אל-אקצא, היתה רוויה בפיגועי טרור קשים אשר גבו קורבנות רבים. במהלך אחד האירועים הבטחוניים לקה בהתקף לב, אך התפנה לבית החולים לאחר סיום הטיפול באירוע. במסגרת תפקודו כמפקד המחוז זכה לסיקור תקשורתי רב והיה לדמות מוכרת ומוערכת בציבוריות הישראלית. ב-2003 התמודד על תפקיד מפכ"ל המשטרה, אך לא זכה במינוי. לאחר מינויו של משה קראדי למפכ"ל סיים את תפקידו כמפקד מחוז ירושלים ומונה לתפקיד נציג משטרת ישראל בוושינגטון.
בתחילת 2007 הודיע שר לביטחון פנים אבי דיכטר על כוונתו למנותו לסגן המפכ"ל, במקביל למינויו של יעקב גנות למפכ"ל. במרץ 2007 בוטל מינויו של גנות למפכ"ל ובעקבות מהלך זה הודיע לוי על הסרת מועמדותו לתפקיד סגן המפכ"ל ופרש מן המשטרה.
בשנים 2012-2008 כיהן כמנכ"ל חברת אגד תעבורה.
פעילות פוליטית
ב-2012, לקראת הבחירות לכנסת ה-19 הודיע על הצטרפות למפלגת "יש עתיד" בראשות יאיר לפיד. שובץ על ידי לפיד במקום ה-11 ברשימת "יד עתיד" לכנסת ה-19 ולאחר הבחירות (2013) החל לכהן כחבר כנסת. לאחר כניסתה של "יש עתיד" לקואליציה והקמתה של הממשלה ה-33, מונה לסגן שר האוצר והחזיק בתפקיד זה עד דצמבר 2014.
בבחירות לכנסת ה-20 (2015) שובץ במקום ה-11 ברשימת "יש עתיד" והמשיך בכהונתו כחבר כנסת. במהלך הכנסת ה-20 שימש כחבר בוועדת הכספים בוועדה המיוחדת למאבק בנגעי הסמים והאלכוהול.
ב-2019, לקראת הבחירות לכנסת ה-21, שובץ במקום ה-22 ברשימת "כחול לבן" (איחוד המפלגות: יש עתיד, חוסל לישראל ותל"ם).
