מעבר למשמעות המדינית שלה כבירתה של מדינת ישראל, ירושלים היא מושא דתי ומיסטי לבני שלוש הדתות המונותיאיסטיות, וזה מקור הבעיה. ההיבט המדיני של ירושלים מחד-גיסא, וההיבט הדתי והמיסטי שלה מאידך-גיסא, מהווים דיכוטומיה בלתי אפשרית, וקשֵה, אם בכלל ניתן, לגשר בין שני הקצוות. מהבחינה היהודית, ירושלים הייתה בירתה של ממלכת דוד ושלמה, ולאחר מכן, עד לחורבן בית ראשון, בירתה של ממלכת יהודה, עם פסק זמן בן כשבעים שנה בין חורבן בית ראשון על-ידי הבבלים, עד לשיבת ציון של עזרא ונחמיה בתקופה הפרסית. בתקופה ההלניסטית, לאחר-מכן החשמונאית וההרודיאנית, ומאוחר יותר הרומית, התחלפו מדי פעם פרקי זמן שבהם שימשה ירושלים כבירתה של ישות ממלכתית יהודית, בתקופות שבהן היא הייתה נתונה לשליטתם של אחרים. בהערכה גסה ניתן לומר שאחרי שלטון רציף של כחמש מאות שנה בתקופת דוד ושלמה ומלכי יהודה, ושלטון מקוטע במשך כחמש מאות שנים נוספות, שלטו היהודים בירושלים בסך-הכל פחות מאלף שנים.
כעיר בירה וכמקום מושבו של השלטון היהודי, היה מעמדה של ירושלים בעיקר מדיני ומנהלתי. בשל אופייה הייחודי של היהדות, שהיא דת ולאום כאחת, המאפיינים הדתיים של העיר, כלומר: מקומו של המשכן בתוכה, ולאחר מכן של בית המקדש, ומקום מושבה של הכהונה, לא גרעו דבר מזהותה המדינית. כך גם היה הדבר בתקופת השלטון הרומי, לפני חורבן בית שני, כאשר ירושלים הייתה למרכזו של שלטון יהודי אוטונומי. הדבר השתנה עם חורבן בית שני. במשך כל שנות הגלות, שבהן הייתה הפזורה היהודית מרוחקת פיזית מארץ ישראל, קיבלה ירושלים בקרב העם היהודי משמעות דתית ומיסטית, מה שהיה קרוי 'ירושלים של מעלה', והייתה מושא לערגה ולגעגועים. עם תחילתו של השלטון הבריטי בארץ ישראל, וביתר שאת עם הקמתה של מדינת ישראל, שבה ירושלים וקיבלה אצל העם היהודי משמעות מדינית.
הנצרות וירושלים
גם הנוצרים, שבתחילת הדרך לא היו אלא כת יהודית, קידשו את ירושלים בשל אותן הסיבות שבשלן קידשוה היהודים הנורמטיביים, וכן בשל הסיבות הנוספות של היותה העיר שבה חי ופעל ישוע, ובה מת ושב וקם לתחייה. מאז תחילת הנצרות ועד לימינו אנו, חשובה ירושלים ומשמעותית לכל הזרמים הנוצריים כמושא דתי, והיא אף הייתה העילה למסעי הצלב ולהקמתה של ממלכת הצלבנים, שהתקיימה כמאתיים שנה במאות השתים-עשרה והשלוש-עשרה לספירה, ונודעה גם כממלכת ירושלים. מאז נפילתה וחיסולה של ממלכת הצלבנים שינה העולם הנוצרי את תפישתו, ולדידם שוב אין לירושלים כל משמעות מדינית. והיא מהווה מעיקרה אתר קדוש, יעד לצליינים, שבו מקימים גם כנסיות ומנזרים. יש בימינו נוצרים רבים שעובדת היות ירושלים בירתה של מדינת היהודים אינה מקובלת עליהם כלל ועיקר.
האיסלאם וירושלים
גם האיסלאם קידש את ירושלים, ובהיררכיה של הערים המקודשות היא מופיעה במקום השלישי, אחרי מכה ומדינה. עם תחילת התפשטות האיסלאם, אחרי מותו של הנביא מוחמד, כבשו המוסלמים את ירושלים ושלטו בה כארבע מאות שנה, עד שנכבשה בידי הצלבנים והפכה לבירתה של ממלכת ירושלים. ממלכה זו החזיקה מעמד כמאתיים שנה, ועם חורבנה שבה ירושלים ונכבשה על-ידי המוסלמים. בעקבות הכיבוש החוזר, שלטו המוסלמים בירושלים כשש מאות שנים נוספות, כך שבסך-הכל הייתה ירושלים תחת שלטון מוסלמי כאלף שנים, מעט יותר ממשך הזמן המצטבר שבו הייתה העיר בשליטתם של היהודים.
המוטיבציה לקדושתה של ירושלים במסורת האיסלאם לא לגמרי ברורה, שכן כל אירוע היסטורי מכונן בעל משמעות להתהוות האיסלאם והתפתחותו לא התרחש בירושלים. לאבות האיסלאם היה, ככל הנראה, חשוב לא לפגר בעניין קדושתה של ירושלים אחרי היהודים והנוצרים. לפיכך הומצאה אגדה נחמדה על אודות הנביא מוחמד וסוסתו המעופפת אל בוראק, שהביאה את הנביא ביעף להר הבית בירושלים, בדרך לדיון הלכתי-מוסלמי עם אלוהים. כך או אחרת, יש כיום כמיליארד ושלוש מאות אלף מוסלמים בעולם, שכולם, על זרמיהם וכיתותיהם, מקדשים את ירושלים. ערבים מוסלמים, ישראלים ופלשתינים נמצאים בקירבה בלתי אמצעית לעיר, ומעל למאתיים אלף מהם אף גרים בתוכה. כל אלה מוכנים להגן בכוח פיזי תוקפני על מסגדי אל-אקצה וכיפת הסלע, כל אימת שיחשבו, או שמאן דהו יסית אותם לחשוב, שהמסגדים בסכנה. הם עשו זאת בעבר (אינתיפאדת אל-אקצה), ולא יהססו לשוב ולעשות זאת גם בעתיד. לעניין זה, סכנה פירושה חשש, לא בהכרח מבוסס, מפני השתלטות צבאית ישראלית על הר הבית, או ממעשי פרובוקציה של קנאי דת ישראלים, כמו, למשל, אלה שמתקראים נאמני הר הבית. חששם של המוסלמים מסַכָּנות אלה ניזון מעצם שלטונה של ישראל בירושלים המזרחית, ומשאיפות התפשטות של קבוצות יהודיות מסוימות אל תוך שכונות ערביות, כדוגמת סילואן ושייח ג'ראח, ועוד רבות אחרות.