בימי האימפריה הרומית, גם לאחר דיכוי מרד בר כוכבא בשנת 138, היהודים קיימו במידה רבה שלטון עצמי. הסנהדרין והנשיאות חודשו עד מהרה בגליל, והחזיקו בסמכויות אזרחיות ודתיות כלפי שרידיה של האוכלוסיה היהודית בארץ ישראל. רוב הקהילות בגולה הכפיפו אף הן את עצמן למנהיגות הגלילית, ושילמו מיסים קבועים כדי לתמוך בה. שלטונות האימפריה נטו בדרך-כלל להכיר בהנהגה היהודית החדשה, ואף חייבו בעצמם את היהודים בארץ ישראל ובגולה להעלות לה מס.
הנשיאות והסנהדרין הוסיפו לתפקד כסמכות אזרחית ודתית ולגבות מיסים גם כאשר ההכרה הרומית הרשמית הוסרה מהם. האוטונומיה היהודית בארץ ישראל, בראשותו של מוסד הנשיאות, התקיימה עוד כמאה שנה לאחר כינונה של הנצרות כדת הרשמית של האימפריה הרומית, וחדלה רק בהוראתו של הקיסר תאודוסיוס השני בסביבות שנת 425.
הריכוז היהודי הגדול ביותר מחוץ לגבולות האימפריה הרומית היה באותה עת באימפריה הפרתית. בתחומיה הייתה בין היתר מסופוטמיה, הלא היא בבל, שהקהילה היהודית בה נוסדה לאחר חורבן הבית הראשון בשנת 586 לפני הספירה. כמו באימפריה הרומית, גם בזו הפרתית נהנו היהודים ממידה רבה של אוטונומיה בתחומים המשפטיים, האזרחיים והדתיים. בראש האוטונומיה עמד "ריש גלותא”, ראש הגולה, שנחשב נצר לבית דוד. המלכים הפרתים העניקו לראשי הגולה מעמד רשמי בכיר.
הכובשים המוסלמים במאה השביעית החריבו את האימפריה הפרתית והשתלטו גם על חלקים נרחבים ממה שהיה האימפריה הביזנטית. יחס השלטונות החדשים לתושבים היהודים היה לעתים קשה, אולם כאשר ראו בהם ספקי שירותים מועילים ניתנו להם יסודות מסוימים של אוטונומיה.
השיטה של הענקת אוטונומיה נרחבת ליהודים בתמורה לשירותים שהם מספקים לשליטים התפתחה כמנגנון רשמי במערב אירופה מן המאה השמינית ואילך. עם כיבושן של ספרד וצפון אפריקה בידי המוסלמים בשלהי המאה השביעית, אבדו לממלכות הנוצריות של מערב אירופה נתיבי הסחר המסורתיים בים התיכון. על אובדן זה נוספה עוינותם של השליטים הביזנטים כלפי המדינות הנוצריות במערב היבשת. לקהילות היהודיות בדרום צרפת הזדמן בכך תפקיד רב ערך: קשריהן עם קהילות יהודיות בארצות האיסלאם אפשרו להן לייסד מחדש את נתיבי הסחר. כך הפכו הקהילות היהודיות במערב אירופה לגשר הסחורות העיקרי בין המערב הנוצרי לבין המזרח.
חשיבותם של היהודים בסחר הבינלאומי, ובהדרגה גם בסחר המקומי, הובילה למן המחצית השנייה של המאה השמינית להתפתחותה של מתכונת חדשה ביחסי היהודים עם שליטי ארצם. בתקופה ההיא, תחת שלטונם של קרל הגדול ושל יורשיו, החלו קהילות יהודיות לקבל כתבי זכויות, שבהם פורטו זכויותיהם של היהודים בענייני מגורים, מסחר, הגנה ממלכתית וממשל עצמי. כך נוצר המודל המשפטי שהסדיר לכל אורך ימי הביניים את הנוכחות היהודית במדינות מערב אירופה, ועם התקדמות ההגירה היהודית מזרחה - גם במזרח היבשת.
סמכויותיו של הממשל היהודי העצמי התרחבו אל רוב תחומי המשפט האזרחי ואף זה הפלילי. הוא חלש על חייהם האזרחיים והדתיים של בני הקהילה. האוטונומיה היהודית טיפלה אפילו בענייני התעסוקה של חבריה - לא רק בניסוח ובאכיפה של נורמות מקצועיות, אלא גם בסמכות שניתנה למנהיגים לקבוע, במידה רבה, מי יורשה לעבוד במקצועות מסוימים ועם מי מבין היהודים והגויים הוא יוכל לקיים קשרים עסקיים. (המנהיגות היהודית נקטה לעתים קרובות צעדים למניעת תחרות בין חברי הקהילה. הדבר לא היה ייחודי ליהודים; הרעיון שתחרות עסקית היא נורמלית וראויה הוא רעיון מאוחר יותר, מודרני. הגילדות של ימי הביניים, שהדירו יהודים ופעלו לחיסול התחרות היהודית, עסקו גם בוויסות ההתמחויות של חבריהן, כדי לסכל תחרות ביניהם).
מתוך קיומה של סמכות שלטון עצמי זו חוו היהודים יום יום, באופן מעשי, מציאות של עַמִּיוּת יהודית. יתרה מזאת: השליטים שהעניקו ליהודים אוטונומיה ביטאו בכך את תפיסתם שהיהודים הם קהילה מובחנת. וכך, היהודים ראו את היותם עַם לא רק בהקשר של אורח החיים, אלא גם כעובדה שיש לה משמעות בעיני בעלי הסמכות הבכירים ביותר בחברה השלטת.
היהודים חוו את האוטונומיה היהודית כחיובית במהותה - ולא רק משום שהיא סוככה עליהם מפני קשיים שהיו מנת חלקם, לו היו כפופים למערכת החוק הגויית. למרות המגבלות החברתיות והאחרות שהוצבו בפניהם, ולמרות מעשי התוקפנות שהופנו כלפיהם, היהודים תפסו את מצבם כטוב, מבחינות מסוימות, מזה של רוב שכניהם - בפרט בשל מה שאפשרו להם קשריהם עם האליטות החילוניות המקומיות. ההיסטוריון היהודי הנודע
שלום בארון העיר בנוגע לכך כי "יהודי ימי הביניים חיו, גם במקרה הגרוע, בתנאים פוליטיים וכלכליים טובים מאלו שהיו מנת חלקם של המוני הצמיתים, אלו שהיו בדרך-כלל רוב אוכלוסיהן של ארצות אירופה".
ככל הנראה, היהודים לא נטו לייחס את נסיבות חייהם הנוחות לכישרונותיהם הברוכים שלהם או של חבריהם לקהילה, אלא לכך שהם השתייכו לקהילה אוטונומית שמנהיגותה הצליחה לבסס את מצבה הטוב ולשמר אותו. כלומר, חברותם בקהילה היהודית הייתה לדידם ההסבר לצדדים החיוביים שבמצבם.
האוטונומיה היהודית נתנה, בעצם קיומה ועל-ידי הצלחתה, מענה מוחשי ומוחץ לטענות שהושמעו כלפי היהודים, כאילו עם אובדן הריבונות היהודית בארץ ישראל ועלייתה של הנצרות כיורשתה של היהדות, חדלה הלאומיות היהודית מלהתקיים או מלהיות בעלת ערך חיובי. בהנהגתם של מורים ורבנים, שידעו להנחיל ליהודים את האמונה בתפקידם ההיסטורי ובגאולה השלמה המצפה להם, נתנה האוטונומיה היהודית משנה תוקף לערכים רוחניים אלה.
הגנה מפני פגיעה בגוף ובממון הייתה בעייתית יותר. האוטונומיה היהודית לא יכלה לספק אותה במלואה. שליטים הזמינו יהודים לארצותיהם והעניקו להם הגנה ואוטונומיה תמורת שירותיהם המקצועיים - אך ההסדרים הללו היו תמיד שבריריים. שליט יכול בכל עת להחליט כי היהודים כבר אינם מועילים לו, או במקרה השכיח יותר, שכנגד התועלת שבהם עומדים שיקולים חשובים יותר. שליטים אירופים בימי הביניים שהחליטו כך נהגו, ברוב המקרים, לא לתקוף את היהודים פיזית, אלא לבטל את כתבי הזכויות שלהם ולגרשם.
תקיפות פיזיות אירעו בדרך-כלל כשסמכותו של השליט עורערה כל כך, שגורמים שונאי-יהודים בחברה, בייחוד כמרים וצאן מרעיתם, יכלו להתנפל על היהודים בלי להיענש. ואכן, בימי הביניים, בניגוד גמור לתקופות מאוחרות יותר, פרעות נגד היהודים - ובתוכן מעשי הטבח במסגרת מסעות הצלב ובעקבות מגפת המוות השחור - הוצתו כמעט תמיד מלמטה: בידי כמרים זוטרים, כנופיות מזוינות או בורגנים עירונים, ותוך קריאת תגר על מדיניותו של השלטון. בכמה מקרים שליטים הוציאו להורג את מוביליהן של פרעות נגד היהודים.
התופעה של ממשלות היוזמות ומתזמרות פרעות ביהודים - תופעה המוכרת לנו לא רק מגרמניה הנאצית, אלא גם ממזרח אירופה בין מלחמות העולם, מרוסיה הצארית ומרומניה של סוף המאה ה-19 וראשית המאה העשרים, וכן מבריה"מ ומגרורותיה - היא בעיקרה התפתחות מודרנית. בימי הביניים, דבר כגון זה היה יוצא מן הכלל המעיד על הכלל.
יתר על כן, כאשר שליטים בימי הביניים החליטו שכדאי להם להיפטר מהיהודים "שלהם”, נמצאה כמעט תמיד ממלכה סמוכה שריבונה שמח להזדמנות לקבל מהגרים יהודים - ובדרך-כלל אף שידל אותם לבוא, לטובתם ולטובתו, בהציעו להם הגנה וזכויות רבות ובהן ממשל עצמי. איננו מכירים תקדים ימי-ביניימי לסיטואציה השכיחה מימי המשטר הנאצי והשואה, כאשר שנאת היהודים הייתה כה נפוצה וכה יוקדת, שכמעט שום מדינה לא הציעה ליהודים מקלט.
הקהילות היהודיות הגדולות ביותר באירופה של ימי הביניים, שבהן הגיעה האוטונומיה היהודית לשיא התפתחותה, היו תחילה בספרד שבין המאה התשיעית והמאה ה-14, ובהמשך, לאחר גירוש היהודים מארצות מערב אירופה והגירת היהודים מזרחה - בפולין ובמדינה הפולנית-ליטאית המאוחדת. אובדן עצמאותה של פולין בסוף המאה ה-18 שם קץ להתגלמות הבשלה ביותר והחזקה ביותר של הממשל העצמי היהודי ושל מוסדות הקהילה היהודית. בפולין חיו אז כ-800 אלף יהודים, יותר משליש העם היהודי באותה עת.
