השם יהודה, המצויין לראשונה במקרא כשם בנה הרביעי של לאה, הפך, כידוע, גם לשמו של השבט משבטי ישראל המיוחס לצאצאיו של יהודה. ככזה, הוא מוזכר במקרא רבות. המונח 'יהודי' , עם זאת, אינו מופיע בחלקים המוקדמים של התנ"ך והוא מצוי במקרא רק בספרים מעטים, מאוחרים ברובם: מלכים ב, ירמיה, זכריה, נחמיה, אסתר ודברי הימים. כיצד התגלגל, אם כן, השם 'יהודה' להטייתו כ'יהודי', וכיצד עשה את הדרך מציון שמו של אחד משבטי ישראל לזיהוי הטייתו זו עם עם ישראל כולו?
בטקסט המקראי הוראתו של השם יהודה מורחבת לאחר פילוג ממלכת ישראל ומסמנת, מעבר לשמו של השבט, גם את ממלכת יהודה, היא הממלכה הדרומית אשר הוקמה בנחלתם של שבטי יהודה, בנימין ושמעון. הכינוי הקולקטיווי של תושבי הממלכה בשלביה המוקדמים לא נעשה באמצעות המונח 'יהודי', אלא במונחים אחרים, ובמיוחד 'איש יהודה'. כך, למשל, בשופטים טו י: "וַיֹּאמְרוּ אִישׁ יְהוּדָה, לָמָה עֲלִיתֶם עָלֵינוּ". הופעתה הראשונה של המילה 'יהודי' במקרא הינה במלכים ב' טז ו. הוראתה שם זהה לזו של 'איש יהודה': "וינשל את היהודים מאילות". במרוצת הזמן החליף כינוי זה את הכינויים הקדומים יותר, אבל נותר בעינו: יהודי, בתקופה זו, היה אדם שמוצאו באזור ממלכת יהודה.
בשנת 733 לפנה"ס החל שלמנאסר החמישי מלך אשור להגלות את יושבי ממלכת ישראל הצפונית. השלמת ההגלייה נעשתה בשנת 722 לפנה"ס בידי יורשו, סרגון השני. מן הממלכה המפוצלת נותרה ממלכת יהודה בלבד. ברבות השנים אבד הקשר עם עשרת השבטים, שכפי הנראה התערו בחברה המקומית אליה הגיעו, ועתה גם האוכלוסיה היחידה שנותרה מזוהה עם עם ישראל הייתה זו של ממלכת יהודה. בהתאם, חל גם תהליך איטי של הסבת הוראת המושג 'יהודי' ממונח המציין בני ממלכה מסוימת לכזה המציין שיוך אתני. הדבר בולט מאוד בספרות מתקופת גלות בבל ולאחריה. מבין הטקסטים המקראיים מכילה מגילת אסתר, שכפי הנראה נכתבה בשלהי תקופת פרס או בתחילת התקופה ההלניסטית, את המספר הגבוה ביותר של הטיותיו השונות של המונח 'יהודי'. אופי האיזכורים במגילה מלמד כי בשלב זה כבר לא הוגבל הכינוי להשתייכות שבטית בלבד. כך, למשל, המן מגדיר את הקבוצה כעם: "ישנו עם אחד מפוזר ומפורד בין העמים בכל מדינות מלכותך ודתיהם שונות מכל עם" (אסתר ג ח) והוא מתכוון אל 'היהודים' - כפי שמכונה קבוצה זו שוב ושוב במהלך המגילה. גם מהצגת המגילה את מרדכי ניתן לראות שהמונח 'יהודי' מציין את כל הקבוצה: "איש יהודי היה בשושן הבירה ושמו מרדכי בן יאיר בן שמעי בן קיש איש ימיני" (אסתר ב, ה). חז"ל עדיין ראו בכך כפילות מטרידה והציעו לפרשה כחלוקה שבטית: "אביו מבנימין ואמו מיהודה" (מגילה יב ע"ב). אולם רש"י עמד על פשט הכתובים וקבע שמרדכי היה משבט בנימין, ועל כן 'איש ימיני', אלא לפי שגלה עם גלות יהודה, הוצמד לשמו גם הכינוי 'איש יהודי', אף על-פי שלא נמנה עם בני שבט יהודה. כך גם בספר נחמיה, המתאר את העם לאחר שיבתו מגלות בבל, עלייה שהחלה עם הצהרת כורש בשנת 528 לפנה"ס. ספר נחמיה עצמו מתרחש בסביבות 445 לפנה"ס, והמושג 'יהודי' מתייחס בו אל כל בני העם, ללא שיוך שבטי או גיאוגרפי.
יש להדגיש שעל-אף שניתן להבין שרוב ה'יהודים' בשלב זה אכן היו צאצאי שבט יהודה - הוא השבט הדומיננטי בממלכת יהודה, הרי שנעשה 'שיתוף השם' לכל איש מישראל, באשר הוא, ללא קשר למוצאו השבטי. וכך, אם בעת יציאתם של אנשי ממלכת יהודה לגלות בבל היה המונח 'יהודי' עדיין בשלבי מעבר בין הוראתו הגיאוגרפית-מדינית לזו האתנית, הרי שבשיבתם ממנה כבר קיבל תוקף כשם עמם, תוקף שהמשיך לשרור גם לאחר חזרתם מהגלות.
בשלהי תקופת בית שני המשיכה המילה 'יהודי' להיות המונח הדומיננטי לציון האתני בהוראתה המקבילה ל'עם ישראל'. מטבעות מתקופת אריסטובולוס הראשון, אלכסנדר ינאי והורקנוס, למשל, ציינו בפירוש: "יהודה /יהונתן כהן גדול וחבר היהודים". גם כתובת בבתא ברת שמעון משנת 128 לספירה הצהירה: "[תהוין לי] לאנת[ו כדי]ן מושה ויהודאי". נוסח דומה של 'כדת משה ויהודאי' משתקף גם בכתובות מתקופת הלל הזקן מן המאה הראשונה לפנה"ס.
אולם בתקופת התנאים שבה המילה 'ישראל' לכהן כמונח העיקרי לציון שם העם, והמונח 'יהודי' נדחק הצדה: על-פי המילון ההיסטורי של האקדמיה ללשון העברית, מוזכרת המילה 'יהודים' בספרות התנאית כולה קרוב לעשר פעמים, לעומת מאות רבות של איזכורי 'ישראל'. חוקר התלמוד פרופ' מנחם כהנא סבור כי מדובר במעבר מכוון מן המושג 'יהודי' למושג 'ישראל', שהתרחש בהשראת מרד בר כוכבא. לפי הסבר זה בר כוכבא, שגם טבע במטבעותיו את המילים 'למלכות ישראל', ראה במינוח זה הצהרה פוליטית וביקש להדגיש באמצעותו את הממלכה המורחבת והגדולה אליה שאף. חוקר הלשון העברית אבא בנדויד, לעומת זאת, טען שזהו חילוף לשוני גרידא והצביע על כך שבארמית הארץ ישראלית התמיד השימוש במילה 'יהודאי'.
מכל מקום, המילה 'ישראל' נותרה גם שנים רבות לאחר תקופת התנאים כמונח הרווח ביותר לציון שם העם. לצדה נעשה כל העת שימוש מינורי במושג 'יהודים', ושני המונחים המשיכו ללוות את העם בהוראתם האתנית, התרבותית, ההיסטורית והדתית. על השאלה מתי שב המונח 'יהודי' והפך למילה המזוהה ביותר עם הוראות אלו, אין בידינו תשובה ברורה.