אחרי המלחמה מונה "אופי" לתפקיד היועץ המדעי הראשי של הוועדה האמריקנית לאנרגיה אטומית שהוקמה אז. במלחמתו הנחרצת בעד הגבלת השימוש בנשק גרעיני קנה לעצמו מספר רב של אויבים. האויב המרכזי היה אדגאר הובר ראש FBI שהציע לכל דורש סיוע בהצגת הוכחות על אודות קשריו הקומוניסטיים של "אופי". וגם אם לא נתבקש לסייע הוא דאג להפיץ בעצמו ובאמצעות אנשיו את הסיפורים "האדומים". אויב משמעותי אחר היה לואיס שטראוס, מנהל הסוכנות לאנרגיה אטומית בארה"ב, שנטר ל"אופי" משני טעמים. האחד, המקצועי: על פעילותו נגד פיתוחה של פצצת המימן; השני, האנושי: בעדות בקונגרס השפיל "אופי" את שטראוס. שטראוס לא שכח וכאשר צצה הזדמנות הולמת הוא פשוט "התנפל" על המציאה.
באותם ימים החלה להתגבש בארה"ב החקיקה הנוגעת למדיניות הגרעינית. שטראוס איגד כוחות עם הסנאטור בראיין מקמהון, מנסח החוק לאנרגיה גרעינית. הם פנו לנשיא החדש – הגנרל אייזנהאור - והציגו בפניו שלל נימוקים מדוע יש לשלול מאופנהיימר את הסיווג הביטחוני שלו. הימים היו ימי "המלחמה הקרה" ומסע הציד האימתני של הסנאטור מקארתי נגד קומוניסטים. על-רקע פורה זה הסבירו השניים כי בהעסקת אופנהיימר קיימת סכנה ביטחונית כיוון שאחדים מבכירי תלמידיו היו קומוניסטים בשעה שעבדו במחיצתו ב"ברקלי". השניים הצליחו לשכנע את הנשיא לפתוח בחקירה לבירור העובדות. החקירה התבצעה במסגרת שכונתה באותם ימים "וועדת הסנאט לחקירת פעולות אנטי אמריקניות". מטרת החקירה, בעיני שטראוס ומקמהון, לא הייתה לחשוף את האמת. הם רצו שיבוטל הסיווג הביטחוני של אופנהיימר וכך תימנע ממנו האפשרות להמשיך ולעסוק בנושא הגרעיני.
אחיו של רוברט, פרנק, זומן לוועדה ואולץ להעיד תחת שבועה. הוא הודה שבשנת 1930 היה חבר במפלגה הקומוניסטית, אבל סירב למסור שמות של חברים אחרים שהיו חברים במפלגה. בעקבות עדותו זו פוטר פרנק ממשרתו האקדמית ולא יכול היה למצוא עבודה אחרת בתחום הפיזיקה. באין ברירה הפך פרנק לחוואי בקר בקולורדו. עד נוסף נגד "אופי" בוועדת הסנאט היה עמיתו לשעבר אדוארד טלר שטען כי לדעתו אופנהיימר מהווה סיכון ביטחוני.
אייזנהאור ביקש מ"אופי" להתפטר. "אופי" סירב וביקש שימוע. הוא לא רצה להיעזר בפרקליטים שיגנו עליו. "אני יכול להיות המגן הטוב ביותר של עצמי" אמר לבני משפחתו. הם לא השתכנעו אבל "אופי" התעקש והתנגד לקבלת סיוע משפטי. עד לתום השימוע הושעה הסיווג הביטחוני שלו.
השימוע הפתוח התמקד בעברו הקומוניסטי של "אופי" ובקשריו הקומוניסטיים בתקופת היותו מנהל "פרויקט מנהטן". אופנהיימר זימן לוועדת השימוע עדים רבים שהעידו לטובתו אך רוב חברי הוועדה השתכנעו, בסופו של דבר, כי אופנהיימר אכן מהווה סיכון והסיווג הביטחוני בוטל.
רבים מעמיתיו וידידיו של "אופי" ראו בו באותם ימים קורבן של ציד המכשפות המקארתיסטי. אחד העמיתים היה מדען הטילים הגרמני הנודע וורנר פון בראון, שבאותם ימים כבר הוביל בארה"ב את משימת פיתוח הטילים האסטרטגיים. הוא סיכם את כל הפרשה במשפט הבא: "אילו כל מה שקרה כאן היה מתרחש באנגליה היה אופנהיימר זוכה לקבל תואר אבירות".
עשור לאחר שנשלל ממנו הסיווג הביטחוני זכה אופנהיימר ל"טיהור" כאשר הנשיא קנדי העניק לו את העיטור היוקרתי על שם הפיסיקאי הנודע אנריקו פרמי.
אף כי מקומו של אופנהיימר בהיסטוריה נקבע כ"אבי פצצת האטום" נראה היה כי בנשמתו סערה דילמה עקרונית: אם בכלל היה זה נכון להשתמש בנשק גרעיני נגד יפן ואם טוב עשה כאשר המליץ על השימוש בנשק הגרעיני. עם הדילמה הבלתי פתורה הזו, שבאה לידי ביטוי במאמרים רבים שפירסם ובראיונות שהעניק לתקשורת, נאבק "אופי" עד סוף ימיו, אך היא הטרידה אותו מיד אחרי הפצצת הירושימה ונגסאקי. בראיון לתקשורת לאחר כניעת יפן אמר "אופי" כי ארה"ב הייתה חייבת להציג בפני יפן את עוצמתה של הפצצה באורח מתון וחלש יותר ורק אחר כך, אם זה לא היה מביא לסיום המלחמה, אפשר היה להטיל את הפצצה על עיר מאוכלסת. "האמת היא", הסביר "אופי", "כי כאשר הוטלה הפצצה על הירושימה יפן למעשה הובסה והשימוש בפצצה היה מעשה של "אגרסיביות, של הפתעה ושל טרור". וכאן הוסיף "אופי" אמירה שרדפה אותו שנים רביות: "ייצור הפצצה היה "מעשה של השטן".
"אופי" הפך למוביל המאבק הציבורי נגד השימוש בנשק אטומי. "הפצצה הזו" חזר והדגיש כמעט מעל כל במה שניתנה לו "מסמלת את חוסר האנושיות של המלחמה המודרנית". חלק ניכר מן המאבק הקדיש למלחמה נגד פיתוח פצצת המימן בטענה כי "בפצצת המימן טמונות סכנות לחיסול הציוויליזציה האנושית". וכדי שלא יהיה ספק לגבי חלקו הוא במעשה "הנורא" של השימוש בנשק הגרעיני בהירושימה ונאגאסקי נהג להוסיף: "אני מרגיש שיש לי דם על הידיים".
"המהפך בעמדתו של אופנהיימר היה כל כך גדול" סיפר לימים אחד מעמיתיו המדענים "עד שלא יכולנו להבין כיצד אנו שומעים את כל הדברים הנוראים האלה מפיו של האדם שתמך בהטלת פצצת האטום שלו על אזרחים בהירושימה".
הדילמה שהסעירה את אופנהיימר הייתה מוזרה מעוד טעם. למרות כל טיעוני הנגד שלו חזר "אופי" וטען עד סוף ימיו, כי מה שעשה היה "המעשה הנכון."
"מילאתי את התפקיד שקיבלתי על עצמי למלא" נהג להסביר. "אני לא קבעתי את המדיניות בלוס אלאמוס. עשיתי את מה שביקשו ממני לעשות. כולל ייצור הפצצה.
מומחים לאמונה ההינדית מסבירים את דבריו אלה של אופנהיימר כך: "לכל כת, לכל אדם, יש תפקיד שעליו למלא ביקום. חובה שעליו למלא. לכל אדם החבר בכת כלשהי יש חובה למלא לא רק את התפקיד האישי שיועד לו אלא גם את המחויבות של הכת שלה הוא משתייך".
באחד הראיונות שהעניק ניסה אופנהיימר להסביר לעיתונאי אגרסיבי-משהו את הסתירה-לכאורה בהתנהגותו. העיתונאי התרעם על התנהגותו הבוטה של "אופי" כלפיו ואמר: "אתה מצייר אותי כמין חיית טרף שייצאה לציד ומנסה להשיג את טרפה בכל מחיר".
אופנהיימר השיב: "זו חובתך. כמו שזו חובתו של צייד מרגלים לחפש ולמצוא מרגלים, כמו שזו חובתו של המדען הרוסי לעשות ככל יכולתו כדי למלא את חובתו למולדתו".
בהרבה מקרים נהג אופנהיימר להביא דוגמאות הסבר מתורת ההינדו כשהוא מצטט את המשל הבא: "אופה מכין עוגה כהלכה לא כיוון שהוא רוצה לקבל פרס אלא מכיוון שעוגה טובה היא מה שאופה, כאופה, אמור לעשות; אם אדם ממלא תפקיד של לוחם-מקצוען הוא לא עושה את מה שהוא עושה כדי לזכות בעיטורי תהילה. הוא פשוט רוצה למלא את ייעודו, את שליחותו הארצית, על הצד הטוב ביותר".
למרות כל הסתירות בין המעשים לבין הדיבורים על אודות המעשים האלה חזר תמיד "אופי" על עמדתו הבסיסית: "כל אחד מאיתנו עושה את מה שמוטל עליו לעשות. גם אני עשיתי את מה שהכתיב לי ייעודי. מעולם לא הצטערתי על מה שעשיתי. לא כאשר מילאתי את תפקידי במשימה שהוטלה עלי ב"פרויקט מנהטן" ולא היום".