בלילה שבין שני לשלישי ב-15 ביולי שנת 1947 פרצה כנופית גנבים לבית מסחר לאריגים ובדים "אוריינט" ששכן ברחוב בן יהודה בירושלים ליד קולנוע עדן והיה בבעלות הרטה ברגמן. הגנבים חדרו לבית העסק דרך חלון אותו ניסרו והחלו להוציא מבית המסחר שקים ובהם בדים כדי להעלותם לרכב משא שהמתין בחוץ. שומר הלילה גולדברג ששמר וסייר באותה עת בסביבת בית העסק, הבחין בתנועה חשודה מכיוון "אוריינט". השעה הייתה קצת אחרי השעה 3 בלילה. השומר גולדברג התקרב וניגש למקום, מאיר בפנסו לעבר שטח בית העסק ולעבר הפורצים. הוא הבחין ככל הנראה כי הגנבים כבר הצליחו לאסוף ערימה גדולה של בדים מחוץ לחנות. הפורצים הבחינו בו ועל-פי עדויות אף נוצר עימות פיזי והתגוששות בין השומר לאחד הפורצים. אחד מהפורצים, שלף אקדח ומטווח קרוב של כ 3-4 מטרים ירה בראשו של השומר גולדברג. הכדור פילח את ראשו והוא נפל והתמוטט מתבוסס בדמו ומת ככל הנראה במקום. שכנים וכמה עוברי אורח החלו קוראים לעזרה ואז נמלטו הגנבים, כשהם משאירים מאחוריהם משורי ברזל וכפפות. המשטרה הוזעקה ומשוריינים בריטים הגיעו למקום. השוטרים מצאו בחצר האחורית של בית המסחר שקים ובהם בדים ואריגים. ליד גופתו של השומר נמצאו הפנס כשהוא עדין דולק והמשרוקית שלו אותה אחז בידו. גופתו הועברה לבית החולים הממשלתי. יחיאל גולדברג יליד פולין, היה בן 48 במותו. בשנת 1934עלה לארץ מצרפת. בתקופת מלחמת העולם השנייה עבד כפועל בבית חרושת למוצרי גומי בירושלים. לאחר מכן הוא הצטרף לקבוצת השומרים הירושלמית "השומר" ולאחר שהיה מסיים עבודתו בשמירה היה עוסק כ"השלמת הכנסה" בחלוקת העיתונים דבר, הארץ ועיתונים נוספים באזור תלפיות. הניח אחריו אישה ו־2 ילדות. הלוויתו של יחיאל גולדברג התקיימה ביום שלישי 15ביולי 1947 בשעה 4 אחה"צ. משמרות כבוד של קבוצת "השומר" וארגוני נוער הקיפו את הארון. בין המשתתפים בהלוויה חברים וידידים ממועצת פועלי ירושלים." נ.סדומסקי נשא דברים נרגשים לזכרו". גולדברג נקבר בבית העלמין בהר הזיתים. וכך כותב עיתון דבר למחרת הרצח (יום ד' 16.7.47) "מקרה הרצח זעזע את ירושלים המופקרת זה חודשים בידי גנבים ושודדים. קומץ השומרים בקבוצת "השומר" נתון כמעט ערב ערב בסכנת נפשות באין להם כל נשק מגן".

המשטרה פתחה בחקירה לגילוי מבצעי רצח השומר גולדברג. והכריזה על פרס בסך 100 לא"י שינתן לכל מי שיסייע ויביא לגילוי רוצחו של יחיאל גולדברג. כעבור שבועות ספורים בתחילת אוגוסט 1947 נעצר כחשוד במעורבות בפריצה וברצח בנימין סמדרסמן צעיר ירושלמי בשנות ה-20 לחייו שהתגורר ברחוב בצלאל בעיר. כעבור כמה ימים נעצרו חמישה אנשים נוספים בחשד למעורבות בפרשה: ברוך סירוטה בן 30 מיפו האחים אהרון (צפניה) ורפאל שווילי, מרדכי פישר, וליאון פריימן בן 25 משכונת התקווה. שופט השלום בירושלים ע. ידיד לוי הוציא נגדם לבקשת המשטרה צו מעצר ל-15 יום כדי לחקור אותם. ביום חמישי 11 בספטמבר 1947 הוגש כתב אישום. נגד בנימין סמדרסמן בגין רצח השומר גולדברג והתפרצות וגניבה, ואילו נגד ברוך סירוטה וליאון פריימן, בהעדר הוכחות מספיקות הוגשו כתבי אישום בגין סעיפי התפרצות וגניבה בלבד ללא סעיף רצח. נגד האחים שווילי ומרדכי פישר הוחלט לא להגיש כתב אישום. התובע במשפט, אנטול רבינוביץ' הודיע כי אהרון שווילי הודה בחקירתו במשטרה בהשתתפות בשוד וכי הסכים להיות "עד מלך" (עד מדינה א.א) ולהעיד כנגד חבריו על כן הוסכם כי לא יוגש נגדו ונגד אחיו רפאל כתב אישום. בעדותו במשפט סיפר אהרון שווילי כי הוא נהג ועובד בגן יבנה ומכיר כל הנאשמים ואת עסקיהם. לדבריו ב-14 ביולי פגש את בנימין סמדרסמן במלון "נביל" ביפו וזה הציע לו להשתתף בשוד בחנות אוריינט בירושלים .בהמשך הגיעו לפגישה במלון שאר הנאשמים. סמדרסמן הביא מכשירי פריצה שונים שהעד מזהה אותם בבית המשפט. בפגישה במלון "נביל" קבעו להיפגש בערב יום שני ה-14 ביולי בקפה זיכל ברחוב בן יהודה בירושלים. שנמצא לא רחוק מחנות "אוריינט". הם ישבו באותו ערב בקפה "זיכל" ו"אקספרסו" בחברת שתי צעירות. לאחר חצות הגיעו חברי כנופיית הגנבים לחנות "אוריינט" ניסרו את החלון האחורי, טיפסו פנימה והחלו אורזים סחורה בשקים. אהרון שווילי סיפר בעדותו במשפט, כי ראה את השומר מתקרב כשהוא מאיר בפנס אל מול הבתים. הוא הזהיר את סמדרסמן שמישש את כיסו ואמר לו "סמוך"! כעבור דקות ספורות נשמעה צעקה "עמוד" ומיד לאחר מכן ירייה בודדת. מיד לאחר מכן נמלטו הפורצים מתוך החנות חלק התחבאו על הגג במבנה ואחר כך נמלטו. עד המדינה אהרון שווילי סיפר בעדותו כי כמה שעות לאחר הפריצה ל"אוריינט" כשנפגשו חברי כנופיית הגנבים במועדון "מנורה" הודה בפניו סמדרסמן כי הוא זה שירה בשומר גולדברג. סנגורו של סמדרסמן עו"ד אברהם סלנט אמר לעד שווילי "כל מה שסיפרתה הוא שקר גס. עשית זאת כדי להציל את עורך" שווילי השיב לו: "אמרתי רק את האמת". במשפט העידו קרוב ל-30 עדים ובהם עדות של רופא שלן באותה עת בירושלים ד"ר וילי היימן שסיפר בבית המשפט כי לשמע הירייה והצעקות התעורר משנתו וכשרץ החוצה מצא את שומר הלילה מתבוסס בדמו כשלידו חיילים. הוא ניסה להחיותו אולם הדופק של השומר נדם ופסק מלפעול. לדעתו של הרופא, השומר מת במקום .שכנים הזעיקו אמבולנס ולמקום הגיעו כוחות משטרה בריטיים. עדות נוספת במשפט הייתה של פרץ אפשטיין שנעור אף הוא לשמע הירייה והצעקות הוא העיד: "ראיתי צעיר בגובה בנוני בהיר שער לובש מכנסי חאקי קצרים וחולצה כחולה רץ בכיוון למלון עדן" יוסף רצבי, נהג מונית, שלדבריו "חלה שלושה ימים מרוב פחד" לאחר שהיה עד לרצח, סיפר, כי כאשר חזר למלון "מגדל" מעבודתו בשעה 3:30 לערך, ראה שני אנשים נאבקים, שמע ירייה וראה את השומר שהוא הכירו, נופל ארצה ובחור צעיר נמלט לכיוון מלון עדן. הוא נבהל ועלה מיד במדרגות בית המלון במשפט העיד גם זאב שיקלר מנהל חברת "השומר" שאמר כי השומר היה מצויד במקל פנס ומשרוקית."לצערנו הרב אין מתירים נשיאת נשק לשומרנו העובדים במרכז העיר", אמר שיקלר. עורכי הדין של ברוך סירוטה וליאון פריימן הנאשמים האחרים היו י. טוניק ומ.מזומבר ועורכי דין נוספים.

עם עזיבת הבריטים את הארץ והתוהו ובוהו ששרר בבתי הסוהר בארץ ושחרורם לחופשי של עצורים ואסירים לא מעטים מבתי הסוהר ובהם בנימין סמדרסמן הופסק המשפט מבלי שניתן פסק דין. לאחר הקמת מדינת ישראל החליטה מדינת ישראל לחדש את המשפט נגד בנימין סמדרסמן בגין רצח השומר גולדברג. סמדרסמן אותר בתל אביב. המשפט חודש באפריל 1949 והתנהל בבית הדין המחוזי בירושלים בהרכב שופטים שכלל את: ד"ר בנימין הלוי, (נשיא) א.מני וי.אייזנברג התובע היה ל.ואסטון מפרקליטות המדינה את סמדרסמן ייצג הסניגור עו"ד אשר לוויצקי. בין מהעדים במשפט הראשון ב-1947 היו שני שוטרים בריטיים,רופא ערבי ולא הייתה אפשרות להביאם להעיד במשפט השני. אחד העדים במשפט הראשון יהודי, נהרג בהפגזה בתקופת תש"ח. ביום חמישי 28 באפריל 1949 יצאו השופטים למקום בו התרחשו הפריצה והרצח ועימם התובע ל.ואסטון והסנגור אשר לוויצקי וגם הנאשם סמדרסמן בליווי משמר מזויין. עד המלך (עד המדינה) במשפט הראשון אהרון (צפניה) שווילי העיד גם במשפט השני אלא שהפעם על רוב השאלות שנשאל השיב ב"לא זוכר" והוכרז כעד עוין. במשפט העיד קצין המשטרה הבריטית א. וילנר כי שעות ספורות לאחר רצח השומר יצא לביתו של סמדרסמן בירושלים עם שוטרים נוספים והם חיפשו אקדח אך לא מצאו, סמדרסמן לא נעצר באותו ערב, אלא רק כעבור כשבועיים. אגב, בנימין סמדרסמן הוא אחיו של איש "ההגנה" והנוטרים קורפורל יוחנן סמדרסמן שנפל ב-1947 בתל ליטוינסקי(תל השומר של היום)

המשפט נמשך כ-6 שבועות. פסק הדין ניתן ביום שישי 24 ביוני 1949 השופטים בנימין הלוי, א.מני, וי. אייזנברג החליטו לזכות את הנאשם בנימין סמדרסמן מאשמת רצח מחמת הספק. הם נימקו החלטתם וקבעו כי לעדותו של עד המלך חסרה עדות מסייעת ואמינה וכי דברי העדים וכן דבריו של הנאשם היו מלאי סתירות ושקרים.