בלילי שישי ב-15 באוקטובר 1954, נדקר למוות הנער רמי רוזנברג בן ה-16 על-ידי נער בן גילו תושב השכונה התימנית שעריים, בפתח סניף "התנועה המאוחדת" ברחוב הרשנזון בעיר רחובות.
האירוע התרחש סמוך לשעה 9 בערב. כמדי יום שישי התאספו במועדון הסניף "התנועה המאוחדת" עשרות בני נוער חניכי התנועה.
אירועי הרצח על-פי עדויות, הגיעו לפתח הסניף התנועה המאוחדת קבוצה של כ-10 נערים מהשכונה התימנית שעריים, שלא נמנו על חניכי הסניף, והחלו להתעסק עם הבנות ולהתפרע. אחד הנערים עמוס. ג. ששמר על הדלת ביקש לסלקם, אך הם תקפו אותו וניסו להכותו. עמוס הצעיר הצליח להימלט מידיהם ולברוח, כאשר נמלט עמוס מידיהם החלו בני הנוער משעריים להתקוטט עם חברו רמי רוזנברג. שעמד ליד פתח המועדון. החלה תגרה וחילופי דברים. אחד מבני הנוער משערים שלף לפתע סכין ביתי ונעצו בחזהו של רמי רוזנברג. רמי החל לצעוק משהו בנוסח "דקרו אותי דקרו אותי", רץ מטרים אחדים ונפל גוסס ליד הכביש. כשראו בני הנוער משעריים כי מפצעיו יורד דם הסתלקו חיש מהר מהמקום.
אחד השכנים שהיה עד ראיה לאירוע, סיפר כי בני הנוער חניכי "התנועה המאוחדת" זועזעו קשה לנוכח הרצח ונשארו "לעמוד במקום באפס מעשה עד שחשו השכנים לעזרה". למקום הוזעקו משטרה ואמבולנס שהעביר את הנער הנדקר לבית חולים קפלן ברחובות שם בדק אותו ד"ר אקבל וקבע את מותו. מבדיקה שנערכה לאחר מותו התברר כי נדקר ישירות בליבו.
אנשי משטרה בפיקודו של מפקד מחוז רמלה א.קלפר ומפקד נפת רחובות יצחק שטיינברג פתחו מיד בחקירה ובחיפושים נרחבים אחר התוקפים והרוצח. למקום הגיע ראש המחלקה הפלילית במטה הארצי של המשטרה יהודה פראג והצטרף לחקירה.
החיפושים נמשכו כל הלילה ולפנות בוקר הצליחה המשטרה לעצור 11 נערים תושבי שעריים, בחשד שהיו מעורבים ברצח. הם הובאו לתחנת המשטרה ברחובות ונעצרו . עם היודע דבר הרצח סערו הרוחות בעיר. וסביב תחנת משטרת רחובות בו שהו העצורים התאספו עשרות תושבים המומים מחכים לתוצאות החקירה. בשבת בצהריים החלה חקירתם. בחקירתם טענו העצורים כי מעולם לא היו להם חיכוכים עם בני הנוער מ"התנועה המאוחדת". הם הצביעו בחקירתם על נער בן 17 מחבורתם כדוקרו של הנרצח. מפקד משטרת רחובות אמר לעיתונות כי הנער הודה בחקירתו בפניו ברצח. ואמר לו: "אתה יודע שאני נמצא בטיפול רופא עצבים ואני דקרתי אותו"
מעצרם של 11 הנערים שהיו בגילאי 14-17 הוארך בפקודת שופט השלום חיים. אלוף להמשך חקירה והם הופרדו ופוזרו לחקירה בתחנות מחוז משטרת רמלה לוד רחובות ועוד.
ועדה ציבורית לבדיקת הרצח והרקע לו רמי רוזנברג נולד ברחובות למד בגימנסיה ברחובות ואחר כך עבר ללמוד בבית הספר המקצועי "אורט" בעיר, בן לאב מיוצאי גרמניה ואם צברית. המשפחה התגוררה ברחוב ז'בוטינסקי ברחובות. אביו עבד בעבודות אינסטלציה. מלבד הורים הניח אחות בת 11 ואח קטן בן שנתיים. קהל אלפים השתתפו בהלוויתו שנערכה ברחובות יומיים לאחר הרצח ביום ראשון 17.10.1954 . מסע ההלוויה יצא מבית הוריו של הנרצח והתעכב ליד בית סניף "התנועה המאוחדת" ברחוב הרשנזון מקום בו נרצח רמי . הארון נישא על-ידי תושבי רחובות ואחריו צעדו משלחות בני נוער מרחובות ובהם חבריו של רמי לסניף התנועה המאוחדת.
מדריכי וחניכי התנועה המאוחדת ברחובות סיפרו לעיתונאים כי במשך חודשים שקדמו לרצח היו מקרי התגרויות על-ידי קבוצת בני נוער משעריים ומדי פעם התלוננו כנגדם במשטרה אולם זו לטענתם "השיבה את פניהם ריקם ולא יחסה משמעות רצינית לתלונותיהם" חברי התנועה האשימו את המשטרה באוזלת יד ובעקיפין שגרמה לרצח. בעקבות לחץ תושבים ויתכן גם כדי להרגיע את סערת הרוחות בעיר בעקבות הרצח, הקימה העירייה ועדת חקירה ציבורית שהוטל עליה לבדוק את עבריינות הנוער בעיר והרקע לו. הוועדה מנתה חמישה אנשים: 2 נציגי העירייה ו-3 נציגי ציבור. היא חקרה שמעה עדים ובהם, מורים, הורים ובני נוער ובן השאר שמעה את המורה דוד בן צבי משכונת מרמורק. בתום דיונים של כמה שבועות קבעה הוועדה במסקנותיה כי "משטרת רחובות משתמטת ומתחמת מלמלא חובתה לעשות את המוטל עליה לעקירת הבריונות מתוכינו." בתגובה למסקנות הוועדה שיגר המפקח הכללי של משטרת ישראל יחזקאל סהר מכתב מחאה חריף ובו נאמר כי "במסקנות הוועדה אין שמץ של אמת" והן הוצאו "בניגוד לכל סדר וצדק מינימליים מבלי שהוועדה ניסתה אפילו לקבל חומר או כל חוות דעת מהמשטרה. כעבור כמה חודשים בפברואר 1955 נמסר כי עירית רחובות גנזה את מסקנות הוועדה.
בעיתון דבר מיום 20 באוקטובר 1954 חמישה ימים לאחר הרצח נכתב בזו הלשון: "חוגים מסמכים בצה"ל הכחישו אתמול בפני סופרו הצבאי של "דבר" את הידיעה ב
הארץ ביום ב' כי כל 11 החשודים משתייכים לגדנ"ע רחובות. הנכון הוא כי רק 3 מבין הנאשמים הצטרפו בשעתו לחוות הגדנ"ע בחולדה ו-2 מהם נמצאו לא מתאימים, הוצאו מהחווה וחזרו לביתם. רק אחד הנערים החשודים הוא חבר בקבוצת חולדה".
בא כוחם של כמה מהעצורים עו"ד מ.חזן ביקש מבית המשפט לשחרר 4 עצורים מבין 11 בשל גילם ובטענה כי לא היו מעורבים או אחראים לרצח וכי המשטרה עצרה את כולם כדי לעצור את הרוחות הסוערות בקרב תושבי רחובות, אולם השופט דחה את הבקשה וקיבל את דברי נציג המשטרה שטען שלמשטרה הוכחות כי העצורים פעלו בצוותא וידעו כי לדוקר יש סכין. בהמשך כחודש לאחר הרצח בנובמבר 1954 שוחררו ממעצרם 5 מנאשמי הרצח במועדון התנועה המאוחדת ושישה נותרו במעצר.
לקראת סוף שנת 1954 כחודשיים לאחר הרצח החל המשפט המוקדם של העצורים בפני שופט שלום הראשי בתל אביב ב.גלעדי . אולם בית המשפט היה צר מלהכיל את בני המשפחה והקרובים הרבים שבאו לשמוע את דיוני המשפט של קרוביהם. ראשון העדים היה אברהם כץ בן 18 תלמיד גימנסיה מרחובות. עוד העידו
יעקב רוזן בן 20 מרחובות יצחק צברי בן 20 מרחובות יואש וינר שילו צעידי ונוספים. עד מיוחד היה "בוסי"- בוסתנאי סחה גברתן מטיל אימה אך "בעל לב זהב", תושב שעריים שהובא במיוחד מכלא רמלה שם ריצה עונש של 8 חודשים בשל אלימות. "בוסי" נכנס לאולם תחת משמר שוטרים כבד, לבוש חולצה שחורה ומכנסיים שחורים עטור זקן והעיד כי בליל הרצח בילה בנשף במעברת רמה ליד רחובות ובשובו לביתו באה המשטרה ושאלה אם הוא מכיר כמה מנערי שעריים החשודים במעשה הרצח. לדברי בוסי, "עשה מה שכל אחד צריך לעשות", הוא הלך לחפש את הנערים המעורבים ברצח ושיכנע אותם לבא למשטרה ולתת עדות . לימים הפך "בוסי" לעבריין ידוע מלך העולם התחתון.
נגד שלושה מבין 11 העצורים בפרשת רצח רמי רוזנברג ביטלה המשטרה את האשמה בשל גילם הרך. ובסך-הכל הועמדו לדין 8 עצורים. שופט השלום בתל אביב ב.גלעדי מצא שבעה מהם אשמים בהשתתפות בקטטה בלבד ואילו דינו של נאשם אחד (א.מ) הועבר לבית משפט מחוזי כנאשם ברצח. לאחר שיקולים נוספים החליטו השופטים להאשימו בהריגה בלבד והוא נידון בבית משפטי מחוזי בתל אביב על-ידי השופט מ.קנת ל-4 שנות מאסר בפועל. אם א.מ בחיים הוא צריך להיות היום אדם כבן 79.מעניין מה עלה בגורלו האם הקים משפחה. בכל מקרה בהנחה שהוא שדקר את רמי רוזנברג ז"ל ולא לקח על עצמו אחריות לרצח שמישהו אחר ביצע, צריך והיה נכון לשפוט אותו לקולא שכן מדובר בנער -ילד בן 17 אולי אף פחות, שמדינת ישראל לא השכילה ואולי אף לא התאמצה לתת לו את מסגרות החינוך הראויות. ולכן לא פרסמתי את שמו המלא אל אף שהוא ידוע לי.
רצח הנער רמי רוזנברג העצים את המתח והשנאה בין תושבי רחובות לבין אנשי שכונת שעריים תושבים שעריים מספרים כי צעקו לעברם רוצחים ועוד כינוי גנאי למינהם. אלי מדר בן שכונת שעריים מורה לשל"ח בגמלאות, היה בן 10 לערך כאשר אירע הרצח, זוכר היטב את האווירה האיבה והמתח ששרר בן תושבי רחובות לשערים היה תקופה קשה הוא אומר לי. לדבריו השורשים של הסיפור החלו עוד כשהאיכר מרחובות ניצל את העוזרת התימניה.
תושבי שערים אינם אשמים ברצח רמי רוזנברג פעילי הסתדרות בשעריים הפיצו בעקבות רצח הנער רוזנברג כרוזים שבו הם פונים אל "אחינו יוצאי אשכנז" ומתריעים על אפליה לרעה של יוצאי ארצות המזרח שבמיוחד בולטת בתחום הכלכלי. "אין לעדות המזרח מונופול על מעשי עבריינות ופשע. הכרוז מונה שורת פשעים שהמבצעים היו מבני העדה האשכנזית.
משלחת משכונת שערים ומעסקניה פנו לאש העיר דאז בן ציון הורוביץ במחאה על הבלטת ההשתייכות העדתית של החשודים בתקיפת ורצח רמי רוזנברג להרגיע את הרוחות הסוערות בעיר. תושבי שעריים אינם אשמים ברצח רמי רוזנברג טענו חברי המשלחת בפני ראש העיר. ראש העיר הודיע כי יפרסם כרוז להרגעת הרוחות ולהחזרת כבוד שעריים ש"תושביה ברובם הם אנשי עמל ועבודה שקטים".
