בשנת 1949 נבחר טובי לכנסת הראשונה כנציג מק"י. הוא קיבל את תוכנית החלוקה, אך עד מהרה, הותקף משביקש לסייע לקומוניסטים ערבים שנסו מהארץ בתקווה לשוב אליה לאחר תבוסת היישוב היהודי. נתן אלתרמן נחפז להגנתו של טובי בטורו, "הטור השביעי", שפורסם בעיתון "דבר", תחת הכותרת "הנזיפה בתופיק טובי". כעבור שש שנים בלבד, ב-1956, עלה שמו לכותרות לאחר שחשף את פרשת טבח כפר קאסם, יחד עם עמיתו לסיעה, מאיר וילנר, ופעיל מפ"ם, לטיף דורי. חשיפה זו זיכתה אותו בתהודה בינלאומית. במפלגה, היה ממונה על הכנת מק"י לירידה למחתרת והורה לפעילים, כך לפחות על-פי דיווח של "דבר" מאותה תקופה, להשמיד מסמכים ולהכין מקומות מסתור במידה שיאונה רע לחברים. יאיר צבן, לשעבר יו"ר מפ"ם ושר הקליטה בממשלת רבין ובשעתו מבכירי מק"י, מבהיר כי "היחס שלי אליו הוא מורכב מאוד". ביחס לטובי ולחברו, ח"כ לשעבר אמיל חביבי המנוח, מספר צבן כי "לצערי הרב, כמה שנים לאחר החלטת החלוקה, הייתה אצלם רוויזיה של העמדה שתמכה בהכרה במדינת ישראל. הם הגיעו לעמדות מאוד מסוכנות. בסוף, הם השתחררו מהקיצוניות אבל לא מהעמדה הדוגמטית ביחס לברה"מ ומהעדפת הלאומנות הערבית על פני עיקרון של שוויון מעמד וזכויות לשני העמים". "הוויכוח בינינו", מסביר צבן, "לא היה על עצם זכות ההגדרה העצמית של היהודים אלא על העובדה שישראל מייצגת את זכות ההגדרה העצמית של העם היהודי". לדבריו, הוא הוכה בהלם לאחר שבעקבות הוועידה ה-20 של המפלגה הקומוניסטית הסובייטית, שבה חשף חרושצ'וב את פשעי סטלין, טובי ביקש מחברי להנהגת המפלגה לבדוק אם לא טעו כשתמכו בהחלטת החלוקה שבריה"מ עמדה בשעתו מאחוריה. צבן אומר ש"תופיק טובי חשב שצריך לבדוק עם הסובייטים אם אין לכלול את העמדה שגרומיקו הביע באו"ם בין העמדות השגויות שננקטו בשעתו, שגיאה שצריך לתקנה. היה דיון בוועד המרכזי של מק"י, שהתכנס בתנאים סודיים, ושם לראשונה נחלקו הקולות: כל החברים היהודים מצביעים, כולל וילנר, בצד אחד של תמיכה בהחלטת החלוקה, וכל החברים הערבים - בצד השני. זה היה מניצני הפילוג שאירע במפלגה ב-1965". לשבחו של טובי, טוען צבן, יצוין כי "היה לקומוניסטים הערבים ריסון עצמי שלא להפוך את הדיון לפומבי. נדמה לי, שהמפלגה הקומוניסטית של ברה"מ אף פעם לא עשתה ביקורת עצמית על מדיניות חוץ. לכן לא היה שחר לרעיון הזה".

לטובי היו יריבים מרים במפלגה, ובראשם אמיל חביבי, שנטש את רק"ח לאחר התפרקות הגוש המזרחי ולפני נפילת בריה"מ. בסוף דצמבר 55' ובתחילת ינואר 56', נערכה בתל אביב ישיבה חשאית של הוועד המרכזי של מק"י בדירת מסתור ברחוב דיזנגוף בתל אביב. חביבי והחברים הערבים תבעו מהנהגת מק"י כי יותר להם להתאגד באופן עצמאי ולפעול למען מרד מאורגן במדינה (מעריב, 10.2.58). טובי התנגד להצעה, זו נפלה ברוב קולות וחבריו כינוהו "בוגד". ב-11.2.1958 פרסם יואל מרקוס בעיתון "דבר" כי חביבי האשים את טובי ש"הוא משתף פעולה 'יותר מדי' עם היהודים ואינו נותן דעתו במידה מספקת לדרישות הלאומיות של ערביי ישראל". טובי, מצידו, התעקש לפעול אך ורק לפי התכתיבים מהקרמלין, דהיינו: שיתוף פעולה מלא עם היהודים. באותה שנה, גילה איסר הראל, אז הממונה על שירותי הביטחון וראש המוסד, למאיר וילנר ולמשה סנה על מחתרת נאצריסטית במק"י בשם 'החזית הערבית'. אלה נפגעו, וטובי נאלץ להכריז מעל במת הכנסת כי "אם יתברר שחבר מפלגה עסק בדברי ריגול באמת, אזי יוקע ויגורש מן המפלגה". בפילוג שהתרחש במק"י ב-1965, לאחר כמה אירועים שהגבירו את המתח הלאומי במפלגה (בהם רצח הנח"לאי אברהם ג'ורי, חבר תנועת הנוער המפלגתית בנק"י, בגבול עם ירדן, ליד קיבוץ יד חנה הקומוניסטי) הקים טובי יחד עם מאיר וילנר ומיעוט מיהודי המפלגה את רק"ח. זאת, בעוד משה סנה ורוב החברים היהודים נותרו במק"י. יאיר צבן מסביר, כי "באותה תקופה, הפילוג היה קשה מאוד וטראגי לשני הצדדים. הנכס הזה - מפלגה משותפת ליהודים ולערבים - היה גאוותה של מק"י, ובימים ההם זה לא היה דבר פשוט". אולם צבן אינו נוטר לטובי טינה: "כשמדברים על תופיק טובי, צריך לזכור גם את הפרלמנטר שכיהן שנים רבות וזכה להערכה גם מצד יריביו בכנסת. הוא היה פרלמנטר ברמה מאוד גבוהה ואמיץ מאוד, וגם ג'נטלמן שידע להתנהג". העיתונאי ראול טייטלבאום, שעבד כ-12 שנה ככתב "קול העם" בכנסת, מספר שטובי היה "אדם שהקרין מכובדות וגם יריביו הפוליטיים כיבדו את הופעותיו. בקרב הקומוניסטים הערבים, הוא היה הדובר המרכזי וייצג נאמנה את הקו של מק"י והתנועה הקומוניסטית באותה תקופה". עם זאת, טייטלבאום אומר: "הוא היה לי יריב קשה בזמן הוויכוח במק"י עד לפילוג. הוא ייצג את הקו של האגף הערבי ברובו ואני נמניתי עם אנשי סנה ומיקוניס. לא חשבנו שצריך להאשים את ישראל בכל תקרית שהייתה בגבול עם הערבים. זה החריף לאחר מלחמת ששת הימים, כשרק"ח הוקיעה את המלחמה ואילו מק"י הצדיקה אותה. אבל טובי היה עקבי בעמדתו וייצג את הקו הלא-לאומני של הערבים בישראל, והערבים בכלל". "ברמה האישית", אומר טייטלבאום, "אני אזכור אותו כמי שהיה נציג גאה של עמו, בצד ניסיון להיות נאמן לרעיונות הקומוניסטיים שהיה להם דגש דוגמטי בתקופה הסטליניסטית. בניגוד לאמיל חביבי, שהיה איש צבעוני ומקורי, בעל נטיות לאומניות ערביות שאחר כך התנער מהן, טובי היה בעל קו יציב שייצג את הממסד והאידיאולוגיה הקומוניסטיים, בתיאום עם בריה"מ".

בתקופה שלאחר הפילוג, בעוד שמק"י בהנהגת סנה עברה תפנית לכיוון הציונות, רק"ח בהנהגת וילנר וטובי כבר החלה לדבר - לצד אורי אבנרי ואנשי 'מצפן' - על "הכיבוש". חודשיים לאחר מלחמת ששת הימים, נסע טובי עם מאיר וילנר המנוח לדיונים במוסקבה, ובסופם בישר כי היחסים עם הסובייטים, שנותקו בעקבות המלחמה, יחודשו, "אם ישראל תדע ללכת בדרך שרק"ח מציעה". יחסי ישראל עם רוסיה הסובייטית לא חודשו עד שקרס הגוש המזרחי. פעילותו רבת-השנים של טובי בקצה השמאל הישראלי לא הפריעה לו לנהל יחסים ידידותיים גם עם יריביו המרים. יום אחד, ב-1966, וטובי כבר ממנהיגי רק"ח, התיישב מיוזמתו ליד כסאו בכנסת (ששכנה אז בבית פרומין) דוד בן-גוריון בכבודו ובעצמו, מותש ומבודד במפלגתו, רפ"י. "מדוע אינך נואם בערבית?" ירה לעברו "הזקן". "כערבי אני יודע ששמורה לי הזכות לשאת את דבריי בערבית", הסביר לו טובי, "אך מכיוון שרוב חברי הכנסת אינם שומעים שפה זו, אני מעדיף לדבר עברית כדי שדבריי יובנו כהלכה". זו הייתה הפעם הראשונה שבה שוחחו השניים. עד שנת 1989 שימש ח"כ מטעם רק"ח. התפוררות בריה"מ והשבר הגדולה בתנועה הקומוניסטית, עייפו את טובי והלה פרש מן הכנסת והוחלף בחברת כנסת מתולתלת ואנונימית מבת ים בשם תמר גוז'נסקי. שנים רבות שמר על שתיקה ונמנע מלהתערב בעניינים פוליטיים ומפלגתיים. דני פתר, מוותיקי הקומוניסטים בישראל שסירב להתפלג ממק"י בשנת 65' לטובת רק"ח בהנהגת וילנר וטובי, אומר כי יתגעגע לאחרון חברי הכנסת הראשונה. "ביום שבו הוא יצא מהכנסת, היה מאמר ראשי ב'הארץ' שכותרתו הייתה: 'קומוניסט וג'נטלמן'", נזכר פתר. "אני אזכור אותו כקומוניסט מסור וכאיש נהדר, כאדם שמסור לנושא היהודי-ערבי ולשותפות בין יהודים ובין ערבים כל ימי חייו".