יעקב ורעייתו נחקרו במשך מספר שעות ושוחררו. השלטונות האשימו את
יעקב שרת בריגול והודיעו לו כי הוא נדרש לצאת מתחומי ברית המועצות. בהודעה לסוכנות הידיעות "טאס", מסרו השלטונות הרוסים כי "שרת סייר בחלקים שונים של ברית המועצות לשם הקמת קשרי ריגול והפצת ספרות ציונית אנטי סובייטית בלתי חוקית ואף נתפס כאשר ניסה להשיג מסמכים סודיים". כעבור 3 ימים עזב יעקב שרת את רוסיה יחד עם רעייתו רינה ושני ילדיהם ובתחילת יולי 1961 הגיעו לישראל.
חבר מערכת מעריב
במחצית שנות ה-60 מצטרף יעקב שרת למערכת עיתון מעריב. ובמשך למעלה משני עשורים פרסם בעיתון זה מאמרים, טורים פוליטיים ומקאמות ונמנה עם צוות עורכי גיליון סוף השבוע של העיתון. בתקופה הזאת החל לפרסם את יומניו וכתביו של אביו. בשנת 1978 הוציא לאור את "היומן האישי של
משה שרת" בשמונה כרכים. כן הוציא לאור ספרים המבוססים על מכתביו של אביו. פרסום יומניו וכתביו של משה שרת עוררו הדים רבים. יעקב שרת הרצה במסגרות שונות על יהדות ברית המועצות והשתתף באירועים רבים הקשורים באביו משה שרת. הוא כאב את הדחתו של אביו וטען כי "נעשה לאביו עוול שאי-אפשר לתקן".
לאחר פרישתו לגמלאות הקים בשנות ה-90 את "העמותה למורשת משה שרת". מטרה העמותה כפי שמפורסם באתר הבית שלה: "לרכז, לאגור ולקטלג את כל כתבי משה שרת בשנות פעילותו היישובית והממלכתית בתקופה שבין 1965-1919, ולהוציא לאור כתבים אלה בצורה מסודרת וזאת מתוך הכרה כי כתביו של משה שרת, כמנהיג ציוני ראשון במעלה, חייבים להיות נגישים לכל לומד ומעיין במתכונת של ספרים מוערים היטב".
מתרגם ופיזמונאי
יעקב שרת היה מתרגם פורה ותירגם ספרים רבים מאנגלית ומרוסית. ובהם את ספרו של דזמונד מוריס "הקוף העירום", ספרו של בני מוריס "קורבנות" תולדות הסכסוך הציוני - ערבי", ו-"לשון הגוף" ספרו של יוליוס פאסט, וכמו-כן תירגם ספרי ילדים קלאסיים כספרי ההרפתקאות של פרידריך וילהלם מדר והספר "מונפליט" של ג'ון מיד פוקנר. כמו-כן, חיבר שורה של ספרי עיון ובהם הספר "מדינת ישראל לבית אלטנוילנד איננה" שיצא לאור בשנת 1989, בתקופת האינתיפאדה הראשונה, בו הוא מנבא את מותו של המפעל הציוני אם ה'כיבוש והדיכוי', על-פי טענתו, לא ייפסקו ומרחץ הדמים במזרח התיכון לא יסתיים, דבר שיסכן לדעתו את המפעל הציוני". יעקב שרת אמר לי בשיחה שקיימתי איתו לפני מספר שנים: "אני מאוד לא מרוצה ממה שקורה במדינה. איני יכול להזדהות עם המדינה בה נולדתי וחוזה שחורות לעתידה".