בעקבות פרעות קישינב שפרצו בשנת 1903, ערך מ' אוסישקין ביקור ארוך בארץ ישראל כדי לארגן ולאחד את היישוב היהודי. לשם כך נוסדה ביוזמתו בזכרון יעקב "הכנסייה הארצישראלית" בהשתתפות 67 אנשי היישוב היהודי. אך למרות התקוות הגדולות, נכשל ניסיון האיחוד. היו שראו בו ניסיון של אוסישקין לקרוא תיגר על הרצל, בעיקר בשל התנגדותו החריפה לתמיכת הרצל "בתוכנית אוגנדה". בכינוס ה"כנסייה" הביא אוסישקין אחרי מאבק קשה להחלטה חלוצית על זכותן השווה של נשים לבחור ולהיבחר, והייתה זו הפעם הראשונה בגוף יהודי כלשהו. בנוסף, גם תוכניתו לאגד את המורים לגוף אחד (מיד אחרי כינוס "הכנסייה") עלתה יפה: הוקמה "אגודת המורים העבריים בארץ ישראל", שהפכה מאוחר יותר להסתדרות המורים. בשנת 1902 נבחר אוסישקין, באספה הכללית של "חובבי ציון" שהתקיימה באודסה, להיות ראש הוועד שיעסוק ברכישת קרקעות בארץ ישראל ומכירתן לאנשים פרטיים (בהמשך "חברת גאולה" שנוסדה למטרה זו בשנת 1904). כלומר, כבר בשלב זה, ראה אוסישקין את היעד המרכזי של "ההסתדרות הציונית" - רכישת קרקעות בארץ ישראל. כאשר התפרסמה "תוכנית אוגנדה" ביוזמתו של הרצל, עמד אוסישקין בראש מתנגדיה ונאבק כדי לסכלה. קריאתו להתיישבות יהודית בארץ ישראל בלבד, התקבלה לבסוף בקונגרס הציוני השביעי ב-1905. באותה עת כתב את "הפרוגרמה שלנו". חוברת שתרמה להתעוררות לפעולה מעשית ולהתיישבות בארץ, ובו הונחו היסודות לזרם "הציונות הסינתטית", שעיקרה שילוב בין פעילות מעשית לפעילות מדינית כדי להגשים את הציונות בארץ-ישראל.

משנת 1918 עמד בראש "ועד הצירים", שנבחר כדי לארגן את היישוב בארץ מצד אחד, וכדי לקשר בינו לבין השלטון הבריטי מצד שני. אוסישקין היה בעל השפעה בייסוד "אסיפת הנבחרים" והוועד הלאומי ופעל רבות למען החדרת השפה העברית כלשון לאומית רשמית. במקביל, יחד עם חיים ויצמן, פעל להקמת האוניברסיטה העברית. בפברואר 1919 ייצג את התנועה הציונית "בוועידת ורסאי" בפריז, שם נשא נאום בעברית בו קרא להקמת מדינה יהודית. באותה שנה עלה אוסישקין לארץ ישראל. בשנת 1921 השתתף במשלחת של ח' ויצמן וא' אינשטיין לארצות הברית שביקשה לאחד את ציוני אמריקה ולהגדיל את תרומותיהם לרכישת קרקע. בקונגרס הציוני ה-13 בשנת 1923 לא נבחר עוד לראשות הוועד הפועל הציוני, עקב חילוקי דעות עם חיים ויצמן, ותחת זאת נתמנה ליו"ר "הקרן הקיימת לישראל". בתפקידו כראש הקרן (שבו כיהן עד יום מותו ב-1941), נקנו על-ידי חברת "הכשרת היישוב" קרקעות רבות עבור הקק"ל ויוערו יערות; גולת הכותרת הייתה גאולת קרקעות עמק יזרעאל. במסגרת תפקידו פעל רבות נגד חוקי המנדט שהגבילו רכישת אדמות.

לקראת ביקורו השלישי בארץ הגדיר אוסישקין יעדים תרבותיים ליישוב בארץ והעלה את הצורך באוניברסיטה עברית. יחד עם ד"ר חיים ויצמן פעל בקונגרס הציוני ה-11 (1913) למען הקמת האוניברסיטה (כפי שהוזכר כבר), ואף והשיג הקצבה כספית ראשונה לרכישת השטח שעל הר הצופים בירושלים. עם פרסומה של הצהרת בלפור, ארגן אוסישקין באודיסה הפגנת ענק למען מטרות אלו, שבה השתתפו כ-200,000 איש. שנתיים לאחר מכן, בתום מלחמת העולם הראשונה, הוזמן על-ידי ויצמן וסוקולוב לשאת דברים בעברית בוועידת השלום בוורסאי כנציגם של היהודים. היה זה "הנאום העברי הראשון בוועידה מדינית כלשהי" וגם "רגע גדול בחייו של אוסשקין". בגיל 48 עלה אוסישקין לארץ, ובתפקידו כראש "ועד הצירים" השיג את הכרת השלטונות הבריטיים בשפה העברית כלשון רשמית בארץ ישראל ורכש את אדמות עמק יזרעאל. כארבע שנים לאחר עלייתו לארץ, נבחר לראש הקרן הקיימת לישראל, תפקיד שמילא עד יום מותו. במסגרת זו פעל במרץ לגיוס כספים לרכישת קרקעות להתיישבות יהודית במפרץ חיפה ובעמק חפר, בעמק בית שאן ועוד.

בראשית העלייה השנייה אוסישקין, רופין וחנקין הגו תוכניות של חדירה ישובית לנגב; מייסדי פתח תקוה, מייסדי תל אביב, "אגודת ישראל", יק"א מגרמניה שהיו עירונים לכל דבר, חשבו על רכישת קרקעות באזור רפיח ואל-עריש אך עד שהרכישות נרשמו כחוק הגיעה תקופת שלטון העות'מנים לסיומה. לאחר הכרזת בלפור ובתום מלחמת העולם הראשונה מבקשים משוחררי הגדוד העברי אתר להתיישבות בדרום הארץ. המשוחררים חופרים באר ומבקשים מים בתל-ערד. במקביל מתרחשות תופעות נוספות המקרבות לכאורה התיישבות בנגב: פועלים עבריים מתקבלים לעבודה במשתלת הצבא הבריטי בבאר-שבע; קבוצת פועלים מירושלים מבקשים אחוזה (אתר התיישבות) בעוג'ה אל חפיר. בשנים תרצ"ג-תרצ"ז נרכשו בחוזים ובקושאנים כמאה אלף דונם, ליד באר-שבע, עסלוג', חזאלה ובמרכז הנגב, בסביבות גרין. מודדים עברים מדדו, טרקטורים עבריים חרשו, ואנשי מדע עבריים חקרו את אפשרויות ההשקאה. אולם, הפעילות הקדם התיישבותית הזו לא צלחה להקמת ישוב קבע בנגב עד 1939. עד להחלת המנדט הבריטי על ארץ ישראל, סבר אוסישקין כי יש לרכוש בראש וראשונה את קרקעות צפון הארץ שנראו אז דשנות ובעלות מקורות מים. יתר על כן, בשנת 1920 קבע אוסישקין כמנהל "ועד הצירים" שיש להפוך את הקיבוצים למושבים משום שאין להם סיכויי כלכלי. אולם במחצית שנות העשרים, לאחר קשיים כלכליים והתערבות הגופים היהודיים-האמריקנים שהתנגדו להתיישבות ללא בסיס כלכלי, הוביל אוסישקין החלטה בשנת 1926, מגובה על-ידי הדירקטוריון של הקק"ל, כי אין להמשיך ולרכוש קרקע בנגב ויש להתרכז ברכישת קרקעות המרכז והגליל. רבים ביישוב התנגדו להחלטה זו והצביעו על האפשרויות הגלומות בישימון.

משה סמילנסקי, איש רחובות ורוכש קרקעות בדרום, סבר לעומת אוסישקין כי אין להפסיק מאמצי רכישת הקרקע בנגב אך יש להמשיך במציאת פתרונות להולכת מים לנגב. לדעתו האפשרויות מגוונות: החל ממשיכת מים מהרי חברון, עובר דרך בארות הנמצאות בנגב המערבי (אזור ניר עם) ומסיים עם פתרון רב שנתי - הולכת מי הצפון לנגב. סכירת מים נראתה לו כצעד חשוב ביותר והוא הביא את דוגמת הסכר שבנה מושל סיני ג'רויס בקדש ברנע (108 ק"מ דרומית לבאר-שבע) והצליח בעזרת מי השיטפונות לגדל כבר בשנת 1926 תמרים, אשכוליות, לימון, תפוז, גואיבה, גפנים ובצדם חיטים ושעורים בהשקאה וערוגות של ירקות שונים. מכאן, אין שום מניעה לחזור על ניסיונות אלה בנגב. המוסדות הלאומיים סירבו לקבל את ההצעות הללו ועד ראשית שנות השלושים פסקה עבודת הרכישה הגדולה שם, אם כי פה ושם נעשו עסקות של תקיעת יד בלא רישום בטאבו. לאחר מסקנות "ועדת פיל" משנת 1937, שהציעה גבולות מצומצמים למדינה היהודית העתידית, שינה אוסישקין את עמדותיו ותבע מהקק"ל לרכוש קרקעות מעבר לגבולות אותן הציעה הוועדה ובעיקר לרכוש גושים גדולים של קרקע בנגב. תמיכתו הנלהבת של אוסישקין להתיישבס במהירות בנגב הצפוני הביאה בסופו של דבר להקמתו של היישוב העברי הראשון ביולי 1939 - קיבוץ "נגבה".

במאי 1921 מתחיל מאמץ לרכישת "קרקעות הגיפתליק" (קרקעות המדינה) באזור תל-ערד. החל מו"מ עם הממשלה, נעשו ניסיונות לגיוס כספים בארצות הברית והוכנו קבוצות התיישבות. לאזור ערד נשלחה וועדה בראשות י' בן-צבי, והצטרפו אליה רחל ינאית ואסף גרזובסקי כאגרונומים. המשלחת יצאה רכובה מחברון ולאחר כמה שעות הגיעה לתל-ערד. בתזכירו לנציב העליון תיאר בן צבי את האזור כמישור של 40 קמ"ר (42 אלף דונם) שברובו מעובד על-ידי פלאחים הבאים מחברון וקצתם בידי שבטי הבדואים. הקרקע היא במעמד ג'יפתליק (כלומר שייכת לסולטן) משום שהשליט הטורקי החרימה לאחר ששבטים בדואים ופלחים מאזור יטה התקוטטו ביניהם וכ-50 איש נהרגו משני הצדדים. בכל השטח לא נצפה אפילו מבנה אחד והבעיה החמורה שנתקלו בה לדעתם הייתה המחסור במים. משום כך קבע בן-צבי, אין באזור זה אף יישוב קבע. מים ניתן להשיג בכרמל, הנמצאת כ-3 שעות רכיבה וכן בבורות אגירה בחירבת קריתין. סומנה באר קטנה נובעת בודי אל-מלח, המצוי 10 ק"מ דרומה מהתל. בחודש מרס 1922 החלו 10 מתיישבים מקבוצת "אחווה" בהנהגתו של יעקב פרוז'נסקי לקדוח באר ראשונה בתקציב של 800 ליש"ט בן-צבי הצליח לגייס 20,000 ליש"ט בעת התכנסות הקונגרס הציוני אך תקוותו לתרומה גדולה מהברון רוטשילד ומיק"א נכזבה. במחצית ספטמבר פנה נציג "הוועד" פלר אל המחלקה להתיישבות בבקשה להמליץ על שני מהנדסים לצורך התחלת קידוחים בערד וזאת על-פי הסיכום בין רחל ינאית ואיש המנהל הבריטי הבכיר דידס. מבחינתו יש להקנות לבקשה דחיפות משום שבימים הקרובים הממשל ייתן "לוועד" אישור רשמי להתיישבות בערד. ב-31 בינואר התקיימה פגישה מכרעת בעניין ערד שבה הוברר כי ממשלת המנדט מבקשת להגביל את בקשת "הוועד" ל-80 מתיישבים בלבד והחכיר להם רק 16 אלף דונם. משא-ומתן קשוח בו השתתפה גם ינאית הביא לסיכום הבא: הקרקע תוחכר "לוועד החיילים המשוחררים" ל-99 שנה ויוחל בקידוחים על חשבון הממשלה וכן יוחל בעלייה למקום תוך חודשים אחדים.

בחודש מרס 1922 החלה קבוצת "אחווה" לקדוח באר ראשונה בתקציב של 800 ליש"ט שהזרים דידס. הקבוצה שהתה כ-4 חודשים באוהלים ליד התל אך שני קידוחים שעשתה, אחד לעומק של 31 מטר והשני למטרים ספורים בלבד, נכשלו משום שהציוד היה פגום (נתרם מקבלן יהודי). החבורה נזקקה נואשות לציוד חדיש לקידוחי עומק. ד"ר זגורודסקי שהוזעק למקום קבע שהבריטים טעו כשהשוו בין באר-שבע לערד והמים ליד התל ימצאו רק בעומק גדול בהרבה - בין 80-60 מטר. ציוד חדיש ומתאים לא נמצא והעבודה הופסקה.

רק בשלהי שנות הארבעים חזרה התנועה הציונית לנגב המערבי והדרומי עת הקימה תחילה את שלושת המצפים (1943) ולאחר מכן את 11 הנקודות (1946) שהתבססו על הולכת מים בצינורות מבארות עמוקות אזור ניר עם. כפי שנאמר בינתיים בערד, המלצותיו של זגורודסקי לא התקבלו, התקציב אזל ולאחר 4 חודשים עזבו חברי הקבוצה את המקום. חברי הקבוצה הספיקו בתקופה קצרה זו לזרוע מספר זני חיטה ושעורה ולגדל קצת צמחים. "הוועד" ביקש להתיישב באזורים אחרים אך דידס סירב והותר להם לנסות ולקדוח במשך שנה נוספת. במאי 1923 נכתב תזכיר למזכיר הממשלה החדש גילברט קלייטון בדבר חידוש העבודות בערד אך הלה סירב לכך לחלוטין. לניסיון ההתיישבות הייתה השפעה בשני תחומים האחד, הוברר שהאדמיניסטרציה הבריטית בארץ נזהרה מלתת ליהודים (בהחכרה, מכירה) קרקעות מתוך חשש של התנגשות ועימותים צפויים בשל כך עם הערבים והבדואים והשנייה, שחלום ההתיישבות בנגב המזרחי והצפוני יידחה עד שתיפתר שאלת המים אם בקידוחי עומק או אם בדרך של העברת מים מהצפון.

משני הקטעים שהובאו לעיל מתברר כי שני הגורמים החשובים ביותר שאמורים היו לאפשר התיישבות בנגב היו: מציאת מקור מים שיאפשר חקלאות אינטנסיבית ויצירת מסורת חוקית לרישום קרקע בטאבו של רכישות מדיי הבדואים. רק ששני גורמים אלה נפגשו בשלהי שנות השלושים ובראשית שנות הארבעים - התאפשרה מציאות חדשה שעל אף המגבלות שהטיל משטר המנדט, צמחה ועלתה התיישבות חקלאית בנגב.