בשנת 1976 מינה שר החקלאות אהרן אוזן ועדה על-מנת לחקור את תופעת ההשתלטות על אדמות מדינה. בראש הוועדה עמד מאיר זורע, אז ראש מנהל מקרקעי ישראל.
בהמלצת הוועדה הוקמה באותה שנה הסיירת הירוקה והוכפפה לרשות שמורות הטבע. מנהלהּ הראשון של הסיירת הירוקה היה אלון גלילי וב-1990 החליפו אל"ם במיל. גלעד אלטמן.
משנת 2005 עד שנת 2014 כיהן בתפקיד אל"ם במיל נפתלי כהן. משנת 2014 החל לכהן בתפקיד אורי מלכה. ב-1992 הועברה האחריות על רשות שמורות הטבע ממשרד החקלאות אל המשרד להגנת הסביבה. סמכויות הפיקוח והאכיפה מוקנות לפקחי הסיירת מכוח סעיף 60(א) לחוק הגנים הלאומיים, שמורות טבע, אתרים לאומיים ואתרי הנצחה, תשנ"ב-1992.
ב-22 באוגוסט 1995 קיבלה ממשלת ישראל את החלטה 6014, מכוחה מונתה ועדת מנכ"לים שתפקידה לתאם את פעולות הסיירת. תחומי האכיפה בה היחידה פועלת מטעמם של הגופים הבאים: קרן קיימת לישראל - הסדרת מרעה ביערות ואיתור שטחים לנטיעות משרד הפנים - איתור בנייה בלתי חוקית בשטחים פתוחים משרד הביטחון - טיפול בהסגות גבול (רעיה בלתי חוקית, בניה במחוברים וגניבות) בשטחי אש.
משרד החקלאות - הסדרת מרעה בשטחים פתוחים ואכיפת פקודת היערות הסוכנות היהודית מנהל מקרקעי ישראל - טיפול בעיבוד לא חוקי של אדמות מדינה, מניעת כרייה בלתי חוקית המשרד להגנת הסביבה - אכיפת חוק איסור נהיגה בחוף הים מקורות - פיקוח על תוואי המוביל הארצי רשות הטבע והגנים - פינוי פולשים ופיקוח צייד מע"צ - טיפול בשלטים שהוצבו בניגוד לקבוע בחוק הדרכים (שילוט) ה'תשכ"ו - 1966.
הגופים שהסיירת הירוקה מבצעת בעבורם פעולות פיקוח משתתפים במימון פעולותיה. מינהל מקרקעי ישראל מממן כשליש מעלות הפעולות. על-פי החלטת הממשלה המסדירה את פעילות הסיירת היא פועלת בהתאם לסעיף 74 לתקנות ההגנה לשעת חירום הקובע כי "רשאי כל חבר לחילות הממשלה וכל שוטר לתפוס ולעצור כל סחורות, חפצים, תעודות או דברים, שיש לו טעם לחשוד שלגביהם נעשתה עבירה על התקנות".
כמו-כן בסעיף 125 לתקנות, המקנה למפקד צבאי סמכות להכריז על אזור כעל שטח צבאי סגור כך ש"כל אדם הנכנס לתוך כל שטח או מקום, או יוצא מתוכם, במשך כל תקופה, שבה עומד בתקפו צו כזה ביחס לשטח או למקום ההם, ללא תעודת-היתר בכתב שהוצאה בידי המפקד הצבאי או מטעמו, יאשם בעבירה על התקנות".