Баян-Өлгий аймаг 1940 оны 8 дугаар сарын 20-ны өдөр байгуулагдсаны дараа буюу 1940 оны 10 дугаар сард Улсын прокурорын 50 дугаар тушаалаар Баян-Өлгий аймгийн прокурорын газрыг анх байгуулж, аймгийн анхны прокуророор Сырзаны Дашжав томилогдон, прокурор 1, мөрдөн байцаагч 3, нарийн бичгийн дарга 1, зарлага 1, бүгд 6 орон тоотой үйл ажиллагаагаа эхлүүлсэн түүхтэй.

Анх эсгий гэрт ажлаа явуулж ,прокурорын хяналт, мөрдөн байцаалтын ажлыг морин өртөөгөөр гүйцэтгэж байжээ.

1951 онд 10 өрөөтэй конторын барилгад аймгийн шүүх, прокурорын байгууллага хамт байрлан ажиллаж байсан бөгөөд 1952 онд анхны шуурхай албаны машинтай болж, 1977 оноос 2 давхар байранд шилжин ажилласан түүхтэй.

Аймгийн прокурорын газарт 1958 он хүртэл хууль цаазын мэргэжилтэй хүн ажиллаж байгаагүй, практикт суралцсан, туршлага хуримтлуулсан хүмүүс ажиллаж ирсэн бөгөөд 1958 онд хууль цаазын дунд сургууль төгссөн Ц.Жалцав, Б.Бураан, Б.Серикбай нар ирж ажилласан байна. Түүнчлэн аймгийн прокурорт 1942 онд туслах прокурор, 1962 онд ерөнхий хяналтын туслах прокурор, 1970 онд шүүхийн хяналтын туслах прокурор, 1982 онд тусгай хяналтын ажил хариуцсан туслах прокурорын орон тоо тус тус бий болж, прокурорын хяналтын ажлыг тасралтгүй хэрэгжүүлэх түүхэн замналыг туулан иржээ.

Одоо тус аймгийн прокурорын газар нь прокурор 9, туслах ажилтан-ахлах мэргэжилтэн 4, захиргаа, үйлчилгээний 11 ажилтан, нийт 24 орон тоотой үйл ажиллагаагаа явуулж байна.