ในปลายสมัยกรุงศรีอยุธยาทางฝั่งซ้ายของลำน้ำโขงแขวงสวันเขตมีหมู่บ้านชุมชนใหญ่ชื่อบ้านหลวงโพนสินซึ่งตั้งอยู่ที่บริเวณพระ
ธาตุอิงฮัง แขวงสวันเขตในปัจจุบัน โดยมีเจ้าจันทรสุริยวงศ์ปกครอง มีบุตรชายชื่อเจ้ากินรี ซึ่งต่อมาได้ข้ามลำน้ำโขงมาฝั่งขวาที่
บริเวณปากห้วยมุก สร้างบ้านแปลงเมืองขึ้น ณ ที่นั้นในปี พ.ศ. 2310 แล้วเสร็จในปี พ.ศ. 2313 และตั้งชื่อเมืองว่า “มุกดาหาร” อัน
เกิดจากศุภนิมิตรที่พบเห็นในขณะที่กำลังสร้างเมือง ชาวเมืองทั่วไปเรียกมุกดาหารว่า เมืองมุก

ในสมัยพระเจ้าตากสินมหาราช ได้พระราชทานบรรดาศักดิ์ ให้เจ้ากินรีเป็นพระยาจันทรศรีสุราช อุปราชามัณฑาตุราชดำรงตำแหน่ง
เจ้าเมืองคนแรกของเมืองมุกดาหาร เมื่อปี พ.ศ. 2321

เดิมเมืองมุกดาหารมีฐานะเป็นเมืองขึ้นการปกครองกับมณฑลอุดร ต่อมาเมื่อปี พ.ศ. 2450 มีการปรับปรุงการปกครองมณฑลอุดร
เป็นจังหวัด และเมืองมุกดาหารจึงถูกยุบเป็นอำเภอเมืองมุกดาหาร ขึ้นการปกครองกับจังหวัดนครพนม จนกระทั่งปี พ.ศ. 2525 รัฐ
บาลได้ออกพระราชบัญญัติจัดตั้งจังหวัดมุกดาหารขึ้นเป็นจังหวัดที่ 73 ของประเทศไทย และเป็นจังหวัดที่ 17 ของภาคอีสานจังหวัด
มุกดาหารเป็นประตูด่านสำคัญสู่กลุ่มประเทศอินโดจีน มีความสัมพันธ์ฉันท์บ้านพี่น้องกับแขวงสวันเขต สปป.ลาว มาช้านาน โดยมี
แม่น้ำโขงซึ่งมีความยาวถึง 70 กิโลเมตร เป็นเส้นกั้นพรมแดน และมีความโดดเด่นในด้านชนเผ่าพื้นเมืองต่างๆที่มีถึง 8 เผ่าได้แก่
เผ่าไทยอีสาน ภูไท ไทยข่า กระโซ่ ไทยย้อ ไทยกะเลิงไทยแสกและไทยกุลา และยังมีแหล่งท่องเที่ยวทางธรรมชาติที่สวยงาม

มุกดาหารมีพื้นที่ประมาณ 4,339.830 ตารางกิโลเมตร แบ่งการปกครองออกเป็น 7 อำเภอ คือ อำเภอเมืองมุกดาหาร อำเภอคำชะอี
อำเภอดอนตาล อำเภอนิคมคำสร้อย อำเภอดงหลวง อำเภอหว้านใหญ่ และอำเภอหนองสูง

ทิศเหนือ ติดกับอำเภอเต่างอย จังหวัดสกลนคร และอำเภอนาแก จังหวัดนครพนม
ทิศใต้ ติดกับอำเภอเลิงนกทา จังหวัดยโสธร อำเภอชานุมาน จังหวัดอำนาจเจริญ อำเภอหนองพอก อำเภอโพนทอง จังหวัดร้อยเอ็ด
ทิศตะวันออก ติดกับแขวงสวันเขต สาธารณรัฐประชาธิปไตยประชาชนลาวโดยมีแม่น้ำโขงเป็นเส้นกั้นพรมแดน
ทิศตะวันตก ติดกับอำเภอกุฉินารายณ์ อำเภอเขาวง จังหวัดกาฬสินธุ์