市南區(qū)建置始自德國侵占青島時期，所轄區(qū)域卻有較長的歷史，早就匯入了青島歷史的主流。從明初以來，一直以優(yōu)越的區(qū)域優(yōu)勢在政治、軍事、商貿、旅游、居住諸領域居統(tǒng)領地位。元末明初，倭寇時常侵擾中國沿海地區(qū)，山東的登、萊二州屢遭其害。從明洪武二年(1369)至洪武七年(1374)，倭寇先后6次襲掠膠州灣，燒殺搶掠，曾造成一時“舟楫不通”。針對這種外患，明朝初年在沿海地區(qū)設立衛(wèi)、所，以加強沿海防御。洪武二十一年（1388）在即墨縣東海邊筑城設防建鰲山衛(wèi)，下轄浮山所（全稱：浮山備御千戶所）、雄崖所。“所”的規(guī)模比“縣”大，州府級，由“千戶”（正五品）掌管。

    今市南區(qū)轄區(qū)中心的浮山所從洪武二十一年（1388）立所到清朝雍正十三年（1735）裁所，這360年之間，作為海防軍事重鎮(zhèn)，一直在今青島市內四區(qū)（市南、市北、四方、李滄）及城陽區(qū)、嶗山區(qū)西部這個大范圍內設寨設墩設堡駐兵布防。

    有了浮山所等衛(wèi)、所作為軍事安全屏障，部分內地（據傳多是云南、貴州、山西）人才放心地遷移來到膠州灣東畔定居。從明朝永樂以后，在萊州府即墨縣以南、嶗山以西一帶聚集了大批定居移民，今市南區(qū)范圍就陸續(xù)建了上青島村、下青島村、會前、小泥洼、小湛山、大湛山、田家村、大堯、逍遙、張家莊（后改名為亢家莊）、丁家莊、辛家莊。偏樊海陬出現(xiàn)了生機。人們在農耕的同時，也把創(chuàng)業(yè)的眼光投向大海。明成化三年（1467），在青島口北岸立建天妃宮（后改稱天后宮），每年農歷正月在這里祭拜，以求海上打漁商旅平安。
　　明朝嘉靖年間，王士性《廣志繹》一書中有“青島”一詞，作為一個小島的名字首次出現(xiàn)于文獻中。
　　明朝萬歷六年（1578）即墨知縣許鋌上書朝廷，提出開放海上運輸，后獲準在縣境內開放了青島口(即今市南區(qū)域內，天后宮前，棧橋東)，青島口海運貿易日趨活躍，通商閩、浙、蘇、淮。