海巡署是由幾個大小單位所合併構成的，這些單位主要是：國防部海岸巡防司令部、內政部警政署水上警察局、財政部關稅總局(緝私艦艇)。其中海岸巡防司令部的前身與警備總部和憲兵隊都有很深的關連，這個軍職人員構成的系統在海巡署成立後，演變為海岸巡防總局，也就是現在義務役士兵在抽籤中可以抽到的那支軍種。另一方面，水警局和關稅局的編制與人員則成為海洋巡防總局。就這樣，軍人的岸總局和警察、關務的洋總局，以及散佈在兩機關內的文職人員，在海巡署內部也就經常有三種不同組織文化的混在情況。這種文化衝擊在一般純軍事或公務單位裡是很難見到的，有好處也有壞處。
