海口市位于海南岛最大的河流一南渡江口西侧，地当南渡江的出海之口，故取名为海口。

远古时代，海南岛与中原大陆原连一体，有如瓜架下的一个葫芦。由于地壳断裂陷落，狭长地带下沉消失，形成琼州海峡，海南岛便与大陆分离，孤悬海外，与雷州半岛隔海相望。其时，海口只是一片浅滩，据传说现在的市中心广场、东西湖无来是个无底潭洞，有五条小龙在潭中练身修道。千年之后，五小龙身健道成，自觉潭小容身受束，于夏秋交接之日，掀潭水飞天，聚成五朵彩云，五龙腾云出潭，随彩云升空，俯瞰寻觅容身之所。见神州大地日出水面广阔无边之东、西、南、北海，加之长江、黄河流水滔滔，便知此乃天赐永久容身之理想水境。五龙一斟，便降云入水，四龙分赴东西南北四海、一龙游向长江、黄河。

在汉代，现海口地面属珠崖郡玳瑁县，隋代以后划为琼山县。到唐代，这里白沙津，为琼州城的外滩，设有古渡驿站，是当时琼州与雷州海渡和贸易的港口。南宋时，这里设海口浦，范围包括今天的海甸与海口市区。元代，海口浦便逐渐代替白沙津，成为海南渡海和物资进出口的主要港口之一。明洪武27年（1395年）开始筑城，接兵制海口浦改建为所，称“海口所”或“海口区”。相传在今海口市的得胜沙路一带，古称外沙。道光二十九年（1849年）倭寇入犯海口，海府地区军民予以反击，经过激烈的战斗，最后得胜海贼于外沙，故得名“得胜沙”。清咸丰年间据《天津条约》海口辟为对外通商口岸，成为南洋群岛大陆对外交通的道口。清光绪元年（1875年）设置海口海关，并在白沙门建港。由于侨民日增，商贾云集，海口日见繁盛。1912年起，海口所改称海口镇。1926年脱离琼山县，开始建市。1950年4月23日海口解放，同年6月正式设市。1988年海南定海口为省会。