“岳阳”字面意思为山的阳面。因南朝梁时分罗县、吴昌县新置玉山县、岳阳县(非今岳阳县)、湖滨县,并以此五县及湘阴县建岳阳郡。岳阳从此得名。
岳阳地区早在3000多年以前就有人居住。夏商为荆州之域、三苗之地。春秋属楚,亦为麋、罗二国地,战国时仍为楚地。周敬王时期在此修筑西糜城,为岳阳境内筑城之始。
秦灭六国,推行郡县制,岳阳大部分地区隶属长沙郡罗县。西汉时,今岳阳、临湘及平江、湘阴、汨罗分属长沙国(长沙郡改)下隽县和罗县,今华容县则属南郡古华容县和武陵郡孱陵县。东汉改长沙国为长沙郡,分罗县东部今平江一带建汉昌县。
东汉建安十五年(210年),孙权将汉昌、下隽等县建为汉昌郡,郡治在今平江县金铺观,这是岳阳市建郡之始。黄龙元年(229年),分孱陵县南部今华容县一带置南安县,并撤消汉昌郡,改汉昌县为吴昌县。鲁肃在此修巴丘城。
南朝梁时以周边五县及湘阴县建岳阳郡,岳阳从此得名。
隋文帝开皇九年(589年),废郡为州,撤销吴昌县、湖滨县,并入罗县;又废岳阳郡,将玉山县、湘阴县并入岳阳县,改岳阳县为湘阴县。并废除巴陵郡,建为巴州。后改巴州为岳州。
明太祖洪武二年(1369年),改岳州路为岳州府。洪武三十年(1397年),将常德府所属的澧州(辖安乡、石门、慈利等县)改属岳州府。清朝仍称岳州府。
民国二年(1913年)废府存县,改巴陵县为岳阳县。
中华人民共和国成立,划湖南省为十个专员公署,岳阳、临湘、平江和湘阴属长沙专署。1960年分岳阳县设立岳阳市。