中国有着漫长的海岸线，但是古代中国是一个两河农耕文明的国家。如果从地理角度来看，我们的北部是大草原，西部是高原地区，只有东南一带与大海接壤。相比于古希腊的海洋文明，我们的地缘环境决定了我们文化的封闭性。而且在明代以前，在海洋上对我们构成威胁的力量几乎没有，主要都是诸侯王间逐鹿天下，问鼎中原的内耗。
但是这并不代表古代中国没有海军力量，中国自古以来水军一直在战斗序列之中，但为何叫“水军”而非“海军”。因为舰船多行于江河而非海洋，比如三国时期的曹操他的水军规模在当时也是很壮观的，只不过他的水军用处仍然是统一内陆而非海外征伐。
在农业文明时代，要掌握远洋航行的技术，单单靠船坚炮利是不行的，你还得懂季风的规律，熟悉一定的航海技术。古代中国远渡重洋的历史很久远，最早甚至可以追溯到秦朝，御医徐福受秦始皇之命，率领三千童男女自山东沿海东渡寻仙找药，虽然最后失踪了，但是冒险的精神可见一斑。
而历史上记载的最早的对外海战始于唐代，唐朝时期国力强盛，沿海地区得到开发，同时周边地区，如日本也有所发展，造成海上往来增多，中国的造船业开始从江河向海洋过渡。公元663年唐朝、新罗联军与倭国、百济联军于白江口发生海战，唐朝水军充分发挥自身优势，将兵力、船舰皆数倍于己的倭国打得大败，此后日本一直不断派使臣向唐朝学习。
宋代海洋贸易大幅增加，据英国学者弗里曼在《东非出土钱币的历史意义》一文中写道：“在肯尼亚和坦桑尼亚的非洲东岸，发现的19世纪以前的506枚外国古币中，属于中国的达249枚以上，而且多半为13世纪前的宋币。”但是宋朝的贸易虽然规模庞大，但贸易港口的市舶司都是国有资产，民间海上贸易在北宋时期已经被禁止了。
到了元代，忽必烈两次远征日本，1281年元军分南北两路，合高丽军队、南宋降军，共十几万人，战船四千余艘，登陆九州，激战月余，不能攻克日本人的城墙。因为没有强大的后勤补给，再加上遭遇台风和缺乏航海的技术。两次都以失败告终，元朝的海外扩张未能延续。
由于明代一开始就是和蒙古人争雄发家的，从元末朱元璋渡江战役和鄱阳湖水战开始，到郑成功收复台湾，明朝立国近三百年，明朝水师却未曾遭遇一败。永乐年间，明朝海军拥有将近四千艘船只，最大的宝船可以容纳近千人。
15世纪末大航海时代开始，开始设立“海禁”，闭关锁国，故被西方逐渐赶超，由此中国海军日暮西山，较之从前恍如隔世。继郑成功，施琅攻台后，再无骄人战绩。