1889年出生在福建闽侯县胪雷乡（今属福州市仓山区）一个贫寒家庭。他的父亲原先是一名箍匠，后服务在晚清海军，由水手升至中士管轮。
童年时代的陈绍宽，为生活所迫，在家务农放牛。10岁入私塾，15岁考入福州教会办的格致书院，因而后来陈绍宽英语颇好。两年后，陈入江南水师学堂，攻读航海技术。在校期间，他埋头苦读，奋发为雄，深得教习器重，以全班第一的优异成绩毕业。
加入海军
加入海军
1908年，陈绍宽从江南水师学堂毕业后，被派往“通济”练习舰，1909年实习结束时被授予海军少尉军衔。后来历任二副兼教官、大副、副长等职。1914年他被调任海军总司令部少校副官。
1914年，调海军总司令部任少校副官。
1915年12月5日，陈其美等革命党人意图夺取“肇和”军舰，时为少校副官的陈绍宽指挥“海琛”、“应瑞”两舰截击，不只使革命党人夺舰企图失败，也使他自己在北洋政府的海军之中受到重视，不久他便被破格提升为“肇和”练习舰代理舰长。
1916年2月，陈绍宽奉派到美国学习飞机和潜水艇的操作技术，1916年10月归国。当年12月，参谋本部选派刘家佺等6人赴欧洲各交战国观察战事，海军总长程璧光也趁此时派陈绍宽随同出国观战，顺便留英深造，获大总统黎元洪同意。
自1917年年初起，陈绍宽开始了约三年的旅外考察生涯。他在1917年1月11日抵达日本，并自14日起由东京出发，前往日本海军各重要机关参观，27日离日赴美。2月5日抵檀香山，再转往美国本土。1917年5月，陈绍宽奉命前往英国观战，考察英国海军。在英期间，陈绍宽拜访过英国外务部及海军部，参观了英国各处军港、军舰、厂校营栈，及飞机工厂。他还到过英国海军潜艇队，考察潜艇根据地的设备，并随潜艇出海操演巡弋，后来他又从英国转赴法国和意大利考察两国的海军战备。
1917年，北洋政府决定参加协约国，对德、奥宣战，身在英国的陈绍宽立即加入英国海军潜艇队参战。在英德日德兰海战中，陈绍宽奋不顾身，坚守岗位，服从调遣，颇有建树，荣立战功，得到英国海军当局的嘉奖和颁发的“特别劳绩勋章” （Oder of Distinguished Service）一枚。1918年陈绍宽在北京政府驻英使馆任中校海军武官兼海军留欧学生监督。
1919年2月，作为海军代表，陈绍宽参加了中国代表团海军专门委员会，出席巴黎和会。6月，他又出席了在伦敦举行的万国海路会议。在国外，他目睹了英、美、法、日等列强假和平、真分赃的卑劣行径，切身感到强权即公理、弱国无外交的世界政治现实，加上接触了弱肉强食、物竞天择的达尔文《天演论》的进化论观点，激发了他献身海军、富国强兵的志向。
立功北伐
1919年10月，陈绍宽从欧洲归国，被调到“通济”练习舰任舰长。通济舰是旧中国海军中的一条大船。
1922年第一次直奉战争期间，陈绍宽因为帮助直系有功而升任海军总司令部参谋长；
1923年升任海军中校；
1925年调任“应瑞”号练习舰舰长。
1926年，国民革命军誓师北伐，陈绍宽时任北洋海军第二舰队少将司令，驻“楚有”旗舰，泊在南京下关，游弋在长江中下游。当时苏、浙、皖三省处在军阀孙传芳的控制下，因此，陈绍宽的态度对北伐之举举足轻重。关键时刻，陈绍宽明辨是非，与孙传芳虚与委蛇，静观事态发展，志在投向革命。
1927年3月，北伐军逼近长江边。陈绍宽认为“时机已到，非干不可”，率领舰队开赴安庆一带活动，经过商讨大家一致同意，准备临阵倒戈，参加北伐，归附国民革命军，并率舰与北洋军阀孙传芳大战，大获全胜。以拱卫京畿有功，得国民政府一等勋章和“中流砥柱”大勋旗。接着又组成西征舰队，沿江而上，克汉口，为中央政治委员会武汉分会委员，接着又克长沙、岳州等地。民国17年1月，西征结束，奉命回南京。
振兴海军
1928年12月，南京国民政府设立海军署，陈绍宽任署长，晋升为海军中将，负责海军工作。他见北洋军阀统治时期，海军内部任人唯亲、结党营私的状况，毅然决定拟订海军“铨叙法则”，统一任人标准，强调任人唯贤，量才录用，改变海军中的人治现象。他遴选精干人员组成班子，参阅中外有关文献，结合海军实际，谨慎缜密地研究，提出海军官阶、执掌、赏罚等铨叙法规的草案，送立法院核准后，即公布施行，使反对者无暇从中作梗。这是陈绍宽在旧中国海军建设中的创举。由于旧海军派系林立，东北系、电雷系、粤系，对铨叙法皆有反感，有不同程度的抵制。他便首先在自己管辖的闽系海军中执行。
1929年3月，蒋桂战争爆发，陈绍宽亲自以“应瑞”旗舰护送蒋介石第二次西征，随即占领湖北、湖南，被委湘鄂政务委员会委员兼湖南省政府委员。6月，国民政府恢复海军部，陈绍宽为海军部政务次长兼第二舰队司令，接着被正式任命为代理部长兼江南造船所所长。
1930年任代理部长，1932年晋升为海军上将，出任海军部长，并为国民政府国防委员会委员、国民党中央执行委员。
1932年1月，任海军部长。决定福州海军学校每年定期招生，聘请英国海教官到校任教，培养出数百名毕业生。先后派出数批海校留学生，为海军培育一批骨干力量。在出任海军要职的几年中，对建设海军，争回祖国版图、测量权、引水权以及造就海军人才等，作出了重大贡献。
1932年淞沪战争爆发后，中国海军虽然愤火难消，但是又不得不“秉中央意旨”，“不准还击”。海军的这种“贪生怕死”的现象招致了社会各界连续几个月的严厉批评。此外，由于国民政府内部的派系之争，海军的建设始终得不到重视。同年11月间，陈绍宽终于难忍心中的愤怒，呈请辞职。11月30日，行政院批示：“该部长悉心任事，劳怨不辞，毅力勤规，夙享懋绩，正赖弘才擘画，巩固国防，而请辞去本兼各职之处，应毋庸议。”两个月后，陈绍宽又提辞呈，这次辞职之中他说：外界“每对海军及绍宽个人时加责难，尤以淞沪战役以还，佥责海军无力，不能捍卫国家。”在海军重要将领和蒋介石的代表张群慰留下，陈绍宽才打消辞意。
1934年11月间，因为海军的建设得不到重视。他感到自己建设海军以强大中国的抱负难以实现，心中痛苦不已，再次提出辞职呈请。在蒋介石、孔祥熙等人一再苦苦劝说下他才收回呈请。
积极抗战
沉船封江
1937年4月，陈绍宽为国民政府代表团副团长，赴英国参加英国国王乔治六世的加冕觐礼，事后转德国考察海军。同年7月7日，中国抗战爆发，陈绍宽即回国主持海军备战事宜。7月底，日本驻华使馆武官公然威胁陈绍宽，说：“如果中国海军保持中立，则日本海军可以不攻击中国舰队；相反，如果违反严守中立的状态，那么中国海军将受到毁灭性打击。”陈绍宽当即给予严正驳斥，表示一定要抗战到底。
8月9日虹桥机场事件发生后，8月11日，蒋介石指示陈绍宽迅速将现有的31艘军舰和征用的轮船，开往江阴水道，构筑堵塞封锁线，在防敌溯江而上的同时，堵住位于长江内河的日本海军10余艘战舰的退路。
在接到命令后的当晚，陈绍宽即率第1舰队主力舰艇驰往江阴，与此同时，江阴下游的炮艇也奉命西上，轰毁沿途水道航标。8月12日，陈绍宽抵达江阴后，将由国营招商局和各轮船公司征集的20余艘轮船及“同济”等8艘老式军舰，在拆除舰炮后逐一沉入江底，以沉船方式构筑江阴封锁线。此后，为加固封锁线，海军部还在沿江之江苏、浙江、安徽、湖北等地，征集180只民船，运送3000多立方巨石、6500多担碎石，填充沉船间的空隙，并在江阴一段布设水雷。随后，他又命海军部次长、第1舰队司令陈季良中将率领多艘主力舰负责守卫长江水上封锁线。[2]
与日本海军的交战
自8月16日起，日军出动飞机临江上空侦察，企图炸开水上通道。中国海军主动出击。江阴区江防司令部派出102号快艇，经内河潜至黄浦江，在日军旗舰“出云”号300米外接连向“出云”号施放2枚鱼雷，使日军旗舰受创。日舰立即还击，102艇被击沉，官兵泅水离艇。22日下午，面对来势汹汹的15架日机，中国军舰立即开炮迎击，击落敌机1架，伤2架，余者仓皇南逃。这一次战斗，使日军第3舰队大为震惊，决心对中国海军进行报复，随后增派军舰、飞机，准备发起进攻。
9月22日上午，日海军联合航空队首第一批30余架攻击机和战斗机，以大编队机群袭击江阴，轰炸中国海军第1舰队，主要目标指向旗舰“平海”号和姊妹舰“宁海”号。这次海空战持续2个小时，战况惨烈。击落日机3架，伤8架；中国海军阵亡6人，伤30余人，“平海”、“应瑞”两舰受伤。日军未达目的，着急再次进攻。23日1时10分，日军出动73架飞机，分两批向中国舰队发起进攻。“平海”、“宁海”两舰在经过顽强的浴血奋战后被击沉。
9月25日，日军再次出动飞机攻击中国舰队。因“平海”号沉没，陈季良转到“逸仙”号指挥，故日军集中全力进攻“逸仙”号，激战1小时，“逸仙”舰弹洞遍体，被敌机炸沉。当日，陈绍宽派往江阴增援的“健康”号驶到龙稍港江面时，遭11架敌机攻击，也中弹沉没。因第1舰队实力大减，陈绍宽派第2舰队司令曾以鼎少将乘“楚有”舰驰援江阴并接替陈季良指挥作战。28日，大队日机袭击江阴，围攻“楚有”舰。舰上官兵虽竭尽全力奋战，但终因寡不敌众，在10月2日被炸沉。[3]
日军为速战速决，10月间，又连续出动飞机，对江阴中国舰队其余舰艇施行轰炸，图谋全歼中国海军。
10张
陈绍宽指挥下的中国海军第一、第二舰队
9月29日，蒋介石传令海军部嘉勉海军将士：“此次暴日肆意侵略，犯我领土，各地遍受荼毒，我海军将士同仇敌忾，该部部长及次长督率官兵，不惜牺牲一切为国奋斗，此来苦心焦思，筹划江防，拱卫京城，并且愿拆除舰炮，巩固江岸防务，此种破釜沉舟之决心，殊为可贵。近来江阴附近敌机肆行轰炸，致伤亡我海军将士多名，尤所轸念，仰该部长转饬所属知照，并对所有受伤将士代致慰问。”后来，由于封锁江阴要塞的军事机密，被汪精卫的亲信泄露给日本总领事，日方采取相应措施，致使封堵日寇在长江内的计划失败。
持续一个多月的江阴海战，是中国海军主力同日本海军航空兵之间展开的一场以空袭和反空袭为主的殊死拼杀。战斗的结果是击落日机20架，而中国第一舰队主力则损失殆尽。这充分说明了中国海军不仅在数量上，而且质量上极为落后的状况。然而，就是在这样极为落后的状况下，陈绍宽带领全体中国海军，不畏牺牲，与敌浴血奋战，显示了中国人民抗战的决心和英勇气概。[4]
南京失守后，陈绍宽撤往武汉。
陈绍宽出席南京受降仪式
国民政府迁都重庆后，积极组织海军敌后布雷游击队，长期打击敌人，配合全国各战场的作战。
1938年，海军部改组为海军司令部，陈绍宽被任命为海军总司令。
1945年5月，陈绍宽赴美国参加联合国大会，参与制订“联合国宪章”。8月15日，日本宣布投降后，陈绍宽以海军总司令的身份任受降官，代表中国海军在东京湾美舰“密苏里”号上出席盟军对日受降仪式，继以中国海军代表身份，在南京出席中国战区对日受降仪式。
拒绝内战
同年底，人民解放军自山东半岛渡海，向辽东半岛挺进。蒋介石命令陈绍宽率“长治”舰驶赴渤海堵截。对此，陈绍宽处在进退维谷之境，一是他看到蒋介石的所作所为，厌恶内战；二是他对共产党又缺乏了解，不知何去何从。
是年冬，蒋介石再次电令陈绍宽率“长治”舰赴山东堵击共产党军队。在经过长时间的思考后，陈绍宽以“抗战后海军元气尚未恢复，且绍宽在抗日期中报效无多，已愧对国人，若再参加内战，内疚殊大”，借口舰只需修理和急需增拨油费，毅然率“长治”舰南下台湾视察。蒋介石闻听之后，颇为愤怒，拍案大骂：“岂有此理。”
稍后，蒋介石下令裁撤海军司令部，免去陈绍宽的海军司令一职，在军政部成立海军处，由陈诚兼任处长。1945年12月28日，陈诚派陆军警卫队取代海军警卫连执行海军部警戒任务。面对武力接管，陈绍宽断然迁出海军部。当蒋介石觉得处理欠妥，想召见陈绍宽时，陈绍宽却避而不见，提早离开南京南下福州，隐居故里胪雷乡。每日粗茶淡饭，读书看报。
1949年8月福州解放后，时任中共福建省委书记、省人民政府主席的张鼎丞两次亲赴闽侯胪雷，探访陈绍宽，诚恳请他出山，为革命工作。陈绍宽欣然表示，愿意参加革命工作。尔后，他来到福州，公开表态拥护中国共产党的领导。
新中国成立后，陈绍宽重新出现在中国的政治舞台上，为社会主义革命和社会主义建设事业尽心出力，做出了可贵的贡献。他历任福建省人民政府副主席、副省长、华东军政委员会委员、全国人民代表大会代表、民革中央副主席等职务。曾先后赴苏联、印度尼西亚、缅甸等国访问。