最早提出划分三八线的是日本。1895年中日甲午战争后，清政府在朝鲜半岛的控制权被日本取代，日本扶植了亲日派政府。同时，沙俄的“南下政策”也将朝鲜视为远东扩张的重要环节。朝鲜王后闵氏不满亲日政权的控制，成为亲俄派的领袖，并借助俄国的力量推翻了亲日派政权。
1895年10月8日，日方发动“乙未事变”，暗杀了闵王后，重建亲日政权。朝鲜君王李熙虽生性懦弱，但王后被杀不啻为奇耻大辱。俄方及亲俄派利用朝鲜王的仇日心理，于次年2月10日策划了“俄馆播迁”行动，将朝鲜王李熙护送到俄国使馆保护起来。李熙“播迁”到俄国使馆后，随即颁布诏敕，罢免全部亲日派大臣，重新组阁。
朝鲜君王李熙
鉴于当时还没有能力与俄国正面对抗，日本决定采取协商谈判的办法。1896年6月，日方派出前首相、陆军大臣山县有朋为特使，以祝贺沙皇尼古拉二世加冕为契机，在莫斯科与俄国外交大臣罗拔诺夫谈判。在此次谈判中，日方提出以北纬三十八度线为界，将朝鲜半岛划为南北大体相近的两部分，南部为日本的势力范围，北部为俄国的势力范围。不过这个提议遭到了俄国的拒绝。
最初提出三八线的山县有朋
有趣的是，1904年日俄战争前夕，俄国又觍着脸向日本建议，朝鲜半岛三八线以北地区由俄国控制，三八线以南日本可以在任何地方登陆。但此时的日本经过近十年的战争准备，早已蓄势待发，显然不会同意俄国的建议。随着日俄战争俄方的战败，不但整个朝鲜半岛被日本占据，俄国在中国东北的大部分权力以及库页岛南部和千岛群岛都尽归日本。
二战结束前的1945年2月，日本为保卫本土，实施所谓的“玉碎作战”，对驻扎在朝鲜半岛的军队进行调整，三八线以北的军队归关东军指挥，以南的军队归大本营指挥。后来，针对苏联红军可能对日作战的情况，日军大本营又提出所有驻朝日军全部归关东军指挥，朝鲜总督兼任关东军总司令。不过这个方案被裕仁天皇否决。裕仁认为朝鲜是日本的国土，由外驻“满洲国”的关东军来指挥本土的军队，不太合适。
日据时期朝鲜总督府（已拆除）
1945年8月初，西线无战事的苏联红军集结近160万兵力，以摧枯拉朽之势，横扫盘踞在中国东北和朝鲜北部的关东军。8月15日，日本宣布无条件投降，而事先，美国已经探听到了日本的这一决定。没想到日本垮得这么快，眼瞅着苏联占领朝鲜全境易如反掌，而最近的美军还在一千公里外的冲绳岛。朝鲜的日军如果都向苏军投降，是美国不能接受的。
苏联红军成建制俘虏日军
此时的美国想起了三八线。日本宣布投降当日，杜鲁门总统致电斯大林，表示以三八线为界，北部日军由苏军受降，南部由美军受降。斯大林也没矫情，次日回电，基本无异议。其实斯大林的打算是以朝鲜半岛的妥协，换取千岛群岛和北海道北部的驻军，只是后来北海道驻军的想法被麦克阿瑟化解了。当时苏联红军一部已经越过了三八线，正向汉城进发，接到命令，迅速撤回三八线以北。而美军直到9月8日才登陆南朝鲜。
按照当初雅尔塔会议的商定，朝鲜半岛在战后将由美苏英中四国托管，直到朝鲜独立。但是，随着战争的结束，意识形态上升为主要矛盾，四国托管不了了之。美苏分别支持朝鲜南北方成立了大韩民国和朝鲜民主主义人民共和国，双方互不承认，又各自宣布代表整个朝鲜。美苏军队撤出后，南北朝鲜在统一问题上的矛盾日益激化。1949年1月到1950年6月，三八线附近就发生冲突2000余次，终于在6月25日爆发了内战。
雅尔塔会议美苏英三国首脑
按说朝鲜战争是北南双方的事，但是美国从自身霸权出发，操纵联合国通过武装干涉决议，使一场内战变成了侵略与反侵略的战争。从此，围绕北纬三十八度附近展开的争夺，使这条原本并不存在的分割线成为人类历史的一道伤疤。
朝鲜战争初期，北朝鲜人民军进展顺利，将战线突进到朝鲜半岛东南角的洛东江一带。美军于1950年9月中旬登陆仁川后，战局迅速逆转。10月初，美军大举越过三八线，向中朝边境逼近。中国被迫组建人民志愿军入朝参战。1950年10月25日至12月24日两个月时间，志愿军连续进行两次战役，将美军为首的“联合国军”从鸭绿江边打回三八线以南。
麦克阿瑟指挥仁川登陆
1951年6月，北南双方在三八线附近经过近半年的拉锯战，形成僵持态势。双方都意识到短期内无法取得彻底胜利，于是从7月份开始进行谈判。整个停战谈判历时两年，期间打打谈谈，谈谈打打，战线并无太大变化。1953年7月，双方根据实际接触边界划定军事分界线，并在分界线后两公里分别设立非军事区。
1953年7月27日，朝鲜停战协定签署。战争停止于三八线附近的军事分界线，但此时的分界线已不是一条笔直的纬度线。西段北朝鲜多占了些，东段南朝鲜多占了些。北南双方总面积大体相当，北朝鲜约12.3万平方公里，南朝鲜约10.3万平方公里。
如今的停战线已不是当初的北纬三十八度线
这场围绕三八线展开的战争历时不到3年，伤亡军民至少在300万人以上，朝鲜人民依然南北分隔。70年前，北南双方签署的并不是和平协定，而只是停战协定。由霸权者强加给朝鲜人民的这条三八线，虽已演变成停战线，但它的故事远没有停止。