3月20日，李鸿章在春帆楼和伊藤博文、陆奥宗光展开了第一次谈判。此时清政府急于停战，以避免更大的损失，因此李鸿章首先希望“于开议和约之始，拟请两国水陆各军即行一律停战”。
而日本还有意在战场上再取得一些战果以迫使清政府接受苛刻的条件，因此并不打算先停战再和谈。当然，直接拒绝停战又似乎显得日本没有和谈诚意，所以3月21日双方第二次谈判时，日方抛出了一个清政府无法接受的停战条件：
日本军队应占守大沽、天津、山海关，并所有该处之城池堡垒，驻上开各处之清国军队，须将一切军器、军需交与日本国军队暂管；天津山海关间之铁路当由日本国军务官管理；停战限期内日本国军队之军需军费，应由清国支补。既允上开各款，则停战日期、停战期限及日清两国军兵驻守划界并其余细目，应即行议商。
大沽、天津、山海关都是北京的门户要害所在，一旦被日军占领，和谈不成的话日军向北京后果将不堪设想。如此苛刻的条件李鸿章自然不敢答应，停战谈判就此无法继续。
不过伊藤博文没有想到的是，就在3月24日双方结束第三次谈判以后，李鸿章在返回居住的引接寺途中，遭到日本人小山丰太郎的行刺，子弹击中了左眼下方。所幸子弹威力不足，未能穿透骨头，经过救治以后很快脱离的危险。
小山丰太郎这么做是因为认为此时和清政府谈判还为时过早，应该等到日军占领了北京以后再说，这样才能获得更大的利益，所以才刺杀李鸿章，意图破坏和谈。然而小山丰太郎没想到的是，他这么做反而促进了和谈。
李鸿章一直从事洋务工作，和西方各国没少打交道，在欧美也有一定名望。而且这个时候李鸿章年事已高，出国谈判遇刺，势必在舆论上会引起同情，日本政府则不免遭到谴责。而且西方列强也一直对中国虎视眈眈，如果有国家以此为理由介入，那么日本此前取得的战果将难以保持。
如一度引出欧洲列强的干涉，我国对中国的要求亦将陷于不得不大为让步的地步。若某一强国想乘机进行干涉，固可以李氏之负伤为最好的借口。
从后来俄国拉拢法国、德国，一起迫使日本让出通过《马关条约》夺取的辽东半岛来看，日本这个担心还是有道理的。
所以知道李鸿章遇刺之后，伊藤博文、陆奥宗光就赶去探望、而明治天皇为了表明日本政府立场，一面强调必须严惩凶手，一面命侍从武官中村大佐为特使，带着着军医总监石黑忠惠等人赶往马关为李鸿章治疗，皇后也也赠送绷带，并派遣两名护士随行。
不过这些毕竟都只是表面文章，陆奥宗光认为需要作出一些实质性的让步，以显示和日本诚意，于是建议伊藤博文同意先行停战。伊藤博文对此深以为然，将这个建议转呈明治，最终日本政府同意无条件停战。
3月28日，接到回复的陆奥宗光面见李鸿章，转述了日本的决定。李鸿章原本伤势就不重，没打算回国，看到日方总算同意停战，自然也不肯放过这个机会，于是同意双方进入正式和谈阶段。就这样，李鸿章遇刺反而促进了马关谈判的进行，这估计是小山丰太郎没想到的吧。