1987年11月2日，台湾宣布开放民众赴大陆探视。然而，久久盼望这一天到来的梁实秋却在11月1日突然发病，于11月3日离世。
11月1日晚11时，梁实秋突然感到心脏不适，赶紧给儿子梁文骐打电话，住在台北南港的梁文骐急忙赶至四维路康桥大厦，梁实秋勉强支撑着给他开了门。过了一会儿，梁实秋夫人韩菁清归来，一看情况紧急，立即到附近找大夫诊视后，叫来救护车，将梁实秋送往台北中心诊所。经医师诊断，认为是“心肌梗塞”，发出“病危通知”，送入加护病房。当时，大夫认为梁实秋病况的危险性大约是百分之十至百分之十五，估计住院一两星期，便可出院回家。
翌日，梁实秋仿佛已有不祥的预感，他轻声对夫人韩菁清说：“回家后，把007号皮箱打开。”她不知他说这些话何意。婚后，她仍保持原先的习惯，把家中的箱子编号。“007号”箱子是平常不大用的。他忽然要她打开“007号”箱子，干什么呢?午夜之后，梁实秋出汗，睡眠不安。医生断定是缺氧所致，于是给以小型氧气面罩。但是这个面罩紧贴鼻口，梁实秋觉得不适。经韩菁清、梁文骐向院方交涉，改换大型面罩，病者这才稍安，竖起大拇指称好。
11月3日6时50分，护士来量脉搏，他看上去还正常。7时20分，他突然全身扭动，甚为不适，经抢救还是离开了人世。医生正式宣布梁实秋死亡的时间，是8时20分。梁实秋临终嘱咐韩菁清，回家启开“007号”箱。正沉浸于丧夫之痛的韩菁清打开“007号”箱，顿时明白了：原来，箱子里放着他的遗嘱!那遗嘱，是他早在1984年便已预先写好的。
虽然梁实秋企望悄然离开这个世界，“不发认闻，不登报”，但是他的去世本身，便成了台湾文坛重大新闻。台湾各报竞相发表梁实秋去世新闻，轰动一时。许多报纸以整版篇幅推出纪念专刊。《中国时报》的《人间》副刊用《巨人离席》作通栏标题，《联合报》副刊的通栏标题则是“春华秋实”。各报纷载悼念文章，表达了人们对梁实秋一生的评价。
夫人韩菁清为梁实秋购买了一口红木棺材，并遵照遗嘱选定了高处坟地。她为他定做了春、夏、秋、冬4套真丝寿衣，在穿寿衣时，她发觉梁实秋的嘴巴仍张在那里。他临死时因为缺氧，张大嘴巴拼命呼吸。去世后，护士竟没有把他的嘴合拢照理是应当用纱布从下巴缠到头顶，使死者嘴巴合拢。当时，亲属们陷于极度悲恸之中，未及顾此，况且亦不懂护理知识，待尸体僵硬之后，死者再也无法合嘴。梁实秋就这样死不闭合而去!
11月18日，台湾淡水北新庄北海公园墓地高处，冒出了一座新坟。梁实秋穿着四季寿衣，黑衫蓝袍，枕着绣花枕头，盖绣花被，身旁放着他的著作<雅舍小品》等，静静躺在红木棺材里，从此“托体同山阿”。