1955年4月1日，林徽因病逝。噩耗传来后，金岳霖先是怔了一下，而后他喃喃道：“林徽因走了？”过了几秒后，他才突然双手撑在办公桌上，嚎啕大哭起来。林徽因葬礼上，各界名人的挽联中，金岳霖的尤为显眼：“一生诗意千寻瀑，万古人间四月天。”至今，这段话依旧被认为“是对林徽因一生的最好诠释”。1962年，即林徽因去世的第七年，其夫梁思成迎娶了小自己27岁的林洙。消息传来后，金岳霖就不大参加社交活动了，他看起来比以前更木纳了。晚年的金岳霖一直和林徽因夫妇所生儿子梁从诫一起生活，因打小跟他们同住的缘故，他们感情很要好。