明天顺二年（1458年），林聪升任都察院右副都御史，随即呈递《乞缓重狱疏》，提出缓重狱的观点，建议朝廷对死刑要慎重，对重大的囚犯，要全部在牢房严加监管，等到秋后详细报到朝廷决定处理。明英宗采纳了他的建议，下旨于每年霜降后，对拟判死罪的重犯由三法司（刑部、都察院、大理寺）进行会审、作出决定，并且定为常制，从此，便有了对死囚所实施的三司会审制。林聪“缓重狱”的观点不仅成为朝审制的理论基础，也进化成了新中国的“死刑缓期执行”，成为中国法制史趋向文明的一个重要篇章。

   明成化十三年（1477年），林聪官拜刑部尚书，掌管刑部首长大权。第二年，又加封太子少保，兼掌皇太子之道德与知识教导，倍受皇帝重用。晚年的林聪曾多次申请辞官回乡，但都没有被允许，明成化十八年（1482年）病逝于京城任上，去世后，明廷诰授荣禄大夫、太子少保，谥庄敏，归葬于宁德八都铜山。

   从入仕到担任掌管全国司法大权的刑部尚书，林聪始终牢记誓言，秉公执法，为民作主，尤在刑部尚书任上，虽已年过六旬，但仍“夙夜匪懈”，对死刑案件都亲自阅卷审核，其中有六百多位蒙冤死囚在他手中得到了平反或减刑。