二世跟赵高商议说:“我年纪轻,刚登位,百姓还不顺从。先帝巡视各郡县,以显示他的强有力,威势震服海内。现在我安然住在皇宫不出巡游,就让人看着我无能,没有办法统治天下。”春天,二世东行巡视郡县,李斯跟随着。到达碣石山,沿海南行到达会稽,在始皇所立的石碑上都刻上字,碑石旁都增刻上随从的大臣的名字,以使先帝的功业盛德更加明显。
皇帝说:“金石碑刻全是始皇帝建造的。现在我承袭了皇帝名号,可是金石碑刻上不称始皇帝,以后年代久远了,就好像是后代子孙建造的,以致不能称扬始皇帝的功业和盛德。”丞相臣李斯、臣冯去疾、御史大夫臣德冒死罪进言说:“我们请求把诏书全刻在石碑上,这样就明白了。为臣冒死罪请求。”制书批复说:“可以。”
接着到了辽东,然后返回。