唐太宗器重虞世南博學多識,常在處理機要事務的空檔,召他前來共同研讀經學史學,並交流討論。每當論及古先帝王為政得失時,虞世南必定誠心以正言相勸誡,所言都有幫助。他多次諷勸唐太宗要勤於政事,並以古帝王為政得失,論證利弊。「太宗重其博識,每機務之隙,引之談論,共觀經史。世南雖容貌懦曌,若不勝衣,而志性抗烈,每論及古先帝王為政得失,必存規諷,多所補益。」(《舊唐書·虞世南傳》)唐高祖李淵死後,李世民下詔為父親建造陵墓,以漢高祖劉邦墓長陵為模式,極其隆厚。虞世南兩次上疏諫阻,認為立國不久應當節用安民,主張「薄葬」。在虞世南和群臣的勸諫下,陵墓的規模大為減省。
貞觀八年(公元六三四年),隴右山崩,大蛇屢見,山東及江淮多大水。太宗以問世南,世南以晉朝以來歷次山崩為例,說:「臣聞『天時不如地利,地利不如人和』,若德義不修,雖獲麟鳳,終是無補;但政事無闕,雖有災星,何損於時?然願陛下勿以功高古人而自矜伐,勿以太平漸久而自驕怠,慎終如始,彗星雖見,未足為憂。」唐太宗聽後斂容反省。唐太宗愛好打獵,虞世南也屢次上疏勸阻。
有一陣子,唐太宗迷戀上了南朝宮體詩。一天,他召幾位近臣入宮宴飲,喝得高興之餘,他提筆揮毫,賦詩一首,讓虞世南賡和。不料,虞世南面容嚴肅地說:「聖作誠工,然體非雅正。上之所好,下必有甚者,臣恐此詩一傳,天下風靡,不敢奉詔。」意思是說,皇上您的詩雖然格律很工整,但內容有點庸俗。皇上所喜好的,下面的人必定會效仿。我擔心這樣的詩流傳出去,恐怕無益於形成好的社會風尚,所以對不起,這個詩我不能寫。酒席上的氣氛立刻有些凝固。太宗有些不快,說:「當初你在隋為官,不也寫過宮體詩嗎?」虞世南回答說:「陛下胸懷大志,煬帝沉迷享樂,豈能同日而語呢?」太宗尷尬地笑了幾聲,只好給自己找個台階下,說:「我不過是想試探一下你罷了,不必當真。」宴會不歡而散。不過,事後太宗還是賜給虞世南五十匹絲帛,以表彰他的剛正忠烈。虞世南多次規諫,都被採納,《舊唐書》稱其「有犯無隱,多此類也」。
這些諫言不但沒有惹怒唐太宗,反而令他對虞世南「益親禮之」。唐太宗曾對大臣們說:「朕因暇日,與虞世南商略古今,有一言之失,未嘗不悵恨,其懇誠若此,朕用嘉焉。群臣皆若世南,天下何憂不理!」(《舊唐書·虞世南傳》)他的直言敢諫,為官清正,對於「貞觀之治」是有促進作用的。
