隋朝的御史台是皇帝直接控制下的中央最高监察机关，是隋朝监察制度的主要组成部分。御史台的官员职责分明：御史大夫作为御史台的长官，“掌邦国刑宪，典章之政令，以肃正朝列”。治书侍御史为其副贰，负责举劾百官非法，受理冤状，参与复审，谏诤规正，“台中簿领悉以主之”。侍御史掌纠举百僚，推鞫狱讼。殿内侍御史掌宫殿区内百官的监察，凡朝会，皇帝郊祀、巡省等也在其监察范围之内，对违反礼仪制度的官员进行纠察弹劾。监察御史“掌分察百僚，巡按郡县，纠视刑狱，肃整朝仪”。录事负责台内日常事务和长官交办的事情等。隋炀帝即位后，对监察制度进一步做了大的调整改革。607 年，增置谒者、司隶二台，以监督地方官吏、考核地方政绩、出使慰抚。

御史台除了负责对朝臣百官的监督之外，御史还被赋予谏正君主得失的权力。文帝执政期间，往往随心所欲，决罚官民。据《隋书·赵绰传》记载：文帝曾下令禁止通行坏钱，却有二人在市“以恶钱易好者”，被抓获后“令悉斩之”。赵绰进谏说：“此人坐当杖，杀之非法。”上曰：“不关卿事。”绰曰：“陛下不以臣愚暗，置在法司，欲妄杀人，岂得不关臣事！”上曰：“撼大木不动者，当退。”对曰：“臣望撼天心，何论动木？”后来，治书侍御史柳彧复上奏切谏，乃止。又《隋书·刑法志》载：文帝以文法自矜，凡有小过，则加以重罪。每于殿廷打人，一日之中，或至数次。开皇十年（590 年）治书侍御史规谏文帝，“朝堂非杀人之所，殿庭非决罚之地。”文帝不听，治书侍御史等再次请求务去其弊，否则就辞职。文帝才会“殿内去杖，欲有决罚，各付所由”，充分体现了御史的监督力量。