30 мая 1902 года Столыпин назначается гродненским губернатором. По прибытию в Гродно, прямо с вокзала новый губернатор вместе со встречающими его чиновниками направляется в кафедральный Софиевский собор, где приложился к местным святыням. В тот же день следует обмен визитами между Столыпиным и преосвященным Иоакимом, епископом Гродненским и Брестским. Такое уважительное отношение к духовенству говорит не только о православном мировоззрении Столыпина, но и об осознании им значения русской церкви в единении россиян на окраинах империи.
   С первых дней пребывания в Гродненской губернии Столыпин со свойственной ему энергией и деловитостью взялся за работу. Ко времени губернаторства ему исполнилось сорок лет. Отныне к его должности добавляется эпитет «самый молодой»: губернатор, затем министр, затем — председатель Совета Министров.
    И вот уже к осени 1902 года по инициативе Столыпина в Гродно были открыты: еврейское двухклассное народное училище, ремесленное училище, оборудованное всеми техническими приспособлениями, а также женское приходское училище с третьим профессиональным классом. В училище преподавались, кроме общепринятых предметов, еще рисование, черчение и рукоделие. Училище такого типа стало первым для всей губернии. В 1903 году началась подписка на учреждение именных стипендий супругов Столыпиных для лучших учащихся Гродненской мужской гимназии.
    К числу главных своих дел в губернии Столыпин относил земельные дела. Много внимания он уделял внедрению на Гродненщине искусственных удобрений, улучшенных сельскохозяйственных орудий, многопольных севооборотов, мелиорации. Старые способы землеустройства и земледелия, считал он, могут кончиться «экономическим крахом и полным разорением страны».
   И хотя Столыпин пробыл в Гродненской губернии всего девять месяцев, в Петербурге успели по достоинству оценить способности молодого губернатора, поручая ему управлять Саратовской губернией, большей по размерам и не подчиненной генерал-губернатору. Учитывалась также традиционно большую степень революционного брожения в Поволжье. Перспектива управлять такой губернией очень привлекала Петра Аркадьевича, а то, что его деятельность в Гродно была оценена, сильно его ободряло.
   21 марта в 2 часа дня в Гродненском благородном собрании состоялось прощание П.А. Столыпина со столь полюбившейся ему губернией. На этой церемонии присутствовали представители от всех государственных учреждений, а также духовенства. Епископом Иоакимом был совершен напутственный молебен, по окончании которого Владыка обратился к Петру Аркадьевичу и его супруге Ольге Борисовне с краткой речью. В этой речи епископ Гродненский и Брестский высказал им «свои благожелания, между прочим отметив такую высоко-симпатичную черту непродолжительной административной деятельности Петра Аркадьевича — верность её основным началам государственного строения в Западном Крае — Православию, Самодержавию и русской народности. Отъезжающих Владыка благословил св. иконой Спасителя».