Wielka polityka dla Rulewskiego rozpoczęła się w marcu 1981 roku, gdy protestował wraz z opozycją w Urzędzie Wojewódzkim. Wtedy miało dojść do pobicia Jana Rulewskiego przez służby ustroju komunistycznego, co uważane jest dzisiaj za pewien symbol.

W wolnej Polsce związał się  z Unią Demokratyczną premiera Tomasza Mazowieckiego, który dążył do tzw. grubej kreski pomiędzy okresem PRL a III RP.  Startował do Sejmu jednak także z list Unii Wolności, próbował także bezskutecznie zostać prezydentem Bydgoszczy. Od 2007 roku pełni funkcję senatora z list Platformy Obywatelskiej, chodź wielu członków partii w Bydgoszczy z nim się nie chce utożsamiać.

Mimo, że senatorem został wybrany  nie w Bydgoszczy ale w powiatach sąsiednich, to swoje główne biuro prowadzi w mieście nad Brdą, co spotyka się z krytyką samorządowców z jego okręgu. Lokal biurowy wynajmuje wspólnie z posłanką PO Iwoną Kozłowską, dyżury prowadzi tam także inowrocławski poseł Krzysztof Brejza i wicemarszałek województwa Edward Hartwich, który w Bydgoszczy zdążył sobie zbudować dość pokaźny negatywny elektorat.

Gdy prawie 2 lata temu kilka tysięcy młodych ludzi przeszło ulicami Bydgoszczy krytykując umowę ACTA, która w ich opinii miała ograniczać wolność w interencie, to Rulewski wyszedł do nich i stanął w obronie tej międzynarodowej umowy. Tłumacząc, że są to istotne rozwiązania dla ochrony własności intelektualnej.

W ostatnim czasie Rulewski coraz bardziej krytykuje jednak rząd, przez co jest dość często cytowany w mediach sprzyjających partii Jarosława Kaczyńskiego. W ostatnich dniach w internecie dość aktywnie Rulewskiego broni Krsytian Frelichowski, działacz PiS, a także lider środowiska Gazety Polskiej w Bydgoszczy.  Można zatem odnieść wrażenie, że senator Jan Rulewski próbuje w trudnej sytuacji PO zdobyć dobre relacje z PiS-em.

O czymś takim specjalnie nie chcą jednak słyszeć osoby funkcyjne w bydgoskim PiS-ie. Rulewski mógłby im zabrać bowiem miejsce na liście. Wielu działaczy nie jest wstanie zaakceptować także długoletniej współpracy Rulewskiego z Platformą. Tego typu decyzje jak pokazuje praktyka, zależne będą od decydentów partyjnych w Warszawie, a nie w Bydgoszczy.