Po wyborach Major na zwięźle pozostał Liderem Opozycji. Nowe wybory na lidera partii do wnętrza czerwcu 1997 r. wygrał William Hague. Major pozostał deputowanym aż do 2001 r., gdy zrezygnował spośród ubiegania się o reelekcję. W 1999 został odznaczony Order Kawalerów Honoru. 23 kwietnia 2005 r. został kawalerem Orderu Podwiązki. Odmówił przyjęcia dożywotniego tytułu parowskiego.

Major był zawżdy zapalonym krykiecistą także na emeryturze poświęcił bez liku uwagi swojej pasji. Do 2002 r. był prezydentem Surrey County Cricket Club. Od 1998 r. jest członkiem Carlyle Group’s European Advisory Board, w środku maju 2001 r. został przewodniczącym Carlyle Europe. Z tego stanowiska zrezygnował do wnętrza sierpniu 2004 r. W marcu 2001 r. wygłosił mowę pogrzebową do wnętrza opactwie westminsterskim na rzecz słynnego krykiecisty, lorda Cowdreya. W 2005 r. został wybrany aż do komitetu Marylebone Cricket Club.

Po śmierci księżnej Diany wewnątrz 1997 r. został specjalnym opiekunem książąt Williama również Harryego, odpowiedzialnym zbyt sprawy prawne również administracyjne.