Klubben ble etablert i 1885 som Southampton St Mary’s av medlemmer fra unge mennsnforbund i kirken med samme navn. Saints ble med i Southern League i 1894. Laget vant tittelen i tre år fra 1897 og på nytt i 1901, 1903 og 1904. I 1898 hadde de tlyttet inn på The Dell, stadionet som ble deres hjemmebane i mer enn 100 år. Klubben måtte i begynnelsen leie stadionet. og under andre verdenskrig måtte de til og med dele bane med rivalene Portsmouth etter at en bombe landet på deres egen bane.
Saints kom til finalen i FA-cupen i 1900, men tapte 4-0 mot Bury. To år senere ble de slått 2-1 av Sheffield United i en omkamp av finalen. Southampton ble med i tredjedivisjon i 1920, vant avdeling sør i 1922, og rykket opp til andredivisjon. Etter andre verdenskrig gikk de to ganger glipp av et opprykk, en gang med ett poeng og den andre gangen på målforskjell.
Laget rykket ned igjen i tredjedivisjon (sør) i 1953. I september 1955 tok Ted Bates over som lagets 10. manager, og fem år senere sikret han et opprykk med imponerende 106 mål totalt. I 1966, fortsatt med Bates ved roret, rykket Southampton opp til førstedivisjon for første gang, fra andreplass i andredivisjon. Bates ble sittende som manager frem til november 1973. da han, etter utrolige 850 kamper som sjef, gikk av for å la Lawrie McMenemy ta over.
Etter å ha spilt i øverste divisjon i åtte år, og kvalifisert seg til spill i Europa to ganger, rykket Saints ned i 1974. Men tidligere Grimsby-manager McMenemy innledet Southamptons moderne epoke med en 1-0-seier over Manchester United i finalen i FA-cupen i 1976. Bobby Stokes scoret vinnermålet. To år senere ledet McMenemy laget tilbake til øverste divisjon, og til finalen i ligacupen, der de tapte 3-2 mot Nottingham Forest. McMenemy skulle imidlertid gjøre et enda større kupp ved å sikre seg Kevin Keegan, angrepsspiller på det engelske landslaget, fra Hamburg i 1980. Keegan, som to ganger var kåret til årets europeiske fotballspiller, hjalp sammen med sin kollega fra landslaget, målvakt Peter Shilton, Southhampton til andreplass i serien i 1984, deres beste plassering noensinne.
Etter å ha kvalifisert laget til spill i Europa fire ganger på fem sesonger, trakk McMenemy seg fra stillingen i juni 1985, og ga managerjobben videre til den tidligere spilleren Chris Nicholl. Nicholl hadde noen av landets mest spennende spillere på laget sitt, deriblant Matt Le Tissier, kåret til årets unge spiller av PFA i 1990 og en legende i Southampton, og den lovende unge angrepsspilleren Alen Shearer. Men Nicholl fikk sparken i mai 1991 for å gi plass til lan Branfoot, som solgte Shearer i 1992 rett før avspark i den første Premier League-sesongen noensinne. Shearer ble solgt til Blackburn Rovers for 3 millioner pund, den gang britisk rekord.
Mens Saints kjempet mot nedrykk. fikk Branfoot sparken i januar 1994 og ble erstattet av tidligere spiller Alan Ball, som hadde vært manager for Exeter City. Ball ledet laget til en sikker posisjon, men sluttet for å ta managerjobben i Manchester City i juli 1995. Hans etterfølger var Dave Merrington, som også holdt laget oppe, men likevel fikk sparken i juni 1996, på slutten av sin eneste sesong.
Det åpnet døren for Graeme Souness, tidligere midtbanespiller på det skotske landslaget, som hadde kommet tilbake til England etter å ha vært manager for Galatasaray i Tyrkia. Saints klarte først å sikre plassen i Premier League på den siste dagen i sesongen 1996-1997, og Souness ble erstattet av Dave Jones, som hadde vært sjef i Stockport. Personlige problemer og en uavsluttet rettssak førte til at Jones ble suspendert fra stillingen og erstattet av Glenn Hoddle, tidligere manager for det engelske landslaget. Rettssaken mot Jones ble avvist, men Saints utbetalte hele kontrakten hans for å la Hoddle ta over i januar 2000.
Hoddle sluttet i mars 2001, da han ble lokket tilbake som manager for Tottenham, laget der han selv skapte seg et navn som midtbanespiller. Førstelagets trener Stuart Gray jobbet som midlertidig manager de neste seks månedene, men fikk sparken i oktober 2001, da laget strevde. Southampton hadde flyttet inn på sitt nye St Mary’s Stadium på begynnelsen av sesongen 2001-2002.
Styreformann Rupert Lowe utnevnte Gordon Strachan, tidligere midtbanespiller på det skotske landslaget og tidligere sjef for Coventry, som manager, og han ledet laget til 11. plass. Neste sesong kom Saints på åttendeplass og tapte 1-0 mot Arsenal i finalen i FA-cupen i 2003. Strachan Bestemte seg for å slutte med fotball i februar 2004 for å tilbringe mer tid med sammen med familien, og en annen skotte, Paul Sturrock, kom fra Plymouth måneden etter. Sturrock ledet laget til 12. plass, men etter bare to kamper neste sesong kom man til enighet om at han skulle slutte. Reservetrener Steve Wigley, som hadde fungert som midlertidig manager da Strachan sluttet, kom til unnsetning nok en gang, men etter bare en seier på 14 kamper mellom august og desember 2004 fikk han sparken. Lowe gjorde en overraskende utnevnelse idet han hentet inn Harry Redknapp, som hadde vært manager for lagets bitre rivaler Portsmouth. Til tross for hans gode omdømme som manager, var det en rekke supportere som ikke ble særlig glade for utnevnelsen, og han Klarte ikkee å hindre at laget rykket ned den siste dagen i sesongen 2004-2005, som nederste lag i Premier League.
Redknapp sluttet på Saints i desember 2005 og ble erstattet av tidligere Hearts-sjef George Burnley. Styreformann Lowe gikk av året etter, da Southampton strevde økonomisk. Laget sikret seg en plass i play-off, men tapte i semifinalen mot Derby County. Burley sluttet i Southampton i januar 2008 for a bli manager for det skotske landslaget, og Nigel Pearson. som hadde vært midlertidig manager for Newcastle, kom inn som manager frem til slutten av sesongen. Han ble erstattet av nederlenderen Jan Poortvliet, som gikk av i januar 2009 da klubben rykket ned til League One, mens assistenten hans Mark Wotte ble sittende frem til juli. Southampton ble satt under administrasjon på grunn av de økonomiske problemene. og begynte neste sesong med å bli trukket 10 poeng.
Den tyske forretningsmannen Markus Liebherr kjøpte klubben. Nicola Cortese tok seg av det administrative. mens Alan Pardew, tidligere sjef for Reading, West Ham og Charlton, tok over som manager. Saints gikk bare så vidt glipp av play-off, men vant Football League Trophy 2010 med seier 4-1 over Carlisle. Klubbeieren Liebherr døde i august 2010, og Pardew fikk sparken senere samme måned etter rykter om at han var uenig med Cortese.
Nigel Adkins fra Scunthorpe, som hadde vært klubbens fysioterapeut før han tok på seg managerrollen, ble utnevnt som sjef for Southamoton i september. Innen utgangen av sesongen 2010-2011 hadde Adkins fått Saints opp i Championship igjen, fra andreplass i League One. Laget hadde deretter sin beste sesongstart nå 75 år. De holdt seg blant de to beste hele sesongen, og fra andreplassen fikk de automatisk opprykk til Premier League.
