Formatisi a Leeds (UK) nel 1980, i The Sisters of Mercy prendono il nome dall'omonima canzone di Leonard Cohen e sono da subito capitanati dall'eccentrica e forte personalità del vocalist Andrew Eldritch.
Esplodono nella scena gothic-rock con il singolo Temple of Love (1983), che resterà uno dei loro capolavori (nonché uno dei vertici dell'intero filone).

Il primo album First and Last and Always esce nel 1985, ed è incentrato completamente su due elementi: da una parte l'estremizzazione del fattore lugubre (chitarre languide, bassi pompati, voce funerea e tremante), sul modello della scena deathrock e psychobilly statunitense più che di quella gothic-rock inglese, dall'altra e l'accento sulla ritmica ballabile (affidata al membro fantasma Doktor Avalanche, nient'altro che una drum-machine).
Tra i vertici del lavoro la trascinante Walk Away, la viscerale Marian e l'espressionista Amphetamine Logic (messa in tracklist sull'album sotto il il titolo Logic per problemi di censura).
Ma in realtà le idee sono poche e la band ricicla continuamente la medesima struttura, la quale è un personale adattamento della musica dei vari Bauhaus e Joy Division per la parte ritmica, e dei vari Suicide e The Cramps per le soluzioni più atmosferiche e orrorifiche. L'unico vero elemento a renderli unici è il timbro vocale allucinato di Eldritch, una delle voci più "gotiche" della storia del rock.

Dopo uno scioglimento della line-up originale, Eldritch prosegue da solo assieme a Patricia Morrison (chiamata da Eldritch solo per questioni di "apparenza promozionale", a sua detta).
Floodland (Merciful Records/WEA, 1987) è notevolmente meno conforme ai canoni del tempo (nonché notevolmente più oscuro e "gotico") rispetto al suo predecessore.
Tra i cori medievali di Dominion/Mother Russia, i synth decadenti di Flood I, la danza oscura di Lucretia My Reflection, la parentesi al pianoforte di 1959, l'epica This Corrosion (capolavoro del disco, tra musical alla The Rocky Horror Picture Show e ottovolanti stilistici), la soffusa Driven Like the Snow e le tetramente atmosferiche Never Land e Flood II, Eldritch si trova perfettamente a suo agio, liberando tutti i propri istinti, dai più funebri e lugubri ai più deliranti e barocchi.
Il disco è una vera e propria "goth-opera", e si pone tra i lavori più riusciti di sempre del filone gothic-rock.
Tra i produttori spicca il nome di Jim Steinman.

Con una nuova line-up, il terzo disco Vision Thing (Merciful Release/EastWest, 1990) modifica il sound per non scadere nell'anacronismo, ma il risultato lascia l'amaro in bocca: quando la band evade in territori differenti (principalmente hard-rock) non coinvolge mai a sufficienza, mentre quando prosegue sui binari del gothic-rock suona invece inevitabilmente manierista (vedesi l'epopea di More, una brutta copia delle tracce più "steinmaniane" di Floodland).
La drum-machine appare ora più che mai un limite artistico, mentre la voce di Eldritch suona spesso troppo stanca; tuttavia la qualità del lavoro viene mantenuta sulla sufficienza da pezzi come Detonation Boulevard, I Was Wrong e la title-track.

Due anni più tardi la band fa uscire il remake Temple of Love (1992), con alla voce anche la cantante israeliana Ofra Haza; la versione forse supera in qualità anche l'originale. Il pezzo fa parte di Some Girls Wander by Mistake, doppio album uscito lo stesso anno come raccolta di tutti i pezzi del periodo 1980-1983 usciti su 7" e 12".

Il successivo singolo Under the Gun (1993) vede invece come guest vocalist Teri Nunn, ed è l'inedito presente nel "greatest hits" A Slight Case of Overbombing.
L'anno stesso la band si scioglie.

I The Sisters of Mercy si riuniscono nel 1996, ma solo per proseguira la carriera nei live; le nuove composizioni diventano infatti rintracciabili unicamente su bootleg.