Im Jahre 1991 wurde der Verein Diakoniewerk Nordhausen gegründet. Im gleichen Jahr erhielt der Verein von der Stadt Nordhausen die Trägerschaft über die Pflegeheime "August Frölich" und "Hermann Arnold". Später kam die "Psychosoziale Beratungsstelle für Suchtkranke und deren  Angehörige" hinzu.

Mit Hilfe von Fördermitteln des Deutschen Hilfswerkes erfolgte die teilweise Sanierung des Altbaus bzw. die Errichtung eines Anbaus in der Hermann-Arnold-Stiftung. Im Pflegeheim "August Frölich", das nach Übergang zur Diakonie auf den Namen "Martin Luther" getauft wurde, gab es keine größeren Investitionen.

Im Jahre 1998 entschloss sich der Verein, mit der Stiftung "Maria im Elende", welche ein Pflegeheim in Elende betrieb, zusammenzugehen. Daraus entstand nach zähem Ringen die Diakonie in Nordhausen/Stiftung "Maria im Elende" GmbH.

Ebenso wie das Martin-Luther-Heim war auch das Pflegeheim in Elende stark sanierungsbedürftig. Als Ersatzbau für Elende entstand das St. Marien-Hospital in Bleicherode, welches Ende 1999 nach mehrjähriger Bauzeit seiner Bestimmung übergeben werden konnte.

Für das Martin-Luther-Heim konnte im Jahr 2001 das St. Jakob-Haus, mitten in der Stadt Nordhausen gelegen, eröffnet werden. Ein weiteres Projekt, welches die Diakonie in Nordhausen übernahm, war "Der ganz andere Bahnhof" in Sollstedt. Hier erfolgt ebenfalls die Betreuung von Suchtabhängigen.