Al in de hoge middeleeuwen stond er een klooster op de plaats van het huidige Alexisbad. In de 17e en 18e eeuw werd in de aangrenzende bergen tijdelijk pyriet (kiezelstenen) gewonnen, maar dit bleek economisch niet haalbaar.
Al aan het einde van de 18e eeuw werd er begonnen met een spa en wellnesscentrum vanwege de genezende eigenschappen van het bergwater. Bij gebrek aan voldoende gasten moest dit na korte tijd worden stopgezet. Pas in 1810 werd het kuuroord na een nieuwe analyse van het geneeskrachtige water onder leiding van hertog Alexius von Anhalt-Bernburg hervat. De infrastructuur werd ook meer en meer in overeenstemming ontwikkeld. De architect van veel historische gebouwen uit deze tijd was niemand minder dan Karl Friedrich Schinkel.
Het kleine dorp in de Harz kreeg voor het eerst een grote nationale betekenis en faam in 1856, toen de oprichters van de "Vereniging van Duitse Ingenieurs" (VDI) hier op 12 mei bijeenkwamen.
In 1888 werd Alexisbad aangesloten op de Selketalbahn-spoorlijn. Een aftakking van de hoofdlijn Quedlinburg - Eisfelder Talmühle buigt naar Harzgerode. Daarom komt het vaak voor dat twee met stoom aangedreven smalspoortreinen tegelijkertijd het station Alexisbad verlaten.
De bosrijke en wildromantische omgeving van Alexisbad is ook een ideaal gebied voor wandelaars. Aantrekkelijke wandelbestemmingen in de buurt zijn onder meer de Selke-waterval, de Magdtrappe en de Köthener-hut.