Black Sabbath образовалась в 1968 году. Изначально группа называлась Polka Tulk Blues Band. После этого название было сокращено до Polka Tulk. После этого они решили назвать себя Earth, что ненавидел Осборн. Они играли блюз-рок. У Тони Айомми был несчастный случай на работе, в результате которого он отрезал кончики среднего и безымянного пальцев на правой руке. Он начал настраивать свою гитару ниже, чтобы струны были натянуты слабее. Это облегчило ему игру на гитаре. Из-за этого его гитара имела более темный, глубокий звук. Группа считала, что это делает их музыку мрачной и пугающей. В их музыке также были необычные изменения тональности и тактовые размеры (метр). Они выпустили свой первый альбом Black Sabbath в 1970 году. Их самый успешный сингл под названием «Paranoid» вышел из их второго альбома с тем же названием, который должен был называться War Pigs. Он был спродюсирован Роджером Бейном и выпущен в 1970 году. После этого альбома они получили огромный чемодан, полный денег, чтобы купить больше наркотиков и больше студийного времени.
Их третий альбом назывался Master of Reality. Он был выпущен в 1971 году. Альбом звучал еще более мрачно, чем первые два альбома. Их четвертый альбом в 1972 году должен был называться Snowblind, но их лейбл не хотел выпускать альбом, названный в честь песни, в которой упоминается кокаин. Вместо этого лейбл назвал его Black Sabbath Vol. 4. Их пятый альбом, Sabbath Bloody Sabbath, вышел в 1973 году. Это был первый из их альбомов, получивший хорошие отзывы критиков, хотя их мнение о первых четырех альбомах также изменилось и стало гораздо более позитивным со временем.
В 1975 году Sabbath выпустили Sabotage, в котором было несколько более длинных, прогрессивных песен и менее мрачное звучание. Это изменение звучания продолжилось с альбомом Technical Ecstasy 1976 года, который получил неоднозначные отзывы. Осборн потерял интерес к группе и на короткое время ушел. После этого вокалистом был бывший вокалист Fleetwood Mac Дэйв Уокер. Осборн решил вернуться в группу в свое время для их восьмого альбома под названием Never Say Die!. Он получил хорошие отзывы.
Оззи был уволен из группы в 1979 году из-за своей наркотической и алкогольной зависимости. Ронни Джеймс Дио только что покинул Rainbow (группу) и встретил Шэрон Осборн в баре. В итоге он заменил его. Группа записала с ним два студийных альбома и один концертный альбом. Первый из двух студийных альбомов, Heaven And Hell, считался возвращением к успеху и музыкальной форме. Барабанщик Билл Уорд ушел в середине тура Heaven & Hell из-за алкогольной зависимости. Кармин Эппис почти заменил его, но решил позволить своему младшему брату Винни Эппису присоединиться вместо него, так как он был большим поклонником Sabbath. Кармин позже присоединился к сольной группе Оззи, заменив барабанщика Томми Олдриджа. Эппис остался для другого альбома и тура. Дио и Эппис расстроились из-за других участников группы из-за сведения Live Evil. Дио и Эппис покинули Black Sabbath в 1982 году и сформировали Dio. Уорд вернулся для следующего альбома Born Again. Он не гастролировал с группой в поддержку альбома. Барабанщиком, нанятым для тура, был бывший барабанщик Electric Light Orchestra Бев Беван. Группа наняла бывшего вокалиста Deep Purple Яна Гиллана для Born Again. Гиллан воссоединился с Deep Purple, фактически положив конец этому составу Sabbath.
В 1984 году Батлер покинул группу ради сольного проекта. Айомми взял перерыв в работе над Sabbath, пока был в студии, чтобы записать сольный альбом. Это должен был быть альбом всех звезд с несколькими вокалистами. В итоге он использовал Гленна Хьюза на всем альбоме. Он нанял много басистов, чтобы заменить оригинального басиста Батлера. Он нанял много барабанщиков, чтобы заменить оригинального барабанщика Уорда. Seventh Star не должен был быть выпущен как Black Sabbath. Это должен был быть его дебютный сольный альбом. Однако Iommi в итоге стал его дебютным альбомом, он был выпущен в 2000 году. Тони Айомми хотел, чтобы это был его дебютный сольный альбом, но его Warner Bros/Vertigo отказались это сделать, заявив, что название Black Sabbath принесет больше денег. Айомми не стал этого делать, а Sabbath в то время плохо продавался, поэтому было разумнее обозначить его как сольный альбом. Они придумали решение. В итоге он был выпущен под лейблом Black Sabbath с участием Тони Айомми.
В 1987 году The Eternal Idol был выпущен в том же составе, но с вокалистом Тони Мартином на вокале. Этот состав продержался еще на одном альбоме, затем к ним вернулся Дио. Этот состав продержался до Cross Purposes с оригинальным басистом Батлером на басу. Айомми воссоединил состав Tyr для Forbidden.
В 1992 году Ронни Джеймс Дио и Винни Эппис воссоединили состав Tyr для еще одного альбома и тура. После этого Тони Айомми воссоединил состав Tyr для еще одного альбома, но с оригинальным басистом Батлером. В 1994 году Батлер покинул группу во время производства Forbidden. В 1997 году оригинальный состав воссоединился и продолжал время от времени выступать до 2006 года, когда группа отправилась записывать альбом лучших хитов с Дио. Это закончилось туром воссоединения, новым альбомом и туром в поддержку альбома.
В 2005 году Black Sabbath были включены в «Зал славы музыки Великобритании». В 2006 году группа была включена в Зал славы рок-н-ролла.
В 2011 году оригинальный состав объявил, что они снова собираются вместе, чтобы отправиться в тур и записать новый альбом. Однако в феврале 2012 года Уорд заявил, что не будет гастролировать и записываться с ними, если не получит для себя хороший контракт. Он так и не получил свой контракт. Они отправились в тур с Томми Клютефосом, а для студии использовали барабанщика Rage Against the Machine Брэда Уилка. Они были готовы отправиться в тур, когда у Тони Айомми диагностировали лимфому. Они отменили все даты воссоединения, кроме одной. Этот тур заменили Ozzy and Friends. После того, как Тони Айомми выздоровел, они отправились в воссоединение. После этого они отправились в тур в поддержку своего недавно выпущенного альбома 13. В 2016 году они объявили, что отправятся в прощальный тур под названием The End tour. Он длился с 2016 по 2017 год. Группа распалась после окончания тура. Он закончился после последнего концерта в Бирмингеме. Они воссоединились для одноразового концерта на играх Содружества в Бирмингеме с гастролирующим барабанщиком Клютефосом, клавишником Адамом Уэйкманом, оригинальным ведущим вокалистом Осборном и ведущим гитаристом Айомми.
