Сера в самородном состоянии, а также в виде сернистых соединений известна с древнейших времён. С запахом горящей серы, удушающим действием сернистого газа и отвратительным запахом сероводорода человек познакомился, вероятно, ещё в доисторические времена. Именно из-за этих свойств сера использовалась жрецами в составе священных курений при религиозных обрядах. Сера считалась произведением сверхчеловеческих существ из мира духов или подземных богов.
Очень давно сера стала применяться в составе различных горючих смесей для военных целей. Уже у Гомера описаны «сернистые испарения», смертельное действие выделений горящей серы. Сера, вероятно, входила в состав «греческого огня», наводившего ужас на противников. Около VIII в. китайцы стали использовать её в пиротехнических смесях, в частности, в смеси типа пороха.
Слово «сера», известное в древнерусском языке с XV в., заимствовано из старославянского «сѣра» — «сера, смола», вообще «горючее вещество, жир»