Впервые слово терем встречается в летописи — в «Повести временных лет». Его происхождение обычно связывают с греческим словом tйremnon (кров, жилище). Некоторые исследователи считают слово исконно славянским или связывают его с арабским словом тарим. На мусульманском Востоке так называют постройку, похожую на древнерусский терем.

Постройки теремного типа были свойственны древнерусской архитектуре, наряду с многоярусностью, наличием разного рода пристроек — переходов, сеней, галерей, использованием в качестве завершения здания башенок и т.д. Например, башни-терема украшали деревянный загородный дворец царя Алексея Михайловича в Коломенском — один из выдающихся шедевров русской архитектуры XVII в.

В конце XVII в. в среде русской знати возникла мода на европейские архитектурные формы и постройка теремных дворцов прекратилась. К концу XVIII в., когда в России начинает возрождаться интерес к национальной истории, терема, аналогов которым не существовало в архитектуре того времени, превращаются в символ старины и древнерусской архитектуры.

Русские терема регулярно упоминаются в фольклорных произведениях: обычно в теремах живут прекрасные и недоступные сказочные царевны (см. царевна); терем может быть местом заточения красавицы.

Авторы литературных произведений, стремясь воссоздать колорит Древней Руси, тоже поселяли своих героев в терема. Например, в высокий терем переселяется разбогатевшая по воле золотой рыбки старуха из «Сказки о рыбаке и рыбке» А.С. Пушкина; приданым царевны из пушкинской «Сказки о мертвой царевне и о семи богатырях» были:

Одна из самых известных детских народных сказок называется «Теремок». В ней рассказывается о том, как в маленьком теремке поселились и стали дружно жить звери до тех пор, пока неуклюжий медведь его не разрушил.

Знаменитая русская народная песня «Отрада» начинается словами:

Слова из сказки «Теремок» Кто-кто в теремочке живет? стали поговоркой.