Menurut sejarahnya, rumah tradisional palembang yang pertama adalah rumah rakit. Hal ini dikarenakan pada zaman dahulu palembang merupakan daerah yang banyak digenangi air, atau daerah rawa. Palembang memiliki sungai-sungai dan memiliki induk sungai yang disebut sungai musi. Sungai tersebut dimanfaatkan sebagai jalur transportasi antar sesama penduduk. Diantara masyarakat palembang yang tinggal di rumah rakit, ada yang menjadi penguasa, atau orang yang dihormati. Penguasa tersebut membangun rumah di daerah daratan dan di tepi sungai. Bentuk rumah yang dibangun oleh penguasa tersebut adalah berbentuk atap limas dan lantai rumah memiliki perbedaan ketinggian lantai, atau kekijing. Perbedaan ketinggian lantai bangunan ini timbul karena adanya konsep makro-mikro kosmos, yang mengartikan tentang penguasaan atau adanya perbedaan derajat atau kedudukan dalam masyarakat. Pada bagian lantai yang tinggi adalah yang mereka hormati. Dengan berkembangnya pembangunan di Palembang dan kemudian menjadi kota perdagangan, maka timbul suatu paham atau aliran baru yang menentang konsep makro-mikro kosmos. Ditentangnya paham tersebut dikarenakan masyarakat tidak setuju akan adanya perbedaan kekuasaan dalam masyarakat, sehingga masyarakat dapat tinggal di daerah tepian sungai dan daerah barat. Pertentangan ini bukan hanya dalam hal tempat tinggal saja, melainkan juga dalam hal arsitektur rumah limas. Dengan adanya konsep makro-mikro kosmos pada rumah limas diubah dengan membuat satu konsep yang baru yaitu konsep ketuhanan yang maha esa. Konsep ini ditandai dengan pembangunan rumah limas yang tidak memiliki bengkilas. konsep ini sudah memakai prinsip bahwa di mata Tuhan manusia memiliki kedudukan yang sama. Timbulnya rumah limas tanpa bengkilas tidak sampai disitu saja. Masyarakat banyak yang merasa tidak mampu untuk membangun rumah dengan bentuk rumah limas. Selain pembuatan atap yang cukup rumit juga karena biaya pembuatan rumah dengan atap limas sangat mahal. Oleh karena itu maka timbul bangunan yang memiliki bentuk polos atau bentuk kotak empat persegi panjang. Karena kesederhanaan bentuk rumah dan kemudahan dalam pembangunannya maka rumah ini disebut rumah cara gudang yang sekarang kerap disebut rumah gudang. Bagi mereka yang tinggal di sekitar sungai musi, keanekaragaman khasanah kebudayaan Sriwijaya masih tampak jelas dari berbagai macam bentuk bangunan yang berada di kawasan permukiman masyarakat perairan sungai musi. Bentuk rumah pemukiman pada kawasan ini pada umumnya merupakan rumah panggung yang didirikan diatas tonggak kayu atau biasa disebut juga dengan rumah gudang. Hal ini dapat dimaklumi karena awal mula berdirinya rumah gudang itu sendiri muncul setelah era kolonial. Rumah gudang lebih diminati oleh masyarakat perairan sungai musi dibandingkan bentuk-bentuk permukiman lainnya karena lebih efisien dari segi perawatan dan tidak ada ketentuan khusus mengenai bentuk rumah. Walaupun rumah gudang dan rumah limas sama-sama merupakan rumah panggung yang didirikan diatas tonggak kayu akan tetapi lantai rumah gudang tidak bertingkat atau berkijing seperti hal nya rumah limas. Bentuk rumah gudang pada dasarnya lebih dipengaruhi oleh keinginan pemiliknya, demikian pula halnya dengan kebutuhan ruang dan tata letak bangunnya. Pada umumnya rumah gudang pada pemukiman masyarakat perairan sungai musi memakai bahan bangunan dari kayu dan berdiri diatas tiang-tiang pancang kayu. Hal ini untuk mengantisipasi pasang surut air sungai agar tidak masuk ke dalam rumah. Karena itulah bentuk rumah gudang dapat lebih mudah kita jumpai pada pemukiman masyarakat yang tinggal di pinggiran sungai. Rumah ini disebut dengan rumah gudang karena selain untuk tempat tinggal juga biasanya digunakan untuk menyimpan barang-barang dagangan. Rumah gudang termasuk dalam tipe rumah panggung karena dibangun di atas tiang-tiang. Bentuk bangunannya sendiri berupa empat persegi panjang dengan atap berbentuk limas. Hal yang membedakannya dengan rumah limas adalah lantainya tidak memiliki undak-undakan (tingkatan). Adapun bahan-bahan yang digunakan untuk membangun rumah ini juga kayu-kayu yang bermutu baik seperti ungien, tembesu, dan merawan. Pembagian ruangan pada rumah gudang dapat dibedakan atas ruang depan, ruang tengah, dan ruang belakang. Ruang depan terdiri dari beranda yang fungsinya untuk beristirahat dan berkumpul anggota keluarga serta tempat pelaksanaan kenduri. Selanjutnya ruang tengah yang berfungsi untuk menerima tamu dan undangan. Bagi tamu yang dianggap terhormat atau berusia tua akan ditempatkan pada sisi dinding bagian dalam dari ruangan tersebut. Ruang belakang dari rumah gudang terdiri dari kamar, dapur, dan ruang dalam. Kamar ini diperuntukkan bagi kepala keluarga sebelum keluarga tersebut mempunyai anak perempuan yang dewasa. tetapi bila anak perempuannya telah dewasa maka kamar itu akan ditempatkan oleh anak gadis tersebut. Pemikiran sebagian masyarakat yang semakin berkembang membuat pendirian rumah gudang ini tidak lagi mengikuti tradisi bangunan tradisional palembang. Pendirian rumah tradisional kearah sungai yang menjadi sebuah kebiasaan, lama kelamaan menjadi mitos yang timbul di masyarakat palembang. Sebagian masyarakat tetap menjalankan aturan aturan tradisi hanya karena untuk menghormati tradisi tersebut. Demikian halnya dalam orientasi rumah gudang di palembang. Pengorientasian bangunan kearah sungai dibuat hanya untuk mengikuti orientasi bangunan rumah tinggalnya ke arah sungai, dan ada juga yang beranggapan bahwa air adalah sumber kehidupan. Seiring dengan perkembangan zaman, pemikiran tradisional tersebut saat ini tidak lagi terlalu dihiraukan masyarakat. Sehingga sekarang terlihat banyak masyarakat palembang yang mengorientasikan bangunan ke arah jalan darat.