Nama bandar raya ini berasal dari dua perkataan, iaitu ‘alor’ dan ‘setar’. ‘Setar’ merujuk kepada jenis pokok kundang hitam atau pokok kundang daun besar dalam bahasa saintifiknya, bouea macrophylla Griff. Bandar raya ini dinamakan demikian kerana terdapat banyak pohon setar yang tumbuh di sepanjang sungai. Alor Setar merupakan ibu negeri tertua di Malaysia dan telah didirikan pada tahun 1735 oleh Sultan Muhammad Jiwa Sultan Zainal Adilin Mu’adzam Shah II (Sultan Kedah yang ke-19).
Pada awal penubuhannya, Alor Setar hanyalah sebuah kawasan penempatan kecil yang terletak di antara dua sungai. Keindahan kawasan ini dengan hutan hijau yang lebat menarik perhatian Sultan Muhammad Jiwa Zainal Adilin Mu’adzam Shah II. Beliau kemudian berunding dengan pembesar-pembesar dan memutuskan untuk mendirikan sebuah bandar batu di kawasan tersebut pada tahun 1726, yang kemudian dikenali sebagai Kota Setar. Kota Setar (sekarang dikenali sebagai Alor Setar) telah menjadi pusat pentadbiran negeri yang ke-8 pada tahun 1735, menggantikan tempat-tempat seperti Kota Bukit Meriam, Kota Sungai Emas, Kota Siputeh, Kota Naga, Kota Sena, Kota Indera Kayangan, dan Kota Bukit Pinang.
Kedatangan James F. Augustine ke Kuala Sungai Kedah pada tahun 1883 dianggap sebagai faktor yang mendorong perkembangan Kota Setar. Augustine dan beberapa pentadbir Inggeris lainnya telah menjelajahi kawasan Kuala Sungai Kedah sehingga sampai ke Kampung Kota Setar. Beliau telah dibawa untuk bertemu Sultan Muhammad Jiwa Zainal Adilin Mu’adzam Shah II dan terpikat dengan keindahan Kota Setar yang dipenuhi dengan pokok setar.
Kedatangan Augustine ke Kampung Kota Setar telah menggalakkan perdagangan antara penduduk tempatan dan pedagang dari Eropah, China, India, dan Sumatera. Pedagang bermula berkumpul di Kampung Kota Setar untuk berdagang. Kampung Kota Setar berkembang daripada sebuah perkampungan kecil menjadi pusat perdagangan yang sibuk. Ia menjadi pusat pentadbiran dan perdagangan, dan akhirnya, nama Kota Setar diubah kepada Alor Setar. Nama Alor Setar dipilih kerana lokasinya yang berhampiran dengan muara sungai dan reputasinya yang terkenal dalam kalangan pedagang yang kerap melawat. Nama Kota Setar kemudian digunakan untuk merujuk kepada kawasan sekitarnya.
Pada 28 November 2003, Alor Setar diisytiharkan sebagai bandar raya ke-9 di Malaysia dengan gelaran Majlis Bandaraya Alor Setar, setelah bandaraya-bandaraya seperti Kuala Lumpur, Ipoh, Kuching Utara, Kuching Selatan, Johor Bahru, Kota Kinabalu, Shah Alam, dan Melaka Bersejarah.