Lahirnya UIN Ar-Raniry didahului dengan berdirinya Fakultas Syari'ah pada tahun 1960 dan Fakultas Tarbiyah tahun 1962 sebagai cabang dari IAIN Sunan Kalidjaga Yogyakarta. Setelah beberapa tahun menjadi cabang dari IAIN Yogyakarta, fakultas-fakultas tersebut berinduk ke IAIN Syarif Hidayatullah Jakarta selama enam bulan sampai UIN Ar-Raniry diresmikan. Pada saat diresmikan pada tanggal 5 Oktober 19
63, dengan dikeluarkannya Keputusan Menteri Agama Republik Indonesia Nomor 89 Tahun 1963. Sebagai IAIN ketiga di nusantara setelah IAIN Sunan Kalidjaga Yogyakarta dan IAIN Syarif Hidayatullah Jakarta, UIN Ar-Raniry terus maju dan berkembang. Hal ini terlihat, ketika UIN Ar-Raniry diresmikan (5 Oktober 1963) baru memiliki tiga fakultas, yaitu Fakultas Syari'ah, Fakultas Tarbiyah dan Fakultas Ushuluddin, namun baru berusia 5 tahun telas diresmikan pula Fakultas Dakwah (tahun 1968) sebagai fakultas dakwah pertama di lingkungan IAIN di Indonesia. Pada tahun 1968 ini pula, UIN Ar-Raniry ditunjuk sebagai induk dari dua fakultas agama berstatus negeri di Medan (cikal bakal IAIN Sumatera Utara) yaitu Fakultas Tarbiyah dan Syari'ah yang berlangsung selama 5 tahun. Untuk menyamai dengan IAIN-IAIN lain, pada tahun 1983, Fakultas Adab resmi menjadi salah satu dari 5 fakultas di lingkungan IAIN Ar-Raniry. IAIN adalah singkatan dari Institut Agama Islam Negeri dan kata Ar-Raniry yang dinisbahkan kepada IAIN Banda Aceh adalah nama seorang Ulama besar dan mufti yang sangat berpengaruh pada masa Sultan Iskandar Tsani ( memerintah tahun 1637-1641). Ulama besar tersebut nama lengkapnya Syeikh Nuruddin Ar-Raniry yang berasal dari Ranir (sekarang Rander) di Gujarat, India. Beliau telah memberikan konstribusi yang amat berharga dalam pengembangan pemikiran Islam di Asia Tenggara khususnya di Aceh.