Pada tahun 2000 Balaikota DKI Jakarta diduduki massa pendemo yang melibatkan Ormas Keagamaan tertentu. Era kebebasan berpendapat dalam wujud tuntutan mendapatkan perlakuan khusus berdasarkan kepentingan suatu agama dan etnik tertentu membuat Gubernur DKI Jakarta pada waktu itu, Sutiyoso berpikir untuk membentuk Forum yang dapat menampung aspirasi kelompok-kelompok keagamaan tersebut. Melalui pertemuan yang difasilitasi oleh Gubernur, Ketua DPRD DKI Jakarta, dan Kepala Kantor Wilayah Kementerian Agama Provinsi DKI Jakarta pada tanggal 5 Mei 2000 terbentuklah Forum Komunikasi dan Konsultasi Umat Beragama (FKKUB).
Ketika Pemerintah melaksanakan penyempurnaan SKB Menteri Agama RI dan Menteri Dalam Negeri RI No. 01/BER/MDN – MAG/Tahun 1969 tentang Pelaksanaan Tugas Aparatur Pemerintahan dalam Menjamin Ketertiban dan Kelancaran Pelaksanaan Pengembangan dan Ibadat Agama oleh Pemeluk-pemeluknya, diselenggarakanlah diskusi-diskusi perumusan SKB yang kemudian berubah menjadi Peraturan Bersama Menteri Agama RI dan Menteri Dalam Negeri RI Nomor 9 dan Nomor 8 Tahun 2006.
FKKUB Jakarta yang difasilitasi oleh Kepala Biro Administrasi Kesejahteraan Masyarakat Provinsi DKI Jakarta melakukan rapat konsultasi tentang perlunya dibentuk FKUB kepada Gubernur Provinsi DKI Jakarta dan Kepala Bakesbangpol Provinsi DKI Jakarta. Hasilnya, Gubernur dan jajarannya bersepakat memfasilitasi pembentukan Forum Kerukunan Umat Beragama (FKUB) Provinsi DKI Jakarta, FKUB Kota Administrasi, dan FKUB Kabupaten Administrasi Kepulauan Seribu.
Pada tanggal 6 Juli 2007 di Hotel Cemara, Menteng, Jakarta Pusat, dilaksanakan musyawarah untuk membentuk FKUB sekaligus memilih pimpinan dan anggota FKUB Provinsi DKI Jakarta dan disepakati oleh perwakilan masing-masing majelis agama yang selama ini telah berkiprah di FKKUB menjadi pengurus sesuai komposisi di PBM (sejak Kongres ke-2 FKUB kata “pengurus” diganti menjadi “pimpinan dan anggota”).
Tanggal 19 Juli 2007 adalah tanggal Pengukuhan pimpinan dan anggota FKUB Provinsi DKI Jakarta, FKUB 5 Wilayah Kota Administrasi, dan FKUB Kabupaten Administrasi Kepulauan Seribu oleh Gubernur DKI Jakarta. Dua hari setelah pengukuhan pimpinan dan anggota FKUB mengikuti Konggres pertama FKUB di Puncak, Bogor, Jawa Barat.
FKUB Provinsi DKI Jakarta langsung melaksanakan tugasnya mulai tanggal 1 Agustus 2007, dan berkantor di Gedung Prasada Sasana Karya Lantai 9 Jl. Suryopranoto No. 8 Petojo Utara, Jakarta Pusat. Namun sejak tahun 2016 FKUB Provinsi DKI Jakarta berkantor di Gedung Graha Mental Spiritual Lantai 4, Jl. Awaluddin II, Kebon Melati, Tanah Abang, Jakarta Pusat.