Masalah teratasi.
Penyebab:Saya menggunakan Non Thread Safe php_mongodb.dll
, sedangkan PHP yang diinstal oleh XAMPP adalah Thread Safe.
Setelah mengganti php_mongodb.dll
dengan versi thread aman, tidak ada kesalahan dan saya berhasil menyelesaikan instalasi komposer.