Saat ini jejak arkeologi Islam tertua di Sumatera Utara yang telah teridentifikasi berasal dari abad ke-9 M sampai abad ke-11 M, yakni dengan adanya temuan fragmen kaca dan tembikar asal Timur Tengah di Situs Lobu Tua Kabupaten Tapanuli Tengah. Selain itu, di situs Lobu Tua juga ditemukan sebuah cap atau stempel yang berukirkan kata “Allah” dan “Muhammad” (Guillot, 2006:34).
Situs Islam yang benar-benar dapat menjadi bukti telah masuk dan berkembangnya Islam di Sumatera Utara yakni kompleks pemakaman kuno yang tersebar di kawasan bersejarah Barus Kabupaten Tapanuli Tengah. Hal tersebut dibuktikan dari adanya temuan batu nisan tertua di Desa Gabungan Hasang dengan tarikh 751 H atau 1350 M (Perret, 2015:488). Beberapa kompleks makam kuno tersebut saat ini telah dikelola oleh BPCB (Balai Pelestarian Cagar Budaya) Banda Aceh maupun pemerintah daerah Kabupaten Tapanuli Tengah.