Habib
Anis lahir di Garut Jawa Barat, Indonesia pada tanggal 5 Mei 1928. Ayah
beliau adalah Habib Alwi. Sedangkan ibu beliau adalah syarifah
Khadijah. Ketika beliau berumur 9 tahun, keluarga beliau pindah ke Solo.
Setelah berpindah-pindah rumah di kota Solo, ayah beliau menetap di
kampung Gurawan, Pasar Kliwon Solo.
Sejak
kecil, Habib Anis dididik oleh ayah sendiri, juga bersekolah di
madrasah Ar-Ribathah, yang juga berada di samping sekolahannya. Pada
usia 22 tahun, beliau menikahi Syarifah Syifa binti Thaha Assagaf,
setahun kemudian lahirlah Habib Ali.
Tepat
pada tahun itu juga, beliau menggantikan peran ayah beliau, Habib Alwi
yang meninggal di Palembang. Habib Ali bin Alwi Al Habsyi adik beliau
menyebut Habib Anis waktu itu seperti “anak muda yang berpakaian tua”.