Tan Sri Dato' Muhyiddin telah mendirikan rumahtangga pada 1972. Hasil daripada perkongsian hidup beliau bersama Puan Sri Hajjah Norainee Abd. Rahman, mereka dikurniakan cahaya mata iaitu Fakhri Yassin, Nabilah, Najwa dan Farhan Yassin.

Ayah beliau yang bernama Muhammad Yassin bin Mohammad adalah seorang ulama terkenal di Bandar Maharani (Muar), Johor. Allahyarham Hj. Muhammad Yassin dikatakan asalnya dari Siak mengikut apa yang diceritakan oleh isteri beliau, Allahyarham Kintan.

Pada masa hayatnya, Allahyarham Muhammad Yassin telah banyak mengajar di daerah Muar seperti di Mesjid Jamek Muar, Masjid Parit Jamil, Masjid Seri Menanti, Masjid Bukit Gambir, Masjid Bukit Kangkar dan Masjid Sungai Mati Muar.

Malah yang paling jauh tempat beliau mengajar ialah di Chohong Melaka iaitu di antara sempadan Melaka dan Muar. Suara Allahyarham dengan lantang dan bergema semasa menyampaikan pengajaran ilmu Tasauf dan Ilmu Tauhid. Allahyarham Muhammad Yassin telah dibawa menaiki kereta untuk pergi mengajar oleh anak beliau sendiri iaitu Allahyarham Haron bin Mohd. Yassin iaitu antara anak paling tua dari isteri yang pertama.

Allahyarham juga telah mengasaskan Sekolah Men. Md. Yassin (Persendirian) di Batu 1 1/4 Jalan Bakri, Muar. Anak-anak Allahyarham seperti Allahyarham Ismail Mohd. Yassin pernah menjadi Guru Besar manakala Allahyarham Kamaruddin Mohd. Yassin, Fatimah Mohd. Yassin dan Baharuddin Mohd. Yassin pernah mengajar di sekolah tersebut dalam tahun-tahun 70an dulu.

Bukan setakat itu sahaja, Allahyarham telah mengasaskan sekolah Arab Saadiah di Batu 1 1/2 Jalan Bakri yang mengambil pelajar-pelajar lelaki dan perempuan untuk mengikuti pelajaran dalam bahasa Arab. Antara murid Allahyarham yang terkenal ialah Allahyarham Tuan Guru Hj. Azman bin Azhari yang telah mengasaskan Haujakan Johor dan pengikut bertaburan di serata negeri Johor.