حدر عائلة خالف من ضواحي بني يني بمنطقة القبائل، واشتغل أفرادها في التجارة ونقل المسافرين، والده وعمه استقرا في مدينة القنيطرة بالمغرب، خلال الفترة الاستعمارية، سنوات قبل أن يولد محيي الدين (1944) وبعد 6 سنوات من ولادة ابن عمه المجاهد، عبد الله خالف، المدع