Kolej Matrikulasi Johor mula beroperasi pada 1 Mac 2002 dengan pengambilan pertama pelajar dalam lingkungan 800 orang. Ianya merupakan kolej matrikulasi yang keenam dibuka selepas KM Negeri Sembilan, KM Melaka, KM Labuan, KM Pulau Pinang Dan KM Perlis. Kolej ini terletak di daerah Tangkak dan lokasinya berdekatan dengan jalan utama ke Segamat. Keluasan kampus ini adalah sekitar 56 ekar dan dikelilingi dengan kawasan yang sedang membangun serta berhampiran kawasan rekreasi Gunung Ledang yang menjadi tumpuan pelancong dan penduduk tempatan untuk menjalankan aktiviti rekreasi.

Sepanjang Kolej Matrikulasi Johor ditubuhkan,seramai 6 orang individu  telah dan dan sedang berkhidmat sebagai pengarah  iaitu En. Jailani bin Rusni (2002 -2004), Tn. Hj Solehan bin Remot (2004-2005),En. Abdul Wahab bin Sungib (2005-2006),Tn. Hj. Abdullah bin Mohd Idris (2007-2011), Tn. Hj. Sasman bin Yasir (2011-2013) ,Tn. Hj. Zaidi bin Yazid (2014), Pn. Nor Haslida binti Tahir (2015-2018) serta yang terkini adalah Tn. Hj. Mohd Yusof bin Samad (2018-kini).

Visi
Kolej Matrikulasi Johor penjana pelajar berkualiti ke institusi pengajian tinggi

Misi
Beriltizam menyediakan pelajar cemerlang dalam bidang akademik dan sahsiah melalui pembelajaran yang kreatif dan inovatif

Dasar Kualiti
Kolej Matrikulasi Johor Beriltizam Memberi Perkhidmatan Berkualiti Dalam Pengurusan Hal Ehwal Akademik, Pelajar Dan Pembangunan Staf Bagi Memastikan Pelanggan Mendapat Manfaat Terbaik Melalui Perlaksanaan Sistem Pengurusan Berkualiti Yang Berkesan Secara Berterusan

Piagam Pelanggan