Kolej Matrikulasi Johor mula beroperasi pada 1 Mac 2002 dengan pengambilan pertama pelajar dalam lingkungan 800 orang. Ianya merupakan kolej matrikulasi yang keenam dibuka selepas KM Negeri Sembilan, KM Melaka, KM Labuan, KM Pulau Pinang Dan KM Perlis. Kolej ini terletak di daerah Tangkak dan lokasinya berdekatan dengan jalan utama ke Segamat. Keluasan kampus ini adalah sekitar 56 ekar dan dikelilingi dengan kawasan yang sedang membangun serta berhampiran kawasan rekreasi Gunung Ledang yang menjadi tumpuan pelancong dan penduduk tempatan untuk menjalankan aktiviti rekreasi.
Sepanjang Kolej Matrikulasi Johor ditubuhkan,seramai 6 orang individu telah dan dan sedang berkhidmat sebagai pengarah iaitu En. Jailani bin Rusni (2002 -2004), Tn. Hj Solehan bin Remot (2004-2005),En. Abdul Wahab bin Sungib (2005-2006),Tn. Hj. Abdullah bin Mohd Idris (2007-2011), Tn. Hj. Sasman bin Yasir (2011-2013) ,Tn. Hj. Zaidi bin Yazid (2014), Pn. Nor Haslida binti Tahir (2015-2018), Tn. Hj. Mohd Yusof bin Samad (2018- 1 Mac 2021) serta yang terkini adalah En. Muhamad Fariq bin Che Mee (31 Julai 2022 - kini).
Visi
Kolej Matrikulasi Johor penjana pelajar berkualiti ke institusi pengajian tinggi
Misi
Beriltizam menyediakan pelajar cemerlang dalam bidang akademik dan sahsiah melalui pembelajaran yang kreatif dan inovatif
Dasar Kualiti
Kolej Matrikulasi Johor Beriltizam Memberi Perkhidmatan Berkualiti Dalam Pengurusan Hal Ehwal Akademik, Pelajar Dan Pembangunan Staf Bagi Memastikan Pelanggan Mendapat Manfaat Terbaik Melalui Perlaksanaan Sistem Pengurusan Berkualiti Yang Berkesan Secara Berterusan