Jabatan Akauntan Negara Malaysia Negeri Johor telah diwujudkan pada tahun 1977. Senarai nama Pengarah Jabatan Akauntan Negara Malaysia Negeri Johor hingga sekarang adalah seperti berikut :
| Bil | Nama Pengarah | Tempoh Berkhidmat |
| 1 | Datuk Haji Zabidi bin Dasuki | 1977 - 1980 |
| 2 | Encik Rosli bin Abdullah | 1980 - 1981 |
| 3 | Tuan Haji Mohamed bin Abdullah | 1981 - 1983 |
| 4 | Encik Amin bin Abdullah | 1983 - 1985 |
| 5 | Encik Anuar bin Mohamed | 1985 - 1988 |
| 6 | Dato' Haji Jamaluddin bin Abu Samah | 1988 - 2001 |
| 7 | Tuan Haji Mohamed Mohsin bin Hussien | 2001 - 2005 |
| 8 | Dato' Pukhari bin Samsuri | 2005 - 2011 |
| 9 | Encik Roslan bin A. Rahman | 2011 - 2012 |
| 10 | Encik Sadikin bin Aton | 2012 - 2018 |
| 11 | Puan Kalthom binti Salim | 2018 - 2022 |
| 12 | Puan Masayu binti Mustafa | 2022 - 2024 |
| 13 | Encik Rahmad Julkifli bin Mohd Ali | 2024 - Kini |
Jabatan Akauntan Negara Malaysia mula bertempat di Bangunan MIC Jalan Segget dan kemudian berpindah ke KOMTAR Jalan Wong Ah Fook pada 1978 dan kini bertempat di Menara Tabung Haji mulai November 2012.