Dari situasi pada saat itu sebagaimana digambarkan di atas, sebagian Pegawai Negeri berada di bawah pemerintah Republik Indonesia dan sebagian lagi berada di bawah pemerintah Hindia Belanda. Keadaan seperti itu menyebabkan pembinaannyapun dilakukan oleh dua lembaga, yaitu : Kantor Urusan Pegawai Negeri yang dibentuk dengan Peraturan Pemerintah Nomor 11 Tahun 1948 tanggal 30 Mei 1948, berkedudukan di ibukota pemerintahan di Yogyakarta dan dipimpin oleh seorang Kepala yaitu Raden Pandji Soeroso. Pada tahun yang sama Pemerintah juga menetapkan pembentukan perwakilan KUP untuk wilayah Indonesia bagian timur yang berkedudukan di Makasar.

Dalam perkembangan selanjutnya, Kantor Urusan Pegawai (KUP) inilah yang menjadi cikal bakal BAKN, sehingga tanggal 30 Mei 1948 ditetapkan sebagai tanggal lahirnya BAKN. Dienst voor Algemene Personele (DAPZ) yang lebih dikenal dengan DUUP (Djawatan Umum Urusan Pegawai) yang dibentuk dengan Keputusan Gubernur Jenderar Hindia Belanda Nomor 13 tanggal 9 Juni 1948, dikepalai oleh Mr. J.W. Van Hoogstraken dan berkedudukan di Jakarta.

Tugas pokok KUP adalah mengurus segala sesuatu mengenai kedudukan dan gaji Pegawai Negeri serta mengawasi supaya peraturan-peraturan itu dijalankan dengan tepat. KUP dipimpin oleh seorang Kepala yang diangkat dan diberhentikan oleh Presiden atas usul Perdana Menteri dan langsung berada di bawah dan bertanggung jawab kepada Perdana Menteri

Kebijakan pemerintah yang dipandang cukup penting pada masa itu adalah dikeluarkannya Peraturan Pemerintah Nomor 21 Tahun 1948 tentang Peraturan Gaji Pegawai yang dikenal dengaqn nama PGP-48. Dalam peraturan pemerintah ini, gaji permulaan golongan terendah adalah Rp. 45,- sebulan. Gaji pokok seorang pegawai dengan isteri dan seorang anak tidak akan kurang dari Rp. 65,- sebulan. Azas-azas peraturan penghargaan pengalaman bekerja mulai berlaku pada PGP-48 ini. Ijazah sekolah tidak mempunyai arti penting tetapi hanya sebagai ukuran derajat atau kepandaian. Untuk menentukan kedudukan pegawai selanjutnya salah satu syarat adalah kecakapannya. Sistem penggajian yang dianut dalam PGP-48 adalah sistem horizontal dan masa kerja yang berhubungan dengan gaji lama dihitung serta untuk kenaikan gaji berikutnya dalam pangkat baru.

Peraturan Gaji pegawai kemudian diatur kembali dengan PGPN-1955 yang berlaku mulai tahun 1955. Dalam PGPN-1955 dikenal sembilan golongan dan 31 ruang gaji. Selain gaji pokok, untuk kesejahteraan pegawai juga diberikan tunjangan-tunjangan yaitu tunjangan keluarga, tunjangan anak, tunjangan kemahalan setempat, kemahalan umum, kemahalan daerah, tunjangan tangung jawab keuangan, perwakilan, ujian dinas, tunjangan jabatan dan uang pengganti, serta tunjangan bahaya.

Sejak pembubaran RIS dan pembentukan Negara Kesatuan Republik Indonesia tanggal 15 Agustus 1950, pemerintah memandang perlu untuk memusatkan urusan kepegawaian yang sebelumnya diselenggarakan oleh KUP di Yogyakarta dan DUUP di Jakarta. Untuk maksud tersebut ditetapkanlah Peraturan Pemerintah Nomor 32 Tahun 1950 tanggal 15 Desember 1950. Dengan Peraturan Pemerintah tersebut, KUP di Yogyakarta dan DUUP di Jakarta digabungkan menjadi satu.

Meskipun KUP berkedudukan di Jakarta, dalam pelaksanaan tugasnya masih ada unit kerja yang berkedudukan di daerah, yaitu Bagian Tata Usaha Kepegawaian (Biro TUK) di Yogyakarta dan Bagian Pensiun dan Tunjangan (Biro P&T) di Bandung.