Sejarah Partai Golkar bermula pada tahun 1964 dengan berdirinya  Sekber Golkar di masa akhir pemerintahan Presiden Soekarno. Sekber  Golkar didirikan oleh golongan militer, khususnya perwira Angkatan Darat  ( seperti Letkol Suhardiman dari SOKSI) menghimpun berpuluh-puluh  organisasi pemuda, wanita, sarjana, buruh, tani, dan nelayan dalam  Sekretariat Bersama Golongan Karya (Sekber Golkar). 
Sekber Golkar didirikan pada tanggal 20 Oktober 1964. Sekber Golkar  ini lahir karena rongrongan dari PKI beserta ormasnya dalam kehidupan  politik baik di dalam maupun di luar Front Nasional yang makin  meningkat. Sekber Golkar ini merupakan wadah dari golongan  fungsional/golongan karya murni yang tidak berada dibawah pengaruh  politik tertentu. Terpilih sebagai Ketua Pertama Sekber Golkar adalah  Brigadir Jenderal (Brigjen) Djuhartono sebelum digantikan Mayor Jenderal  (Mayjen) Suprapto Sukowati lewat Musyawarah Kerja Nasional (Mukernas)  I, Desember 1965.
Jumlah anggota Sekber Golkar ini bertambah dengan pesat, karena  golongan fungsional lain yang menjadi anggota Sekber Golkar dalam Front  Nasional menyadari bahwa perjuangan dari organisasi fungsional Sekber  Golkar adalah untuk menegakkan Pancasila dan UUD 1945. Semula anggotanya  berjumlah 61 organisasi yang kemudian berkembang hingga mencapai 291  organisasi.
Organisasi-organisasi yang terhimpun ke dalam Sekber GOLKAR ini  kemudian dikelompokkan berdasarkan kekaryaannya ke dalam 7 (tujuh)  Kelompok Induk Organisasi (KINO), yaitu:
1. Koperasi Serbaguna Gotong Royong (KOSGORO)
2. Sentral Organisasi Karyawan Swadiri Indonesia (SOKSI)
3. Musyawarah Kekeluargaan Gotong Royong (MKGR)
4. Organisasi Profesi
5. Ormas Pertahanan Keamanan (HANKAM)
6. Gerakan Karya Rakyat Indonesia (GAKARI)
7. Gerakan Pembangunan Untuk menghadapi Pemilu 1971,
7 KINO yang merupakan kekuatan inti dari Sekber GOLKAR tersebut,  mengeluarkan keputusan bersama pada tanggal 4 Februari 1970 untuk ikut  menjadi peserta Pemilu melalui satu nama dan tanda gambar yaitu Golongan  Karya (GOLKAR). Logo dan nama ini, sejak Pemilu 1971, tetap  dipertahankan sampai sekarang.
Pada Pemilu 1971 ini, Sekber GOLKAR ikut serta menjadi salah satu  konsestan. Pihak parpol memandang remeh keikutsertaan GOLKAR sebagai  kontestan Pemilu. Mereka meragukan kemampuan komunikasi politik GOLKAR  kepada grassroot level. NU, PNI dan Parmusi yang mewakili kebesaran dan  kejayaan masa lampau sangat yakin keluar sebagai pemenang.
Mereka tidak menyadari kalau perpecahan dan kericuhan internal mereka  telah membuat tokoh-tokohnya berpindah ke GOLKAR. Hasilnya di luar  dugaan. GOLKAR sukses besar dan berhasil menang dengan 34.348.673 suara  atau 62,79 % dari total perolehan suara. Perolehan suaranya pun cukup  merata di seluruh propinsi, berbeda dengan parpol yang berpegang kepada  basis tradisional.
NU hanya menang di Jawa Timur dan Kalimantan Selatan, Partai Katholik  di Nusa Tenggara Timur, PNI di Jawa Tengah, Parmusi di Sumatera Barat  dan Aceh. Sedangkan Murba tidak memperoleh suara signifikan sehingga  tidak memperoleh kursi DPR. Kemudian, sesuai ketentuan dalam ketetapan  MPRS mengenai perlunya penataan kembali kehidupan politik Indonesia,  pada tanggal 17 Juli 1971 Sekber GOLKAR mengubah dirinya menjadi GOLKAR.
GOLKAR menyatakan diri bukan parpol karena terminologi ini mengandung  pengertian dan pengutamaan politik dengan mengesampingkan pembangunan  dan karya. September 1973, GOLKAR menyelenggarakan Musyawarah Nasional  (Munas) I di Surabaya. Mayjen Amir Murtono terpilih sebagai Ketua Umum.  Konsolidasi GOLKAR pun mulai berjalan seiring dibentuknya wadah-wadah  profesi, seperti Himpunan Kerukunan Tani Indonesia (HKTI), Himpunan  Nelayan Seluruh Indonesia (HNSI) dan Federasi Buruh Seluruh Indonesia  (FBSI).
Setelah Peristiwa G30S maka Sekber Golkar, dengan dukungan sepenuhnya  dari Soeharto sebagai pimpinan militer, melancarkan aksi-aksinya untuk  melumpuhkan mula-mula kekuatan PKI, kemudian juga kekuatan Bung Karno.  Pada dasarnya Golkar dan TNI-AD merupakan tulang punggung rezim militer  Orde Baru.
Semua politik Orde Baru diciptakan dan kemudian dilaksanakan oleh  pimpinan militer dan Golkar. Selama puluhan tahun Orde Baru berkuasa,  jabatan-jabatan dalam struktur eksekutif, legislatif dan yudikatif,  hampir semuanya diduduki oleh kader-kader Golkar. Keluarga besar  Golongan Karya sebagai jaringan konstituen, dibina sejak awal Orde Baru  melalui suatu pengaturan informal yaitu jalur A untuk lingkungan  militer, jalur B untuk lingkungan birokrasi dan jalur G untuk lingkungan  sipil di luar birokrasi.
Pemuka ketiga jalur terebut melakukan fungsi pengendalian terhadap  Golkar lewat Dewan Pembina yang mempunyai peran strategis. Jadi Pimpinan  Pemilu Dalam pemilu Golkar yang berlambang beringin ini selalu tampil  sebagai pememang. Kemenangan Golkar selalu diukir dalam pemilu di tahun  1977, 1982, 1987, 1992, dan 1997. Arus reformasi bergulir.
Tuntutan mundur Presiden Soeharto menggema di mana-mana. Soeharto  akhirnya berhasil dilengserkan oleh gerakan mahasiswa. Hal ini kemudian  berimbas pada Golkar. Karena Soeharto adalah penasehat partai, maka  Golkar juga dituntut untuk dibubarkan. Saat itu Golkar dicerca di  mana-mana.
Akbar Tandjung yang terpilih sebagai ketua umum di era ini kemudian  mati-matian mempertahankan partai. Di bawah kepemimpinan Akbar, Golkar  berubah wujud menjadi Partai Golkar. Saat itu Golkar juga mengusung  citra sebagai Golkar baru. Upaya Akbar tak sia-sia, dia berhasil  mempertahankan Golkar dari serangan eksternal dan krisis citra, inilah  yang membuat Akbar menjadi ketua umum Golkar yang cukup legendaris.
Partai Golkar kemudian ikut dalam Pemilu 1999, berkompetisi bersama  partai-partai baru di era multipartai. Pada pemilu pertama di Era  Reformasi ini Partai Golkar mengalami penurunan suara di peringkat ke  dua di bawah PDIP dengan. Namun pada pemilu berikutnya Golkar kembali  unggul. Pada pemilu legislatif 2004 Golkar menjadi pemenang pemilu  legislatif dengan 24.480.757 suara atau 21,58% suara sah.
Pada pemilu legislatif 2009 lalu suara Partai Golkar kembali turun ke  posisi dua. Pemenang pemilu dipegang oleh Partai Demokrat. Dalam Munas  VIII di Pekanbaru, Aburizal Bakrie terpilih sebagai ketua umum  menggantikan Jusuf Kalla. Sebagai pimpinan baru partai beringin,  Aburizal bertekad akan kembali membawa Golkar memenangkan pemilu. Dia  menargetkan Golkar menjadi pemenang pertama pemilu legislatif 2014  nanti. Ketua Umum Golkar dari masa ke masa
• Djuhartono (1964-1969)
• Suprapto Sukowati (1969–1973)
• Amir Moertono (1973–1983)
• Sudharmono (1983–1988)
• Wahono (1988–1993)
• Harmoko (1993–1998)
• Akbar Tandjung (1998–2004)
• Jusuf Kalla (2004–2009)
• Aburizal Bakrie (2009–sekarang)