Kyokushin didirikan oleh Sosai Matsutatsu Oyama yang dilahirkan pada tanggal 12 Juli 1923 di Qa Ryong Ri, Yong Chi Myo’n, Chul Na Do, Korea Selatan. Dilahirkan dengan nama Young Li (Hyung Ye), tetapi setelah berimigrasi ke Jepang memaksanya untuk memakai nama Jepang. Dia memilih nama Oyama yang berarti “Gunung Agung”. Dalam usia yang relatif muda dia dikirim ke Manchuria Cina dan hidup di lahan pertanian milik saudara perempuannya. Saat itu dia mempunyaiidola seorang petarung lokal yang biasa bertanding pada acara perayaan sehabis panen. Kemanapun petarung itu pergi untuk bertanding dia selalu mengikutinya. Hingga suatu saat setelah memenangkan pertandingan, petarung itu dengan sombongnya menantang semua orang yang ada di arena untuk maju bertarung. Bebarapa saat lamanya tidak ada yang berani maju untuk menghadapi petarung itu, sampai akhirnya majulah seorang lelaki tua kecil maju ke arena. Semua penonton mencemooh orang tersebut tak terkecuali petarung tersebut. Singkatnya terjadilah pertarungan sengit dan dimenangkan dengan singkat oleh orang tua tersebut. Belum habis rasa heran para penonton orang tua tersebut langsung menghilang di kerumunan. Siapakah orang tua itu ?. Ternyata dia adalah Mr. Yi, orang yang bekerja pada saudara perempuannya. Demi melihat idolanya jatuh tersungkur dalam pertarungan singkat oleh Mr. Yi maka dia merengek minta diajarkan cara bertarung oleh Mr. Yi. Semula Mr. Yi menolaknya dengan alasan dia masih terlalu muda bahkan masih anak-anak. Tetapi karena melihat keinginan yang kuat akhirnya Mr. Yi mengabulkannya. Mulailah dia belajar beladiri Shaku-riki (Kempo Cina) dengan keras setiap harinya, dan setelah 2 tahun mencapai tingkatan Dan I. Pada umur 12 tahun dia kembali lagi ke Korea dan melanjutkannya dengan latihan beladiri Korea yang dikenal dengan nama Taiken atau Chabee. Beladiri Korea ini merupakan campuran dari Kempo, Kungfu, dan Jiu Jitsu. Latihan ini berlangsung hingga dia berumur 13 tahun. Kemudian dia pindah ke Tokyo Jepang untuk memasuki Sekolah Teknik Penerbangan agar bisa seperti Bismarck, idolanya saat itu. Dia kemudian memasuki Institut Penerbangan di Yamanashi. Bertahan hidup sendiri pada usia semuda itu membuktikan lebih sulit dari yang dia kira., terutama bagi pendatang Korea di Jepang. Selama mengikuti pendidikan dia mulai berlatih Tinju dan Judo. Suatu hari dia mendapat informasi mengenai Okinawa Karate. Dia tertarik dan mulai berlatih Karate di Dojo Universitas Takushoku Tokyo dibawah asuhan langsung Pelatih Gichin Funakoshi, yang sekarang dikenal dengan Shotokan Karate. Perkembangan latihannya mengalami kemajuan yang sangat mengesankan. Pada usia 17 tahun mencapai sabuk Dan II dan pada usia 20 tahun mencapai sabuk Dan IV. Di satu sisi dia juga serius berlatih Judo, namun dalam perkembangannya tidaklah terlalu menggembirakan. Kemudian dia berhenti berlatih Judo setelah berlatih kurang lebih selama 4 tahun dan mencapai sabuk Dan IV.
Pada saat itu tahun 1943 Perang Dunia II tengah berlangsung dan dia kemudian memasuki Akademi Militer Butokukai Kekaisaran Jepang yang mempunyai spesialisasi dalam perang gerilya, spionase, dan ketrampilan ilmu beladiri individu. Belum sempat dia ditugaskan Perang Dunia II telah berakhir dengan kekalahan Jepang pada, ini merupakan penghinaan bagi dirinya sehingga dia harus keluar dari Akademi Militer dan menjadi pengangguran. Dalam masa ini kehidupannya menjadi kacau. Julukan “Trouble Maker” atau biang kerok dari setiap perkelahian di Tokyo melekat pada dirinya. Hingga dia harus sering keluar masuk tahanan. Dia pun menjadi incaran Polisi Militer Tentara Sekutu yang menduduki Jepang akibat sering terlibat perkelahian dengan tentara Sekutu (AS). Pada saat itu dia melanjutkan latihan Karate dibawah asuhan Master So Nei Chu, seorang Korea yang tinggal di Jepang. Dimana Master So merupakan Ahli Goju Karate yang merupakan murid langsung dari Choyun Miyagi, pendiri Goju Karate. So Nei Chu memperbarui kondisi fisik dan jiwanya untuk dipersiapkan sebagai pemimpin Goju Karate di Jepang nantinya menggantikan Master Choyun Miyagi. Itulah mengapa Master So mendorong dia untuk menyepi, menempa kekuatan fisik, kemampuan teknik, dan jiwanya di pegunungan. Disertai oleh salah seorang murid Master So dia hidup menyepi dan terisolasi selama 6 bulan, tetapi murid tersebut tidak tahan dan diam-diam meninggalkannya. Hal itu malah membuatnya tambah giat berlatih sendiri untuk menjadi seorang Karateka terkuat di Jepang. Setelah 14 bulan Master So memberitahu bahwa dia tidak dapat lagi membantunya, sehingga memaksa Oyama turun gunung. Kemudian di tahun 1947 setelah turun gunung dia mencoba kemampuannya di Kejuaraan Seni Bela Diri Jepang Divisi Karate, dan dia memenangkannya.
Namun demikian dia merasakan kegalauan setelah kesepian selama 3 tahun, hingga akhirnya dia memutuskan untuk totalitas mengabdikan seluruh hidupnya pada Karate. Ini juga berangkat dari keprihatinannya melihat karate yang berkembang lebih mirip sebagi tarian. Untuk itu ia berobsesi ingin menjadikan Karate sebagai teknik seni beladiri murni. Dia kemudian memulai lagi meyepi di Pegunungan Kiyozumi di Chiba Prefecture (Distrik). Dia memilih tempat ini untuk meningkatkan semangatnya sebagaimana telah dilakukan oleh Master Zen, seorang Pendeta Budha dan tokoh Seni Beladiri. Dia berlatih 12 jam sehari setiap hari tanpa istirahat. Berdiri tegak di bawah hantaman air terjun pegunungan, memecahkan batu kali dengan tangannya, menggunakan pohon sebagai sasaran tinjunya, dan berlari melompati ranting-ranting pohon ratusan kali setiap hari. Setelah 18 bulan dia merasa cukup percaya diri dan dapat mengendalikan dirinya sepenuhnya dia memutuskan untuk kembali turun gunung.
Di tahun 1950 Sosai Oyama mulai menguji kekuatannya pada sapi di tempat penyembelihan sapi. Pada awalnya mengalami kegagalan sehingga menyebabkan sapi tersebut lepas dari ikatannya dan mengamuk memporak porandakan apa saja di tempat penyembelihan tersebut. Pemilik rumah penyembelihan tersebut tidak marah dan memaklumi kegagalan Masutatsu Oyama, karena dari awalnya ia tidak yakin Masutatsu Oyama bisa membunuh sapi dengan kepalan tangannya. Melihat kegagalan tersebut Masutatsu Oyama berlatih lagi dengan keras untuk meningkatkan kekuatannya, dan mencobanya lagi. Kali ini ia berhasil. Kemudian ia tercatat beberapa (52) kali malakukan demonstrasi bertarung dengan sapi. Beberapa di antaranya terbunuh dalam singkat dan beberapa di antaranya dipatahkan tanduknya. Namun demikian ia pernah cidera dan hampir terbunuh dalam demonstrasi di Mexico tahun 1957 pada usia 34 tahun yang mengakibatkannya harus dirawat dan istirahat selama 6 bulan untuk memulihkan kekuatannya kembali. Setelah apa yang dilakukan Masutatsu Oyama ini banyak mendapat kecaman dari kelompok penyayang binatang barulah ia menghentikannya.
Pada tahun 1952 Masutatsu Oyama melakukan tour ke Amerika Serikat untuk memperkenalkan dan mendemonstrasikan Karatenya. Dia berkeliling ke seluruh Amerika Serikat bertemu dan bertarung dengan banyak orang, dengan petinju, pegulat, karate, kungfu dan sebagainya. Kebanyakan dikalahkannya hanya dengan satu kali pukulan. Kebanyakan tidak lebih dari 3 detik, dan sangat jarang yang lebih dari 3 detik. Prinsip bertarungnya sangat sederhana, bila ia memukulmu maka kamu hancur. Bila kamu menangkis dengan tangan, maka tanganmu akan hancur. Bila kamu tidak menangkis maka badanmu yang akan hancur. Dia terkanal sebagai “Godhand” atau tangan Tuhan, sebuah manifestasi kehidupan Pahlawan Jepang masa lalu yang disebut “Ichi Geki”, “Hissatsu”, atau “Satu serangan, satu nyawa”. Baginya itulah hakekat sebenarnya dari Karate. Gerak langkah kaki, tipuan, dan teknik-teknik yang rumit adalah nomor berikutnya. Selama di Amerika Serikat dia bertemu dan akhirnya bersahabat dengan Jacques Sandulescu yang hingga sekarang masih berlatih dan menjabat sebagai Advisor pada International Karate Organization (IKO 1). Pada tahun 1953 Masutatsu Oyama membuka Dojo pertama kalinya di Mejiro pinggiran Tokyo. Pada tahun 1956 membuka Dojo yang sebenarnya yang dipakainya bergantian dengan seorang pelatih Balet. Dojo tersebut terletak di samping Universitas Rikkyo, kurang lebih 500 meter dari Dojo Honbu (Pusat) sekarang. Pada tahun 1957 mempunyai anggota 700-an orang, namun demikian angka droup-outnya sangat tinggi karena latihannya sangat keras. Banyak ahli-ahli beladiri lain yang ikut berlatih di sini hanya untuk “Jis Sen Kumite” atau bertarung secara full body contact. Kenji Kato Salah satu pelatihnya mengatakan bahwa mereka melakukan penelitian dari banyak gaya beladiri dan mengambil banyak teknik untuk menjadikannya teknik berkelahi yang sebenarnya. Inilah yang menjadi perhatian Masutatsu Oyama. Dia mengambil teknik dari semua beladiri tidak terkecuali dari karate sendiri. Anggota Dojo Oyama mempelajari Kumite dengan serius, sebagai seni beladiri. Sehingga mereka berharap untuk dapat memukul dan dipukul. Dalam Dojo Oyama Kumite memakai sistem full body contact, dimana diperbolehkan memukul dan menendang sekeras-kerasnya sampai lawan terjatuh atau KO. Dengan beberapa larangan antara lain memukul kepala, leher, selangkangan (kemauan) , menangkap atau memegang (lebih 3 detik) dan membanting tidak diperbolehkan, menendang kepala diperbolehkan. Ronde dalam Kumite tidak terbatas dan terus berlangsung sampai salah satu kalah atau terjatuh KO. Itulah mengapa angka droup outnya sangat tinggi sekali, mencapai 90 %.
Pada tahun 1952 dalam sebuah demonstrasi di Hawaii Masutatsu Oyama bertemu dengan Bobby Lowe yang terpana akan kehebatan Masutatsu Oyama. Sebenarnya prestasi Bobby Lowe tidaklah jauh berbeda dengan Masutatsu Oyama. Ayahnya seorang pelatih Kungfu, dan pada umur 23 tahun sudah menyandang Dan IV Judo, Dan III Kempo, Dan I Aikido, dan juga sebagai petinju Kelas Welter. Itu tidak lama sebelum kemudian Bobby Lowe menjadi Kyokushin “Uchi deshi” atau “Live-in student “ atau “Murid mondok” pertama kali dengan Masutatsu Oyama. Dia berlatih setiap hari dengan Masutatsu Oyama selama satu setengah tahun. Akhirnya waktu “Uchi deshi” menjadi 1000 hari untuk pemula. Ini menjadikannya terkenal sebagai “Wakajishi” atau “Young Lions” atau “Singa Muda” dari Masutatsu Oyama. Hanya sedikit dari ratusan pelamar yang diterima sebagai “Kyokushin Uchi deshi”. Pada tahun 1957 Bobby Lowe kembali ke Hawaii dan membuka Dojo Oyama pertama kali di luar Jepang.
Permulaan Kyokushin, Dojo Pusat seluruh dunia (Honbu) resmi dibuka pada bulan Juni 1964, dan resmi memakai nama “Kyokushin” yang berarti “Puncak kebenaran/ segala-galanya”. Kemudian Kyokushin menyebar ke lebih dari 120 negara dengan anggota terdaftar lebih dari 12 juta (1998), dan menjadikannya organisasi seni beladiri terbesar di dunia. Beberapa pemegang sabuk hitam terkenal antara lain Aktor Sean Connery (Dan I Kehormatan), Aktor Dolph Lundgren (Dan III, Juara Kelas Berat), Presiden Nelson Mandela (Dan VIII Kehormatan), dan yang terakhir Perdana Menteri Australia John Howard (Dan V Kehormatan). Namun sayang sekali pada tanggal 26 April 1994 Masutatsu Oyama wafat karena menderita Kanker Paru-paru walaupun bukan perokok. Ketika masih dalam perawatan sebelum meninggal dan dalam kegalauan Masutatsu Oyama menunjuk Shihan Akiyoshi Matsui (Dan VIII) sebagai penggantinya untuk memimpin Organisasi. Ternyata hal ini menimbulkan masalah baru karena berbagai kepentingan politik dan ekonomi, terutama bagi para senior Shihan Akiyoshi Matsui. Sehingga akhirnya Kyokushin melahirkan beberapa kelompok, dan masing-masing kelompok saling mengklaim dirinyalah yang paling benar dan berhak mewarisi Kyokushin dari Sosai Masutatsu Oyama. Kelompok-kelompok tersebut diantaranya dipimpin oleh Shihan Yukio Nishida dan Shihan Keiji Senpei yang mendirikan International Karate Organization Kyokushinkaikan yang bermarkas di Sinjuku Tokyo, yang sekarang lebih dikenal dengan IKO 2. Dan yang terakhir Shihan Yoshikazu Matsushima dan Shihan Nobuhito Tezuka dari Jepang serta Shihan John Taylor dari Australia mendirikan International Karate Organization Kyokushinkaikan yang bermarkas di Chiba Jepang, atau yang lebih dikenal dengan IKO 3. Kelompok Shihan Akiyoshi Matsui sendiri selanjutnya lebih dikenal sebagai IKO 1 dan bermarkas di Honbu lama di Ikebukuro Tokyo. Sebelum itu pada tahun 1991 Hanshi Steve Arneil dari Inggris juga memisahkan diri dengan IKO 1 dan mendirikan International Federation Karate (IFK) yang berpusat di London Ingggris. Selain itu banyak dari murid Sosai Masutatsu Oyama yang akhirnya memisahkan diri dari induknya dan mengembangkan sendiri dengan tetap menjaga teknik asli Kyokushin dan mengembangkan teknik sendiri seperti Shigeru Oyama di Amerika Serikat yang mendirikan World Oyama Karate (WOK) pada tahun 1981, Hideyuki Ashihara pada tahun 1980 mendirikan Ashihara Karate International (AKI), Tadashi Nakamura pada tahun 1976 mendirikan World Seido Karate Organization (WSKO), Yoshiji Soeno pada tahun 1981 mendirikan World Karate Association Shidokan (WKAS), dan sebagainya.
Kejadian seperti ini juga melanda Kyokushin di Indonesia yang pertama kali didirikan oleh Shihan Nardi T. Nirwanto dengan nama Pembinaan Mental Karate Kyokushinkai Karate-Do Indonesia (PMKKKI) yang berpusat di Batu – Malang pada tahun 1967. Pada sekitar tahun 1972 berdiri organisasi Kala Hitam Kyokushinkaikan yang didirikan oleh Kancho Winta Karna dengan pusat di Medan. Selanjutnya pada tahun 1982 karena ketidak cocokan mengenai masalah organisasi dengan Shihan Nardi, berdiri Kyokushin Karate Indonesia yang dipimpin oleh Ketua Dewan Guru Shihan JB. Sujoto yang juga merupakan murid kepercayaan Shihan Nardi. Pusat perguruan Kyokushin Karate Indonesia berada di Semarang. Dan pada sekitar tahun 2001 sebagian anggota Kyokushin Karate Indonesia pimpinan Shihan JB. Sujoto juga mendirikan organisasi sendiri dengan nama IKO Kyokushinkaikan Karate-Do Indonesia yang di pimpin oleh Shihan MS. Dadang UB dengan pusat di Bekasi.
Namun demikian dari ke empat organisasi kyokushin yang ada, perbedaan dari semua itu hanyalah pada organisasinya saja, sedangkan kurikulum maupun materi latihannya serta isi keseluruhannya tetap sama dengan masih memakai standard Kyokushin Internasional.
Kyokushin Karate Indonesia sendiri dalam perkembangannya selain beberapa kali menggelar Kejuaran Lokal dan antar Dojo juga beberapa kali menggelar Kejuaraan Tingkat Nasional. Di tingkat Internasional beberapa kali ikut aktif dengan mengirimkan beberapa anggotanya untuk berpartisipasi dalam berbagai Turnamen Internasional diantaranya dalam Kejuaraan Asia di Singapura tahun 1991, World Open Tournament tahun 1984, 1987, 1991 dan 1995.
Pada Kejuaraan Asia di India pada bulan Oktober 1996, Sempai Collins O'Mogot dari Cabang Jakarta memenangkan Juara IV. Disamping aktif mengirimkan para atletnya di berbagai Turnamen juga aktif mengirimkan delegasinya sebagai Wasit. Tahun 1999 mengirimkan 2 atletnya Anthony F. Pajew dan Mario Christi ke World Open Tournament ke Jepang, juga dilanjutkan dalam World Open Turnamen tahun 2003. Yang terakhir adalah Kejurnas XII Kyokushin yang digelar di Tenggarong Kaltim pada bulan Agustus 2004, dan Kejuaraan Asia X yang digelar pada bulan Novermber 2004 di Denpasar Bali. Pada tahun 2006 ini rencananya akan digelar Kejurnas XIII yg akan digelar pada tanggal 24 Juni di Bantul. Akan tetapi karena tidak memungkinkan akibat bencana gempa bumi tempat kejurnas dipindahkan ke Malang dan akan dilaksanakan pada tanggal 26 Agustus 2006. Terakhir di tahun 2006 akan digelar Kejuaraan International Terbuka bertajuk "Indonesia Open Tournament II" di Denpasar Bali pada tanggal 19 November 2006 nanti yg akan diikuti oleh peserta dari berbagai negara di Asia.
Untuk tingkat internasional, Kyokushin Karate Indonesia pimpinan Shihan JB. Sujoto meng-induk ke IKO-1 pimpinan Akiyoshi Matsui, dan IKO Kyokushinkaikan Karate-Do Indonesia pimpinan Shihan MS. Dadang UB meng-induk ke IKO-5 pimpinan Shihan Shigeru Tabata. Sementara itu PMK Kyokushin pimpinan Shihan Nardi dan Kala Hitam pimpinan Kancho Winta Karna memilih independen dengan tidak menginduk ke Organisasi Kyokushin Internasional.
Di tahun 2007 ini Kyokushin Karate Indonesia berencana menggelar kembali "3rd Indonesia Open Karate Tournament" yang rencananya akan digelar sekitar bulan Agustus 2007 di GOR Sumantri Brojonegoro Kuningan Jakarta. Akan diikuti oleh peserta dari beberapa negara Asia seperti Singapore, Philipina, China, India, Iran, dll.