Bien que le mot « Karaté » date des années 1930, cette méthode de combat remonte loin dans le temps. Selon la légende, après avoir voyagé longtemps, Bodhidharma, un moine bouddhiste Indien, s'installa au monastère de Shaolin, en Chine, vers l'an 520 après Jésus-Christ. Il médita durant neuf ans, face à un mur de pierre. Cette longue méditation lui apporta une connaissance éclairée du monde, mais il perdit l'usage des pieds et des mains pour un temps. Il conclut que la recherche du Satori (illumination) par le Zen ne devait pas se faire au détriment du corps, mais plutôt par l'union corps-esprit. Il enseigna à ses disciples une série d'exercices physiques destinés à tonifier le corps. Cette méthode d'entraînement, basée sur la respiration en Yoga et sur des techniques de combats à poings nus se propagea en Chine sous le nom de Quan Fa.
Après la mort de Bodhidharma, le monastère de Shaolin fut incendié par des brigands. Les moines se dispersèrent, emportant avec eux l'enseignement de leur maître. Comme c'était une période fort trouble et que les routes étaient dangereuses, il est probable que les moines accentuèrent le caractère guerrier de leur art martial.
L'art du combat chinois a joué un rôle de première importance dans la formation du Karaté. Carrefour géographique entre l'île chinoise de Taiwan et l'extrême sud du Japon, l'archipel des Ryu Kyu, dont Okinawa est l'île principale, a connu une histoire extrêmement mouvementée du fait de sa position. En contact successivement avec les Chinois et les Japonais, tout au long de son histoire, l'île d'Okinawa devint le terreau privilégié d'où émergea la forme définitive du combat à mains nues. Un mélange de Kenpo et une forme locale de combat, connue sous le nom de Te (main), finit par donner naissance à la méthode appelée Tote (prononcé Tode). Durant la domination japonaise sur Okinawa (1609-1868), l'emploi des armes fut prohibé, ce qui obligea les habitants à mettre au point des méthodes particulièrement efficaces de combat en se servant uniquement de leurs poings. Pendant près de 300 ans, le Tode a évolué sous différentes formes dans les diverses régions de l'île. En 1902, le gouvernement d'Okinawa introduit le Karaté dans les écoles secondaires. Ankoh ITOSU en a été le premier instructeur. Par la suite, plusieurs maîtres enseignèrent leur art martial hors de l'île d'Okinawa. Gichin FUNAKOSHI fut un de ceux-là.