L'histoire de Fatal Fury se déroule dans la ville américaine fictive de Southtown. Rongée par le crime et la corruption et dirigée de main de fer par le Parrain de la pègre locale Geese Howard, cette ville accueille chaque année le tournoi du King of Fighters, qui permet aux combattants les plus aguerris de se mesurer puis d'affronter le bras droit de Howard, l'invincible Billy Kane. Les frères Terry et Andy Bogard décident de participer au tournoi dans le but de se venger la mort de leur père, l'expert en arts martiaux Jeff Bogard, assassiné dans des conditions mystérieuses par Geese Howard. La principale originalité apportée par Fatal Fury est de permettre de combattre sur deux plans différents. Le joueur a la possibilité de déplacer son personnage de l'avant à l'arrière plan, afin notamment d'esquiver les attaques de l'adversaire. Les trois personnages disposent de coups pouvant porter d'un plan à l'autre ou sur les deux plans à la fois.
