Sur les toits de New York, une cabane abrite un grand Noir costaud et solitaire et ses pigeons voyageurs. Surnommé «Ghost Dog», l'homme manie le sabre et médite les aphorismes de Hagakure, bible des samouraïs du Japon ancien. Pour Louie, un parrain de la mafia qui, un jour, lui sauva la vie, il tue avec précision et fidélité. Jusqu'au jour où, pour dissimuler ses propres agissements, le gang de Louie décide de le liquider.