Der er ingen officielle tal på, hvor mange muslimer der bor i Japan, men det formodes, at der højst sandsynligt er tale om omkring 100.000-200.000 mennesker, som dyrker den islamiske tro. Ud fra Japans befolkningsstørrelse på 127 millioner er der altså tale om en meget lille minoritetsgruppe, hvor størstedelen menes at være indvandrere og efterkommere, mens man går ud fra, at kun ganske få tusinde er japanske konvertitter. De fleste af disse formodes at være japanske kvinder, der har taget islam til sig, efter de har giftet sig med en muslimsk indvandrer. Grunden, til at islam aldrig rigtig har slået igennem i Japan, skyldes først og fremmest, at japanernes virkelighedsopfattelse i høj grad er blevet påvirket af shintoismen og buddhismen, hvor det er muligt at have flere guder, så religioner med en enkelt gud er ganske enkelt svære for mange japanere at forholde sig til, og derfor er kristendommen og jødedommen heller ikke så udbredt i Japan.
Før i tiden udgjorde tyrkere den største andel af muslimer i Japan, men nu om dage er de blevet overgået af indvandrere fra andre asiatiske lande såsom Indonesien. Japan tager kun en meget lille procentdel flygtninge til sig, så hovedparten af muslimske indvandrere og efterkommere stammer fra 1980'erne, hvor økonomien boomede i Japan, hvilket førte til et behov for at importere arbejdskraft. Grundet udbredelsen af Islamisk Stat og deres aktiviteter valgte den japanske regering i 2016 at øge overvågningen mod det muslimske mindretal i landet af frygt for terror, selvom dette historisk set kun er blevet begået af japanere i Japan.
I 2009 var der mellem 30 og 40 moskéer i Japan, mens der fandtes 100 andre steder, hvor muslimer kunne indgå i bøn. Den første moské blev bygget i Kobe i 1935. Mange af moskéerne er kombineret med butikker, hvor folk kan købe importeret halalkød, da det ikke er en sædvane at spise dette i Japan. Moskéerne er afhængige af, at de japanske muslimer "klynger sig sammen" i særlige geografiske områder, hvilket vil sige, at der er nogle byer, hvor antallet af muslimer langt overgår det, som man vil finde andre steder i Japan.