Перші згадки про прапор Хіномару датуються 701 роком. Легенда переказує, що буддійський священик Нічірен під час монгольського вторгнення в 13 столітті дав сьоґуну (найвища військова посада) прапор з сонцем, щоб воїн взяв його з собою. Хіномару став національним символом і використовувався під час битви при Наґасіно в 1575 році. Найстаріший прапор Японії, датований принаймні 16 століттям, зберігається в храмі Унпо-дзі як сімейний скарб клану Такеда.
У 1854 році японські кораблі отримали наказ піднімати хіномару, щоб відрізнятись від іноземних кораблів. Згодом у 1870 році хіномару був проголошений торговим прапором Японії і першим національним прапором країни від 1870 по 1885 рік. Хоча багатьом японцям ідея національної символіки здавалась дивною, уряд вважав це необхідним для взаємодії з іншими країнами. Після висадки коммодора Перрі в 1853 році було прийнято рішення про більш широке впровадження ідентифікаційних знаків, включаючи національний прапор, гімн та імператорську печатку. Законодавство, яке зробило Хіномару національним прапором, було скасовано в 1885 році.
Використання Хіномару зростало у Японії під час її прагнення створити імперію. Після ранніх перемог у війні з Китаєм, Хіномару знову з'явився на святкуваннях та парадах. У підручниках того часу прапор був зображений з різними гаслами, що виражали відданість імператору та країні.
Прапор Хіномару був прапором Японії під час Другої світової війни та під час окупації країни. Тоді, щоб підняти прапор, потрібен був дозвіл від союзних сил. У травні 1947 року обмеження на вивішування Хіномару були зняті. У 1948 році прапор дозволили вивішувати в національні свята, а від січня 1949 року дозволено піднімати Хіномару в будь-який час без дозволу. Внаслідок цього, школи та будинки активно вивішували прапор Хіномару до початку 1950-х років.
Після Другої світової війни прапор Японії почали критикувати, тому що він асоціюється з мілітаристським минулим країни. Прапор Хіномару не використовувався в Японії після війни, але пізніше, коли країна відновила своє дипломатичне становище, його стали використовувати як політичну зброю за кордоном. Питання щодо національного прапора постало знову, коли Токіо приймало літні Олімпійські ігри 1964 року. Розмір сонячного диска на прапорі та відтінок кольору було змінено. У 1989 році, після смерті імператора Хірохіто, піднялися моральні питання щодо національного прапора.
У 2000 році прем'єр-міністр Японії Кейдзо Обуті з Ліберально-демократичної партії запропонував законопроект, щоб зробити Хіномару офіційним символом країни. Проте, подібний законопроект розглядали ще у 1974 році, але тоді його не змогли прийняти. Опозиція протестувала проти закону і хотіла, щоб це питання вирішувалося громадськістю. Заступник генерального секретаря Юкіо Хатояма вважав, що законопроект призведе до подальшого поділу суспільства і державних шкіл, але проголосував за нього. Законопроект був прийнятий Палатою представників 22 липня 1999 року і Палатою радників 9 серпня.