「日本」という国号の成立時期は、7世紀後半から8世紀初頭までの間と考えられている。この頃の東アジアは、618年に成立した唐が勢力を拡大し、周辺諸国に強い影響を及ぼしていた。

倭国も、それまでの遣隋使をあらためた遣唐使を送って、唐との外交関係を深めていた。朝鮮半島では、唐との連携を強めた新羅が急伸し、663年には唐・新羅連合軍と百済・倭国連合軍との間で白村江の戦いが起きた。

この戦いに敗北した百済は滅亡し、倭国は国内統治体制と防衛体制の整備を推進した。
その後、672年に起きた壬申の乱を経て、強い権力を握った天武天皇は、天皇中心の国制構築をさらに進めた。

それは主として律令制の導入という形で進められ、689年に頒布された飛鳥浄御原令に始まり、701年（大宝元年）の大宝律令成立で一応完成した。

このような国際・国内状況の中で「日本」号は成立したが、具体的に成立時点を特定した史料はない。ただ、成立時点を推定する見解は、二説に絞られている。まず一説は、天武天皇の治世（672年 - 686年）において成立したとする説である。

これは、天武天皇の治世において成立したと解されている「天皇」号と同時期に「日本」号も成立したとする見解である。例えば吉田孝は、689年に頒布された飛鳥浄御原令において「天皇」号と「日本」号が定められたと推測する。

もう一説は、701年（大宝元年）の大宝律令の成立前後に「日本」号が成立したとする説である[12]。例えば神野志隆光は、大宝令公式令詔書式において「日本」号が定められたとしている[13]。『日本書紀』の大化元年（645年）七月条には、高句麗・百済からの使者への詔に「明神御宇日本天皇」とあるが、これは後に定められた大宝律令公式令を元にして、『日本書紀』（720年（養老4年）成立）の編者が潤色を加えたものと今日では考えられている。

8世紀前半の唐で成立した『唐暦』には、702年（大宝2年）に「日本国」からの遣使（遣唐使）があったと記されている。後代に成立した『旧唐書』、『新唐書』にも、この時の遣唐使によって「日本」という新国号が唐（武周、大周）へ伝えられたとの記述がある。

両書とも「日の出の地に近いことが国号の由来である」とし、国号の変更理由についても、「雅でない倭国の名を嫌ったからだ」としている。
国号変更の事情について、『旧唐書』が「小国だった日本が倭国を併合した」とするのに対し、『新唐書』は「倭が日本を併合し、国号を奪った」としており、混乱が見られる。

いずれにせよ、これらの記述により、702年に「日本」国号が唐によって承認されたことは確認できる。なお、これまでに発見されている「日本」国号が記された最古の実物史料は、開元22年（734年、日本：天平6年）銘の井真成墓誌である。

『旧唐書』・『新唐書』が記すように、「日本」国号は日本列島を東方に見る国、すなわち中国大陸からの視点に立った呼称である。

平安時代初期に成立した『弘仁私記』序において、日本国が中国に対して「日の本」すなわち東方に所在することが日本の由来であると説明され、平安時代に数度にわたって行なわれた日本書紀講読の様子を記す『日本書紀私記』諸本においても、中国の視点により名付けられたとする説が採られている。

『隋書』東夷伝に、倭王が隋皇帝への国書に「日出ずる処の天子」と自称したとあり、このときの「日出ずる処」という語句が「日本」国号の淵源となったとする主張もある。しかし、仏典『大智度論』に「日出ずる処」は東方の別表現である旨の記述があるため、現在では「日出ずる処」は単に文飾に過ぎず、「日本」国号の成立とは無関係と考えられている。