中国の史書のうち異論はあるが魏志倭人伝が初出、次いで成立した後漢書倭伝にも記載されたとされる。帯方郡(今の韓国ソウル付近)の東南にある海中の諸島を指して用いられた。この倭が今の日本列島を指すかどうかは邪馬台国の所在地論とも関連して論争がある。語義は未詳。「従う者」などという意味があるとされるが、「たおやか」などという意味も含むとされる。この時代は朝鮮半島南部が倭の影響下である一方で東北地方全土には及んでいないなど、勢力域がかなり異なっている。
日本側の古事記や日本書紀では倭と書いて「やまと」と読む。狭義には三輪山麓のヤマト王権の本拠地が倭と呼ばれ、やや広義には奈良盆地と周辺を含める。後には大和と表記して、この地域を大和国と呼ぶことになった。広義には倭もしくは大倭、大和で日本列島全体を指す。またやまとを日本と表記する用例も見られる。
大化の改新から大宝律令ごろの時代には、対外的な国号を倭ではなく日本と呼ぶようになっていく。『続日本紀』によると、大宝2年(702年)に唐を訪れた遣唐使は、唐側が「大倭国」の使者として扱ったのに対し、自らは「日本国使」であると主張したという。国号の変更はおおよそこの前後の時期であったらしい。