“倭”现在通常被认为是对日本的贬义性称呼，但其本身实际上没有贬义，其本意是什么，仍然有争议。
唐代以前，“倭”是中国和朝鲜所用于称呼现今日本西南部分（主要是九州岛）之地理名词。此词汇的涵义随时间而有所不同，早，此名词是朝鲜半岛土著用于称呼九州岛弥生人所建立的邦国。两汉经乐浪郡与朝鲜半岛人接触，进而得知海外有倭人。后日本邪马台国兴起，遣使纳贡魏国，魏明帝曹叡授邪马台国女主卑弥呼亲魏倭王。《魏志倭人传》是日本对于中国史书《三国志》中记载魏国历史的《魏书·东夷传》（通称《魏志》）中的倭人条的通称，此时日本西南地区还是小邦国林立，描写了日本在大和王权建立以前（即弥生时代）的情况。当时的倭（后来的日本）是由许多小国构成，文中记述了各小国的位置、各国的生活样式以及各国的官名等等资讯，这也是对于日本的早的文字记载。
有些学者认为，这个“倭”应该是日本与中国接触前，日本人称自己所居住的地方为“ Yamato ”（汉语音译为“邪马台”，“邪”音同“耶”），“ Yamato ”语源可能跟山比较有关系。“ Yamato ”的汉字音译就是“倭”（训读），倭的同音优雅字就是“和”，元明天皇治世时，规定以「和」字替代「倭」字，并以开头附以「大」而始称「大和」，或者「大倭」。此外，因为中国古代有以音译称呼和记载外国地理和人物名词的惯例，有人说倭来自日语“我”的音wa，不过此说法仍然过于虚幻，没有证据。
而“日本”用于国号是在670 年，武则天从日本第七次遣唐使得知改国号一事，乃谕令将“倭”（yamato）改称“日本”（yamato，hi-no-moto）。2011 年在西安发现的“（百济人）祢军墓志”（卒于 678 年），志文中提到“日本”，是到现在为止所发现的金石文当中早提到“日本”的，也是在时间上接近 670 年成立“日本”国号的证据。就当时的唐朝官方的认定而言，“日本”国号在 670 年成。