По алтайской (пуёской) теории происхождения японского языка временем зарождения принято считать период после завоевания Японских островов алтайцами (пуёские племена) — выходцами с азиатского континента. В свою очередь пуёские племена подвергались влиянию автохтонов-австроазиатов, родственных аборигенам Тайваня. Точную дату зарождения японской нации назвать невозможно. До заимствования китайской иероглифики письменности в Японии не было. Первые письменные упоминания относятся к III в. н. э., когда большинство племён Японии подчинились клану Ямато. Но по китайским источникам упоминания о японцах относятся к еще более раннему периоду.

В период правления Асука (592-710 гг. н.э.) произошли значительные изменения и во внутренней политике Японии, и во внешней политике Китая. Конец VI и начало VIII вв. представляется весьма важным этапом в процессе становления японской государственности. Началось формирование централизованного японского государства, что совпало по времени с эпохой завершения объединения Китая после междоусобных войн и установления там централизованной империи с устойчивой верховной властью. Династия Суй (581-618 гг. н.э) и особенно династия Тан (618-907 гг. н.э.) представляли собой государственные образования, в рамках которых культурно-политическое воздействие Китая на Японию проявилось особенно сильно.

Первое японское посольство ко двору династии Суй было направлено примерно в 600 г. Помимо налаживания межгосударственных дипломатических контактов посольству удалось договориться о развитии широких двусторонних культурных связей. Уже в 608 г. японское правительство династии Ямато отправило в Китай восемь студентов, а после прихода к власти в Китае династии Тан культурные взаимоотношения между двумя странами стали развиваться по нарастающей. Заметно увеличился поток японских буддийских монахов и ученых, отправлявшихся за знаниями в китайские монастыри. Постепенно, под руководством местных наставников, они приобрели достаточно глубокие знания о содержании главных канонических книг Китая, среди которых следует выделить: «Луньюй» («Беседы и рассуждения»), пять главных классических рукописей — «Ши цзин» («Книга песен»), «Шу цзин» («Книга древней истории»), «Ли цзин» («Книга ритуалов»), «И цзин» («Книга перемен») и «Чуньцю» («Весна и Осень»).

Следует принять во внимание, что на протяжении большей части VI в. Япония имела очень мало непосредственных контактов с Китаем, а овладение китайской письменностью почти полностью зависело от той информации, которая доходила через Корею.

Изначально китайская письменность казалась японцам лишь техническим навыком, овладение которым можно было поручить простым служащим. Только когда значение китайской письменности стало крайне необходимым для распространения нового учения и новой политической философии, письменность и владение ей стало обязательным атрибутом принадлежности к правящей элите. Стремление постичь содержание и основные принципы конфуцианской доктрины заметно стимулировало повсеместное развитие образования в Японии. «Кодзики» и «Нихон Сёки» — первые крупные японские литературные произведения.

С VII в. китайские иероглифы начали использоваться в преломлении с японской морфологией и синтаксисом. Изначально существовала манъёгана — отобранные китайские иероглифы. Манъёгана использовалась в качестве слоговой азбуки. Попытка создать японскую азбуку (наподобие алфавита европейских стран) привела к появлению катакана и хирагана — японские слоговые азбуки. Буддийский монах на основе китайских иероглифов создал прототип современной катаканы. В VIII в. для записи поэм, новелл и дневников создается вторая слоговая азбука — хирагана. В разработке хираганы непосредственное участие принимали дворянские дамы из рода Хэйан. В XII веке на основе катаканы, хираганы и иероглифов формируется японская письменность.

В эпоху Сэнгоку в XVI в. европейцы знакомят Японию с новыми технологиями и своей религией. Японский обогащается португальскими словами. Развитию книгопечатания и литературе способствовал привоз из Кореи типографского пресса с подвижными литерами. В период Токугава развивается книгопечатание, растёт грамотность населения, постепенно выравниваются различия между диалектами. Но в период правления Токугавы Иэясу с 1603 г. Япония становится закрытой для контактов с внешним миром. Исключение относилось лишь к голландским купцам в Нагасаки.

После Реставрации Мэйдзи Япония открывает свои двери для европейской культуры и технологий. Появляются заимствования слов из английского, немецкого и других европейских языков. В период Мэйдзи бурно развивается литература, устраняются несоответствия устной и письменной речи. Движение Кого (за «разговорный язык») приводит к вытеснению старописьменного языка (бунго). С 1910 г. бунго выходит из употребления и остается лишь в официальных документах, и то до 1945 г.

После поражения Японии во Второй мировой войне странами-оккупантами было предложено упрощение японской письменности. Поступило предложение упрощения японской письменности и перевод японского языка на латиницу. Этого не случилось, но в 1946 г. Министерство Образования Японии провело пересмотр иероглифов. По итогам реформирования был составлен список из 1850 нормативных иероглифов.

В настоящее время японский язык можно разделить на формальный и неформальный. Японская молодежь предпочитает обходиться без вежливых грамматических конструкций и окончаний. Благодаря средствам массовой информации постепенно уменьшается разница между диалектами, хотя благодаря региональному самосознанию диалекты сохраняются и в XXI веке, а также подпитывают региональный сленг.

Устная японская речь делится на следующие периоды:

• Древний (до VIII в. н. э. включительно).
• Поздний древний, или классический японский язык (IX—XI вв.), средний (XIII—XVI вв.).
• Современный (с XVII века до наших дней). Изменения относятся к фонетике. Из восьми первоначальных гласных в современном японском осталось только пять, преобразования затронули также морфологию и лексику. Синтаксические особенности языка почти не подверглись изменениям.

С древности в Японии существовало большое количество диалектов. В VI в. главным диалектом был Хэйан Кё (Киото). В XII веке основным диалектом стал диалект Камакуры (близ современного Токио). К этому времени в государстве устанавливается военная власть. С тех пор токийский диалект — основной диалект японского языка.

Вплоть до XX века ведущей литературной формой японского языка, если не считать вышедшего из употребления в середине XIX века камбуна («китайского письма»; японский «извод» классического китайского вэньяня с китайским порядком слов и значками, позволяющими читать текст по-японски), был бунго («письменный язык»), ориентирующийся на грамматические нормы классического японского языка эпохи Хэйан, но вобравший многие фонетические и лексические изменения последующих веков.