По итогам официального визита в СССР Премьер-министра Японии Какуэя Танаки 10 октября 1973 г. было принято совместное советско-японское заявление, которое было подписано с советской стороны Председателем Совета министров СССР А.Н. Косыгиным и министром иностранных дел А.А. Громыко, а с японской - Премьер-министром Японии К. Танакой и министром иностранных дел А. Охирой. Данный визит явился важной вехой в деле нормализации и укрепления советско-японских отношений, в особенности после подписания Совместной декларации 1956 года. В указанном Заявлении подчёркивалось: "Сознавая, что урегулирование нерешённых вопросов, оставшихся со времён Второй Мировой Войны, и заключение мирного договора внесёт вклад в установление подлинно добрососедских и дружественных отношений между обеими странами, стороны провели переговоры по вопросам, касающимся содержания мирного договора. Обе стороны договорились продолжить переговоры о заключении мирного договора между обеими странами в соответствующий период 1974 года». Стороны также обменялись мнениями относительно путей расширения экономического сотрудничества между СССР и Японией, которое должно осуществляться в возможно более широких областях на основе принципов взаимной выгоды и равенства. В ходе визита японского Премьера помимо Совместного заявления министрами иностранных дел обеих стран были подписаны также Соглашение между правительством СССР и правительством Японии о научно-техническом сотрудничестве; письма об обмене учеными и научными работниками, о распространении информационных материалов, об обмене официальными печатными изданиями, а также Конвенция между правительством СССР и Японии об охране перелётных птиц и птиц, находящихся под угрозой исчезновения, и среды их обитания.
Переговоры и консультации проводились также в ходе официального визита в СССР министра иностранных дел Японии К. Миядзавы 15-17 января 1975 г., официального визита в Японию министра иностранных дел СССР А.А. Громыко 9-13 января 1976 г.
Несмотря на это переговоры о заключении мирного договора между СССР и Японией носили непостоянный характер и осложнялись глубокими противоречиями в подходах к урегулированию территориального спора. Вплоть до начала 1990-х гг. позиция советского правительства относительно территориальных претензий Японии твердо состояла в том, что «территориальный вопрос между СССР и Японией решён и закреплён соответствующими международными соглашениями, которые должны соблюдаться». Наиболее чётко эта позиция была официально изложена заместителем министра иностранных дел СССР Игорем Рогачёвым. В статье, опубликованной в «Известиях» 24.04.1989 на основе подробного анализа фактов и документов он пришёл к выводу, что:
а) приоритет открытия и освоения Южных Курил принадлежит нашей стране;
б) в то время, когда эти острова принадлежали Японии, она использовала их как плацдарм для агрессии в отношении соседних государств, в частности, для нападения на Перл-Харбор в 1941 г. и на советские мирные суда в течение Второй Мировой Войны, когда действовал советско-японский пакт о нейтралитете;
в) Япония как государство-агрессор во Второй Мировой Войне на основании решений стран-победительниц была лишена части территории, в том числе и всех Курильских островов, в качестве наказания за эту агрессию;
г) пересмотр этих решений будет означать пересмотр итогов Второй Мировой Войны, что «...чревато потенциальной опасностью внесения ненужных деструктивных элементов».
В то же самое время было подтверждено стремление Советского Союза развивать сотрудничество на основе равенства и взаимной выгоды, а также «зафиксировать послевоенные границы между Советским Союзом и Японией».
Начало признание наличия территориального спора нашей страной и акцент на переговоры с Японией как на главное средство разрешения территориальной проблемы приходится приблизительно на 1988 - 1990 гг. Данный период характеризовался некоторым сближением позиций двух стран по рассматриваемое вопросу. Ещё в январе 1986 г. состоялся первый визит министра иностранных дел СССР Э.А. Шеварднадзе в Японию. В декабре 1988 года в ходе второго официального визита была достигнута договоренность о возобновлении официальных переговоров о заключении мирного договора, причём не на временной, а на постоянной основе (как это было в 1955-1956 гг.). Для этих целей в 1988 году была создана специальная постоянно действующая рабочая группа, которая фактически начала работу с марта 1989 года. А 29 апреля 1989 г. заместитель министра иностранных дел СССР И.А. Рогачев и заместитель министра иностранных дел Японии Т. Курияма провели в Москве второе заседание постоянно действующей рабочей группы по мирному договору между СССР и Японией. 18-19 декабря 1989 г. такая же встреча и заседание состоялись в Токио. Тем не менее, данный этап олицетворял собой и существенные противоречия в позициях и подходах двух государств к урегулированию территориальной проблемы. Японская сторона продолжала настаивать на том, что наша страна незаконно оккупировала Курильские острова. Эта позиция была выражена, например, в заявлении Кабинета министров Японии от 19 сентября 1989 г., в котором речь шла о фактическом запрете поездок японских граждан на Курильские острова.
Ускорение подготовки мирного договора и существенное расширение научно-технического и иного сотрудничества между Россией и Японией продолжалось приблизительно весь 1991 год.
Начальная фаза данного этапа была заложена в ходе официального визита в СССР министра иностранных дел Японии Таро Накаямы 21-23 января 1991 г. и официального визита в Японию министра иностранных дел СССР А.А. Бессмертных 29-31 марта 1991 г., во время которых министры продолжили переговоры, касающиеся заключения советско-японского мирного договора. Была достигнута договоренность о проведении очередного заседания рабочей группы по данному вопросу в феврале 1991 года.
Главным событием этого этапа стал официальный визит в Японию Президента СССР М.С. Горбачёва 16-19 апреля 1991 г., в ходе которого было принято Совместное советско-японское заявление от 18 апреля 1991 г. и подписан целый ряд советско-японских документов. Совместное заявление констатировало, что «Президент СССР М.С. Горбачёв и Премьер-министр Японии Тосики Кайфу провели обстоятельные и углубленные переговоры по всему комплексу вопросов, касающихся разработки и заключения мирного договора между СССР и Японией, включая проблему территориального размежевания, с учетом позиций сторон о принадлежности островов Хабомаи, острова Шикотан, острова Кунашир и острова Итуруп». Было отмечено, что «мирный договор должен стать документом окончательного послевоенного урегулирования, включая разрешение территориальной проблемы, открыть долгосрочную перспективу советско-японских отношений на дружественной основе, исключить нанесение ущерба безопасности другой стороны». Совместное заявление подчеркнуло «первостепенную важность ускорения работы по завершению подготовки мирного договора, ...используя весь позитив, который накоплен в двусторонних переговорах в разные годы, начиная с 1956 года, когда СССР и Япония совместно декларировали прекращение состояния войны и восстановление дипломатических отношений между ними». Заявление являлось беспрецедентным, поскольку, во-первых, СССР признавал наличие самого факта территориальной проблемы и, во-вторых, речь в нём шла не о двух спорных островах, а о всех четырёх – Хабомаи, Шикотане, Кунашире и Итурупе.
В ходе визита было также подписано 15 советско-японских документов, среди которых - Меморандум о советско-японских межправительственных консультациях; Соглашение между Правительством СССР и Правительством Японии о сотрудничестве в оказании технического содействия реформе по переходу на рыночную экономику в СССР; Меморандум о связях и сотрудничестве между СССР и Японией в области охраны культурного достояния и некоторые другие двусторонние документы.
В ходе рабочего визита в СССР министра иностранных дел Японии Таро Накаямы 12-17 октября 1991 г. стороны приняли решение о реорганизации деятельности функционирующей с 1988 года постоянно действующей рабочей группы по мирному договору между СССР и Японией.
В её рамках были созданы две подгруппы: подгруппа по обсуждению статьи договора о территориальном размежевании и подгруппа по обсуждению других вопросов, связанных с мирным договором. По итогам переговоров министры обменялись письмами о процедуре взаимных безвизовых посещений японскими гражданами островов Кунашир, Итуруп, Шикотан и Хабомаи и советскими гражданами - жителями упомянутых островов - Японии.
Таким образом, данный этап характеризуется ускорением подготовки мирного договора, причём спорными стали официально признаваться четыре, а не два острова Курильской гряды. Вместе с тем, было намечено существенное расширение научно-технического и иного сотрудничества между СССР и Японией.