1877 年，黄遵宪的同乡、翰林院侍讲何如漳，被任命为中国第一任驻日公使。他熟悉黄遵宪并了解他对时务的见解，所以邀请他一起去日本。黄遵宪考取举人后，家人都希望他再考进士，加上当时中国是一个屡战屡败的弱 国，处在列强虎视眈眈之下，清朝的许多大臣对国际形势又茫然无知，造成 外交活动的困难，所以参与外交活动是很不利的，对个人来说甚至是危险的。 为此家人反对他去日本。黄遵宪没有胆怯畏缩，爱国主义的思想使他充满着 信心和勇气，去担负艰巨的外交工作。他不顾家人和亲友的反对，毅然抛弃 科举仕途，选择了到海外从事外交工作的职业。经过何如漳的推荐，黄遵宪被任命为驻日参赞官，随行出使日本。 出使前夕，黄遵宪的心情非常激动，多年来，科举考试的折磨给他带来的痛苦，似乎都消除了。他对着自己的像片，写道： “如此头颅如此腹，此 行万里亦奇哉，诸公未见靴尖??，待我扶桑濯足来。”中国古籍里称日本为扶桑，黄遵宪风趣地表示要去扶桑洗脚，表达了他希望在对日外交工作中施展才能，实现抱负的心情。

外交生涯

　　1877 年1126 日傍晚，黄遵宪随何如璋由上海乘轮船启程，一行 30 余人，最后在神户登陆，开始了在日本的外交活动。 日本是亚洲东部的一个岛国，自 17 世纪开始，遭到荷兰殖民者的侵略， 引起社会的变化，民族矛盾加深，其情形与当时中国相似。1868 年，日本发生了明治维新，通过一系列的改革，日本走上了发展资本主义的道路，逐渐 强大起来。1874 年，发生了日本武装侵略台湾的事件，中国人在感到震惊的同时，迫切要求了解日本，想知道明治维新后的日本到底发生了什么变化， 究竟它是怎样学习西方变法自强的。黄遵宪的心情也正是这样。 黄遵宪作为一个友好的使者，到日本后，漫游各地，参加各种集会，结交各方面的人士，与许多日本朋友结下了深厚的友情。异国的风土人情，增 加了他的创作激情，他写下了大量的反映日本历史、现状、自然景色和风情 、民俗的诗歌，后来编成《日本杂事诗》刊行。

　　1880 年，日本友人源辉声先生在征得黄遵宪同意后，把 《日本杂事诗》的部分原稿，埋藏在东京墨江畔 的家里，由黄遵宪题写了 “日本杂事诗最初稿冢”九个字，刻石竖碑，作为 中日两国人民永久友谊的象征。碑石上还刻着黄遵宪的两句诗：一卷诗兮一抔土，诗与土兮共千古。 同时还有源辉声先生和的诗： 诗有灵兮土亦香，我愿与丽句兮永为邻。 源辉声先生逝世后，安葬于东京都北部的平林寺，诗冢也被迁到该处。 这件事成了中日文化交流史上一段动人的佳话。 在日本期间，黄遵宪开始接触从西方传播到日本的资产阶级民主自由学 说。他刚到日本时，听到关于民主自由的说法是很惊讶的，当他读了法国启蒙运动先驱卢梭、孟德斯鸠的著作后，思想有了明显的转变。根据在日本的亲身体验，使他认识到民主政治比封建专制政治要好，而且认为民主政治代 替封建专制政治是必然的趋势。有一次他对何如漳说： “中国必变从西法。” 如果不像日本那样维新自强，必遭奴役、瓜分之祸。正是这种思想的形成， 使他后来成为我国维新变法运动的积极倡导者。 在日本期间，黄遵宪清楚地看到，日益强盛起来的日本正把侵略矛头指向中国和朝鲜。 1879 年，日本吞并琉球，驻日大臣何如璋给总理衙门和北洋大臣的重要文件共10 余万字，分析了日本国情，陈述了我国应采取的对策， 指出：“琉球如亡，不出数年，闽海先受其祸。”这些预见都被后来的事实 所证明。而这些文件绝大部分都是由黄遵宪草拟的。但清政府却没有采纳黄遵宪在外交政策方面的意见，终使琉球成为日本侵略政策下的牺牲品。黄遵宪只好把他满腔悲愤寄托在他的诗篇 《琉球歌》里。 黄遵宪在日本两年间，不仅广泛接触各方面的代表人物，观察和了解日本政治、经济、社会、文化、教育等方面的情况，同时还努力学习日文，以 便能够直接阅读日本书籍，搜集资料，准备编写一本介绍日本典章制度为主 的书。他以顽强的毅力，克服种种困难，精心收集了 200 多种参考文献。后来他离开日本时这部书的草稿已基本完成。 1882 年，黄遵宪奉命调任驻美国旧金山的领事，写作因而中断。