面对民族危机、社会动荡，黄遵宪也认真思索起来。他在一首诗中写道：“世儒诵诗书，往往矜爪嘴。昂头道皇古，抵掌说平治。”诗中批评了只知 道熟读古书高谈阔论的人，认为想用古代的办法来治理国家是行不通的。诗 中又写道： “儒生不出门，勿论当世事、识时贵如今，通情贵悯世。”进一 步说出了他的主张：要治理好国家，必须了解当今世界的情况。 1867 年，黄遵宪参加院试，入州学，当了秀才，取得了参加乡试考举人 的资格，同年秋即赴广州应考，没有考中。 1870 年，黄遵宪第二次去广州应考，结果又名落孙山。广州是南方政治经济和文化的中心，也是军事要地， 又是林则徐禁烟、关天培等爱国将领抗击外国侵略的地方。黄遵宪在广州的 逗留，使他写下了《羊城感赋》的组诗，其中一首极力赞扬了关天培 的英勇 和将略，歌颂了这位光荣殉国的英雄。由广州回家的途中，黄遵宪到香港作了一次短期旅行。他看到昔日祖国的海岛，今已是外国人的乐园，香港的中 国人受着殖民统治。更可悲的是，英国殖民者已把香港作为进一步侵略中国 的基地。大批的鸦片烟，正准备运往内地。黄遵宪心情十分沉痛，他写了《香港感怀十首》，字里行间表现了爱国主义的愤懑情绪。 屡次考试不中，使黄遵宪精神上非常痛苦。以后几年中，黄遵宪一方面 对埋于案头，作八股吟诗赋，消磨宝贵的生命，心有不甘，鄙弃科举的念头来越强烈；一方面又抱着一种渺茫的希望，几乎是无可奈何地进行准备， 参加下一次的考试。

　　1873 年黄遵宪 26 岁时，考取了拔贡生，按当时考试的办法，凡得到 “监生”、 “贡生”头衔的，都可以参加顺天（清朝沿用明朝旧制。以北京为顺天府）乡试。 1874 年春，黄遵宪启程去北京。当时他父亲正在户部任职，也在北京，于是爷儿俩生活在一起。由于黄鸿藻的薪俸不多，所以他们的生活很简朴。在北京，黄遵宪交了一些朋友，还结识了一些官场上的人物，这对 他以后的政治生活产生了一定的影响。特别是1876 年，他随父亲到山东烟台作了一次漫游，见到了洋务派官僚张荫桓、李鸿章等人。所谓洋务派，是第二次鸦片战争后，随着清政府内外交困，统治阶级内部一部分官僚主张利用 西方先进生产技术，维护清朝的统治。他们与顽固派盲目排外，仇视一切外洋事物不同，提出 “师夷长技以自强”的口号，掀起了洋务运 动，先后创办 一些近代的军事工业和民用工业。洋务运动客观上刺激了中国资本主义的发展，对处国经济势力在中国的扩张，也起到了一些抵制作用。 黄遵宪在他们面前侃侃而谈，引起了他们对这位年轻人的兴趣和注意。李鸿章竟当着别人的面称道黄遵宪为 “霸才”。以李鸿章当时权势和地位， 能如此推重黄遵宪这样一位初出茅庐的后辈，使黄遵宪大有 “知遇”之感。 这是黄遵宪和洋务派发生联系的开始。 同年秋，黄遵宪犹豫再三，还是参加了顺天乡试。结果这一次被录取为第141名举人。