家臣服后，成富茂安接受了德川家康的延揽，成为德川家臣，在其后的战役中数次立下战功，武勇受到了家康的赞赏。在跟随神原康政进攻天草时，面对投降的守军以“取此等人级为朋辈所耻笑”为由拒绝屠杀的命令而自行撤回。被康政赞为“肥前武士的骄傲”，丰臣秀吉后来以一万石的高禄请茂安出仕，但被茂安婉拒。

在考较一番后，德川家康现成富茂安对治水很有心得，就与他深谈自己领地的治水问题，成富茂安对答如流，让德川家康喜出望外：“我这次征讨九州，那怕就是仅仅收得成富茂安此人，也已经是收获巨大了。”

“有马家不战而降，献出了肥前一国！”因为龙造寺家的臣服，有马家看到丰臣军制霸九州已成定局，便顺风归降。

“嗯。有马家投降了，接下来之剩下岛津家了。”德川家康说。

1586年9月， 黑田孝高 率领着以 毛利军 为主力的讨伐军渡海进驻 丰前藩国， 毛利氏 的脑 毛利辉元， 吉川元春， 小早川隆景 全部随军出征， 总兵力2万5ooo。 大军所到之处， 丰前 的 山田， 广津， 仲蜂屋， 时枝， 宫城， 丰后 的 马岳城 皆望风归降， 唯有 小宫城 与 宇留津城 还在负隅顽抗。 但在 丰臣军 绝对优势的战力之前， 这两个小城就如汪洋中的两条小船罢了。 1o月4日， 小宫城 陷落。 11月7日， 宇留津城 也跟着沦陷， 城主与其亲属13oo多人被全部处决。 12月初， 黑田孝高 就扫平了整个 丰前藩国。 此时传来了 户次川之战 失利的消息， 黑田孝高 便停止进军， 等待 丰臣秀吉 的援军。

据江户时代的黑田家臣贝原益轩所著的《黑田家谱》记载：黑田氏源于宇田源氏，是佐佐木流的后裔。当时，佐佐木第十四代当主京极满信的次子宗信（也称宗满，宗清）受封于近江国伊香郡黑田村，人称黑田判官，黑田之名也由此而来。直到十三世纪末，这个以黑田村为家的支族一直以近江源氏旗头的身份出现。

黑田氏移居备前之事是由如水的曾祖父黑田高政引起的。一五一一年（永正八年），高政跟随近江守护佐佐木高赖出阵山城国参加船冈山合战，因违反军令引起了将军足利义植的不满，被迫带着四岁的重隆和一族带罪逃到了备前国邑久郡福冈乡，这里是同族加地氏和饱浦氏的领地。

一五二三年（大永三年），高政在备前病死。翌年，播磨的浦上宗则向备前各处大举扩张，引国中骚动。继承了黑田家的重隆又不得不离开福冈，避难于播州姬路，并一度出仕于馆野的赤松晴政，但是这个人的无能令他相当失望。不久，重隆舍弃了俸禄再度下野。

其实重隆前往播州的主要理由是因为他做了一个梦，梦见佐佐木大明神对他说：已将他托付于播州的广宗大明神。于是，住在当地望族竹森新卫门家的重隆会见了广宗的神主井口太夫，向他讨教以后该怎么办，井口太夫劝他先去卖黑田家祖传的眼药。

这种所谓的主传眼药是从黑田家原来居住的近江地区传来的，名叫“玲珠膏”，其实制法出奇的简单。是采集当地山上的一种树木的树皮（这种树在北近江被称为眼药树），捣碎后用红色的绢布包起来煎，再把煎出来的汁滴进眼睛里就可以了。井口太夫把这种眼药和他放的护身符一起卖给来祈祷的信徒。

眼药的疗效很好，所以有很多人买，重隆仅此一项就赚了很多钱。新卫门劝他把钱借出去，重隆应允，但他借钱的方式却与其他人大不相同：“不需要担保，利息两成。”当时一般的高利贷通常是将次年收成的一半作为利息，所以重隆的利息是出奇的少。而且，如果对方家里有男孩子的话，就可以让男孩子以后为重隆效力而免去利息。就这样，黑田家很快就聚集了两百多人，新卫门为他们提供了住所，这些人以后都成了黑田家的家臣。

这时候，御着城的赤松一族小寺藤兵卫政职在西播磨的势力很大，衣笠，上月和宇野等家族都臣服于他，只有豪族香山氏不肯臣服，还反过来侵入了他的领地。一五四三年（天文十二年）十二月二十九日，重隆派遣十九岁的嫡子甚九郎（后来的职隆）率领一些家臣偷袭香山重道，不但获得全胜，还取得了重道本人的级。重隆以此级为礼物，要求出仕小寺家。政职痛快地答应了，不但将香山的旧领全数赏赐给重隆，还另外加增了四十町的土地，并以客将的礼数来对待重隆。两年后，政职将明石城主明石正风的女儿收为养女，并让她嫁给了职隆。这样，职隆成为小寺家的一门，担任次席家老。并受赐“职”字，正式改名为小寺职隆。后来再被提拔为笔头家老，成为播州要冲姬路城的城主。此时，离高政逃出黑田村已经有三十二年了。

一五四六年（天文十五年）十一月二十九日，幼名万吉的名军师黑田官兵卫孝高（别号如水）在姬路城降生。

职隆在姬路城里开设了百间长屋，供来往的浪人居住。这样，如水时常在父亲的陪伴下前往长屋与住在里面的人交谈，以此增加社会阅历。这些人中后来有很多成为黑田家臣。

在母亲的影响下（早丧），如水从小对连歌很感兴趣。十岁的时候即能从各种连歌中学到诸国的地理和人文。教授如水学问的老师是一位住在姬路城外草庵里的净土宗僧人圆满和尚，他的教育对如水的一生有着重要的影响。

诚然，如水的幼年并没有受到特别的英才教育，他的生活同当地居住的百姓没有什么区别，老师圆满和尚同时也是村子里老百姓孩子的老师。但如水还是很快从孩子们中间拖颖而出，十岁时就已经对诸国地理有很深的了解。出色的连歌才华和地理感觉也是其他孩子所望尘莫及的。与此同时，父亲黑田职隆开始对年幼的如水灌输民为贵的治国思想。

迅成长的如水十四岁元服，改名为官兵卫孝高。此时的他，即将肩负起刚从流浪的生活中摆拖出来的黑田家未来的希望。

元服后的如水十六岁（或十七岁）初阵，接着就开始侍奉小寺政职。这段历史在后世流传很广，据说一五六一年（永禄四年），小寺政职在打猎归来时路过姬路城，对出席接风宴的如水很是赏识，遂