早在西汉年间，有个循吏丞相名叫黄霸，博学多才，为人正直。他的后世子孙也多为才华横溢之人，或是忠贞正义之臣。约千年后，后人从浙江金华迁居到江西修水的双井村，但喜读诗书的传统依然保持。
到北宋时期，黄家后人黄中理，不仅自己饱读诗书，还在修水创办了芝台书院、樱桃书院，成为当时远近闻名的教育家。并且他为双井的黄氏家族立下了《双井黄氏家规》：
读书乃诚身之本，而显扬宗祖之要务也。吾家自今修谱之后，必岁延名宿，教育后生，务期典籍精通，文章晓畅，更且敦励行谊，以成大器，斯真读书矣。其供应俸仪，俱不可苟，若以供奉非轻为便，浪延村学，仅图识字，致兹鄙陋，反坠先声，为父兄者尚其念之。
从此后，双井村的黄氏族人，在黄氏家规的指导下，世代诗书相伴，贤才辈出，成了当地一等的文化望族。在黄庭坚出生前，修水双井黄氏成员中已有18位成为了大宋朝进士。
北宋庆历五年的夏天，黄庭坚出生，乳名绳权，为黄庶次子。在其周岁生日时，父亲遵照当地习俗让儿子抓周，在弓、矢、纸、笔等物件中，他一手抓起毛笔不愿放下。在场众人齐声称赞说，“黄家又出了一个读书种”。
黄庶看了十分高兴，他在《伐檀集》中清楚地记录了当时的情景：“楚俗，子生周一年，其日，陈食、饮、砚、墨、金帛之具，从儿戏弄，聚家人观以为乐，绳时先弄墨。”后来还赋诗一首，写道：
文字有缘曾弄墨，见来官小免咨嗟。
喜将笔砚传生计，不失诗书作世家。
字识姓名能指点，写因梨栗不倾斜。
着鞭莫落时人后，三十尘埃监汝爷。
黄庶给儿子起名也是煞费苦心，他给大儿子取名“大临”，取自远古时期的“八恺”。即苍舒、隤敳、梼戭、大临、尨降、庭坚、仲荣、叔达，为颛顼帝之八子，皆为贤能之士。次子的出生，他亦从中择取，取名“庭坚”。据说，“庭坚”还是远古圣贤皋陶的字。又因黄庶仰慕北宋直臣鲁宗道，给黄庭坚取字“鲁直”。据说，鲁宗道为宋真宗时期的名臣，为人耿直，经常直言纳谏。宋真宗为他的忠贞正直所感动，在金銮殿的墙上上大书“鲁直”二字。由此可见，黄庶希望儿子成为一位贤能且忠直之人。
当然，黄庭坚也没有辜负父亲的期望。他从小就聪颖过人，读过的书很快就能背诵。他的舅舅李常是龙图阁学士，也是的藏书家，博览群书，知识渊博。他很喜欢黄庭坚这个聪明活泼的小外甥，经常来看他。李常随意抽取架上的书考他，黄庭坚没有不知道的，这让李常很是惊奇，也更加喜欢他了。
五岁时的一天，李常来黄家时看见黄庭坚正在伏案读书，十分投入，就想试试外甥。于是就指着院里的一棵桑树说：“桑养蚕，蚕结茧，茧抽丝，丝织锦绣。”黄庭坚听完，随即拿起手中的毛笔，脆声对答：“草藏兔，兔生毫，毫扎笔，笔写文章。”李常见外甥这么小的年纪反应如此之快，十分欣慰，此后对他更是爱护、器重，精心栽培。
皇祐三年时，黄庭坚刚刚七岁。一天，黄庶邀请了几位诗友一起在家中饮酒赋诗。其中一位老友说：“久闻令郎少年聪慧，何不让他也来吟诗一首！”父亲也正想让儿子在友人面前一展才华，于是让黄庭坚前来作诗。
黄庭坚马上想到了在田间看到的小牧童，心中有感， 张口吟诵道：
骑牛远远过前村，吹笛风斜隔岸闻。
多少长安名利客，用尽不如君。
这首诗写得悠然恬适，却又蕴含哲理。多少人在官场上争名夺利，争来争去，算尽，又能怎样?还不如小牧童，骑在牛背上，信口吹着短笛，悠然自得。这么简单的道理，有人一生都悟不到，而黄庭坚小小年纪竟然看得如此透彻，难怪他一生活得潇洒通透。
北宋嘉佑三年，父亲黄庶病逝于康州太守任上，母亲怕耽误黄庭坚学业，将他送到舅舅那里，跟着舅舅李常游学。其实，黄庭坚的母亲不仅是闻名乡里的美女，更是一位能赋诗作词的才女。在黄庭坚临行前，母亲作了一首《浣溪沙》，并抄录好，连着那份深深的母爱，一起放入他的行囊。
无力蔷薇带雨低，多情蝴蝶趁花飞。
流水飘香乳燕啼。
南浦魂销春不管，东阳衣减镜仙知。
小楼今夜月依依。
诗写得太美了，儿子远游求学，母亲为其高兴。同时又有一丝不舍，淡淡的愁绪，如轻烟渺茫；轻轻的愉悦，似春日暖阳。这就是母亲，既盼望儿子有出息，又牵挂儿子在远方是否能照顾好自己。
在舅舅身边，黄庭坚不仅精心研读了百家经典，博览了众家诗文，他的学业可以说也是突飞猛进。黄庭坚也经常说：“长我教我，实惟舅氏”。后来通过舅舅引荐，他结识了诗人孙觉，孙觉很欣赏他，就将女儿兰溪许配给他。兰溪早逝，他又续娶诗人谢景初之女，亦是知书达礼之人，夫妻和睦，幸福美满。
治平四年，二十出头的黄庭坚得中进士，开始了他的仕途生涯。良好的家风，知书识礼的家人，造就了黄庭坚忠贞、正直的性格。他无论在何处为官，皆心怀百姓。
李苦少人摘，酒醇无巷深。
当官莫避事，为吏要清心。
葛藟松千尺，寒泉绠百寻。
公朝有汲引，吾子茂徽音。
——《送徐景道尉武宁》
黄雾冥冥小石门，苔衣草路无人迹。
苦竹参天大石门，虎迒兔蹊聊倚息。
阴风搜林山鬼啸，千丈寒藤绕崩石。
清风源里有人家，牛羊在山亦桑麻。
向来陆梁嫚官府，试呼使前问其故。
衣冠汉仪民父子，吏曹扰之至如此。
穷乡有米无食盐，今日有田无米食。
但愿官清不爱钱，长养儿孙听驱使。
——《上大蒙笼》
他认为为官就要清正，多为百姓做实事。所以，他在泰和做县令时，整治吏治，体察民情，被百姓称为“黄青天”，许多公路、学校、甚至商店都以他的字号“山谷”命名。虽然他亦是仕途坎坷，但因豁达开朗的性格，终是一路笑对人生，身后亦是流芳百世。
他是从翰墨书香中走出的人，满腹才华，心怀磊落。是红尘世人，又怀出世之清心。就如他自己所说“似僧有发，似俗无尘。作梦中梦，见身外身。”