唐德宗贞元七年，广陵城连日阴雨。在广陵城西有座院子里长了棵大槐树，树木粗壮，枝叶繁茂，遮盖了大半个院子，虽然细雨绵绵，可树下却没有一点雨丝透进来。
槐树下，院子的主人淳于棼正斜倚着石桌喝酒。他原是淮南军裨将，半年前因酒后失言触怒主帅，丢了官职，心中郁闷，便日日抱着酒壶排解心中烦闷。此刻酒过三巡，菜过五味，喝的有点多了，他不由得眼皮越来越沉，索性将空了大半的酒壶一搁，头抵着槐树，昏昏沉沉地睡了过去。
恍惚间，忽有马蹄声踏破雨幕。他勉强睁眼，见两名身着紫袍的使者立在面前，衣摆上绣着细密的槐花纹，躬身道：“淳于郎军，我王有请。”淳于棼刚想发问，却觉身体轻得像一片树叶，双脚不由自主地跟着使者走向槐树——那粗可合抱的树干上，竟裂出一道朱漆门，门内雾气缭绕，看不清远处是什么情景。
他跨入门的时候，雾气骤然散开。眼前是条宽阔驿道，两侧碧树葱茏，枝头缀着紫色的奇花，香气漫过衣襟。使者引他上了匹青骢马，行约数十里，一座城池遥遥在望，城门上“大槐安国”四个金漆字，在日光下闪闪发光，城楼飞檐下的玉铃，在轻风中发出清脆的响声。
入城时，百姓夹道相迎，衣饰皆锦绣，脸上满是笑意。不久，一行人行至皇宫前，只见朱门巍峨，玉阶蜿蜒，阶下数百侍卫持戟而立，甲胄映着日光，寒气森森。使者引他入殿，殿上君王头戴珠冠，身着绛纱龙袍，声音如钟磬相和：“寡人苏闻先生贤明，小女金枝公主年方十八，愿许配先生，不知先生意下如何？”
淳于棼怔住了，有些手足无措。不等他回话，宫女已引他入偏殿更衣——绣金蟒袍裹身，玉冠压发，再抬眼时，后殿已燃遍红烛。金枝公主坐在镜前，霞帔垂落肩头，耳坠上的珍珠随呼吸轻晃，见他进来，回眸一笑，容貌明艳。
当夜宫中设宴，丝竹声里，舞姬翩跹。君王举杯又道：“南柯郡乃南疆要第，朕特命先生为南柯太守。”淳于棼起身谢恩。三日后，他携金枝公主赴任，随行的还有君王赏赐的数千兵卒与百余名官吏。
南柯郡距都城千里，一路行来，田畴连片，山川秀美。抵达郡城时，百姓早候在城外，见车驾跪地高呼。
此后，淳于棼执政南柯郡二十年，他勤于政务，兴修水利，奖励农耕，百姓安居乐业，都称他为青天。
二十年过去了，淳于棼的鬓角已染了白霜，二子一女也已长大——长子承袭了他的官职，次子学业有成，女儿嫁给了都城的王公之子。这些年，他数次被召回都城，君王赏赐的金银珠宝堆满了几间屋子，“南柯太守”的名声，在大槐安国无人不晓。
这一年秋天，淳于棼正在府中批公文，忽然，侍卫跌跌撞撞的跑进来：“启禀太守！檀萝国举兵来犯，已破了边境三城，离郡城只剩五十里了！”淳于棼大惊，急忙召集将士部署防御。可檀萝军骁勇善战，南柯守军节节败退，三日后，敌军便兵临城下。
淳于棼亲自登城督战，可檀萝军的攻势凶猛，城墙上的士兵越来越少，终于，城门被打破，敌军潮水般涌进来。
混乱中，淳于棼见一名檀萝将领举刀冲向金枝公主，他嘶吼着提剑冲过去，却被那将领反手一刀劈中胸口。剧痛传来的瞬间，他眼前一黑，彻底失去了意识。
等淳于棼睁开眼时，发现自己还倚在老槐树下，酒壶倒在石桌上。他揉了揉胸口，并没有伤口，再看那槐树树干上哪有什么朱漆门，只有树下一个湿漉漉的巨大蚁穴，几十只蚂蚁正忙忙碌碌都搬槐叶。他起身凑近蚁穴细看。穴口蜿蜒着深入地下，南边的槐枝上，还有个小点的蚁穴，几只蚂蚁正沿着枝桠爬上爬下。
“淳于叔叔，你在看蚂蚁搬家呢？”邻家孩童跑过来，指着大蚁穴笑道，“我们把这个叫‘槐安国’，旁边那个小的，我们叫它‘南柯郡’呀！”
淳于棼浑身一震，他蹲下身，看着蚂蚁忙忙碌碌，忽然明白了，二十年的荣华富贵，夫妻情深，不过是一场南柯梦。
这天以后，淳于棼看淡了功名，不再借酒消愁。他时常坐在槐树下，看蚂蚁搬食，听风吹槐叶。有人问他为何这般清闲，他只笑着指了指蚁穴：“看到它们，就像看到了从前的自己。”