《史记》具有很高的文学性，这是世人所公认的。它的极高的文学成就，首先表现在它以写人为中心，来串联历史故事，因此塑造了众多形象鲜明的历史人物。《史记》的这种“纪传体”的写史方式，就与小说相似了（小说也以写人为中心任务，通过一系列事件，来反映人物性格、社会现实）。它对我国古代小说的影响，是巨大的。
汉代以前没有小说，受《史记》影响，才慢慢出现了“小说”性质的文体，但那时也不称之为“小说”，而是称之为“野史”，是与正史相对而言的一种“史书”。所以，中国古代小说，是受“史书”的影响，特别是上《史记》的影响发展而来的。他们在不同历史时期，名称也不同，魏晋南北朝小说叫“志怪”、唐朝小说叫“传奇”、宋元小说叫“话本”，明清小说，则是小说发展的高峰期，门类齐全，水平都很高，如：志怪小说有《聊斋志异》、人情小说《红楼梦》、历史小说有《三国演义》、神魔小说有《西游记》、英雄传奇小说有《水浒传》等等，不一而足。
一、《史记》与南北朝小说
魏晋南北朝小说是在《史记》《汉书》的影响下发展起来的。在司马迁之前，从事历史写作的人很少；到《史记》出现之后，它的高度的艺术性，影响着世人。人们由欣赏进而模仿，著名的有褚（chǔ）少孙（补写8篇《史记》）。至班固时，在《史记》的基础上，他剪裁、改编、补充，写成《汉书》。《汉书》受到上至王公贵人，下至一般读书人的广泛赞赏。
东汉以后，随着《史记》《汉书》的流行，爱好写史的人越来越多。但魏晋南北朝时期人们所写的某些史书，又具有两个新的特征。
第一，取材的范围扩大，并下移。《史记》《汉书》主要写帝王将相，军国大事；而魏晋南北朝时期的史书，所写之人，除了模仿《史记》《汉书》，继续写帝王将相之外，开始写各行各业的人。
第二，所写之事，向着怪异、奇闻轶事的方向发展。当一种史书，大量反映降妖除怪、因果报应、长生不老这样的主题，它就和小说没有什么区别了。
这一时期的人们，喜欢清谈，他们谈人物、谈史事、谈怪异，有的是真实的，有的是虚构的，但他们都把它们当作真人真事一样地谈着写着。比如干宝的《搜神记》，就是把古今怪异神奇的人物故事搜集起来，写成此书。这些奇奇怪怪的事，干宝像司马迁写史一样，一本正经地把它们写出来，一个人物一篇，文章模式和《史记》的传记几乎一样。
魏晋南北朝小说，内容可以分为两类。一类是志怪，即以干宝的《搜神记》为代表；一类是轶事，以刘义庆的《世说新语》为代表。作者在写作这些内容时，以《史记》写史的方式，主观上把它当做史书来写，但它已经不能算得上是史书，相反，说它是小说，应该更恰当。
所以，魏晋南北朝小说，是在《史记》《汉书》的影响下，发展而来的。因为小说在古代中国不受重视、或小说和史书界限还不清晰，所以，那一时期的作者，就把他们受《史记》《汉书》影响、启发而写成“小说”，很自然地也称为“史书”。这就足以说明，魏晋南北朝小说，是在“史书”的影响下，发展而来的。
二、《史记》与唐传奇
在明清小说之前，成就最高的小说，当推唐传奇。唐传奇是中国古代小说发展史上的里程碑。古代中国真正意义上的小说，是从唐传奇开始的。《史记》对唐传奇的影响，有以下几个方面。
（一）司马迁的“尚奇”精神直接影响唐传奇。
唐代小说被称为“传奇”，顾名思义，就是记述奇特的人物和事件。而这一特点，正是司马迁写列传的择人标准之一。司马迁这个择人标准是：“扶义倜傥，不令己失时，立功名于天下。”意思就是，仗义而行，才能出众，人物不凡，建功立业，传名后世。简单地说，就是要写奇人、奇言、奇行、奇事。唐传奇就是在司马迁这一写人主张的直接影响下，发展而来的。
（二）唐传奇模仿《史记》人物传记的写作模式。
1、唐传奇以主人公的名字为题目。故事的情节围绕这个人物的生平经历展开来写。这正是《史记》所开创的“列传”的写法。如元稹的《莺莺传》，白行简的《李娃传》，李朝威的《柳毅传》，蒋防的《霍小玉传》等等。都以主人公的名字为题目（《聊斋志异》更是这样）。
2、唐传奇写人物故事，先从主人公的身世写起，再写主人公一生事迹，一直写到其死，以至于其后代。如《谢小娥传》开头：小娥，姓谢氏，豫章人，估客女也。生八岁，丧母。之后写她的几件事（出嫁、丈夫遇害、为夫*仇报**）。再如：《莺莺传》：贞元中，有张生者，性温茂，美风仪，内秉坚孤，非礼不可入。
按照主人公的生平经历的先后次序来写，上及祖先，下至子孙，这就是了直接模仿《史记》列传的写法，来写小说。
3、唐传奇中，往往有作者的评论，有的在唐传奇的中间，有的在结尾。这是模仿《史记》用“太史公曰”，来评论人物的写作模式。
4、唐传奇的喜欢化虚为实。唐传奇的故事虽然多是虚构，但除了人名，地名、年号都是真实的。且小说的作者喜欢以“史官”自居，极力把传奇小说写的像《史记》的“列传”那样，尽量给人以“真实”的感觉。
唐传奇以及之后的小说，一直到《聊斋志异》，它们的写法及谋篇布局，都与《史记》一脉相承。可以说，《史记》是中国古代小说的“源头活水”，一直深刻地影响着中国古代小说的创作。