“三十六计”一词最早可以追溯到《南齐书·王敬则传》提到的“三十六策”：“敬则曰：‘檀公三十六策，走是上计。汝父子唯应急走耳。’”檀公，指南朝宋时名将檀道济，“走为上计”指檀道济伐魏不利，粮草被焚，宋军乏食，主动退兵之事。他把计谋全用在“走”上面，包括“唱筹量沙”和“空城计”（都是装腔作势而得以撤退），而有“走为上计”的说法。但此处的“三十六计”不像是书名，《南齐书》和《南史》亦均无记载这一书名。[1]
宋代惠洪《冷斋夜话》有“三十六计，走为上计”一语；元朝以后，此语多见于小说戏曲之中，例如元关汉卿《窦娥冤·第二折》：“常言道的好，三十六计，走为上计，喜得我是孤身，又无家小连累，不若收拾了细软行李，打个包儿，悄悄的躲到别处，另做营生，岂不干净。”明《水浒传》第二回：“娘道：我儿，三十六着，走为上着，只恐没处走。”清李玉《牛头山》第七出：“皇爷不要着急，三十六着走为上着。”
根据《易经》，六和八是阴的成数，而六更是阴数之极；三十六本为虚数，是阴数之极的平方，因此三十六应该只是虚数，表示计谋极多[1]。今天的《三十六计》确实有三十六条计策，可能只是附会这一典故。
散文家秦牧在1947年2月11日、12日的《华商报》上发表文章《流氓经》，称“三十六计”一词在“线装书中极难稽考，但普通人有这么一说”。[2]可见“三十六计”一词由来已远古，但作为书名是20世纪的事情。