歇后语叫歇后语是因为在一定的语言环境中，通常说出前半截，“歇”去后半截，就可以领会和猜想出其本意。歇后语由劳动人民在日常生活中创造，具有鲜明的民族特色和浓郁的生活气息。

初的歇后语与现今的歇后语的表现形式并不相同，是对当时通用的成语、成句的省略。陈望道在《修辞学发凡》中称之为“藏词”。例如用“倚伏”代替“祸福”（出自《道德经》：“祸兮福所倚，福兮祸所伏。”）这种歇后语需要一定的文言功底，其使用范围受到了限制。

后来的歇后语在结构上是“比喻——说明”式的俏皮话。使用的人往往只说出比喻部分，后面的解释部分则让对方自己领悟。