早在几千年前，中国古人就产生了实现“和谐大同”社会的理想，并为此设计了一整套较为完善的保障体系。其核心莫过于采用一套有效的争议调处机制，即今天所谓之调解制度。调解，作为一种有效的争议解决机制，在我国的历史可谓源远流长。今天能够看到的关于调解的最早记载是舜主动出面对“历山之农者侵畔，河滨之渔者争坻”(《史记·五帝本纪》)进行有效调处的故事。
另据考证，早在奴隶社会的西周时期，在地方官吏中就有“调人”之职，其职能即为“司万民之难而谐合之”(《周礼·地官·司徒》)。可见，华夏先民很早就认识到调解对社会和谐的作用。之后在漫长的封建社会，调解制度在我国得到了充分的实践和发展，几乎在历朝历代都设有专门负责调解的机构或人员。
秦汉时，在乡一级设“秩、啬夫和三老”专司调解事务(《汉书·百官公卿表》)，调处不成再到县廷起诉。唐代则于基层分设“乡正、里正和村正”，而且还明确规定调解是将纠纷交府县处理的前提。到元朝时调解已被广泛应用于解决民事纠纷。元代还为调解及其他非诉讼争议解决机制取了一个特殊的名称——“告拦”。
元朝法律同时规定通过审判官调解达成和解而再次起诉的案件，不允许有司再行受理(《元典章·刑部·诉讼》)。这就赋予调解达成的和解协议以既判力和法律约束力，这是传统调解发展史上一个重要的里程碑。
到明清时期，我国古代调解制度发展到了极致。明代将儒家“无讼”观念付诸社会管理实践，调解自然继续充当民事诉讼的法定前置程序。朱元璋就曾颁布敕令规定：“民间户婚、田土、斗殴、相争一切小事，不许轻便告官，务要经本管里甲老人理断。若不经由者，不问虚实，先将告人杖断六十，仍发里甲老人量断。”(《教民榜文》)清代在沿袭明朝做法的同时，还将调处率纳入地方官员的政绩考核，这从某种程度上导致调解适用范围被不适当地扩大。
据载，清嘉庆十五年至二十五年间，天津宝坻县自讼案的调解结案率竟高达90%(《顺天府档案》)。从上述调解演进的历史可以看出中国古代调解在一步步制度化的过程中，还逐渐形成了较为明显的强制性特征。这种强制调解模式体现了统治者以此进行社会治理的重要考虑。中国古代调解也因此带有浓厚的政治色彩和道德教化功能。