宰，治也；相，输佐之意。据《周礼·天官》云：“立天官冢宰使帅其属掌邦治”。而《吕氏春秋》释“相”则曰：“相者百官之长也”。可见，作为官名的“宰”、“相”，早在商周已经存在。
进入战国时代，割据的诸侯国君主，也均依靠宰相辅佐自己富国强兵，进行兼并。如法家代表人物李悝，就曾被魏文侯任命为“相”，主持变法改革。这一时期，还有齐国的管仲、秦国的商鞅等都是著名的宰相。
公元前201年，秦兼并天下，建皇帝号，立百官之职，取消以分封制为基础的贵族统治阶层，确立统一王朝的宰相制度。作为这个官僚组织的首领，宰相一职开始正式确立。
尽管在不同的王朝，“宰相”的称谓有所不同，人数各异，职权重轻有别，但是因循损益，基本之制不变。
实际上，历史上除辽国曾有过“宰相”此官职名称外，其他朝代的宰相职位几乎都采用其他称呼。
秦朝建立后，为分解、打压宰相权力，秦始皇就以丞相、太尉、御史大夫为“三公”，共管朝政，且明确“三公”职责：丞相协助皇帝处理天下庶务；太尉掌武事，是最高军事长官，地位与丞相平（不过秦始皇并未任命过太尉，而是自掌军权）；御史大夫为副丞相，掌理奏章、下达诏令和监察百官。通过设立太尉与御史大夫来分解相权，秦始皇的目的就是使丞相无法坐大。
后来，在秦朝的中央官僚体制中，又出现“外朝官”与“内朝官”。“外朝官”是以丞相为首的三公九卿，“内朝官”则是处理皇帝家务的宫官，如侍中、少府、郎官等。“内朝官”基本秉承皇帝的旨意参与朝政，这样一来又可牵制乃至转移、削减相权，从而实现皇权的高度集中。
到了汉朝，宰相从“一相”变为“三公”。首先，宰相人数不定。如“三公”都是宰相。
其次，机构庞大。汉设丞相府（相国府），三公并相时，宰相办公之地称为“三府”：丞相府、大司马府、大司空府。最后改为：太尉府、司徒府和司空府。丞相府属员有时候多达３００人。
再次，职责权力范围扩大。宰相几乎参与所有国家重大事务的决策，还掌握选用官吏、总领百官朝议和奏事、执行诛罚、主管郡国上计与考课、封驳与谏诤等权，还有一定的立法、司法和军事权。
隋唐以及后来的宋朝，实行三省六部制，宰相由中书省、门下省、尚书省三个部门的长官共同担任，官职名称、权力、人数经常有变动，但不出“三省”。
具体名称有，如内史令、纳言、尚书令、尚书左仆射、参知政事、同平章事等；元代设左右丞相；明太祖朱元璋废宰相制度，内阁首辅成为事实上的宰相。
实际上，宋代之前的宰相，上朝时是唯一可以坐在朝堂上的大臣。只是宋太祖赵匡胤不断扩大皇权，削弱相权后，宰相上朝时也没椅子坐。
历史上，皇帝和宰相职权的划分，向来都是历代政治的大题目，一般来说皇权和相权划分得合理时，政权均能运转起来。
划分不合理时，不是皇帝好大喜功，大权独揽，将国家推向战事，或者出现宦官专政；就是宰相专权，架空皇帝，甚至出现篡权。
到了清朝，从三院长官到内阁大学士，再到军机大臣、总理大臣、内阁政务大臣，宰相权力日益淡化，皇帝集权则达到极点。
但是，随着清王朝的灭亡，中国古代的宰相制也终于走到它的历史尽头。
