在中国建立什么样的政治制度，是近代以来中国人民面临的一个历史性课题。为解决这一历史性课题，中国人民进行了艰辛探索。
辛亥革命之前，太平天国运动、洋务运动、戊戌变法、义和团运动、清末新政等都未能取得成功。辛亥革命之后，中国尝试过君主立宪制、帝制复辟、议会制、多党制、总统制等各种形式，各种政治势力及其代表人物纷纷登场，都没能找到正确答案，中国依然是山河破碎、积贫积弱，列强依然在中国横行霸道、攫取利益，中国人民依然生活在苦难和屈辱之中。
在中国人民奋力前行的伟大斗争中，中国共产党诞生了。自成立之日起，中国共产党就以实现中国人民当家作主和中华民族伟大复兴为己任。国家政权应该怎样组织？国家应该怎样治理？这是一个关系国家前途、人民命运的根本性问题。经过实践探索和理论思考，中国共产党人找到了答案。
1940年1月，毛泽东同志在《新民主主义论》中，第一次从理论上系统论述了人民代表大会制度。他说，要建立民主集中制基础上的人民代表大会制度。毛泽东认为，通过“实行无男女、信仰、财产、教育等差别的真正普遍平等的选举制”，通过“采取全国人民代表大会、省人民代表大会、县人民代表大会、区人民代表大会直到乡人民代表大会的系统，并由各级人民代表大会选举政府”，这才适合于各革命阶级在国家中的地位，适合于新民主主义精神。“如果没有真正的民主制度，就不能达到这个目的，就叫作政体和国体不相适应。”
1945年4月，毛泽东同志在党的七大上作政治报告，再一次阐释了这一构想。他说，新民主主义的政权组织，应该采取民主集中制，由各级人民代表大会决定大政方针，选举政府。只有这个制度，才能既表现广泛的民主，使各级人民代表大会有高度的权力，又能集中处理国事，使各级政府能集中地处理被各级人民代表大会所委托的一切事务，并保障人民的一切必要的民主活动。1948年1月，毛泽东在《关于目前党的政策中的几个重要问题》一文中指出，人民大众组成的“中华人民共和国”，其权力机关是“各级人民代表大会”，并通过各级人民代表大会，选举各级政府。
1948年8月，在石家庄召开了华北临时人民代表大会，由它选举产生了华北人民政府委员会。这标志着人民代表大会制度的构想已在中国大地上开花结果，使中国政权组织形式的建设进入了一个新的发展阶段。
1949年8月14日，刘少奇从苏联动身回国。途经沈阳，他在中共中央东北局干部会议上讲话时旗帜鲜明地指出：“建立人民民主专政有它的内容，有它的形式，只有人民代表大会才能充分表现出人民民主专政的内容。”
1949年9月，经过中国共产党、各民主党派、各界人士共同协商，制定的具有临时宪法作用的《中国人民政治协商会议共同纲领》，把人民代表大会制度确定为新中国的政体，这是从法律上第一次规定了人民代表大会制度。
1954年9月15日，第一届全国人民代表大会第一次会议召开，标志着人民代表大会制度从中央到地方在实践上系统建立起来。刘少奇同志在关于宪法草案的报告中指出，人民代表大会制度所以能够成为我国的适宜的政治制度，就是因为它能够便利人民行使自己的权力，能够便利人民群众经过这样的政治组织参加国家的管理，从而得以充分发挥人民群众的积极性和创造性。刘少奇指出，“我们国家的大事不是由一个人或少数几个人来决定的。人民代表大会制度既规定为国家的根本政治制度，一切重大问题就都应当经过人民代表大会讨论，并作出决定”，“我国的人民代表大会制度就是这样能够对重大问题作出决定并能够监督其实施的国家权力机关”。
人民代表大会制度是马克思列宁主义基本原理同中国具体实际相结合的产物，是中国人民在中国共产党的领导下，在创建人民政权的过程中不断发展、完善、具有中国特色的社会主义新型政治制度，在中国政治发展史乃至世界政治发展史上都具有划时代意义。