为了拉近马来西亚和中国的友好关系,1974年5月31日,马来西亚第2任首相敦阿都拉萨与中华人民共和国总理周恩来与在北京签署建交《联合公报》,正式建立大使级外交关系。
1975年1月,中国任命王幼平为中国驻马来西亚大使馆首任大使。同年1月24日,王幼平赴任抵达马来西亚首都吉隆坡,并于1月29日向国家元首递交国书。

中驻马大使馆外观。
目前中国驻马来西亚大使馆,是位于马来西亚吉隆坡市安邦路229号,大使馆领区,包括吉隆坡、雪兰莪、森美兰、马六甲、柔佛、登嘉楼、吉兰丹、彭亨。
大使馆设有领事办公大厅,对外办公地点为马来西亚吉隆坡安邦路25号OSK大厦一楼(中国银行楼上)。位于玛扬莎莉路汉普郡广场办公室6楼(Level 6, Hampshire Place Office, Jalan Mayang Sari)的吉隆坡中国签证申请服务中心则负责中国签证及认证申请。
历届大使有王幼平、叶成章、陈抗、胡岗、周刚、金桂华、钱锦昌、关登明、胡正跃、王春贵、程永华、刘健、柴玺、黄惠康、白天、欧阳玉靖。

中驻槟总领馆2015年设馆
中国驻槟总领馆,于2015年12月22日设馆,位于端姑阿都拉曼路门牌28B&C。总领馆领区包括槟城州、霹雳州、吉打州及玻璃市州四州。

第一任总领事为吴骏(2015年7月—2018年5月)。第二任:鲁世巍(2018年7月—2022年8月),第三任:周游斌(2022年10月至今)。

此外,在我国东马,中国也设有两间总领事馆,即中国驻亚庇总领事馆及中国驻古晋总领事馆。中国驻亚庇总领事馆的领区是沙巴及纳闽联邦直辖区,中国驻古晋总领事馆的领区则是砂拉越。
历届大使
王幼平(1975年1月-1977年4月)
叶成章(1977年12月-1982年10月)
陈抗(1983年3月-1985年1月)
胡岗(1985年4月-1988年4月)
周刚(1988年7月-1991年4月)
金桂华(1991年8月-1993年11月)
钱锦昌(1994年1月-1999年1月)
关登明(1999年2月-2001年8月)
胡正跃(2001年9月-2004年2月)
王春贵(2004年4月-2006年8月)
程永华(2006年8月-2008年8月)
刘健(2008年9月-2010年6月)
柴玺(2010年6月-2013年12月)
黄惠康(2014年1月-2017年10月)
白天(2017年11月-2020年11月)
欧阳玉靖(2020年12月至今)