麻将本名应是「抹将」，抹的是水浒传的108个好汉。相传元末明初有个名叫万秉迢的人，非常推崇施耐庵笔下的梁山好汉，欲将水浒传的故事让达官贵人也知水浒故事，进而爱民护民遂发明麻将，将水浒英雄融入这个游戏中。麻将以108张为基数，分别隐喻108条好汉。如牌中九条喻为「九条龙」史进，二条喻为「双鞭」呼延灼，一饼喻为「黑旋风」李逵。
之所以分为万、饼、条三类，是取其本人姓名的谐音。每类从一到九各有四张牌，刚好108张。108条又是从四面八方汇聚梁山，所以加上东、西、南、北、中午个方为各掭四张牌计20张。这些好汉有富贵贫穷各阶层，所以再加上「发」、「白」隐喻富有及穷白，加上八张牌，整副牌共计136张。
后来又加上各种花牌，整副牌共计144张。另有一种民间趣话，打麻将用四方桌既是东西南北四个方位，也是指春夏秋冬四季，每人十三张牌，因为一季有十三个星期。四季合五十二周，共三百六十四天，加上赢了时的那一张，代表一年最后一天共三百六十五天，恰好一年。这也是另一种趣话。
由来二
麻将起源於护粮仓，麻将牌起源江苏太仓，这是苏州杂文作家谷新之研究得出的结论。
太仓在古时是皇家粮仓，仓内常年囤积稻谷，以供「南粮北运」。粮仓既设，雀患便生。守仓兵丁以捕雀取乐，仓官变鼓励为奖励,发给竹制筹牌记数酬劳。这筹牌上刻有字，可用来作游戏的工具；这牌子又是赏钱，有证券价值，於是便可以用来作输赢。这种游戏流传下来，演变定型，便成了麻雀牌,即今天的麻将。其玩法，术语等都与捕捉麻雀有关。
譬如筒、索、万。筒的图案是火枪的象形符号(截面图)。几筒表示几具火枪。索即束，是细束捆串起来的鸟雀,所以一索图案的是鸟,二索上像竹节，表示鸟雀的脚，官吏验收时以鸟足计数，兵丁将鸟雀集合成「束」。万，即赏钱。
另外，东、西、南、北为风向,土枪无力，发射时要考虑风?。中，即打中，故涂红色。白，即白板，打空枪之谓。发，即得赏发财。「碰」，
即「砰」，枪声。成牌之「胡」，实为「鹘」；属鹰的一种，有高强的捕鸟本领，有了鹘就不愁抓不到麻雀，故每局牌胜皆曰「鹘」。除此，麻将中的「吃」，「杠」等术语几乎都要与捕捉麻雀联系起来。
那麼，麻雀牌又怎麼叫作「麻将牌」呢?原来太仓方言的「鸟雀」就叫作「麻将」，「打鸟」或者「打麻雀」统称「打麻将」，故麻雀牌也叫「麻将牌」。
由来三
我国最早有关麻将的计载，是宋朝杨大年著的「麻将经」。其中的内容和现今的麻将差不多。麻将发展到了清朝，没有「一鸟」（一索），并且七个字是「公」、「侯」、「将」、「相」、「文」、「武」、「百」，清廷怀疑这七字和反清复明有关，於是下令禁之。到了道光年间，秀才陈实门坐他哥的船四处游历，船上的船员无聊聚赌，陈实门日日观之，於是起了改进赌具的念头，船行时风向时常改变，於是他把公侯将相改成东南西北风，当时船在各处交易的货币制度是，十筒相当於一索，十索相当於一万。其中「筒」即是中间有洞的铜币，索就是把一堆铜币串起。於是他将这些用在麻将上，但一索和二索极易混淆，某日他看到了船上养的鸟，灵机一动将一索改成「鸟」。麻将至此已大致成形，但文武百这三字要改成什麼呢？陈实门为此伤透了脑筋。有一次船员在下棋时用炮将军对方，说道「吾炮百发百中也」。陈实门听了就将文武百取百发百中之中发百改为中发白替之，这就是我们今日的麻将了。
