日本黑社会是犯罪组织的松散联盟，追根溯源有二种传说：一种说法是源自17世纪的雇佣军，他们保护村民不受土匪袭扰。另一种说法则是与“歌舞伎单”有关，他们是恐吓全日本村庄的流浪武士。

现代意义上的日本黑社会则是在二战后出现，那时他们声称控制了黑市。他们外面看起来有信用、有礼貌，但是干的却是人们熟悉的非法勾当：走私、贩毒、敲诈、地下赌博和经营色情业。

现在，日本黑帮组织已成为日本社会生活根深蒂固的一部分，尽管日本政府也想打击黑帮，但最终黑帮和骗子建筑公司、腐败政客一样，成为日本社会三大顽疾。

尽管日本1992年出台了《反黑帮法》，日本黑帮人数一度下降，但日本警方透露，黑帮多年来又有了发展，人数依然不少，目前仅“山口组”成员就达4万人。

称呼黑社会在日本有一个专门的词叫“暴力团”。据日本警视厅统计，日本目前共有3000多个大大小小的暴力团，其中“山口组”、“住吉会”、“稻川会”为三大巨头，成员人数占黑社会总数的68.9％。 “山口组”总部设在神户一个十分安静的高档社区，100米之外就是警察局，门口竖了一个大的标牌，上面写着禁止使用童工、贩卖毒品、随意丢弃烟头之类的话。每月5日，一辆辆奔驰或凌志轿车把日本各地黑帮头目送到这里，进行一月一次的头目聚会。

日本黑帮组织，也致力于漂白组织，除了经营毒品、赌博和色情，现在更多地转向利润丰厚的房地产和建筑，对日本社会经济产生重要影响。最有名的例子是1995年的日本神户大地震。神户是“山口组”的故乡，在地震发生后，日本政府反应迟缓冷淡，“山口组”认为机会来了，出面收买人心，不但尽全力提供粮食及民生用品，还给予灾民最大的医疗救助，此举令政府十分难堪。

“山口组”和“住吉会”黑帮成员甚至佩戴胸卡和徽章，就像大公司一样。在私下场合，黑帮老大与资深政客称兄道弟是常有的事，黑帮老大的红白喜事也都会有政界人士捧场。前首相岸信介曾为一过世的黑帮老板操办葬礼。森喜朗还参加过一次由稻川油户主持的婚礼并致辞，而后者是黑帮“稻川会”的老板。