相马氏乃是平将门之后裔,早年一度曾断绝过家系血脉,后来迎入千叶氏(平氏)之女作为养子。相马氏始祖为相马师常,他曾跟随源赖朝参与奥州征伐,因战功得相马郡为领地,因此以相马地名为苗字,从而创立了相马家。相马家第六代当主重胤,在镰仓幕府行将崩溃时,参与进攻镰仓府的战斗,从而得以保全领地。在南北朝时期,相马氏从属于北朝。相马重胤还筑起了小高城(地址在现在的相马郡小高町),在此后到庆长十六年(1611)为止的三百多年来,小高城一直是相马家的居城。
室町、战国时期,相马家一直持续地扩大着领地规模,并与东北豪强芦名、伊达两家结下联姻关系。在伊达家父子相争的“天文大乱”中,相马家自然站在伊达稙宗这一边的,并数次与伊达晴宗交战,因此与伊达家结下冤仇。从此时开始到天正十八年(1590)的五十年间,伊达相马两家爆发过大大小小近三十次之多的合战。
到了相马义胤(公元1548年~1635年)这一代,随着伊达家势力的扩张,相马家的抗争逐渐转入劣势。而相马义胤却依旧执着地与伊达家对抗,甚至放出宁可战死沙场也不愿意臣属伊达家的激烈言辞,一心一意向着灭亡之道狂飙突进。所幸,在天正十八年(1590),丰臣秀吉全国平定后,下令禁止私战,从而暂时避免了灭亡的命运。但在之后不久的关原之战中,因为伊达政宗被德川家康拉拢加入了东军,而相马义胤则坚持着与伊达家对抗的信念,而加入了西军。关原战败,相马氏领地被没收,义胤则前往三春城隐居。而相马家之后的结局更戏剧化,庆长九年,反而是在伊达政宗的协助下,相马义胤得以回复六万石小高城的旧领,以藩主的身份终老。