G3步枪采用的滚柱闭锁枪机的历史可以追溯到第二次世界大战时,德国的路德维希·福尔格里姆勒(Ludwig Vorgrimler)发明了一种利用滚柱闭锁原理的枪机。他所在从事突击步枪研制工作的工程师小组受命用研制一种突击步枪,他们于1944年设计了一种名为MKB GERAT 06的枪械。这种武器虽然是类似于MG42的滚柱闭锁,但却是导气式原理 。毛瑟兵工厂的设计师继续这项研制工作,并研制了一种半刚性的滚柱闭锁枪机,1943年他们制造了一支枪,试验成功后德国陆军在1944年订购了30支样枪。零件刚生产完,战争就结束了。毛瑟兵工厂的一些雇员被拘留在荷兰并被英国命令组装这些武器,于是就产生了第一支用滚柱闭锁枪机的突击步枪“Stg45”。Stg45的半刚性滚柱闭锁枪机就是G3步枪的枪机的雏形。
1950年滚柱闭锁枪机的发明者路德维希·福尔格里姆勒几经周折地到西班牙,加入西班牙特种材料技术研究中心(CETME),参加了一个研制新枪的专家组。很快在西班牙得到信任,而且还批准了由他负责设计的新枪方案。新的步枪很快就制造出来,并取名为赛特迈(CETME)步枪。1952年,原型枪引起了美国军方的关注,美军军事代表团还特意表示可以到美国免费试验新枪。1954年,CETME步枪改为发射7.62mm NATO标准枪弹。此时,联邦德国正需要新枪装备部队。1956年,与西班牙政府签订合同,修改并订购首批500支的CETME步枪,条件是由H&K公司(德国黑克勒和科赫有限公司)生产。而路德维希·福尔格里姆勒也随CETME步枪回到了联邦德国。1957年初试验结束。同年联邦德国决定装备该枪,1958年与西班牙达成特许生产的协议,并将生产任务交给H&K公司。H&K公司根据军队试验提出的改进意见,对赛特迈步枪进行了改进,改进后的步枪被命名为G3。 1959年,G3步枪正式装备联邦德国部队。此后,为适应不同国家或不同部门的使用要求,形成了三种型号:固定枪托的G3A3、伸缩枪托的G3A4和带瞄准镜的G3A3ZF(ZF是德文望远镜“Zielfernroh”的缩写)。
从1959年开始,世界上共有80多个国家购买了G3步枪,其中有10多个国家获得特许生产权。虽然在1970、80年代后,世界上出现换装小口径步枪的潮流,但仍有40多个国家在使用G3。H&K公司在G3步枪的基础上,在很短的时间,通过局部的变换就迅速地扩展出包括冲锋枪、轻机枪、狙击步枪在内的多种变形枪,使G3系统成为世界上变形枪较多的枪械。H&K公司也成为世界上一流的枪械厂家。