A、细菌与酵母菌细胞都含有细胞膜结构,A错误;B、细菌与酵母菌细胞都含有细胞质结构,B错误;C、细菌与酵母菌细胞都含有核糖体,C错误;D、细菌是原核细胞,酵母菌是真核细胞,原核细胞与真核细胞相比,最大的区别是原核细胞没有核膜,D正确.故选:D.