关于我国法律渊源的表述，正确的有哪些？

本题考查我国法律渊源的相关知识。
选项A、B、D，宪法的制定主体是全国人民代表大会；行政法规的制定主体是国务院；法律的制定主体是全国人民代表大会及其常委会。因此，选项A“宪法由全国人民代表大会制定”、选项B“行政法规由国务院制定”、选项D“法律由全国人民代表大会及其常委会制定”的说法均正确。
选项C，地方性法规的制定主体是有地方立法权的地方人民代表大会及其常委会，并非由地方各级人民政府制定。故选项C错误。