银行业金融机构涉嫌犯罪时，国务院银行业监督管理机构的职责是？

银行业金融机构构成犯罪的，应当由司法机关依法追究刑事责任，国务院银行业监督管理机构可以依法给予行政处罚，但无权直接追究刑事责任。因此，本题中表述的“国务院银行业监督管理机构应当依法追究刑事责任”是错误的。