根据题目给出的矩阵，通过计算其特征值，可以得出矩阵A的特征值为1，3，-5，而矩阵B的特征值为1，1，-1。根据合同的定义，如果两个矩阵可以通过线性变换相互转化，则它们是合同的。由于矩阵A和B的特征值不完全相同，它们不能通过线性变换相互转化。因此，矩阵A和B合同但不相似。所以答案是C。