Найти угол C треугольника ABC, если известны векторы AB = (2,1,-2) и BC = (3,2,6)

С углом АВС всё в порядке. Чтобы пользоваться данной формулой, необходимо, чтобы векторы исходили из одной точки. Поэтому для угла ВАС нужно брать вектор не АС, а СА, т. е. знаки в нем поменяются, и косинус будет отрицательный