как умножить вектора? АВ*ОС

Смотря какое произведение необходимо
Если скалярное, то это произведение двух векторов есть число, равное произведению длин этих векторов на косинус угла между ними
Если векторное, то это третий вектор с, длина которого равна /с/=/а/*/в/*sin a, он перпендикулярен векторам а и в и направлен в ту сторону, что векторы а,в и с образуют правую тройку.