Diketahui vektor a = (2,-1,3) dan b =( 1,3,-p) . jika sudut antara vektor a dan vektor b adalah π/3 , maka nilai p adalah

|a| = √(2² + (-1)² + 3²)
= √(4 + 1 + 9)
= √14

|b| = √(1² + 3² + (-p)²)
= √(1 + 9 + p²)
= √(10 + p²)

a . b
= 2 . 1 - 1 . 3 - 3p
= 2 - 3 - 3p
= -1 - 3p

a . b = |a| . |b| . cos π/3
-1 - 3p = √14 . √(10 + p²) . 1/2
(-1 - 3p)² = 14 . 1/4 (10 + p²)
1 + 6p + 9p² = 7/2(10 + p²)
9p² + 6p + 1 = 35 + 7/2 p²
kalikan 2 kedua ruas
18p² + 12p + 2 = 70 + 7p²
18p² + 12p + 2 - 70 - 7p² = 0
11p² + 12p - 68 = 0
(11p + 34) (p - 2) = 0
p = -34/11 V p = 2

maka nilai p adalah p = -34/11 atau p = 2