The unit vector perpendicular to \(\vec { a } \) and \(\vec { b } \) is \(\hat { n } =\pm \cfrac { \vec { a } \times \vec { b } }{ \left| \vec { a } \times \vec { b } \right| } \) 
\(\vec { a } \times \vec { b } =\left| \begin{matrix} \hat { i } & \hat { j } & \hat { k } \\ 3 & 1 & -4 \\ 6 & 5 & -2 \end{matrix} \right| \) 
= \(\hat { i } \left( -2+20 \right) +\hat { j } \left( -6+24 \right) +\hat { k } \left( 15-6 \right) \) 
= \(18\hat { i } -18\hat { j } +9\hat { k } \) 
\(\left| \vec { a } \times \vec { b } \right| =\sqrt { 324+324+81 } =\sqrt { 729 } =\sqrt { 71\times 9 } =27\) 
\(\hat { n } =\pm \cfrac { 18\hat { i } -18\hat { j } +9\hat { k } }{ 27 } =\pm \cfrac { 9(2\hat { i } -2\hat { j } +\hat { k } ) }{ 27 } \) 
= \(\pm \cfrac { 2\hat { i } -2\hat { j } +\hat { k } }{ 3 } \) 
\(\therefore 5\hat { n } =\pm \cfrac { 5\left( 2\hat { i } -2\hat { j } +\hat { k } \right) }{ 3 } \)

Let the given points be A, B, C.

\(\vec { OA } =4\hat { i } -3\hat { j } +\hat { k } \) ,\(\vec { OB } =2\hat { i } -4\hat { j } +5\hat { k } \) and \(\vec { OC } =\hat { i } -\hat { j } \) 
Now \(\vec { AB } =\vec { OB } -\vec { OA } \) 
= \(\left( 2\hat { i } -4\hat { j } +5\hat { k } \right) -\left( 4\hat { i } -3\hat { j } +\hat { k } \right) \) 
= \(-2\hat { i } -\hat { j } +4\hat { k } \) 
\(\left| \vec { AB } \right| ^{ 2 }=4+1+16=21={ c }^{ 2 }\) 
\(\vec { BC } =\vec { OC } -\vec { OB } =\left( \vec { i } -\vec { j } \right) -\left( 2\vec { i } -4\hat { j } +5\hat { k } \right) \) 
= \(-\hat { i } +3\hat { j } -5\hat { k } \) 
\(\left| \vec { BC } \right| ^{ 2 }=1+9+25=35={ a }^{ 2 }\) 
\(\vec { AC } =\vec { OC } -\vec { OA } \) 
= \(\left( \hat { i } -\hat { j } \right) -\left( 4\hat { i } -3\hat { j } +\hat { k } \right) =-3\hat { i } +2\hat { j } -\hat { k } \) 
\(\left| \vec { AC } \right| =9+4+1=14={ b }^{ 2 }\) Here c² + b² = a².
⇒The given points form a right angled triangle

Let the given vectors be
\(\vec { a } =\hat { i } +3\hat { j } +\hat { k } ,\) \(\vec { b }= 2\hat { i } -\hat { j } -\hat { k } \) and \(\vec { c }= 7\hat { j } +5\hat { k } \) 
To prove that the vectors \(\vec { a } ,\vec { b } ,\vec { c } \) are coplanar we have to prove that
\(\vec { a } =m\vec { b } +n\vec { c } \) where m and n are scalars.
\(\hat { i } +3\hat { j } +\hat { k } =m\left( 2\hat { i } -\hat { j } -\hat { k } \right) +n\left( 7\hat { j } +5\hat { k } \right) \) 
Equating \(\hat { i } ,\hat { j } \) and \(\hat { k } \) components we get,
1 = 2m + 0
(i.e.,) \(2m=1\Rightarrow m=\cfrac { 1 }{ 2 } \) 
3 = -m +7n
(i,e)  -m+ 7n = 3
1 = m + 5n
-m + 5n = 1
Substituting m = 1/2in (ii) we get
-1/2 + 7n = 3
(i.e.,) \(7n=3+\cfrac { 1 }{ 2 } =\cfrac { 7 }{ 2 } \) 
\(\therefore n=\cfrac { 7 }{ 2\times 7 } =\cfrac { 1 }{ 2 } \) 
Substituting \(m=\cfrac { 1 }{ 2 } \) and \(n=\cfrac { 1 }{ 2 } \) in (iii) we get
LHS=1 \(RHS=-\left( \cfrac { 1 }{ 2 } \right) +5\left( \cfrac { 1 }{ 2 } \right) =-\cfrac { 1 }{ 2 } +\cfrac { 5 }{ 2 } \) 
= \(\cfrac { -1+5 }{ 2 } =\cfrac { 4 }{ 2 } =2\)
⇒ We arenot able to write one vector as a linear combination ofthe other two vectors
⇒ the given vectors are not coplanar. 

Let ABC be the triangles with position vectors \(\vec { OA } ,\vec { OB } \) and \(\vec { OC } \) 
(i.e.,) \(\vec { \quad OA } =\left( 4\hat { i } +5\hat { j } +6\hat { k } \right) \) ,\(\vec { OB } =5\hat { i } +6\hat { j } +4\hat { k } \) and \(\vec { OC } =6\hat { i } +4\hat { j } +5\hat { k } \) 
\(\vec { AB } =\vec { OB } -\vec { OA } =\left( 5\hat { i } +6\hat { j } +4\hat { k } \right) -\left( 4\hat { i } +5\hat { j } +6\hat { k } \right) \) 
= \(\hat { i } +\hat { j } -2\hat { k } \) 
\(\left| \vec { AB } \right| =\sqrt { 1+1+4 } =\sqrt { 6 } \) 
\(\vec { BC } =\vec { OC } -\vec { OB } =\left( 6\hat { i } +4\hat { j } +5\hat { k } \right) -\left( 5\hat { i } +6\hat { j } +4\hat { k } \right) \) 
= \(\hat { i } -2\hat { j } +\hat { k } \) 
\(\left| \vec { BC } \right| =\sqrt { 1+4+1 } =\sqrt { 6 } units\) 
\(\vec { AC } =\vec { OC } -\vec { OA } =\left( 6\hat { i } +4\hat { j } +5\hat { k } \right) -\left( 4\hat { i } +5\hat { j } +6\hat { k } \right) \) 
\(\\ 2\hat { i } -\hat { j } -\hat { k } \) 
\(\left| \vec { AC } \right| =\sqrt { 4+1+1 } =\sqrt { 6 } units\) 
Now,\(\left| \vec { AB } \right| =\left| \vec { BC } \right| =\left| \vec { AC } \right| =\sqrt { 6 } \)
⇒ ΔABC is an equilateral triangle 

(i) Let the given point be A, Band C. To prove A, B, C are collinear we have to prove that
\(\vec { AB } =t\vec { AC } \) 
Now \(\vec { OA } =-2\hat { i } +3\hat { j } +5\hat { k } \) ,\(\vec { OB } =\hat { i } +2\hat { j } +3\hat { k } \) and \(\vec { OC } =7\hat { i } -\hat { k } \) 
\(\vec { AB } =\vec { OB } -\vec { OA } =\left( \hat { i } +2\hat { j } +3\hat { k } \right) -\left( -2\hat { i } +3\hat { j } +5\hat { k } \right) \)
= \(\hat { i } (1+2)+\hat { j } (2-3)+\hat { k } (3-5)\)
= \(3\hat { i } -\hat { j } -2\hat { k } \) 
\(\vec { AC } =\vec { OC } -\vec { OA } =\left( 7\hat { i } -\hat { k } \right) -\left( -2\hat { i } +3\hat { j } +5\hat { k } \right) \) 
= \(\hat { i } (7+20+\hat { j } 90-30+\hat { k } (-1-5)\) 
= \(9\hat { i } -3\hat { j } -6\hat { k } =3\left( 3\hat { i } -\hat { j } -2\hat { k } \right) \) 
⇒\(\vec { AC } =3\vec { AB } \) 
⇒the point A, B and C are collinear.
(ii) Let the given point be A, B and C
\(\vec { OA } =\hat { i } -2\hat { j } +3\hat { k } \vec { OB } =2\hat { i } +3\hat { j } -4\hat { k } \) and \(\vec { OC } =-7\hat { j } -10\hat { k } \)
 \(\vec { AB } =\vec { OB } -\vec { OA } =\left( 2\vec { i } +3\vec { j } -4\vec { k } \right) -\left( \vec { i } -2\vec { j } +3\vec { k } \right) \) 
= \(\hat { i(2-1)+\hat { j } (3+2)+\hat { k } (-4-3) } \) 
= \(\hat { i } +5\hat { j } -7\hat { k } \) 
\(\vec { AC } =\vec { OC } -\vec { OA } =\left( -7\hat { j } +10\hat { k } \right) -\left( \hat { i } -2\hat { j } +3\hat { k } \right) \) 
= \(\hat { i } (0-1)+\hat { j } (-7+2)+\hat { k } (10-3)\) 
= \(-\hat { i } -5\hat { j } +7\hat { k } =-(\hat { i } +5\hat { j } -7\hat { k) } \) 
⇒\(\vec { AC } =-\vec { AB } \)