Given position vectors: A = (5,5,2λ), B = (1,2,3), C = (-2,λ,4), D = (-1,5,6).
For coplanarity, the vectors AB, AC, AD must have zero scalar triple product.
A B ⃗ = ( − 4 , − 3 , 3 − 2 λ ) \vec{AB} = (-4, -3, 3-2\lambda) A B = ( − 4 , − 3 , 3 − 2 λ ) , A C ⃗ = ( − 7 , λ − 5 , 4 − 2 λ ) \vec{AC} = (-7, \lambda-5, 4-2\lambda) A C = ( − 7 , λ − 5 , 4 − 2 λ ) , A D ⃗ = ( − 6 , 0 , 6 − 2 λ ) \vec{AD} = (-6, 0, 6-2\lambda) A D = ( − 6 , 0 , 6 − 2 λ ) .
∣ − 4 − 3 3 − 2 λ − 7 λ − 5 4 − 2 λ − 6 0 6 − 2 λ ∣ = 0 \begin{vmatrix} -4 & -3 & 3-2\lambda \\ -7 & \lambda-5 & 4-2\lambda \\ -6 & 0 & 6-2\lambda \end{vmatrix} = 0 − 4 − 7 − 6 − 3 λ − 5 0 3 − 2 λ 4 − 2 λ 6 − 2 λ = 0
Expanding along the first row:
= − 4 [ ( λ − 5 ) ( 6 − 2 λ ) − 0 ] + 3 [ ( − 7 ) ( 6 − 2 λ ) + 6 ( 4 − 2 λ ) ] + ( 3 − 2 λ ) [ 0 + 6 ( λ − 5 ) ] = -4[(\lambda-5)(6-2\lambda)-0] + 3[(-7)(6-2\lambda)+6(4-2\lambda)] + (3-2\lambda)[0+6(\lambda-5)] = − 4 [( λ − 5 ) ( 6 − 2 λ ) − 0 ] + 3 [( − 7 ) ( 6 − 2 λ ) + 6 ( 4 − 2 λ )] + ( 3 − 2 λ ) [ 0 + 6 ( λ − 5 )]
= − 4 ( λ − 5 ) ( 6 − 2 λ ) + 3 ( − 42 + 14 λ + 24 − 12 λ ) + 6 ( 3 − 2 λ ) ( λ − 5 ) = -4(\lambda-5)(6-2\lambda) + 3(-42+14\lambda+24-12\lambda) + 6(3-2\lambda)(\lambda-5) = − 4 ( λ − 5 ) ( 6 − 2 λ ) + 3 ( − 42 + 14 λ + 24 − 12 λ ) + 6 ( 3 − 2 λ ) ( λ − 5 )
= − 4 ( λ − 5 ) ( 6 − 2 λ ) + 3 ( 2 λ − 18 ) + 6 ( 3 − 2 λ ) ( λ − 5 ) = -4(\lambda-5)(6-2\lambda) + 3(2\lambda-18) + 6(3-2\lambda)(\lambda-5) = − 4 ( λ − 5 ) ( 6 − 2 λ ) + 3 ( 2 λ − 18 ) + 6 ( 3 − 2 λ ) ( λ − 5 )
= ( λ − 5 ) [ − 4 ( 6 − 2 λ ) + 6 ( 3 − 2 λ ) ] + 6 λ − 54 = (\lambda-5)[-4(6-2\lambda)+6(3-2\lambda)] + 6\lambda-54 = ( λ − 5 ) [ − 4 ( 6 − 2 λ ) + 6 ( 3 − 2 λ )] + 6 λ − 54
= ( λ − 5 ) ( − 24 + 8 λ + 18 − 12 λ ) + 6 λ − 54 = (\lambda-5)(-24+8\lambda+18-12\lambda) + 6\lambda-54 = ( λ − 5 ) ( − 24 + 8 λ + 18 − 12 λ ) + 6 λ − 54
= ( λ − 5 ) ( − 6 − 4 λ ) + 6 λ − 54 = (\lambda-5)(-6-4\lambda) + 6\lambda-54 = ( λ − 5 ) ( − 6 − 4 λ ) + 6 λ − 54
= − 6 λ − 4 λ 2 + 30 + 20 λ + 6 λ − 54 = -6\lambda-4\lambda^2+30+20\lambda+6\lambda-54 = − 6 λ − 4 λ 2 + 30 + 20 λ + 6 λ − 54
= − 4 λ 2 + 20 λ − 24 = − 4 ( λ 2 − 5 λ + 6 ) = − 4 ( λ − 2 ) ( λ − 3 ) = 0 = -4\lambda^2+20\lambda-24 = -4(\lambda^2-5\lambda+6) = -4(\lambda-2)(\lambda-3) = 0 = − 4 λ 2 + 20 λ − 24 = − 4 ( λ 2 − 5 λ + 6 ) = − 4 ( λ − 2 ) ( λ − 3 ) = 0
So λ = 2 \lambda = 2 λ = 2 or λ = 3 \lambda = 3 λ = 3 .
∑ λ ∈ S ( λ + 2 ) 2 = ( 2 + 2 ) 2 + ( 3 + 2 ) 2 = 16 + 25 = 41 \sum_{\lambda \in S}(\lambda+2)^2 = (2+2)^2 + (3+2)^2 = 16 + 25 = 41 ∑ λ ∈ S ( λ + 2 ) 2 = ( 2 + 2 ) 2 + ( 3 + 2 ) 2 = 16 + 25 = 41
The correct answer is 41 .