Выделить полный квадрат:
(x1)^2-5(x2)^2+5x1x2-4x3x4+2x1x4

(х1)^2-5(х2)^2+5х1х2-4х3х4+2х1х4
х^2-5х^2*4+5х*х*2-4х*3х*4+2х*х*4
(1-5*4+5*2-4*3*4+2*4)х*х
(1-20+10-48+8)х*х
-49х*х
-49х^2