1次式の積に因数分解されるので解は
(x+ay+b)(x+cy+d) となる
(x+ay+b)(x+cy+d)=x2+(a+c)xy+acy2+(b+d)x+(ad+bc)y+bd
これと x2+xy−6y2−x+7y−m を比較して
a+c=1 ① ac=−6 ② b+d=−1 ③ ad+bc=7 ④ bd=−m ⑤
②を①に代入して
−c6+c=1−6+c2=cc2−c−6=0(c−3)(c+2)=0c=3,−2a=−2,3
c=−2,a=3とすると④は 3d−2b=7 ⑥ となる
⑥と③から b=2 d=−1 が求まる
これを⑤に代入すると m=2 となる
よって因数分解の解は
(x−2y+1)(x+3y−2) となる