`a) (ax-by)^2+(bx+ay)^2`
`=a^2x^2-2abxy+b^2y^2+b^2x^2+2abxy+a^2y^2`
`=a^2x^2+b^2y^2+b^2x^2+a^2y^2`
`=a^2(x^2+y^2)+b^2(x^2+y^2)`
`=(x^2+y^2)(a^2+b^2) (\text{đpcm})`
`b) a^3-b^3+ab(a-b)`
`=(a-b)(a^2+ab+b^2)+ab(a-b)`
`=(a-b)(a^2+ab+b^2+ab)`
`=(a-b)(a^2+2ab+b^2)`
`=(a-b)(a+b)^2 (\text{đpcm})`