Ta có:
`\qquad 1/{1-ab}+1/{1-bc}+1/{1-ca}`
`=(1/{1-ab}-1)+(1/{1-bc}-1)+(1/{1-ca}-1)+3`
`={ab}/{1-ab}+{bc}/{1-bc}+{ca}/{1-ca}+3`
$\\$
`\qquad {ab}/{1-ab}={2ab}/{2(a^2+b^2+c^2)-2ab}`
`={2ab}/{a^2+b^2+2c^2+(a-b)^2}`
`\le {2ab}/{a^2+b^2+2c^2}` (do `(a-b)^2\ge 0` với mọi `a;b`)
`=> {2ab}/{1-ab}\le {4ab}/{(a^2+b^2+2c^2)}`
`\le {(a+b)^2}/{a^2+b^2+2c^2}` (do $4ab\le (a+b)^2$ với mọi $a;b$)
Áp dụng $BĐT$ Bunhiacopxki dạng phân thức ta có:
`\qquad {a^2}/{a^2+c^2}+{b^2}/{b^2+c^2}\ge {(a+b)^2}/{a^2+b^2+2c^2}`
`=>{a^2}/{a^2+c^2}+{b^2}/{b^2+c^2}\ge {2ab}/{1-ab}`
`=>{ab}/{1-ab}\le 1/ 2 {a^2}/{a^2+c^2}+1/ 2 {b^2}/{b^2+c^2}`
$\\$
Tương tự chứng minh được:
`\qquad {bc}/{1-bc}\le 1/ 2 {b^2}/{b^2+a^2}+1/ 2 {c^2}/{c^2+a^2}`
`\qquad {ca}/{1-ca}\le 1/ 2 {c^2}/{c^2+b^2}+1/ 2 {a^2}/{a^2+b^2}`
`=>{ab}/{1-ab}+{bc}/{1-bc}+{ca}/{1-ca}+3`
`\le 1/ 2 {a^2+c^2}/{a^2+c^2}+1/ 2 {b^2+c^2}/{b^2+c^2}+ 1/ 2 {a^2+b^2}/{a^2+b^2}+3`
`\le 1/ 2 .3+3=9/ 2`
Vậy `1/{1-ab}+1/{1-bc}+1/{1-ca}\le 9/ 2`
Dấu "=" xảy ra khi: `a=b=c=\sqrt{3}/{3}`
