已知椭圆C:x²/a²+y²/b²=1的离心率为√6/3,其左右焦点为F1F2,

设P(x,y)
因为 |OP|=√10/2
所以x^2+y^2=10/4=5/2……(1)
设F1(-c,0),F2(c,0)
PF1=(-c-x,-y)
PF2=(c-x,y)
PF1·PF2=x^2+y^2-c^2=1/2……(2)
(1)-(2)得 c^2=2
所以 a=√3,b=1
所以 C:x^2/3+y^2=1……(3)
将y=x与(3)联立,解得A(√3/2,√3/2)
设M(x1,y1),N(x2,y2)
OM=(x1,y1)
ON=(x2,y2)
OM+ON=(x1+x2,y1+y2)=((√3/2)k,(√3/2)k)……(＊)
SΔOMN=0.5|OM||ON|sin
而cos=OM·ON/(|OM||ON|)
所以 sin=|x1y2-x2y1|/(|OM||ON|)
所以 SΔOMN=0.5|x1y2-x2y1|……(4)
只需求其中 (x1y2-x2y1)^2=[x1^2y2^2+x2^2y1^2]-2x1x2y1y2……(5)的最大值即可
因为 M,N在椭圆C上
所以 x1^2/3+y1^2=1……(6)
x2^2/3+y2^2=1…………(7)
(5)×(6)得：(x1x2)^2/3+3(y1y2)^2+[x1^2y2^2+x2^2y1^2]=3……(8)
用(8)中的中括号部分替换掉(5)中的中括号部分,得：
(x1y2-x2y1)^2=3-3(x1x2/3+y1y2)^2……(9)
(6)+(7)得：[(x1+x2)^2-2x1x2]/3+[(y1+y2)^2-2y1y2]=2……(10)
根据(＊)中x1+x2=y1+y2=(√3/2)k
换掉(10)中的(x1+x2),(y1+y2)
得：(k^2-2)/2=x1x2/3+y1y2……(11)
用(11)的右端换掉(9)中的相同部分,得：
(x1y2-x2y1)^2=3-(3/4)(k^2-2)^2……(12),k∈(0,2)
所以(x1y2-x2y1)^2的最大值是3,当且仅当k=√2时
所以ΔOMN面积的最大值是√3/2