已知椭圆:x^2/a^2+y^2/b^2=1(a>b>0)的左、右焦点分别为F1、F2,长轴的一个端点与短轴两个端点组成等边三角形的三个顶点,直线l经过点F2,倾斜角为45°,与椭圆交于A,B两点.

（1）由已知,可得c= √2 ,a= √3 b,
∵a2=b2+c2,∴a= √3 ,b=1,
∴椭圆方程为x2 /3 +y2=1．
（2）设A（x1,y1）,B（x2,y2）,直线l：y=x- √2 ,
代入椭圆方程x2 /3 +y2=1,消去y可得4x2-6 √2x+3=0,
∴x1+x2=3√2/2 ,x1x2=3/4 ,|x1-x2|= √6/2 ,|y1-y2|=|x1-x2|= √6/2 ,
∴S△=1 /2 ×2 √2 × √6 /2 = √3 ．
（3）由已知椭圆方程为x2+3y2=3b2①,右焦点F的坐标为( √2 b , 0),直线AB所在直线方程为y=x- √2 b②,
由①②得：4x2-6 √2 bx+3b2=0,
设A（x1,y1）,B（x2,y2）,则x1+x2=3 √2/2 b,x1x2=3b2 /4 ,
设M（x,y）,由 OM =λ OA +μ OB 得,x=λx1+μx2,y=λy1+μy2,
∵点M在椭圆上,∴(λx1+μx2)2+3(λy1+μy2)2=3b2,
整理得：λ2(x 21 +3y 21 )+μ2(x 22 +3y 22 )+2λμ(x1x2+3y1y2)=3b2,③
x1x2+3y1y2=x1x2+3(x1- √2 b)(x2- √2 b)=4x1x2-3 √2 b(x1+x2)+6b2=0④,
又点A,B在椭圆上,故x 21 +3y 21 =3b2⑤,x 22 +3y 22 =3b2⑥,
将④⑤⑥代入③得λ2+μ2=1．