已知A,B是椭圆x^2/a^2+y^2/b^2=1上的两点,O为原点,OA⊥OB,求证1/OA^2+1/OB^2为定值

题目不正确。
OA^2+OB^2=a^2+b^2为定值，其倒数的平方和不是定值。

设A点坐标为（x1,y1）B点坐标为（x2,y2）
因为,OA⊥OB,所以,(y1/x1)×(y2/x2)=-1
即,x1x2+y1y2=0
设AB所在的直线方程为：y=kx+m,代入椭圆方程 b²x²+a²y²=a²b²
整理得：(a²k²+b²)x²+2kma²x+a²m²-a²b²=0
因为点A、B在椭圆上
由韦达定理可得：
x1+x2=-2kma²/(a²k²+b²),
x1x2=(a²m²-a²b²)/(a²k²+b²)
所以,y1y2=(kx1+m)(kx2+m)=k²x1x2+km(x1+x2)+m²
由 x1x2+y1y2=0可得
x1x2+k²x1x2+km(x1+x2)+m²=0
即,(a²m²-a²b²)/(a²k²+b²)+k²(a²m²-a²b²)/(a²k²+b²)-2k²m²a²/(a²k²+b²)+m²=0
化简得：(a²+b²)m²=a²b²(1+k²)
m²/(1+k²)=a²b²/(a²+b²)
｜m｜/√(1+k²)=ab/√(a²+b²)
点O到直线AB的距离d=｜m｜/√(1+k²)=ab/√(a²+b²)为定值
直角三角形AOB中,OA²+OB²＝AB²,S△AOB＝(OA×OB)/2＝(AB×d)/2
所以,
1/OA²+1/OB²
=(OA²+OB²)/(OA²OB²)
=AB²/(AB×d)²
=1/d²
=1/[a²b²/(a²+b²)]
=(a²+b²)/(a²b²)
=1/a²+1/b²
即,1/OA²+1/OB²为定值