过点M（m,0）且斜率为-√3/3的直线与圆x2+y2=1交于两点A,B,且向量AM=2向量MB,求m的值

这题你是想用向量做，还是用代数方法，若用代数法，楼上的就可以，向量：
OM=(m,0)，AM=OM-OA，MB=OB-OM，故：OM-OA=2(OB-OM)，即：3OM=OA+2OB
故：9|OM|^2=(OA+2OB)·(OA+2OB)=|OA|^2+4|OB|^2+4OA·OB=5+4OA·OB
又：AB=OB-OA，故：|AB|^2=|OB|^2+|OA|^2-2OA·OB=2-2OA·OB
而：AB·OM=|AB|*|OM|*cos=(OB-OA)·(OA+2OB)/3=(1-OA·OB)/3
故：m^2*(2-2OA·OB)*(sqrt(3)/2)^2=(1-OA·OB)^2/9，即：1-OA·OB=27m^2/2
即：OA·OB=1-27m^2/2，故：9m^2=5+4(1-27m^2/2)=9-54m^2，即：m^2=1/7
即：m=sqrt(7)/7或m=-sqrt(7)/7---------------这里不用管cos的正负
因为后面要平方，故不影响

设直线方程为y=-√3/3(x-m),再联立圆的方程x2+y2=1,得：4x2-2mx+m2-3=0,所以xA+xB=m/2.由向量AM=2向量MB，xA-m=2(m-xB),得xA+2xB=3m,由这两个式子得xA=-2m,xB=5m/2,代入直线方程得，yA=√3m,yB=-√3/2 m.s随便代一个到圆的方程得m=根号7（m=负根号7,不合题意，舍去）.

设交点为A(x1,y1),B(x2,y2)
设过点M(m,0)的直线为y=-√3/3*(x-m)
带入圆方程得
x^2+(x-m)^2/3=1,整理得
4x^2-2mx+m^2-3=0,由韦达定理有
x1+x2=m/2, x1x2=(m^2-3)/4; y1+y2=-(x1+x2-2m)/√3=√3/2*m
y1y2=(x1-m)(x2-m)/3=[x1x2-m(x1+x2)+m^2]/3=(m^2-1)/4
又向量AM=(m-x1,-y1), 向量MB=(x2-m,y2)
且向量AM=2向量MB
∴有m-x1=2(x2-m), -y1=2y2
与上述韦达定理所得等式联立,可解得
x1=-2m, x2=5m/2
y1=√3*m, y2=-√3/2*m
m^2=1/7, m=±√(1/7)
∴m的取值为m=±√(1/7)