已知O为坐标原点,A(0,2),B(4,6),向量OM=t1向量OA+t2向量AB

显然,AB的斜率＝（6－2）/（4－0）＝1.
∵向量OM⊥向量AB,∴OM⊥AB,∴OM的斜率＝－1,∴OM的方程是：y＝－x.
∴可设点M的坐标是（m,－m）.
AB的方程是：y＝x＋2,即x－y＋2＝0,∴点M到AB的距离d＝｜m＋m＋2｜/√（1＋1）,
∴S(△ABM)
＝（1/2）AB×d＝（1/2）√［（0－4）^2＋（2－6）^2］×｜m＋m＋2｜/√（1＋1）
＝（1/2）×4√2×｜m＋m＋2｜/√2＝4｜m＋1｜＝12,
∴｜m＋1｜＝3,∴m＋1＝－3,或m＋1＝3,∴m＝－4,或m＝2.
∴点M的坐标是（－4,4）,或（2,－2）.
一、当点M的坐标为（－4,4）时,向量OM＝（－4,4）.
　　很明显,向量OA＝（0,2）、向量OB＝（4,6）,
　　∴依题意,有：向量OM＝t1向量OA＋t2向量OB,
　　∴4t2＝－4、2t1＋6t2＝4,∴t2＝－1,∴2t1－6＝4,∴t1＝5＝a^2,
　　∴a＝√5,或a＝－√5.
二、当点M的坐标为（2,－2）时,向量OM＝（2,－2）.
　　∵向量OA＝（0,2）、向量OB＝（4,6）,向量OM＝t1向量OA＋t2向量OB,
　　∴4t2＝2、2t1＋6t2＝－2,∴t2＝1/2,∴2t1＋3＝－2,∴t1＝－5/2＝a^2.
　　这自然是不合理的,应舍去.
综合上述一、二,得：满足条件的a值为√5,或－√5.