设A是4阶实对称矩阵,其正,负惯性指数分别为2和1,证明； ）R（4）中存在一个2维子空间U,使X的转置乘A乘X=0,任意的x属于u;(2)V={X|X转置乘A乘X=0）不是R（4）的子空间；（3）W＝｛X｜X转置乘A的平方乘X＝0｝式R（4）的子空间.
问题描述：
设A是4阶实对称矩阵,其正,负惯性指数分别为2和1,
证明； ）R（4）中存在一个2维子空间U,使X的转置乘A乘X=0,
任意的x属于u;
(2)V={X|X转置乘A乘X=0）不是R（4）的子空间；
（3）W＝｛X｜X转置乘A的平方乘X＝0｝式R（4）的子空间.
答
A的正,负惯性指数分别为2和1
于是存在4阶可逆矩阵C和对角矩阵B满足
A=C'BC,B的对角线上元素依次为1,1,-1,0
令Y=CX
则X'AX=0等价于Y'BY=0
也就是y1^2 + y2^2 - y3^2 = 0
(1)令Y1=(0,1,-1,0)',Y2=(0,0,0,1)'
X1=C^(-1)Y1,X2=C^(-1)Y2
U是X1,X2张成的子空间,显然U是2维的
而且容易验证U满足X'AX=0
(2)令Y1=(0,1,-1,0)',Y2=(0,1,1,0)'
X1=C^(-1)Y1,X2=C^(-1)Y2
显然X1,X2满足X'AX=0,但X1+X2不满足
(3)X'AAX=0等价于(AX)'AX=0等价于AX=0
是R(4)的(三维)子空间