答
（1）∵代数式M=（a+b+1）x3+（2a-b）x2+（a+3b）x-5是关于x的二次多项式，
∴a+b+1=0，且2a-b≠0，
∵关于y的方程3（a+b）y=ky-8的解是y=4，
∴3（a+b）×4=4k-8，
∵a+b=-1，
∴3×（-1）×4=4k-8，
解得k=-1；
（2）∵当x=2时，代数式M=（2a-b）x2+（a+3b）x-5的值为-39，
∴将x=2代入，得4（2a-b）+2（a+3b）-5=-39，
整理，得10a+2b=-34，
，
由②，得5a+b=-17③，
③-①，得4a=-16，
系数化为1，得a=-4，
把a=-4代入①，解得b=3，
∴原方程组的解为，
∴M=[2×（-4）-3]x2+（-4+3×3）x-5=-11x2+5x-5．
将x=-1代入，得-11×（-1）2+5×（-1）-5=-21．
答案解析：（1）根据二次多项式的定义表示出a、b的关系，再把y=4代入方程得到关于k的一元一次方程，然后求解即可；
（2）把x=2代入M得到一个关于a、b的方程，然后联立a+b=-1解方程组求出a、b的值，然后求出M，再把x=-1代入M进行计算即可得解．
考试点：代数式求值；多项式；一元一次方程的解．
知识点：本题考查了代数式求值，多项式以及一元一次方程的解的定义，根据“二次多项式”的定义得到a+b=-1是解题的关键．
