由高斯公式：

被积项是（2xydydz+yzdzdx-z^2dxdy）

=∫∫∫(2y-z)dxdydz

=2∫∫∫ydxdydz-∫∫∫zdxdydz

=2∫∫∫ydxdydz-∫∫∫zdxdydz (对称性，第1个积分0。第2个积分用截面法）

=-∫(0,1)zdz∫∫dxdy-∫(1,√2)zdz∫∫dxdy

=-π[∫(0,1)z^3dz+∫(1,√2)z(2-z^2)dz]

后面很简单，自己试试？