Исследовать на выпуклость и вогнутость y=x^4-4x^3-18x^2+x-3

Берем 1 и 2 производные:

y'=4x^3-4 (3x^2) - 18 (2x) + 1=4x^3-12x^2-36x+1;

y''=4 (3x^2) - 12 (2x) - 36=12x^2-24x-36;

ищем выпкулость/вогнутость:

12x^2-24x-36=0;

x^2-2x-3=0;

D=16; x1=3; x2=-1;

теперь методом интервалов ищем:

выпукла: [-1; 3]

вогнута: (-беск; -1] и [3; +беск)