Найти экстремали функционала 36xy+yy'+(y')2dx

Запишем уравнение Эйлера:
Т.к. F(x,y,y')=6xy+yy'+(y')2, Fy(x,y,y')=6x+y', Fy'(x,y,y')=y+2y', ddxFy'(x,y,y')=y'+2y″, то получаем 6x+y'-y'-2y″=0 или y″(x)=3x.
Найдем общее решение уравнения Эйлера, интегрируя дважды левую и правую части уравнения y″(x)=3x.:
y'(x)=3xdx=32x2+C1
y(x)=32x2+C1dx=12x3+C1x+C2.
Определим коэффициенты и из граничных условий:
y(0)=12⋅03+C1⋅0+C2=C2=1,
y(3)=12⋅33+C1⋅3+C2=272+3C1+1=9.
Отсюда C2=1, 3C1=9-1-272=16-272=-112, C1=-116,
В результате получаем экстремаль y(x)=12x3-116x+1.
Ответ: y(x)=12x3-116x+1