Число 12 представить в виде суммы двух положительных, чтобы произведение квадрата одного из них на удвоенное другое слагаемое было наибольшим

х + у = 12

x^2 * 2y = max

2x^2 (12 - x) = max

Берем производную.

48x - 6x^2 = 0

х = 8

у = 4

Т. е. функция х^2*2 (12-х)

производная 48 х-6 х^2

нули производной 0 и 8

наибольшее значение достигается при х=8 (0-точка минимума, её не рассматриваем как вариант решения)

ответ числа 8 и 4.