Число 15 представьте в виде суммы двух неотрицательных слагаемых так, чтобы произведение квадрата одного из них на другое было наибольшим.

начнем с простого. Пусть одно число х, а второе (15-х). Тогда составляешь функцию f (x) = x^2 * (15-x)

Потом находишь производную этой функции, приравниваешь ее к нулю, ищешь точки экстремума. На одной числовой прямой отмечаешь точки экстремума и промежуток, т. е. 0
Проще говоря

Решаем системой

х+у=15

х2*у=мах

у=15-х

х2 * (15-х)

15 х2-х3=мах

берем производную

30 х-3 х2=0

3 х (10-х) = 0

х=10

у=5