На входе в черный ящик слово олень, на выходе цифра 2.

Что-за алгоритм?

Алгоритм это функция. Известно, что f ("олень") = 2

вариантов море, например:

1) f (x) = 2 для любого x

2) f (x) = число гласных букв в слове x

f ("олень") = |{о, е}| = 2

3) f (x) = |x| mod 5 для любого x (остаток от деления длины слова на 3)