как вольфрам альфа генерирует изображения с математическими выражениями?

Начните здесь. Но, судя по всему, добиться этого не так просто, и в MathML вы можете просто отображать формулы в браузере, но не отображать их в изображениях. Помните, что весь программный фреймворк Mathematica, который является чрезвычайно мощным и наверняка имеет встроенную функциональность для таких вещей, стоит за WolframAlpha.

РЕДАКТИРОВАТЬ: https://math.stackexchange.com/ тоже делает это (MathML)., например это сообщение. Спросите их, как они это делают (на мета).

ИЗМЕНИТЬ снова: tadaaaa, именно то, что вам нужно, http://www1.chapman.edu/~jipsen/mathml/asciimath.html

Попробуйте использовать (n^2 + 5 x + 3)/n // TraditionalForm // Rasterize.

Это не прямой ответ на ваш вопрос, потому что он основан на LaTeX, но есть библиотека Javascript под названием jsmath, который выполняет такое преобразование. Это сообщение объясняет и другие альтернативы.