SB

> Если эти нейроны получают в качестве входа текст и возвращают текст, то в чем разница от того, что я описал?

Разница в способе обработки информации.
Нейроны - непосредственная часть нейросети, которая работает с уже распарсенной информацией, которую удобно обрабатывать.

Текст - нужно сначала распарсить и создать контекст, и только потом - думать. После чего - снова преобразовать в текст.