Если эти нейроны получают в качестве входа текст и возвращают текст, то в чем разница от того, что я описал? Ну да, результаты можно скормить назад в нейросеть и по ним сделать еще один проход. Это вообще интересный вопрос, почему например когда нейросеть цитирует какой-то документ, то во избежание галлюцинаций (кстати, наверное более лучший русский термин - "бред") не извлечь этот документ и не сделать по нему еще один проход. Вот например тут https://vak.dreamwidth.org/1282208.html можно наблюдать, как ИИ несет бред, но поправляется с уточнящих вопросов. Почему не сделать эту уточняющую фазу автматической? Я подозреваю, что дело в цене запроса, делать эти уточнения дорого для халявного сервиса. Но есть новомодное направление "агентов", когда ИИ строится из группы "личностей", которые задают друг другу уточнения и формулируют общий ответ.