Почему длинный контекст лучше держится в русском
Падежи, согласование и длинные словоформы работают на модель: ей проще помнить, кто с кем и что сделал через сорок тысяч токенов.
Метки
лингвистика
5 записей
Делу время, потехе — it's about time
Решил переводить новости моделью вместо переводчика. Первые же два теста показали, почему я с этим повременю.
Как «будет» превратилось в «бздеть»
В топе тегов моего новостного проекта появилось слово, которого в самих новостях не было. Разбор одной очень странной ошибки лемматизации.
Граф определений: слово через слово
Идея построить граф, где слова определяются другими словами. Гуглить оказалось бесполезно, а вот спросить у ChatGPT — нет.
Новоглифы, или иероглифы будущего
Человек возвращается из командировки и обнаруживает на стакане кофе четвёртый язык, которого раньше не было. Рассказ о письменности, которая появляется сама.