АНАЛИЗ РАЗВИТИЯ ВЕРОЯТНОСТНЫХ МОДЕЛЕЙ ЯЗЫКА В ЕСТЕСТВЕННО-ЯЗЫКОВЫХ ПРИЛОЖЕНИЯХ

В работе проведен анализ развития вероятностных моделей языка, предпринята попытка связать их с развитием персональных вычислительных средств и математического аппарата моделирования. Рассмотрены наиболее востребованные, на сегодняшний день, статистические и нейросетевые модели языка, которые активно используются на практике в естественно-языковых приложениях, связанных с задачами распознавания (распознавание речи, OCR, коррекция искаженных текстов и др.). Отмечено, что развитие технологий языкового моделирования привело к существенному снижению перплексии и энтропии разрабатываемых моделей, что, в свою очередь, позволило существенно повысить эффективность распознавания и коррекции.